MétaCan
Menu
Retour à la cohorte
Enregistrement W3166208174 · doi:10.5715/jnlp.28.350

The Effectiveness of Data Augmentation by Removing Unimportant sentence

2021· article· en· W3166208174 sur OpenAlexfundno aff
Tomohito Ouchi, Masayoshi Tabuse

Notice bibliographique

RevueJournal of Natural Language Processing · 2021
Typearticle
Langueen
DomaineComputer Science
ThématiqueTopic Modeling
Établissements canadiensnon disponible
Organismes subventionnairesTokyo Metropolitan UniversityInstitute for Catastrophic Loss Reduction
Mots-clésPointer (user interface)Computer scienceGenerator (circuit theory)SentenceNatural language processingProgramming languageArtificial intelligencePhysics

Résumé

récupéré en direct d'OpenAlex

近年インターネット上の情報量は指数関数的に増加している.そのため,自動要約システム技術は必要不可欠なものとなってくると思われる.自動要約システムを構築するには要約コーパスが必要となる.しかし,多量の要約コーパスを作成するには人手が必要となりコストがかかってしまう.そこで,本研究では自動要約システムにおけるデータ拡張として,記事に対して,最も重要度の低い文を除去する手法を提案する.本研究では,Pointer-Generator モデルにおいて提案手法の効果を検証した.また,本研究の比較対象として,文書分類において用いられたデータ拡張手法である EDA (Easy Data Augmentation Techniques) や,Luhn,LexRank を用いた手法で実験を行った.Pointer-Generator モデルで用いたコーパスは CNN/Daily Mail dataset であり,トータルで,287,226 記事存在する.本研究では, 287,226 記事の他に,57,000 記事,28,000 記事において比較実験した.結果は,EDA や Luhn,LexRank を用いた手法では拡張せずに元の記事だけで学習する手法(拡張なし手法)よりも悪くなることがあったが,提案手法は全ての記事数において拡張なし手法よりも良い結果となった.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction distillée sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.

score de la tête « metaresearch » (Codex)0,002
score de la tête « metaresearch » (Gemma)0,000
Version: codex-gemma-dda1882f352aStatut de validation: machine_predicted_unvalidated
Catégories candidatesaucune
Catégories consensuellesaucune
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Expérimental (laboratoire) · Signal consensuel: aucune
GenreSignal candidat: Empirique · Signal consensuel: aucune
Score de désaccord entre enseignants0,659
Score d'incertitude au seuil0,176

Scores Codex et Gemma par catégorie

CatégorieCodexGemma
Métarecherche0,0020,000
Méta-épidémiologie (sens strict)0,0000,000
Méta-épidémiologie (sens large)0,0000,000
Bibliométrie0,0000,000
Études des sciences et des technologies0,0000,000
Communication savante0,0000,001
Science ouverte0,0010,000
Intégrité de la recherche0,0000,000
Charge utile insuffisante (le modèle a refusé de juger)0,0000,000

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,017
Tête enseignante GPT0,308
Écart entre enseignants0,291 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; un appel candidat d’une seule tête enseignante, pas un consensus.

Les modèles n’ont appliqué aucune catégorie : rien dans la taxonomie ne correspondait à ce travail.
Devis d'étudeExpérimental (laboratoire)
Domainenon disponible
GenreEmpirique

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations0
Publié2021
Routes d'admission1
Résumé présentoui

Explorer davantage

Même revueJournal of Natural Language ProcessingMême sujetTopic ModelingTravaux en français237 207