論文の概要: A Neural Pairwise Ranking Model for Readability Assessment
- arxiv url: http://arxiv.org/abs/2203.07450v1
- Date: Mon, 14 Mar 2022 19:11:03 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-16 12:36:05.563983
- Title: A Neural Pairwise Ranking Model for Readability Assessment
- Title(参考訳): 可読性評価のためのニューラルペアワイズランキングモデル
- Authors: Justin Lee and Sowmya Vajjala
- Abstract要約: ARA(Automatic Readability Assessment)は、テキストに読み出しレベルを割り当てるタスクである。
本稿では、ARAに対する最初のニューラルでペアワイズなランキング手法を提案し、既存の分類、回帰、および(ニューラルでない)ランキング手法と比較する。
提案手法は、英語データに基づいて訓練した場合、フランス語とスペイン語の両方でゼロショットのクロスランガルランキング精度を80%以上達成する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Automatic Readability Assessment (ARA), the task of assigning a reading level
to a text, is traditionally treated as a classification problem in NLP
research. In this paper, we propose the first neural, pairwise ranking approach
to ARA and compare it with existing classification, regression, and
(non-neural) ranking methods. We establish the performance of our model by
conducting experiments with three English, one French and one Spanish datasets.
We demonstrate that our approach performs well in monolingual single/cross
corpus testing scenarios and achieves a zero-shot cross-lingual ranking
accuracy of over 80% for both French and Spanish when trained on English data.
Additionally, we also release a new parallel bilingual readability dataset in
English and French. To our knowledge, this paper proposes the first neural
pairwise ranking model for ARA, and shows the first results of cross-lingual,
zero-shot evaluation of ARA with neural models.
- Abstract(参考訳): 読み書きレベルをテキストに割り当てるタスクである可読性自動評価(ARA)は、伝統的にNLP研究において分類問題として扱われる。
本稿では,araに対する最初のニューラル・ペアワイズランキング手法を提案し,既存の分類法,回帰法,(非ニューラル)ランキング法と比較する。
我々は3つの英語、1つのフランス語、1つのスペイン語データセットで実験を行うことで、モデルの性能を確立した。
本手法は,単言語単言語/クロスコーパステストシナリオにおいて良好に動作し,英語データを用いた訓練では,フランス語とスペイン語の両方において,ゼロショットのクロスリンガルランキング精度が80%以上であることを示す。
さらに、英語とフランス語の新しい並列バイリンガル可読性データセットもリリースしました。
本報では,araに対する第1次ニューラルペアワイズランキングモデルを提案し,神経モデルを用いたaraの言語横断的ゼロショット評価の最初の結果を示す。
関連論文リスト
- CroissantLLM: A Truly Bilingual French-English Language Model [42.03897426049679]
英語とフランス語のトークンセットを事前訓練した1.3B言語モデルであるCroissantLLMを紹介する。
我々は、英語とフランス語の事前学習データ比率1:1で、本質的なバイリンガルモデルを訓練するアプローチを開拓した。
英語以外のパフォーマンスを評価するため、新しいベンチマークである FrenchBench を作成します。
論文 参考訳(メタデータ) (2024-02-01T17:17:55Z) - Natural Language Processing for Dialects of a Language: A Survey [56.93337350526933]
最先端自然言語処理(NLP)モデルは、大規模なトレーニングコーパスでトレーニングされ、評価データセットで最上位のパフォーマンスを報告します。
この調査は、これらのデータセットの重要な属性である言語の方言を掘り下げる。
方言データセットに対するNLPモデルの性能劣化と言語技術のエクイティへのその影響を動機として,我々はデータセットやアプローチの観点から,方言に対するNLPの過去の研究を調査した。
論文 参考訳(メタデータ) (2024-01-11T03:04:38Z) - Improving Natural Language Inference in Arabic using Transformer Models
and Linguistically Informed Pre-Training [0.34998703934432673]
本稿では,自然言語処理分野におけるアラビア語テキストデータの分類について述べる。
この制限を克服するため、公開リソースから専用のデータセットを作成します。
言語固有モデル (AraBERT) が最先端の多言語アプローチと競合することがわかった。
論文 参考訳(メタデータ) (2023-07-27T07:40:11Z) - T3L: Translate-and-Test Transfer Learning for Cross-Lingual Text
Classification [50.675552118811]
言語間テキスト分類は通常、様々な言語で事前訓練された大規模多言語言語モデル(LM)に基づいて構築される。
本稿では,古典的な「翻訳とテスト」パイプラインを再考し,翻訳と分類の段階を適切に分離することを提案する。
論文 参考訳(メタデータ) (2023-06-08T07:33:22Z) - Ensemble Transfer Learning for Multilingual Coreference Resolution [60.409789753164944]
非英語で作業する場合に頻繁に発生する問題は、注釈付きトレーニングデータの不足である。
我々は,様々なトランスファー学習技術を組み合わせた,シンプルだが効果的なアンサンブルベースのフレームワークを設計する。
また、ウィキペディアアンカーテキストを利用して、コア参照解決モデルをブートストラップする低コストのTL手法を提案する。
論文 参考訳(メタデータ) (2023-01-22T18:22:55Z) - From Good to Best: Two-Stage Training for Cross-lingual Machine Reading
Comprehension [51.953428342923885]
モデル性能を向上させるための2段階のアプローチを開発する。
我々は、トップk予測が正確な答えを含む確率を最大化するために、ハードラーニング(HL)アルゴリズムを設計する。
第2段階では, 正解と他の候補との微妙な違いを学習するために, 解答を意識したコントラスト学習機構が開発された。
論文 参考訳(メタデータ) (2021-12-09T07:31:15Z) - Cross-lingual Emotion Detection [6.767035411834297]
我々は英語をアラビア語とスペイン語をターゲット言語とする原語とみなしている。
対象言語データに基づいてトレーニングされたBERTベースのモノリンガルモデルは,それぞれアラビア語とスペイン語の絶対ジャカードスコアを4%上回り,SOTA(State-of-the-art)を5%上回りました。
次に、英語データのみを用いた言語間アプローチを用いることで、アラビア語とスペイン語のBERTモデルの90%以上と80%以上の相対的有効性を達成できることを示す。
論文 参考訳(メタデータ) (2021-06-10T19:52:06Z) - Improving Cross-Lingual Reading Comprehension with Self-Training [62.73937175625953]
現在の最新モデルは、いくつかのベンチマークで人間のパフォーマンスを上回っています。
前作では、ゼロショットのクロスリンガル読解のための事前訓練された多言語モデルの能力を明らかにしている。
本稿では,ラベルのないデータを利用して性能を向上する。
論文 参考訳(メタデータ) (2021-05-08T08:04:30Z) - Mixed-Lingual Pre-training for Cross-lingual Summarization [54.4823498438831]
言語間の要約は、ソース言語の記事に対する対象言語の要約を作成することを目的としている。
本稿では,翻訳のような言語間タスクと,マスク付き言語モデルのようなモノリンガルタスクの両方を活用する混合言語事前学習に基づくソリューションを提案する。
本モデルでは,2.82(中国語)と1.15(中国語,英語)のROUGE-1スコアを最先端の結果に対して改善する。
論文 参考訳(メタデータ) (2020-10-18T00:21:53Z) - Cross-lingual Information Retrieval with BERT [8.052497255948046]
本稿では、人気のある双方向言語モデルBERTを用いて、英語クエリと外国語文書の関係をモデル化し、学習する。
BERTに基づく深部関係マッチングモデルを導入し,教師の弱い事前学習多言語BERTモデルを微調整して訓練する。
短い英語クエリに対するリトアニア語文書の検索実験の結果、我々のモデルは有効であり、競争ベースラインのアプローチよりも優れていることが示された。
論文 参考訳(メタデータ) (2020-04-24T23:32:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。