Fugu-MT 論文翻訳(概要): Controllable Lexical Simplification for English

論文の概要: Controllable Lexical Simplification for English

arxiv url: http://arxiv.org/abs/2302.02900v1
Date: Mon, 6 Feb 2023 16:09:27 GMT
ステータス: 処理完了
システム内更新日: 2023-02-07 16:11:49.043073
Title: Controllable Lexical Simplification for English
Title（参考訳）: 英語の制御可能な語彙単純化
Authors: Kim Cheng Sheang, Daniel Ferr\'es, Horacio Saggion
Abstract要約: 本稿では,T5を微調整した制御可能な語彙単純化システムを提案する。我々のモデルはLSBertに匹敵する性能を示し、場合によってはそれよりも優れています。
参考スコア（独自算出の注目度）: 3.994126642748072
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: Fine-tuning Transformer-based approaches have recently shown exciting results on sentence simplification task. However, so far, no research has applied similar approaches to the Lexical Simplification (LS) task. In this paper, we present ConLS, a Controllable Lexical Simplification system fine-tuned with T5 (a Transformer-based model pre-trained with a BERT-style approach and several other tasks). The evaluation results on three datasets (LexMTurk, BenchLS, and NNSeval) have shown that our model performs comparable to LSBert (the current state-of-the-art) and even outperforms it in some cases. We also conducted a detailed comparison on the effectiveness of control tokens to give a clear view of how each token contributes to the model.
Abstract（参考訳）: 微調整トランスフォーマーに基づく手法は,最近文単純化作業においてエキサイティングな結果を示した。しかし、これまでのところ、Lexical Simplification (LS)タスクに同様のアプローチを適用する研究は行われていない。本稿では,t5を微調整した制御可能な語彙簡略化システムであるconlsについて述べる。 LexMTurk, BenchLS, NNSevalの3つのデータセットの評価結果から,我々のモデルはLSBert(現在の最先端技術)に匹敵する性能を示し, 場合によってはその性能も向上することが示された。また,制御トークンの有効性に関する詳細な比較を行い,各トークンがモデルにどのように寄与するかを明らかにした。

関連論文リスト

Fine-Tuning with Divergent Chains of Thought Boosts Reasoning Through Self-Correction in Language Models [63.36637269634553]
本稿では,複数の推論連鎖を比較するためにモデルを必要とすることによって,性能を向上する新しい手法を提案する。 DCoTデータセットの命令チューニングにより、より小さく、よりアクセスしやすい言語モデルの性能が向上することがわかった。
論文参考訳（メタデータ） (2024-07-03T15:01:18Z)
ParaICL: Towards Robust Parallel In-Context Learning [74.38022919598443]
大規模言語モデル(LLM)が自然言語処理の標準となっている。インコンテキスト・ラーニング(ICL)は、いくつかの実演例の選択に依存している。パラレルインコンテキスト学習(ParaICL)という新しい手法を提案する。
論文参考訳（メタデータ） (2024-03-31T05:56:15Z)
Token Prediction as Implicit Classification to Identify LLM-Generated Text [37.89852204279844]
本稿では,テキスト生成に関わる大きな言語モデル (LLM) を識別するための新しいアプローチを提案する。ベースLMに新たな分類層を追加する代わりに、分類タスクを次の注意すべき予測タスクとして再設定する。実験のバックボーンとしてText-to-Text Transfer Transformer (T5) モデルを用いる。
論文参考訳（メタデータ） (2023-11-15T06:33:52Z)
BLESS: Benchmarking Large Language Models on Sentence Simplification [55.461555829492866]
我々は、テキスト単純化(TS)タスク上で、最新の最先端の大規模言語モデル(LLM)のパフォーマンスベンチマークであるBLESSを紹介する。異なるドメイン(Wikipedia、ニュース、医療)の3つのテストセットに対して、サイズ、アーキテクチャ、事前学習方法、アクセシビリティの異なる44のモデルを評価する。評価の結果,最高のLSMはTSのトレーニングを受けていないにもかかわらず,最先端のTSベースラインと相容れない性能を示した。
論文参考訳（メタデータ） (2023-10-24T12:18:17Z)
Learning to Paraphrase Sentences to Different Complexity Levels [3.0273878903284275]
文の単純化はNLPにおいて活発な研究課題であるが,その隣接する文の複雑化や同レベルのパラフレーズ化の課題はそうではない。 3つのタスクすべてでモデルをトレーニングするために、教師なしデータセットを2つ提示する。
論文参考訳（メタデータ） (2023-08-04T09:43:37Z)
Multilingual Controllable Transformer-Based Lexical Simplification [4.718531520078843]
本稿では,制御可能なトランスフォーマーを用いたLexical Simplification(LS)システムであるmTLSを提案する。この研究の新規性は、複雑な単語のより単純な代替法を学ぶために、事前訓練されたマスキング言語モデルから抽出された言語固有の接頭辞、制御トークン、および候補を使用することにある。
論文参考訳（メタデータ） (2023-07-05T08:48:19Z)
Transformers as Statisticians: Provable In-Context Learning with In-Context Algorithm Selection [88.23337313766353]
この研究はまず、変換器がICLを実行するための包括的な統計理論を提供する。コンテクストにおいて、トランスフォーマーは、幅広い種類の標準機械学習アルゴリズムを実装可能であることを示す。エンフィングル変換器は、異なるベースICLアルゴリズムを適応的に選択することができる。
論文参考訳（メタデータ） (2023-06-07T17:59:31Z)
Alleviating Over-smoothing for Unsupervised Sentence Representation [96.19497378628594]
本稿では,この問題を緩和するために,SSCL(Self-Contrastive Learning)というシンプルな手法を提案する。提案手法は非常に単純で,様々な最先端モデルに拡張して,性能向上を図ることができる。
論文参考訳（メタデータ） (2023-05-09T11:00:02Z)
Detecting Unassimilated Borrowings in Spanish: An Annotated Corpus and Approaches to Modeling [2.741266294612776]
非同化語彙借入に富んだスペイン語ニュースワイヤの注釈付きコーパスを導入する。我々は,CRF,BiLSTM-CRF,Transformer-basedモデルなど,複数のシーケンスラベリングモデルがどのように動作するかを評価する。
論文参考訳（メタデータ） (2022-03-30T09:46:51Z)
Exemplar-Controllable Paraphrasing and Translation using Bitext [57.92051459102902]
私たちは、バイリンガルテキスト(bitext)からのみ学ぶことができるように、以前の作業からモデルを適用する。提案した1つのモデルでは、両言語で制御されたパラフレーズ生成と、両言語で制御された機械翻訳の4つのタスクを実行することができる。
論文参考訳（メタデータ） (2020-10-12T17:02:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。