論文の概要: Adapting LLMs for Minimal-edit Grammatical Error Correction

• arxiv url: http://arxiv.org/abs/2506.13148v1
• Date: Mon, 16 Jun 2025 07:00:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-17 17:28:47.593674
• Title: Adapting LLMs for Minimal-edit Grammatical Error Correction
• Title（参考訳）: 最小編集誤り訂正のためのLLMの適応化
• Authors: Ryszard Staruch, Filip Graliński, Daniel Dzienisiewicz,
• Abstract要約: 本稿では,誤り率適応のトピックについて検討し,新しいトレーニングスケジュール法を提案する。 我々の実験は、BEA-testセット上の単一モデルシステムに対して、新しい最先端の結果を設定しました。 我々は、デトークン化されたデータセットのトレーニングが結果に影響を与えるかどうかを分析し、修正された誤例を用いてデータセットの使用の影響を計測する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Decoder-only large language models have shown superior performance in the fluency-edit English Grammatical Error Correction, but their adaptation for minimal-edit English GEC is still underexplored. To improve their effectiveness in the minimal-edit approach, we explore the error rate adaptation topic and propose a novel training schedule method. Our experiments set a new state-of-the-art result for a single-model system on the BEA-test set. We also detokenize the most common English GEC datasets to match the natural way of writing text. During the process, we find that there are errors in them. Our experiments analyze whether training on detokenized datasets impacts the results and measure the impact of the usage of the datasets with corrected erroneous examples. To facilitate reproducibility, we have released the source code used to train our models.
• Abstract（参考訳）: デコーダのみの大規模言語モデルは、流布式英語文法誤り訂正において優れた性能を示しているが、最小限の英語 GEC への適応はいまだ未定である。 最小限の編集手法での有効性を向上させるため,誤り率適応トピックを探索し,新しいトレーニングスケジュール法を提案する。 我々の実験は、BEA-testセット上の単一モデルシステムに対して、新しい最先端の結果を設定しました。 また、テキストの自然な書き方に合わせて、最も一般的な英語のGECデータセットをデトケンズします。 プロセス中にエラーがあることが分かりました。 提案実験は,デトケントデータセットのトレーニングが結果に影響を及ぼすか否かを分析し,修正された誤例を用いてデータセットの使用の影響を計測する。 再現性を高めるため、モデルをトレーニングするのに使用されるソースコードをリリースしました。

関連論文リスト

• Loss-Aware Curriculum Learning for Chinese Grammatical Error Correction [21.82403446634522]
  中国語の文法的誤り訂正(CGEC)は、入力された中国語文の誤りを検出し、訂正することを目的としている。 現在のアプローチでは、修正の難しさはインスタンスによって異なり、これらのサンプルを等しく扱うことは無視されている。 この問題に対処する多粒度カリキュラム学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-12-31T08:11:49Z)
• Failing Forward: Improving Generative Error Correction for ASR with Synthetic Data and Retrieval Augmentation [73.9145653659403]
  生成誤差補正モデルは、トレーニング中に発生する特定の種類のエラーを超えて一般化することが困難であることを示す。 DARAGは、ドメイン内(ID)およびOODシナリオにおけるASRのためのGCCを改善するために設計された新しいアプローチである。 私たちのアプローチはシンプルでスケーラブルで、ドメインと言語に依存しません。
  論文  参考訳（メタデータ） (2024-10-17T04:00:29Z)
• LM-Combiner: A Contextual Rewriting Model for Chinese Grammatical Error Correction [49.0746090186582]
  過剰補正は中国の文法的誤り訂正(CGEC)タスクにおいて重要な問題である。 モデルアンサンブル法による最近の研究は、過剰補正を効果的に軽減し、ECCシステムの精度を向上させることができる。 本稿では,GECシステム出力の過度補正をモデルアンサンブルなしで直接修正できる書き換えモデルLM-Combinerを提案する。
  論文  参考訳（メタデータ） (2024-03-26T06:12:21Z)
• Grammatical Error Generation Based on Translated Fragments [0.0]
  英語の文法的誤り訂正のための大量のトレーニングデータを作成するために,文片のニューラルマシン翻訳を行う。 本手法は,第2言語学習者が犯した誤りをシミュレートすることを目的として,非ネイティブスタイル言語を幅広く生成する。
  論文  参考訳（メタデータ） (2021-04-20T12:43:40Z)
• Unsupervised neural adaptation model based on optimal transport for spoken language identification [54.96267179988487]
  トレーニングセットとテストセット間の音響音声の統計的分布のミスマッチにより,音声言語識別(SLID)の性能が大幅に低下する可能性がある。 SLIDの分布ミスマッチ問題に対処するために,教師なしニューラル適応モデルを提案する。
  論文  参考訳（メタデータ） (2020-12-24T07:37:19Z)
• A Self-Refinement Strategy for Noise Reduction in Grammatical Error Correction [54.569707226277735]
  既存の文法的誤り訂正(GEC)のアプローチは、手動で作成したGECデータセットによる教師あり学習に依存している。 誤りが不適切に編集されたり、修正されなかったりする「ノイズ」は無視できないほどある。 本稿では,既存のモデルの予測整合性を利用して,これらのデータセットをデノマイズする自己補充手法を提案する。
  論文  参考訳（メタデータ） (2020-10-07T04:45:09Z)
• Data Weighted Training Strategies for Grammatical Error Correction [8.370770440898454]
  文法的誤り訂正(GEC)のトレーニングスケジュールにデルタ-log-perplexityを組み込む方法を示す。 得られたデータに基づいて訓練されたモデルは、一般的なGECテストセットで最先端の結果を得る。
  論文  参考訳（メタデータ） (2020-08-07T03:30:14Z)
• On the Robustness of Language Encoders against Grammatical Errors [66.05648604987479]
  我々は、非ネイティブ話者から実際の文法的誤りを収集し、これらの誤りをクリーンテキストデータ上でシミュレートするために敵攻撃を行う。 結果,全ての試験モデルの性能は影響するが,影響の程度は異なることがわかった。
  論文  参考訳（メタデータ） (2020-05-12T11:01:44Z)
• Towards Minimal Supervision BERT-based Grammar Error Correction [81.90356787324481]
  我々は、事前訓練された言語モデルからコンテキスト情報を取り入れて、アノテーションを活用し、多言語シナリオの恩恵を得ようとしている。 その結果、文法的誤り訂正タスクにおいて、変換器(BERT)からの双方向表現の強い可能性を示す。
  論文  参考訳（メタデータ） (2020-01-10T15:45:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。