論文の概要: Precision--Recall Trade-off on the Inference Level for LLMs in Grammatical Error Correction
- arxiv url: http://arxiv.org/abs/2610.41698v1
- Date: Fri, 30 Oct 2026 13:04:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.74974
- Title: Precision--Recall Trade-off on the Inference Level for LLMs in Grammatical Error Correction
- Title(参考訳): 文法的誤り訂正におけるLLMの推論レベルの高精度-リコールトレードオフ
- Abstract要約: 大規模言語モデル (LLM) は近年,文法的誤り訂正 (GEC) に採用されている。
繰り返しペナルティに基づく復号化により,精度-リコールバランスの推測時間制御が可能となることを示す。
- 参考スコア(独自算出の注目度): 0.2864713389096699
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) have recently been adopted for Grammatical Error Correction (GEC), achieving strong performance via both full fine-tuning and prompt-based approaches. As probabilistic sequence models, LLMs expose inference-time parameters that directly modify token generation behavior; however, their potential for controlling GEC-specific trade-offs has not been systematically studied. In this work, we investigate decoding strategies for grammatical error correction. We show that the repetition penalty parameter enables controllable adjustment of the precision--recall trade-off at inference time, without modifying the model architecture, training procedure, or prompt. Through experiments on standard GEC benchmarks, we demonstrate that repetition-penalty-based decoding enables inference-time control of the precision--recall balance, conceptually related to methods previously proposed for sequence-to-sequence GEC models, such as Align-and-Predict Decoding (APD), while remaining simple and broadly applicable to existing LLMs that expose inference-time decoding penalties.
- Abstract(参考訳): 大規模言語モデル(LLM)は、最近、文法的誤り訂正(GEC)に採用され、完全な微調整とプロンプトベースのアプローチによって、強力なパフォーマンスを実現している。
確率論的シーケンスモデルとして、LLMはトークン生成の振舞いを直接修正する推論時パラメータを公開するが、GEC固有のトレードオフを制御する可能性については体系的に研究されていない。
本研究では,文法的誤り訂正のための復号法について検討する。
繰り返しペナルティパラメータは,モデルアーキテクチャやトレーニング手順,あるいはプロンプトを変更することなく,推論時の精度-リコールトレードオフの制御可能な調整を可能にすることを示す。
標準GECベンチマークの実験を通じて、繰り返しペナルティに基づく復号化は、推論時復号法を露出する既存のLCMに対してシンプルで広く適用できる一方で、従来提案されていたAlign-and-Predict Decoding (APD)のようなシーケンス・ツー・シーケンスGECモデルのための手法と概念的に関連していることを示す。
関連論文リスト
- Specification-Guided Generation for Large Language Models [62.12936740922775]
大規模言語モデル(LLM)は構造化された出力を生成することができるが、既存の制約付き復号法は主に構文を強制する。
本稿では,LLM生成とシンボリック推論を組み合わせた,ニューロシンボリックな仕様誘導型デコードフレームワークを提案する。
本稿では、構築による仕様満足度を保証するフォワードオンリーの変種と、それ以前の選択肢を再検討するバックトラックの変種を提案する。
論文 参考訳(メタデータ) (2026-10-30T10:01:25Z) - MIITA: Memory-Induced Inference-Time Adaptation for Continual Learning with Small Language Models [64.2820121997882]
MIITAはメモリ駆動型推論時間適応フレームワークである。
教師付きエクスペリエンスをセマンティックアンカーを備えたコンパクトな修正指向プロトタイプとして格納し、セマンティックおよび不確実性ベースのキューを使用して推論時にそれらを検索する。
実験により、MIITAは最終性能を継続的に改善し、固定メモリの予算下での忘れを軽減している。
論文 参考訳(メタデータ) (2026-05-20T03:03:04Z) - Corrective Diffusion Language Models [12.724100711773593]
拡散言語モデルにおいて,不正確なトークンに低い信頼度を割り当て,正しいコンテンツを保持しながら反復的にそれらを洗練する能力として定義される補正行動について検討する。
本稿では,目に見える不正確なトークンを明示的に監視し,誤り認識の信頼性と目的の洗練を可能にする,修正指向のポストトレーニング原理を提案する。
論文 参考訳(メタデータ) (2025-12-17T17:04:38Z) - Adaptive Rectification Sampling for Test-Time Compute Scaling [10.160759436445526]
よりきめ細かいレベルでの誤りの修正を支援するために,適応整形サンプリング(AR-Sampling)を提案する。
提案手法により, よりきめ細かいレベルでの再考が可能となり, 解の精度が向上し, 合理的な数のトークンが生成される。
論文 参考訳(メタデータ) (2025-04-02T02:57:52Z) - Attribute Controlled Fine-tuning for Large Language Models: A Case Study on Detoxification [76.14641982122696]
本稿では,属性制御付き大規模言語モデル(LLM)の制約学習スキーマを提案する。
提案手法は, ベンチマーク上での競合性能と毒性検出タスクを達成しながら, 不適切な応答を少ないLCMに導出することを示す。
論文 参考訳(メタデータ) (2024-10-07T23:38:58Z) - LM-Combiner: A Contextual Rewriting Model for Chinese Grammatical Error Correction [49.0746090186582]
過剰補正は中国の文法的誤り訂正(CGEC)タスクにおいて重要な問題である。
モデルアンサンブル法による最近の研究は、過剰補正を効果的に軽減し、ECCシステムの精度を向上させることができる。
本稿では,GECシステム出力の過度補正をモデルアンサンブルなしで直接修正できる書き換えモデルLM-Combinerを提案する。
論文 参考訳(メタデータ) (2024-03-26T06:12:21Z) - Causal Prompting: Debiasing Large Language Model Prompting based on Front-Door Adjustment [32.12998469814097]
大規模言語モデル(LLM)のバイアスを効果的に軽減するために,正面調整に基づく新たな因果的プロンプト手法を提案する。
実験結果から,提案手法は7つの自然言語処理データセットにおいて優れた性能を発揮することが示された。
論文 参考訳(メタデータ) (2024-03-05T07:47:34Z) - Controlled Generation with Prompt Insertion for Natural Language
Explanations in Grammatical Error Correction [50.66922361766939]
ユーザの修正理由の理解を確保することが不可欠である。
既存の研究では、修正の根拠となるトークン、例、ヒントが提示されているが、修正の理由を直接説明していない。
GEC修正のための説明を生成するには、入力トークンと出力トークンの整列、修正ポイントの識別、およびそれに対応する説明を一貫して提示することが含まれる。
本研究では,LLMが自然言語の修正の理由を説明するために,Prompt Insertion (PI) を用いた制御生成法を提案する。
論文 参考訳(メタデータ) (2023-09-20T16:14:10Z) - Instruction Position Matters in Sequence Generation with Large Language
Models [67.87516654892343]
大規模言語モデル(LLM)は、翻訳や要約といった条件付きシーケンス生成タスクを実行することができる。
入力文の後にタスク命令の位置をシフトさせることにより,LLMの指示追従能力を向上させることを提案する。
論文 参考訳(メタデータ) (2023-08-23T12:36:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。