論文の概要: VAA-CSEC: Vote-guided Advantage Allocation for Chinese Semantic Error Correction
- arxiv url: http://arxiv.org/abs/2609.36804v1
- Date: Tue, 29 Sep 2026 06:15:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.232039
- Title: VAA-CSEC: Vote-guided Advantage Allocation for Chinese Semantic Error Correction
- Title(参考訳): VAA-CSEC:中国のセマンティックエラー訂正のための投票誘導アドバンテージアロケーション
- Abstract要約: 我々は,CoT蒸留,スーパービジョンファインチューニング,強化学習,自己整合復号を併用した多段階フレームワークであるCSECのためのVote-guided Advantage Allocationを提案する。
CSED-C と NaSGEC-Exam の実験では、VAA-CSEC は CSED-C の LLM ベースのベースラインを 47.72% の F0.5 で上回り、全手法の42.15% をリコールし、NaSGEC-Exam の 41.55% F0.5 の新たな状態を確立している。
- 参考スコア(独自算出の注目度): 10.23327703902795
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Chinese Semantic Error Correction (CSEC) targets semantic errors in Chinese text, which are typically more subtle and complex than spelling and grammatical errors but remain relatively underexplored. Existing LLM-based approaches face two recurring obstacles in this task: over-correction, and unclear interaction between Chain-of-Thought (CoT) reasoning and self-consistency decoding, such that the benefits brought by CoT cannot be reliably transferred to final corrections. We propose Vote-guided Advantage Allocation for CSEC (VAA-CSEC), a multi-stage framework that combines CoT distillation, Supervised Fine-Tuning (SFT), Reinforcement Learning (RL) and self-consistency decoding. During RL, we design a task-specific reward function that directly aligned with the minimal-editing principle of CSEC. We further introduce Group-Level Relative Policy Optimization (GLPO), which reallocates GRPO advantages according to the margin between individual rollout rewards and the vote-aggregated group reward, aligning the RL training objective with the self-consistency objective used at inference time. Experiments on CSED-C and NaSGEC-Exam show that VAA-CSEC outperforms all LLM-based baselines on CSED-C with an F0.5 of 47.72%, achieves the highest recall of 42.15% among all methods, and establishes a new state of the art of 41.55% F0.5 on NaSGEC-Exam.
- Abstract(参考訳): 中国語のセマンティック誤り訂正(CSEC)は、スペルや文法的な誤りよりも微妙で複雑な中国語のテキストのセマンティックエラーを標的としている。
既存のLCMベースのアプローチでは、過剰補正と、CoTの推論と自己整合復号の間の不確実な相互作用の2つの繰り返し障害に直面しており、CoTがもたらす利点は最終的な修正に確実に伝達できない。
我々は,CoT蒸留,スーパービジョンファインチューニング(SFT),強化学習(RL),自己整合デコーディングを組み合わせた多段階フレームワークである,CSEC(VAA-CSEC)のためのVote-guided Advantage Allocationを提案する。
RL中、我々はCSECの最小編集原理と直接一致したタスク固有報酬関数を設計する。
さらに,グループレベル相対的政策最適化(GLPO)を導入し,個別のロールアウト報酬と投票集約グループ報酬との差に応じてGRPOの優位性を再配置し,RLトレーニング目標と推論時に使用する自己整合性目標とを整合させる。
CSED-CとNaSGEC-Examの実験では、VAA-CSECはCSED-CのLCMベースのベースラインを47.72%で上回り、全ての手法で42.15%のリコールを達成し、NaSGEC-Examで41.55% F0.5の新たな最先端技術を確立した。
関連論文リスト
- Claim-Level Reliability Assessment for Efficient Test-Time Reasoning [9.168249719115845]
テストタイムスケーリングの原則としてクレームレベルのファルシフィケーションを提案し、Claim-Level Reliability Assessment (CLR) を通じてそれをインスタンス化する。
CLRは、追加のソリューションサンプリングからターゲット検証まで、テスト時間計算を再配置する。
論文 参考訳(メタデータ) (2026-08-12T12:33:05Z) - MSA-CITE: A Co-Adapted LoRA Specialist Ecology for Fixed-Budget Small-Model Inference [11.215813718564283]
複数の廃棄されたチェックポイントを、デプロイのための構成可能な資産として扱います。
4パスのポートフォリオは、200のホールドアウト数学アイテムに対して65.5%の精度を達成している。
論文 参考訳(メタデータ) (2026-08-11T10:26:06Z) - OmniISR: A Unified Framework for Centralized and Federated Learning via Intermediate Supervision and Regularization [58.03221830946145]
我々は、純粋なCL、純粋なFL、ハイブリッドCL-FLトレーニングモードを融合する統合フレームワークであるOmniISRを提案する。
我々は,OmniISRが集中型パラダイムとフェデレーション型パラダイムの両方において,モデル性能を一貫して改善していることを示す。
論文 参考訳(メタデータ) (2026-05-19T04:13:27Z) - CSRP: Chain-of-Thought Reasoning for Chinese Text Correction via Reinforcement Learning with Efficiency-Aware Rewards [20.028937245593003]
汎用中国語モデルは、微妙な文法的区別のための特別な言語的先行概念を欠いている。
Supervised Fine-Tuning (SFT) with Maximum Likelihood Estimationは精度重視のメトリクスの最適化に失敗する。
CSRPは,5.9Mのバランスの取れたサンプルに対して,連続事前学習(CPT)による補正機能を段階的に構築する3段階のフレームワークである。
NACGECベンチマークでは、CSRPは50.99ドルのF_0.5$と57.17の精度で最先端のパフォーマンスを達成した。
論文 参考訳(メタデータ) (2026-04-14T02:06:38Z) - Utilizing and Calibrating Hindsight Process Rewards via Reinforcement with Mutual Information Self-Evaluation [50.696688705287755]
我々は、強化学習におけるスパース報酬課題を克服するために、相互情報自己評価を提案する。
MISEにより、エージェントは、疎外的信号を補う高密度な内部報酬から自律的に学習することができる。
我々は、後見自己評価報酬を利用することは、政策と代行報酬政策の間のKL分散項と相互情報を組み合わせた目的を最小化することと等価であることを示す。
論文 参考訳(メタデータ) (2026-04-13T15:18:51Z) - LCO: LLM-based Constraint Optimization for Safer Agentic LLMs in Real-world Tasks [18.09670665247215]
大規模言語モデル(LLM)は、自律的なエージェントとしての役割がますます高まっているが、環境との継続的な相互作用は、コンテキスト内報酬ハッキング(ICRH)につながる可能性がある。
ICRHは敵の入力からではなく、モデル自体の過度な最適化から生じるため、既存の防御手法はこのリスクに対処するには不十分である。
モデル微調整なしでICRHを効果的に削減するフレームワークであるtextbfLLM ベースの制約最適化 (LCO) を提案する。
論文 参考訳(メタデータ) (2026-04-08T09:20:22Z) - CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。
エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。
CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
論文 参考訳(メタデータ) (2025-12-22T16:34:21Z) - CoT-Saliency: Unified Chain-of-Thought Reasoning for Heterogeneous Saliency Tasks [96.64597365827046]
本稿では,3つの運用上不均一なサリエンシタスクを共同で処理する,最初の統合フレームワークを提案する。
タスクの不均一性を橋渡しする視覚言語モデル(VLM)において、チェーン・オブ・ソート(CoT)推論プロセスを導入する。
我々は,全タスクにまたがる特別なSOTA手法と強力なクローズドソースVLMの整合性を示す。
論文 参考訳(メタデータ) (2025-11-01T04:37:01Z) - CC-LEARN: Cohort-based Consistency Learning [5.7716971260066]
大規模な言語モデルは一貫性のある堅牢な推論に苦しむ。
コホートに基づく一貫性学習(CC-Learn)を紹介する。
実験により、CC-Learnは事前訓練されたベースラインとSFTベースラインの精度と推論安定性を向上することが示された。
論文 参考訳(メタデータ) (2025-06-18T17:41:28Z) - CTC-DRO: Robust Optimization for Reducing Language Disparities in Speech Recognition [61.925178250628825]
グループ分散ロバストな最適化(グループDRO)は、最悪のグループ損失を最小限に抑えてこの問題に対処するが、グループ損失がグループ間の性能差を誤って表すと失敗する。
CTC-DROは群重み更新をスムースにすることで群DRO目標の欠点に対処し,一貫した高損失群に対する過剰エンハンシスを防ぐ。
論文 参考訳(メタデータ) (2025-02-03T19:29:42Z) - Optimizing Two-way Partial AUC with an End-to-end Framework [154.47590401735323]
ROC曲線のエリア(AUC)は、機械学習にとって重要な指標である。
最近の研究は、TPAUCが既存のPartial AUCメトリクスと本質的に矛盾していることを示している。
本論文では,この新指標を最適化するための最初の試行について述べる。
論文 参考訳(メタデータ) (2022-06-23T12:21:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。