論文の概要: Safe Error Correction for Language Models: Frozen-Base Adjustment with Capability Preservation
- arxiv url: http://arxiv.org/abs/2609.16145v1
- Date: Mon, 14 Sep 2026 18:00:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 14:56:08.163063
- Title: Safe Error Correction for Language Models: Frozen-Base Adjustment with Capability Preservation
- Title（参考訳）: 言語モデルに対する安全なエラー補正: 機能保存による凍結ベース調整
- Abstract要約: 凍結した言語モデルの上に,軽量なロジットレベルの補正モジュールを提案する。
CRN v2は53.3%のベースモデルのエラーを補正するが、テストされた性能ベンチマークの劣化は示さない。
テストした代替設定は、ランク128ロジット結果を超えなかった。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study a practical question: can a small correction module fix errors in a frozen language model's outputs without degrading its base capabilities? We propose CRN v2, a lightweight logit-level correction module (~34M trainable parameters, 0.73% of the 4.65B text module) that sits atop a fully frozen Gemma 4 E2B model. The base model is never updated; only the correction module learns, via supervised fine-tuning followed by reference-free DPO on 83,400 error-correction pairs. On a 60-question domain exam (CEHRI: Certified Human-Robot Intelligence, covering facts, arithmetic, and implicit-goal reasoning), CRN v2 corrects 53.3% of base-model errors (reworded variant: 43.3%) while showing no degradation on tested capability benchmarks (MMLU/BoolQ N=200; car-wash N=8). A LoRA baseline at the matched CRN v1 budget (6.6M params, rank 19) achieves 83.3% correction but suffers 30-75% capability loss on the same benchmarks -- the correction-capability tradeoff. An ablation shows that the KL preservation term (lambda=0.1) is critical: lowering it to 0.01 degrades correction to 35.0%. A hidden-state injection variant at earlier layers (1.6M params, SFT-only) reaches 50.0%/55.8% but does not exceed logit correction; shallower injection (layer 4) drops to 30.0%/28.3%; multi-depth logit correction (~35M) reaches only 40%; and longer training (5,000 SFT + 2,000 DPO) stays at 53.3% -- none of the alternative configurations we tested exceeded the rank-128 logit result, consistent with a best-achieved result of ~53% rather than a floor. This is a study of a design principle (frozen base + logit correction + KL anchoring), not a claim of architectural novelty. All code, main-result weights, and evaluation scripts are released (deep variant as code only -- no trained deep checkpoints).
- Abstract（参考訳）: 小さな修正モジュールは、基本能力を低下させることなく、凍結した言語モデルの出力のエラーを修正できるのか?
我々は,完全に凍結されたGemma 4 E2Bモデルの上に,軽量なロジットレベルの補正モジュールであるCRN v2(約34Mのトレーニング可能なパラメータ,4.65Bテキストモジュールの0.73%)を提案する。
修正モジュールのみが、教師付き微調整と83,400の誤り訂正ペア上の参照なしDPOを通じて学習する。
60-クエストドメイン試験(CEHRI: Certified Human-Robot Intelligence, cover facts, arithmetic, and implicit-goal reasoning)では、CRN v2が53.3%のベースモデルエラー(43.3%)を補正し、テスト性能ベンチマーク(MMLU/BoolQ N=200; car-wash N=8)の劣化を示さなかった。
一致したCRN v1予算(6.6Mパラム、ランク19)のLoRAベースラインは83.3%の修正を達成したが、同じベンチマークで30-75%の能力損失を被った。
アブレーションでは、KL保存項(lambda=0.1)が重要であり、0.01に下げると修正が35.0%に低下する。
従来のレイヤ (1.6M params, SFT-only) の隠れ状態注入変種は50.0%/55.8%に達するが、ロジット補正を超えない; 浅層注入 (レイヤ4) は30.0%/28.3%に低下する; マルチディープス・ロジット補正 (~35M) は40%に留まる; より長いトレーニング (5,000 SFT + 2,000 DPO) は53.3%に留まる -- テストした代替構成では、階数128のロジット結果を超えず、フロアではなく最も達成された結果と一致している。
これは設計原則(凍結ベース+ロジット補正+KLアンカー)の研究であり、アーキテクチャのノベルティの主張ではない。
すべてのコード、メインリサートウェイト、評価スクリプトがリリースされている(コードのみのディープ変種、訓練されたディープチェックポイントなし)。
関連論文リスト
- Target-Checked Reliability Score Refinement for Video Question Answering [3.8271803328378677]
モデルの再トレーニングや回答の変更を伴わずに、目標シフトの下で回答レベルの信頼性スコアを改善できるかどうかを検討する。
3つの固定されたビデオ言語モデルから、4つの決定論的ビデオサンプリングに基づいてオプション確率リストを収集する。
選択した回答に割り当てられた確率として定義される原点スコアと,開発データセットに基づいて学習したヒストグラムに基づく勾配ボスティング(HGB)スコアを比較した。
候補は、ビデオレベルの繰り返しチェックがポジティブで安定した改善を示す場合にのみ、元のスコアを置き換える。
論文 参考訳（メタデータ） (2026-09-09T08:29:00Z) - SS-ESOAP: Self-Scaled Adaptive Preconditioning for Physics-Informed Learning [70.71795707610961]
メソッドは、Kronecker幾何に適応したスカラーセマントエネルギー補正でSOAPスタイルのプレコンディショニングを強化する。
メソッドは8つのPDEベンチマークのうち6つで最下位の残差に達する。
4つの代表PDEの3列の$L2$と$H1$エラーは、低い残差と改善された解精度の間のリンクをサポートする。
論文 参考訳（メタデータ） (2026-08-29T21:34:47Z) - Capability-Stratified Degradation in Ternary Language Models [0.0]
第三次言語モデルは重量を$-1,0,+1$に制限し、$log 3 approx 1.585$ bits/weightに近づいた。
量子化対応トレーニング(QAT)の72.4Mトークンを用いて、Qwen3.5-0.8B(752Mパラメータ)を3次重みに変換する。
結果のモデルであるCloeは、29のベンチマーク、表現診断、下流の微調整で評価される。
論文 参考訳（メタデータ） (2026-08-28T19:22:38Z) - Stuck on "A": Diagnosing and Repairing Interface Injury in Attention-to-KDA Linearization of a 0.6B Language Model [0.0]
Qwen3-0.6B-Baseの28層のうち21層をKDA(Kimi Delta Attention)に変換する。
手術後、隠れた状態のアライメントと終末のKL蒸留により、生徒は難易度で教師に近づきます。
コード、ウェイト、レシピ、完全な監査パスをリリースし、エンジニアリングのレッスンを蒸留します。
論文 参考訳（メタデータ） (2026-08-03T08:54:18Z) - Reason, Reward, Refine: Step-Level Errors Corrections with Structured Feedback for Physics Reasoning in Small Language Models [32.7643564019866]
我々は,最初の推論誤差を特定し,対象とする構造化されたフィードバックを生成し,KL正則化によるポリシー勾配による解の修正を行うステップレベルの報酬フレームワークを提案する。
5つの物理ベンチマークで、我々のフレームワークはCoTのプロンプトよりも17-20%、最強のベースラインより10-16%の精度向上を実現し、計算誤差を56.9%から23.5%に削減し、最良のケースでは22.3%から12.0%に低減した。
論文 参考訳（メタデータ） (2026-07-06T15:16:10Z) - Knowledge Index of Noah's Ark [63.143852586221534]
KINAは,261分野にわたる899項目のベンチマークである。
ボーナス・オン・バートーナメントがFOSDを弱く支配していることを示す。
トップモデルであるGemini-3.1-Pro-Previewは53.17%、Claude-Opus-4.6は49.92%、GPT-5.4は48.55%に達した。
論文 参考訳（メタデータ） (2026-06-03T17:06:49Z) - ARC-STAR: Auditable Post-Hoc Correction for PDE Foundation Models [47.9430487327673]
ARC-STARは修正を3段階にまとめる: グローバルな修正器は広い解法バイアスを除去し、ブロックワイドな局所精錬器はポストグロバル残差を浄化し、展開時にはラベルフリースコアは計算予算の下でハイリスクなブロックに精算する。
ARC-STARは、全ての細胞で生ポセイドンよりも少なくとも36倍の速度ロールアウト誤差を減少させる唯一の方法である。
論文 参考訳（メタデータ） (2026-05-21T09:26:16Z) - Step-wise Rubric Rewards for LLM Reasoning [72.17879367869503]
RLVR(Reinforcement Learning with Verifiable Rewards)は、大規模言語モデルの推論を改善するために広く使われている。
正しい回答の18.2%は間違っているが、肯定的な報酬がある。
6つの数学的推論ベンチマークで、SRaRはRaRの平均精度を3.57ポイント改善した。
論文 参考訳（メタデータ） (2026-05-17T07:08:14Z) - Mechanistically Guided LoRA Improves Paraphrase Consistency in Medical Vision-Language Models [2.064612766965483]
医療ビジョンランゲージモデルでは、同じ臨床的疑問の言い換えに対して、異なるイエスまたはノーの回答を与えることができる。
PSF-Med Sadanandan と Behzadan (2025) を用いて MedGemma-4B でこれを研究した。
パラフレーズ整合性と解答精度のバランスをとるために,ローランド適応 (LoRA) アダプタを併用して微調整する。
論文 参考訳（メタデータ） (2026-02-24T23:30:50Z) - Squeeze the Soaked Sponge: Efficient Off-policy Reinforcement Finetuning for Large Language Model [56.92219181993453]
本稿では,PPOやGRPOなどのオンラインRFT手法をオフ・ポリティクスデータに活用するために,Reincarnating Mix-policy Proximal Policy Gradient (ReMix)を提案する。
ReMix は,(1) 効率的なトレーニングのための更新データ(UTD)比が増大した混成政策勾配,(2) 安定性と柔軟性のトレードオフのバランスをとるためのKL-Convex 政策制約,(3) 効率的な早期学習から安定した改善へのシームレスな移行を実現するための政策再編成の3つの主要な構成要素から構成される。
論文 参考訳（メタデータ） (2025-07-09T14:29:45Z) - High Accuracy, Less Talk (HALT): Reliable LLMs through Capability-Aligned Finetuning [84.52940628494879]
大規模言語モデル(LLM)は現在、すべてのプロンプトに応答する。
LLMは、知識や能力の欠如によって、誤った答えを生み出すことができる。
本稿では,その正確性に自信を持った場合にのみコンテンツを生成するためのLCMのポストトレーニングを提案する。
論文 参考訳（メタデータ） (2025-06-04T15:16:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。