論文の概要: Dynamic K-Head: Difficulty-Supervised Budget Selection for Continuous Latent Reasoning
- arxiv url: http://arxiv.org/abs/2610.17679v1
- Date: Tue, 13 Oct 2026 04:02:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.502034
- Title: Dynamic K-Head: Difficulty-Supervised Budget Selection for Continuous Latent Reasoning
- Title（参考訳）: 動的Kヘッド:連続潜時推論のための難易度改善された予算選択
- Abstract要約: チェーン・オブ・シント(CoT)は推論を改善するが、かなりの自己回帰的合理性コストを発生させる。
質問条件付きプレロールアウト型予算セレクタであるDynamic K-Headを紹介する。
選抜された予算の下で理性士と共同で訓練され、質問のみから割り当てられたスコアに基づいて、難易度を監督する。
- 参考スコア（独自算出の注目度）: 8.66055875238012
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Chain-of-thought (CoT) improves reasoning but incurs substantial autoregressive rationale cost. Continuous CoT moves intermediate computation into recurrent hidden states, yet typically uses a fixed number of updates even though the best budget varies across questions and accuracy need not improve monotonically with $K$. We introduce Dynamic K-Head, a question-conditioned, pre-rollout budget selector. It is jointly trained with the reasoner under selected budgets, using difficulty supervision based on scores assigned from the question alone. We also show that latent-update count can misrepresent end-to-end cost because a short latent rollout can shift computation into a longer explicit continuation. We therefore count latent updates, implementation-specific special tokens, and all decoded text. Instantiated with CoDI on Llama 3.2 1B and GSM8K, Dynamic K-Head reaches 54.44% exact-match accuracy at 12.03 average reasoning/output tokens, compared with 52.31% at 15.21 tokens for fixed-$K=6$ CoDI---a 2.12-point gain with 20.9% lower token cost. Across three out-of-distribution arithmetic datasets, it reduces cost by 19.3--25.7% while improving accuracy by 0.30--2.22 points. These results demonstrate that difficulty-supervised budget selection can improve both accuracy and efficiency, while stable budget selection remains a central challenge.
- Abstract（参考訳）: チェーン・オブ・シント(CoT)は推論を改善するが、かなりの自己回帰的合理性コストを発生させる。
Continuous CoTは、中間計算をリカレントな隠蔽状態に移行するが、通常、最高の予算は質問によって異なり、正確性は$K$で単調に改善する必要がないにもかかわらず、固定された数の更新を使用する。
質問条件付きプレロールアウト型予算セレクタであるDynamic K-Headを紹介する。
選抜された予算の下で理性士と共同で訓練され、質問のみから割り当てられたスコアに基づいて、難易度を監督する。
また,遅延更新回数は,短時間のロールアウトが計算をより明示的な継続に切り替える可能性があるため,エンドツーエンドのコストを誤って表現できることを示す。
したがって、潜時更新、実装固有の特別なトークン、およびすべてのデコードされたテキストをカウントします。
Llama 3.2 1B と GSM8K の CoDI で実証された Dynamic K-Head の精度は 54.44% に達し、平均的推論/出力トークンは 12.03 である。
3つのアウト・オブ・ディストリビューションの算術データセットで、コストを19.3-25.7%削減し、精度を0.30--2.22ポイント改善した。
これらの結果から, 予算選択の困難さは, 精度と効率を両立させることができる一方で, 安定した予算選択は依然として中心的な課題であることが明らかとなった。
関連論文リスト
- Budget Boundary Effects in Test-Time Mathematical Reasoning [4.925333713444691]
累積トークンキャップは、テストタイムコントローラにキャップ(制限)の停止を選択させ、現在の試行を終了させる(管理者)。
この境界選択を、19,200の公開トレースのペアのオフラインリプレイで測定する。
論文 参考訳（メタデータ） (2026-09-30T00:28:34Z) - Which Medical Questions Deserve Rationales? Perturbation-Sensitive Selection for Robust QA [12.797519888387628]
本稿では,ルート平均2乗ロバスト性に基づくサンプル優先化(RMS-RSP)を提案する。
RMS-RSPは5つのデータセットで同じ方向で平均1.91点と2.85点の堅牢な精度とセマンティック一貫性を改善する。
論文 参考訳（メタデータ） (2026-09-09T03:58:59Z) - Frozen Cores Need Task Signal: Fisher-Whitened Cross-Covariance for Low-Resource LLM Adaptation [18.8104643146881]
厳格な訓練州予算の下で, コンストラクタ効率の高い微調整の選択について検討した。
我々は、署名された入力-エラーの相互共分散を推定し、対角的なフィッシャーモーメントと白くし、その結果の局所距離でそれを切り離し、選択した方向を写像し、より薄いQRを適用して安定したコア座標を得るFCCAを紹介する。
Qwen2.5-3B では、FCCA は 83.0 のマクロ平均値に達し、その2.3 ポイントは、マッチした予算のコンストラクタよりも高く、11 タスクすべてにおいて未白の RawGrad コントロールを超えている。
論文 参考訳（メタデータ） (2026-09-01T05:52:38Z) - CateKV: On Sequential Consistency for Long-Context LLM Inference Acceleration [67.17709877327232]
ケイトKVは、一貫したヘッドに対して重要なトークン情報のみを保持するハイブリッドKVキャッシュ方式である。
Cate KV はメモリ使用量を最大$2.72 times$に減らし、シングルサンプル入力で$2.18times$に減らした。
論文 参考訳（メタデータ） (2026-08-31T06:02:37Z) - Scaling Laws for Agent Harnesses via Effective Feedback Compute [53.68149869349268]
emphEffective Feedback Compute (EFC)は、情報的、有効、非冗長な場合にのみフィードバックを信用し、その後の決定のために保持するトレースレベルのスケーリング座標である。
EFCベースの座標は、生の計算ベースラインよりも失敗率を常に予測する。
論文 参考訳（メタデータ） (2026-05-28T09:45:47Z) - The Coupling Tax: How Shared Token Budgets Undermine Visible Chain-of-Thought Under Fixed Output Limits [12.316478346055618]
思考の連鎖推論はしばしば、モデルを長く考えることで言語モデル精度を改善するための単調な方法として扱われる。
トレースと最終回答の推論が1つのアウトプットの予算を共有している場合、長いトレースは彼らがサポートしようとしている回答をかき集めることができます。
GSM8K、MATH-500、および5つのBIG-Bench HardタスクをQwen3モデルで3つのスケールで実行し、GSM8KとMATH-500では最大2048トークンまでの予算で非思考モードマッチや優れた思考モードを実現した。
論文 参考訳（メタデータ） (2026-05-08T12:54:53Z) - Brief Is Better: Non-Monotonic Chain-of-Thought Budget Effects in Function-Calling Language Agents [0.25891009512378166]
思考の連鎖 (CoT) 推論は, エージェント性能を向上させることが広く想定されている。
機能呼び出しエージェントに対するCOT予算効果の系統的研究を行った。
我々の中心的な発見は、Qwen2.5-1.5B-Instruct: brief reasoning (32 tokens) における顕著な非単調パターンである。
論文 参考訳（メタデータ） (2026-04-02T15:25:13Z) - e1: Learning Adaptive Control of Reasoning Effort [88.51897900019485]
AIモデルの思考予算の増大は、精度を大幅に向上させるが、すべての質問が同じ量の推論を保証しているわけではない。
ユーザは、アウトプットの品質を、レイテンシやコストに対してどのように評価するかによって、さまざまな理由付けの労力を割り当てる傾向があります。
本稿では,ユーザが指定したトークン数を用いてモデルを学習する自己適応型強化学習手法であるAdaptive Effort Controlを提案する。
論文 参考訳（メタデータ） (2025-10-30T23:12:21Z) - SIM-CoT: Supervised Implicit Chain-of-Thought [108.30049193668083]
Implicit Chain-of-Thought(CoT)メソッドは、大規模言語モデルにおける明示的なCoT推論に代わるトークン効率の代替手段を提供する。
暗黙的なCoTの計算予算をスケールする際の中核的な不安定性問題を特定する。
そこで我々はSIM-CoTを提案する。SIM-CoTは,遅延推論空間を安定化・拡張するためのステップレベルの監視を実現するモジュールである。
論文 参考訳（メタデータ） (2025-09-24T17:01:32Z) - From Continual Learning to SGD and Back: Better Rates for Continual Linear Models [50.11453013647086]
以前見られたタスクの損失を、$k$の繰り返しの後、忘れること、すなわち、分析する。
実現可能な最小二乗の設定において、新しい最上界を創出する。
我々は、タスクを繰り返しないランダム化だけで、十分に長いタスクシーケンスで破滅的な事態を防げることを初めて証明した。
論文 参考訳（メタデータ） (2025-04-06T18:39:45Z) - Self-Evaluation Guided Beam Search for Reasoning [61.523627290397556]
我々は,Large Language Model (LLM) の推論プロセスのガイドと校正を行うための段階的自己評価機構を導入する。
本稿では,ビームサーチによる自己評価ガイダンスを統合した復号アルゴリズムを提案する。
我々のアプローチは、GSM8K、AQuA、StrategyQAにおいて、対応するCodexバックボンドベースラインをわずかに精度6.34%、9.56%、および5.46%で上回る。
論文 参考訳（メタデータ） (2023-05-01T02:37:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。