論文の概要: Early Stopping in Large Reasoning Models: A Survey and Empirical Audit of Efficiency and Reliability
- arxiv url: http://arxiv.org/abs/2611.00166v1
- Date: Fri, 30 Oct 2026 11:39:08 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 20:14:44.743429
- Title: Early Stopping in Large Reasoning Models: A Survey and Empirical Audit of Efficiency and Reliability
- Title（参考訳）: 大規模推論モデルの早期停止:効率性と信頼性に関する調査と実証監査
- Abstract要約: 早期停止メソッドは、答えられる十分な推論が得られれば、停止することを目的としている。
数学的および科学的推論,コード生成,事実性タスクにおいて,5つの推論モデルにまたがる異なる手法を評価する。
また、後続の出口位置での正当性、モデルとタスク間の移動、停止後の推論継続、正当化品質の維持についても検討した。
- 参考スコア（独自算出の注目度）: 14.663367374051967
- License:
- Abstract: Large reasoning models can improve accuracy by generating longer reasoning traces, but some of this computation may be unnecessary. Early-stopping methods aim to stop once enough reasoning is available to answer. Evaluating these methods requires accounting for the cost of deciding when to stop and the reliability of the resulting answer. We evaluate different methods across five reasoning models on mathematical and scientific reasoning, code generation, and factuality tasks by using a shared rollout replay protocol. We introduce Target-Integrated Token Efficiency (TITE) to measure efficiency relative to the oracle across accuracy targets. We also examine correctness at later exit positions, transfer across models and tasks, post-stop reasoning continuation, and retained justification quality. In our experiments, correctness can decrease at later positions beyond what the fitted decoding-noise model predicts. Reliability checks also reveal continued reasoning after forced termination and weaker supporting reasoning in some correct early-stopping outputs. The implementation can be found in https://github.com/hung20gg/audit-early-stopping.
- Abstract（参考訳）: 大きな推論モデルは、より長い推論トレースを生成することによって精度を向上させることができるが、この計算のいくつかは不要かもしれない。
早期停止メソッドは、答えられる十分な推論が得られれば、停止することを目的としている。
これらの方法を評価するには、いつ停止するかを決めるコストと、結果の回答の信頼性を考慮する必要がある。
我々は,共有ロールアウト・リプレイ・プロトコルを用いて,数学的および科学的推論,コード生成,事実性に関する5つの推論モデルにまたがる異なる手法の評価を行った。
本稿では, 精度目標間のオラクルに対する効率を測定するために, TITE(Target-Integrated Token efficiency)を導入する。
また、後続の出口位置での正当性、モデルとタスク間の移動、停止後の推論継続、正当化品質の維持についても検討した。
実験では, 適応復号-雑音モデルが予測する以上の位置で, 精度が低下する可能性がある。
信頼性チェックはまた、いくつかの正しい早期停止アウトプットにおいて、強制的な終了とより弱いサポート推論の後に、継続的な推論を明らかにしている。
実装はhttps://github.com/hung20gg/audit-early-stoppingで見ることができる。
関連論文リスト
- When Confidence Rises Too Early: Detecting Shortcut Reasoning via Premature Answer Commitment [76.62469105933384]
大規模言語モデル (LLM) は、ある答えにたどり着くためのショートカットを頼りにし、その決定を合理化する。
ConfLensは、推論を通じて最終的な回答における信頼の進化を追跡するフレームワークです。
本稿では,解答コミットメントに対する確率分布のエントロピーを測定するために,DACS(Distributal Answer Commitment Score)を提案する。
論文 参考訳（メタデータ） (2026-09-28T13:00:25Z) - Understanding and Mitigating Premature Confidence for Better LLM Reasoning [76.16007941549857]
現在の言語モデルからの思考の長い連鎖(CoT)は、しばしば論理的ギャップと不正な跳躍を含んでいる。
このような信号は、モデルの信頼性が推論中にどのように進化するかを示す。
これは、モデルを早期にコミットするのではなく、理由によってモデルの信頼性を更新するように訓練する強化学習の目標です。
論文 参考訳（メタデータ） (2026-05-23T04:42:45Z) - Early Stopping for Large Reasoning Models via Confidence Dynamics [55.67938134245981]
大きな推論モデルは複雑な問題を解決するために長い連鎖生成に依存している。
重要な課題は、いつモデルが推論を止めて最終回答を生み出すべきかを決定することです。
中間回答の信頼性のダイナミクスを利用して推論をいつ終了するかを判断する早期停止手法であるCoDE-Stopを提案する。
論文 参考訳（メタデータ） (2026-04-06T17:59:45Z) - Your Models Have Thought Enough: Training Large Reasoning Models to Stop Overthinking [50.97239453902612]
大規模推論モデル(LRM)は、困難なタスクにおいて顕著なパフォーマンスを達成したが、その深い推論はしばしばかなりの計算コストを発生させる。
Evidence Accumulation Modelsにインスパイアされて、LEMは推論の初期段階で十分な情報を蓄積し、さらなる推論ステップを冗長にすることがわかった。
不要な推論を積極的に終了させるためにモデルを訓練するJust-Enough Thinking (JET)を提案する。
論文 参考訳（メタデータ） (2025-09-27T16:25:06Z) - Answer Convergence as a Signal for Early Stopping in Reasoning [7.51755942515969]
大型言語モデル(LLM)における思考の連鎖(CoT)の促進
提案手法は,(1)応答整合性による早期停止,(2)終末信号発生確率の向上,(3)内部アクティベーションに基づいていつ停止するかを学習する教師付き手法である。
論文 参考訳（メタデータ） (2025-06-03T07:20:54Z) - Reasoning Models Know When They're Right: Probing Hidden States for Self-Verification [23.190823296729732]
本研究は,仮説モデルが解答正解性に関する情報を隠蔽状態の探索によって符号化するかどうかを考察する。
得られたプローブは、中間回答を高い精度で検証し、高度に校正されたスコアを生成する。
論文 参考訳（メタデータ） (2025-04-07T18:42:01Z) - O1-Pruner: Length-Harmonizing Fine-Tuning for O1-Like Reasoning Pruning [98.3430004984531]
精度を維持しながら推論オーバーヘッドを最小限に抑えるため,Longth-Harmonizing Fine-Tuning (O1-Pruner)を提案する。
私たちのコードはもうすぐhttps://github.com/StarDewXXX/O1-Pruner.comで公開されます。
論文 参考訳（メタデータ） (2025-01-22T01:35:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。