論文の概要: Constructing Pareto Frontiers of Optimal Reasoning Termination Methods for Overthinking in Reasoning Models

• arxiv url: http://arxiv.org/abs/2610.13570v1
• Date: Fri, 09 Oct 2026 13:22:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.590191
• Title: Constructing Pareto Frontiers of Optimal Reasoning Termination Methods for Overthinking in Reasoning Models
• Title（参考訳）: 最適推論終端法のパレートフロンティアの構築
• Abstract要約: 推論モデルはテスト時のスケーリングの恩恵を受けることができるが、継続する推論は効果がないか有害になりかねない。 ステップワイド・トランケーション・プロービング (STP) を導入し、各固定標本推論軌道に沿って複数の保持プレフィックスから繰り返し回答を生成する。 次に、異なる戦略の理論的緩和ポテンシャルを定量化するために、統一された枠組み内で動的ルーティング、固定予算、動的早期出口を定式化する。
• 参考スコア（独自算出の注目度）: 34.90786086662349
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Reasoning models can benefit from test-time scaling, but continued reasoning may become ineffective or harmful, a phenomenon termed overthinking. Evaluations against full thinking compare accuracy and token usage but lack references for overthinking severity and strategies' theoretical mitigation potential. To characterize overthinking at the model-task level, we first introduce Step-wise Truncation Probing (STP), repeatedly generating answers from multiple retained prefixes along each fixed sampled reasoning trajectory. Using each trajectory's earliest measured position attaining maximum empirical accuracy as a reference, we define Overthinking Ratio and Accuracy Degradation as the fraction of thinking tokens generated afterward and the accuracy decrease from this reference to full thinking, respectively. Secondly, we then formulate dynamic routing, fixed budgets, and dynamic early exit within a unified framework to quantify the theoretical mitigation potential of different termination strategies. Based on this unified framework, we use the complete STP measurements to construct a token-accuracy Pareto frontier for each strategy under a common normalized thinking-token budget. We further develop OTBench, a reusable benchmark built from the STP process, which produced 70.5B reasoning tokens and the corresponding probing measurements across six models and four benchmark groups.
• Abstract（参考訳）: 推論モデルはテスト時のスケーリングの恩恵を受けることができるが、継続する推論は効果がないか有害になりかねない。 完全な思考に対する評価は正確さとトークンの使用量を比較するが、重大さと戦略の理論的緩和の可能性について過度に考える基準は欠如している。 モデル・タスクレベルでの過度な思考を特徴付けるために,まずステップワイド・トランケーション・プロブリング(STP)を導入し,固定された各推論軌道に沿って複数の保持プレフィックスから繰り返し回答を生成する。 実験精度を最大化できる各軌道の最も早い位置を基準として、後から生成された思考トークンの分数として、また、この基準から全思考への精度を減少させることとして、オーバーライド比と精度劣化を定義した。 次に、動的ルーティング、固定予算、動的早期退避を統一された枠組み内で定式化し、異なる終了戦略の理論的緩和ポテンシャルを定量化する。 この統合された枠組みに基づき、共通的な正規化思考予算の下で、トークン精度のParetoフロンティアを構築するために、完全なSTP測定を使用する。 さらに、STPプロセスから構築された再利用可能なベンチマークOTBenchを開発し、6つのモデルと4つのベンチマークグループで70.5Bの推論トークンと対応する探索測定値を生成した。

関連論文リスト

• RATIO: Reasoning Analysis and Token-level Inference Optimization for Quantized Reasoning Models [32.127211498426824]
  学習後量子化(PTQ)は,大規模言語モデル(LLM)のメモリフットプリントと推論コストを削減する手法として広く採用されている。 本稿では,モデル固有の過剰なトークンを識別し,それぞれに適切なペナルティを割り当てるフレームワークである推論分析とトークンレベルの推論最適化(RATIO)を提案する。 RATIOは最大9.8ポイントの精度向上を実現し、量子化されたベースラインと比較して最大51.3%のチェーン・オブ・シント(CoT)長を減少させる。
  論文  参考訳（メタデータ） (2026-09-30T14:14:24Z)
• Improving reasoning at inference time via uncertainty minimisation [1.9145422469692004]
  本稿では,不確実性を最小化するための原則的戦略を提案する。 提案手法は,各推論ステップにおいて,モデルの自己確実性を最大化する継続を選択する。 初期段階に適用した自己確実性最大化は,性能向上のほとんどを説明することができることを示す。
  論文  参考訳（メタデータ） (2026-03-07T11:39:06Z)
• Efficient Thought Space Exploration through Strategic Intervention [54.35208611253168]
  本稿では,この知見を2つの相乗的コンポーネントを通して操作するHint-Practice Reasoning(HPR)フレームワークを提案する。 フレームワークの中核となる革新は、動的に介入点を識別する分散不整合低減(DIR)である。 算術的および常識的推論ベンチマークによる実験は、HPRの最先端の効率-精度トレードオフを実証している。
  論文  参考訳（メタデータ） (2025-11-13T07:26:01Z)
• A Theoretical Study on Bridging Internal Probability and Self-Consistency for LLM Reasoning [31.861874030715953]
  サンプリングに基づくテスト時間スケーリング手法を解析するための最初の理論的枠組みを提供する。 RPCは2つの重要なコンポーネント、パープレキシティ・一貫性と推論・プルーニングを通じて、理論的な洞察を活用するハイブリッド手法です。 RPCは、信頼性を向上するだけでなく、サンプリングコストを50%削減しながら、自己整合性に匹敵する推論性能を達成する。
  論文  参考訳（メタデータ） (2025-10-17T08:59:30Z)
• T-TAMER: Provably Taming Trade-offs in ML Serving [32.526955555483354]
  我々は、この設定を多段階決定プロセスとして定式化する一般的なフレームワーク、T-Tamerを提案する。 我々の主な結果は、リコールは、証明可能なパフォーマンス保証を達成するのに必要であり、十分であることを示している。 その結果、リコールベースの戦略は効率のよいレイテンシトレードオフをもたらすことがわかった。
  論文  参考訳（メタデータ） (2025-09-26T23:08:03Z)
• Stop Spinning Wheels: Mitigating LLM Overthinking via Mining Patterns for Early Reasoning Exit [114.83867400179354]
  オーバーライドは、大きな言語モデル全体のパフォーマンスを低下させる可能性がある。 推論は, 探索段階の不足, 補償推論段階, 推論収束段階の3段階に分類される。 我々は,ルールに基づく軽量なしきい値設定戦略を開発し,推論精度を向上させる。
  論文  参考訳（メタデータ） (2025-08-25T03:17:17Z)
• Let LRMs Break Free from Overthinking via Self-Braking Tuning [68.93713497579853]
  大きな推論モデル(LRM)は思考の長い連鎖を生成することによって推論能力を著しく向上させた。 この性能向上は、生成プロセス中の冗長な推論を大幅に増加させるコストが伴う。 本稿では、モデルが独自の推論プロセスを制御することを許容する観点から、過度に検討する新しいフレームワーク、Self-Braking Tuning(SBT)を提案する。
  論文  参考訳（メタデータ） (2025-05-20T16:53:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。