論文の概要: SAT: Balancing Reasoning Accuracy and Efficiency with Stepwise Adaptive Thinking
- arxiv url: http://arxiv.org/abs/2604.07922v1
- Date: Thu, 09 Apr 2026 07:44:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-10 18:34:05.772985
- Title: SAT: Balancing Reasoning Accuracy and Efficiency with Stepwise Adaptive Thinking
- Title(参考訳): SAT: ステップワイド適応思考による推論精度と効率のバランス
- Authors: Weiyang Huang, Xuefeng Bai, Kehai Chen, Xinyang Chen, Yibin Chen, Weili Guan, Min Zhang,
- Abstract要約: ステップワイズ・アダプティブ・シンキング(SAT)は、中核的な推論構造を維持しながらステップレベル、難易度を認識したプルーニングを実行するフレームワークである。
SATは、異なる思考モード(スロー、ノーマル、ファスト、スキップ)を持つ有限状態機械(FSM)としての推論を定式化する
9つの LRM と 7 のベンチマークでの実験では、SAT はトークンの推論を最大40%削減し、一般に正確性を維持または改善している。
- 参考スコア(独自算出の注目度): 46.009959712786774
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large Reasoning Models (LRMs) have revolutionized complex problem-solving, yet they exhibit a pervasive "overthinking", generating unnecessarily long reasoning chains. While current solutions improve token efficiency, they often sacrifice fine-grained control or risk disrupting the logical integrity of the reasoning process. To address this, we introduce Stepwise Adaptive Thinking (SAT), a framework that performs step-level, difficulty-aware pruning while preserving the core reasoning structure. SAT formulates reasoning as a Finite-State Machine (FSM) with distinct thinking modes (Slow, Normal, Fast, Skip). It navigates these states dynamically using a lightweight Process Reward Model (PRM), compressing easy steps while preserving depth for hard ones. Experiments across 9 LRMs and 7 benchmarks show that SAT achieves up to 40% reduction in reasoning tokens while generally maintaining or improving accuracy.
- Abstract(参考訳): 大規模推論モデル(LRM)は複雑な問題解決に革命をもたらしたが、広範に「過剰な思考」を示し、必然的に長い推論連鎖を生み出した。
現在のソリューションではトークン効率が向上する一方で、細かい制御や推論プロセスの論理的整合性を阻害するリスクを犠牲にすることが多い。
これを解決するために、我々は、中核的な推論構造を保ちながら、ステップレベルで難易度の高いプルーニングを行うフレームワークである、ステップワイド適応思考(SAT)を紹介した。
SAT は、異なる思考モード (Slow, Normal, Fast, Skip) を持つ有限状態機械 (FSM) として推論を定式化している。
軽量のProcess Reward Model(PRM)を使用してこれらの状態を動的にナビゲートし、ハードなステップの深さを保ちながら簡単なステップを圧縮する。
9つの LRM と 7 のベンチマークでの実験では、SAT はトークンの推論を最大40%削減し、一般に正確性を維持または改善している。
関連論文リスト
- Controlling Thinking Speed in Reasoning Models [57.14541748751654]
人間の認知は、高速で直感的なシステム1思考と遅いシステム2思考の2つのモードで動作する。
本研究では,LRMが動的思考速度調整によって人間の知能を近似することを可能にする。
提案手法は, LRMにおける思考速度の制御方法と, 最適性能をいつ調整するかという2つの重要な問題に対処する。
論文 参考訳(メタデータ) (2025-07-04T16:41:06Z) - The Price of a Second Thought: On the Evaluation of Reasoning Efficiency in Large Language Models [54.88805865447848]
モデルが全体の効率を向上し,問題の難しさが効率に影響を及ぼすことを示す。
インストラクションモデルが簡単なアウトラインをドラフトし,思考モデルがそれを拡張する,シンプルな2段階パイプラインであるCOTHINKを提案する。
GSM8K、MATH500、AIME24では、COTHINKはトークンの使用量を21.1%削減し、4つの思考モデルの精度を維持し、強力な効率のベースラインと競争し続ける。
論文 参考訳(メタデータ) (2025-05-28T06:24:45Z) - Sketch-of-Thought: Efficient LLM Reasoning with Adaptive Cognitive-Inspired Sketching [64.74765550805024]
Chain-of-Thoughtはステップバイステップの問題解決を促すが、中間出力の過剰な冗長性を犠牲にすることが多い。
我々は,認知にインスパイアされた推論パラダイムを言語制約と統合する促進フレームワークであるSketch-of-Thought(SoT)を提案する。
SoTはトークンを最大84%削減し、18の推論データセットで最小限の精度ロスを達成している。
論文 参考訳(メタデータ) (2025-03-07T06:57:17Z) - DAST: Difficulty-Adaptive Slow-Thinking for Large Reasoning Models [30.184895117009457]
本稿では,問題の難易度に基づいて,モデルが自律的にChain-of-Thought(CoT)の長さを調整できる,DAST(Difficulty-Adaptive Slow Thinking)を提案する。
多様なデータセットとモデルスケールの実験により、DASTは複雑な問題に対する推論精度を維持しながら、過剰思考を効果的に軽減することを示した。
論文 参考訳(メタデータ) (2025-03-06T14:23:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。