論文の概要: SuCo: Sufficiency-guided Continuous Adaptive Reasoning
- arxiv url: http://arxiv.org/abs/2606.17687v1
- Date: Tue, 16 Jun 2026 08:52:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-17 17:15:32.364341
- Title: SuCo: Sufficiency-guided Continuous Adaptive Reasoning
- Title(参考訳): SuCo: 十分誘導された継続的適応推論
- Authors: Jiahao Wang, Bingyu Liang, Chenhao Hu, Longhui Zhang, Xuebo Liu, Min zhang, Jing Li, Xuelong Li,
- Abstract要約: 大型共振モデル(LRM)は、しばしば超長鎖(CoT)を生成する。
この非効率を緩和するための既存の取り組みは、通常、個別の推論モードや固定予算層に依存します。
我々は,CoTトラジェクトリの最短接頭辞として定義された最小サフィシエント CoT (MSC) を導入する。
- 参考スコア(独自算出の注目度): 59.17222918775686
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Despite remarkable performance on complex tasks, Large Reasoning Models (LRMs) often generate excessively long Chain-of-Thoughts (CoT), inflating computational costs even for simple queries. Existing efforts to mitigate this inefficiency typically rely on discrete reasoning modes or fixed budget tiers, lacking a principled criterion of when reasoning is sufficient. In this work, we introduce Minimal Sufficient CoT (MSC), defined as the shortest prefix of a CoT trajectory which is adequate for producing the correct answer. We empirically show that MSC not only reduces reasoning tokens, but also improves accuracy across difficulty levels. Building on MSC, we propose Sufficiency-guided Continuous Adaptive Reasoning (SuCo), a two-stage training framework for autonomous reasoning control along a continuous spectrum. In stage 1, MSC-Aligned Fine-Tuning (MFT) constructs MSC data using problem-adaptive sufficiency thresholds that naturally scale with question difficulty, then fine-tunes the model to internalize concise yet sufficient reasoning patterns. In stage 2, Sufficiency-Aware Policy Optimization (SAPO) further optimizes the model through reinforcement learning with dynamic complexity tracking and sufficiency-aware rewards that penalize both over- and under-thinking. Extensive experiments across mathematics, code, and science benchmarks show that SuCo consistently achieves improvements in both accuracy and reasoning efficiency.
- Abstract(参考訳): 複雑なタスクにおける顕著な性能にもかかわらず、Large Reasoning Models (LRMs) は、単純なクエリであっても計算コストを膨らませる、過度に長いChain-of-Thoughts (CoT) を生成する。
この非効率を緩和するための既存の努力は、通常、個別の推論モードや固定された予算階層に依存し、推論が十分である場合の原則的な基準を欠いている。
そこで本研究では,CoTトラジェクトリの最短接頭辞として定義されている最小サフィシエント CoT (MSC) について述べる。
我々は,MSCが推論トークンを削減するだけでなく,難易度を越えた精度を向上させることを実証的に示す。
連続スペクトルに沿って自律的推論制御を行うための2段階のトレーニングフレームワークSuCo(Sufficiency-Guided Continuous Adaptive Reasoning)を提案する。
ステージ1では、MSC-Aligned Fine-Tuning (MFT) が問題適応型の十分性しきい値を用いてMSCデータを構築し、質問の難易度に応じて自然にスケールし、そのモデルを微調整して、簡潔で十分な推論パターンを内部化する。
ステージ2では、Sufficiency-Aware Policy Optimization (SAPO) は、動的複雑性追跡による強化学習と、過度と過度の両方を罰するSufficiency-Aware rewardsにより、モデルをさらに最適化する。
数学、コード、科学ベンチマークにわたる大規模な実験は、SuCoが精度と推論効率の両方の改善を一貫して達成していることを示している。
関連論文リスト
- Thinking Economically: A Hierarchical Framework for Adaptive-Complexity Reasoning in LLMs [36.73612668202756]
HABは、PPL由来のステップ比較からステップ固有のトークン予算信号を学ぶ。
GSM8KとMATH500の実験では、HABが標準的なCoTを超えるだけでなく、トークンの使用量を減らすことが示されている。
論文 参考訳(メタデータ) (2026-05-31T11:20:00Z) - Batched Contextual Reinforcement: A Task-Scaling Law for Efficient Reasoning [11.094089165730383]
Batched ConThought Reinforcementは、効率的な推論を解放する、最小限のシングルステージトレーニングパラダイムである。
BCRはトークンの使用量を15.8%減らして62.6%に削減し、精度を継続的に維持または改善することを示した。
これらの結果はBCRの実践性を証明し、大規模言語モデルにおける潜在高密度推論の単純な構造インセンティブを示す。
論文 参考訳(メタデータ) (2026-04-02T17:58:50Z) - Stable Adaptive Thinking via Advantage Shaping and Length-Aware Gradient Regulation [14.501114943020589]
大規模推論モデル(LRM)は、拡張された推論トレースを通じて強力な性能を達成する。
LRMは低複雑さのクエリに対して過度な振る舞いを示すことが多い。
LRMにおける安定的適応的思考のための2段階のフレームワークを提案する。
論文 参考訳(メタデータ) (2026-02-26T02:49:36Z) - Constraint-Rectified Training for Efficient Chain-of-Thought [60.52883907721588]
CoT (Chain-of-Thought) は,Large Language Models (LLMs) の推論能力を大幅に向上させた。
より長い推論トレースは、自己訂正のような回答の品質とアンロック能力を改善することができるが、高い推論コストを発生させ、過度に考えることとして知られる冗長なステップをしばしば導入する。
近年の研究は、推論の長さと精度のバランスをとる効率的な推論戦略の開発を目指している。
論文 参考訳(メタデータ) (2026-02-13T02:13:45Z) - Sycophancy Mitigation Through Reinforcement Learning with Uncertainty-Aware Adaptive Reasoning Trajectories [58.988535279557546]
適応推論トラジェクトリを用いたtextbf sycophancy Mitigation を提案する。
SMARTは,分布外の入力に対して強い性能を維持しながら,サイコファンティクスの挙動を著しく低下させることを示した。
論文 参考訳(メタデータ) (2025-09-20T17:09:14Z) - Less is More Tokens: Efficient Math Reasoning via Difficulty-Aware Chain-of-Thought Distillation [82.2288581878096]
本稿では,問題複雑性に基づいてモデルに推論深度を動的に調整する難易度推論の枠組みを提案する。
モデルにそのような動的推論経路を与えることができ、アーキテクチャ上の変更を加えることなく実現可能であることを示す。
論文 参考訳(メタデータ) (2025-09-05T16:40:13Z) - AdaCoT: Pareto-Optimal Adaptive Chain-of-Thought Triggering via Reinforcement Learning [30.265984245328124]
Chain-of-Thoughtは、すべてのクエリに対する長い推論ステップを無差別に生成する。
AdaCoT(Adaptive Chain-of-Thought)は、LLMがCoTを呼び出すタイミングを適応的に決定できる新しいフレームワークである。
重要な技術的貢献はSLM(Selective Loss Masking)であり、決定境界崩壊の防止を目的としている。
論文 参考訳(メタデータ) (2025-05-17T08:27:00Z) - When More is Less: Understanding Chain-of-Thought Length in LLMs [51.631483479081645]
大規模言語モデル(LLM)は複雑な問題を分解するためにChain-of-Thought(CoT)推論を用いる。
本稿は、長いCoTがより優れていると仮定されることがしばしばあり、長いCoTが常に優れているとは限らない、と論じる。
論文 参考訳(メタデータ) (2025-02-11T05:28:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。