論文の概要: AdaThinking-E: One-Token Entropy Regulation for Adaptive Thinking

• arxiv url: http://arxiv.org/abs/2608.26141v1
• Date: Fri, 26 Jun 2026 08:50:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.361128
• Title: AdaThinking-E: One-Token Entropy Regulation for Adaptive Thinking
• Title（参考訳）: AdaThinking-E:適応思考のためのワンツーケンエントロピー制御
• Abstract要約: AdaThinking-Eは,一対一のエントロピー制御によって適応的思考を学習する新しい強化学習フレームワークである。 我々のキーとなる洞察は、予測された確率分布のエントロピー解析により、思考(またはそうでない)に関わる決定におけるモデル信頼度を定量化できるということである。 このアプローチにより、手動の介入や外部の難易度ラベルを必要とせずに、モデルが本質的にいつ考えるべきかを発見することができる。
• 参考スコア（独自算出の注目度）: 43.850645709149774
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multimodal large language models have demonstrated strong document reasoning capabilities by incorporating explicit thinking processes. While this capability significantly improves performance on challenging tasks, current models apply such deep reasoning uniformly to all questions, resulting in unnecessary computational overhead for simple task. This not only degrades user experience but also negatively impact accuracy on benchmark datasets. We identify the critical need for adaptive thinking mechanisms that can intelligently determine when to engage reasoning based on question complexity. To address this, we propose AdaThinking-E, a novel reinforcement learning framework that learns adaptive thinking through one-token entropy regulation. Our key insight is that model confidence in the decision to engage thinking (or not) can be quantified through entropy analysis of the predicted probability distribution at critical decision tokens. This observation motivates our entropy-governed reward mechanism: the training process naturally transitions from high-entropy exploration, where the model experiments with different thinking strategies, to low-entropy convergence with confident, generalizable decision-making policies. Crucially, this approach enables models to intrinsically discover when to think without requiring manual intervention or external difficulty labels. Extensive experiments demonstrate that our approach enables models to be both accurate on complex problems and efficient on simple ones across diverse document tasks.
• Abstract（参考訳）: マルチモーダルな大規模言語モデルは、明示的な思考プロセスを組み込むことで、強力な文書推論能力を示した。 この能力は難解なタスクのパフォーマンスを著しく向上させるが、現在のモデルでは全ての質問に対して一様に深い推論を適用し、単純なタスクに対して不要な計算オーバーヘッドをもたらす。 これはユーザエクスペリエンスを劣化させるだけでなく、ベンチマークデータセットの精度にも悪影響を及ぼす。 質問複雑度に基づく推論をいつ行うべきかを知的に決定できる適応的思考機構の重要要件を同定する。 そこで本研究では,一対一のエントロピー制御により適応的思考を学習する新しい強化学習フレームワークであるAdaThinking-Eを提案する。 我々の重要な洞察は、思考に関わる決定におけるモデル信頼度は、臨界決定トークンにおける予測確率分布のエントロピー解析によって定量化できるということである。 トレーニングプロセスは、異なる思考戦略でモデルを実験する高エントロピー探索から、自信を持って一般化可能な意思決定ポリシーで低エントロピー収束へと自然に移行します。 重要なことに、このアプローチは、手動の介入や外部の難易度ラベルを必要とせずに、モデルが本質的にいつ考えるべきかを発見することを可能にする。 大規模な実験により、我々の手法は複雑な問題に対して正確であり、様々な文書タスクにおいて単純な問題に対して効率的であることを示す。

関連論文リスト

• Explore Briefly, Then Decide: Mitigating LLM Overthinking via Cumulative Entropy Regulation [82.62935304152239]
  大規模言語モデル(LLM)は、長いチェーン・オブ・ソート(CoT)推論を用いた複雑な問題に対する顕著な推論能力を示した。 しばしば過度の思考に悩まされ、単純な問題に対して必要以上に長い推論ステップが生じる。 本稿では, 推論過程を通じて探索範囲を計測する新しい計量量であるToken Entropy Cumulative Average(TECA)を紹介する。
  論文  参考訳（メタデータ） (2025-10-02T17:36:50Z)
• AdapThink: Adaptive Thinking Preferences for Reasoning Language Model [32.47427081297578]
  強化学習(RL)に基づくポストトレーニングは、言語モデルの複雑な推論能力を大幅に向上させた。 しかし、この緩やかな思考のパラダイムは、効率を推理する上で重要な課題である。 より効率的な思考を促すために,適応的なポストトレーニングフレームワークAdapThinkを提案する。
  論文  参考訳（メタデータ） (2025-06-23T02:06:04Z)
• Let LRMs Break Free from Overthinking via Self-Braking Tuning [68.93713497579853]
  大きな推論モデル(LRM)は思考の長い連鎖を生成することによって推論能力を著しく向上させた。 この性能向上は、生成プロセス中の冗長な推論を大幅に増加させるコストが伴う。 本稿では、モデルが独自の推論プロセスを制御することを許容する観点から、過度に検討する新しいフレームワーク、Self-Braking Tuning(SBT)を提案する。
  論文  参考訳（メタデータ） (2025-05-20T16:53:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。