論文の概要: When Should Agents Think? Adaptive Reasoning via Cross-Turn Estimation
- arxiv url: http://arxiv.org/abs/2610.12061v1
- Date: Thu, 08 Oct 2026 14:43:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:54.082195
- Title: When Should Agents Think? Adaptive Reasoning via Cross-Turn Estimation
- Title(参考訳): エージェントはいつ考えるべきか : クロススレッド推定による適応推論
- Abstract要約: 本稿では,適応エージェント推論のためのトレーニング手法として,クロスツーリング推定(RACE)による推論適応を提案する。
RACEは、削除が現在のおよびその後の参照アクションに限定的な影響を持つ推論ターンを特定する。
4つの代表エージェントベンチマークの実験により、RASはタスク性能を維持したり改善したりしながら、推論コストを大幅に削減することが示された。
- 参考スコア(独自算出の注目度): 107.3164703390355
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language model (LLM)-based agents have demonstrated strong capabilities on complex tasks. They typically perform reasoning before each action throughout an interaction trajectory. However, reasoning may not be necessary at every turn, as reasoning produced earlier can continue to support subsequent actions. A key challenge is therefore to determine when existing reasoning remains sufficient and when a new reasoning step is needed, without relying on costly generation-based verification. We find that decreases in the likelihood of subsequent reference actions after removing additional reasoning closely track whether those actions remain recoverable given earlier reasoning, providing an effective and lightweight signal for estimating cross-turn action support. Based on this observation, we propose Reasoning Adaptation through Cross-Turn Estimation (RACE), a training approach for adaptive agent reasoning. RACE introduces a Likelihood-Guided Progressive Reasoning Cover Detection (LoGiC) procedure that progressively identifies reasoning turns whose removal has limited impact on the current and subsequent reference actions. The resulting removal signals are incorporated into both supervised fine-tuning and agentic reinforcement learning, enabling the policy to learn when to reason and when to act directly. Extensive experiments on four representative agent benchmarks show that RACE substantially reduces reasoning cost while maintaining or improving task performance.
- Abstract(参考訳): 大規模言語モデル(LLM)ベースのエージェントは、複雑なタスクに対して強力な機能を示す。
それらは通常、相互作用軌跡を通して各アクションの前に推論を行う。
しかし、より早い段階での推論はその後の行動を支持し続けることができるため、すべてのターンで推論は必要ないかもしれない。
したがって、重要な課題は、コストのかかる世代ベースの検証に頼ることなく、既存の推論がいつ十分で、いつ新しい推論ステップが必要かを判断することである。
追加の推論を除去した後の参照動作の可能性の低下は、これらの動作が早期の推論により回復可能かどうかを綿密に追跡し、クロスターン動作支援を推定するための効果的で軽量な信号を提供する。
そこで本研究では,適応エージェント推論のための学習手法であるRACE(Cross-Turn Estimation)による推論適応を提案する。
RACE は Likelihood-Guided Progressive Reasoning Cover Detection (LoGiC) というプロシージャを導入している。
結果として得られる除去信号は、教師付き微調整とエージェント強化学習の両方に組み込まれ、政策がいつ、いつ、いつ、直接行動すべきかを学ぶことができる。
4つの代表エージェントベンチマークの大規模な実験により、RASはタスク性能を維持したり改善したりしながら、推論コストを大幅に削減することが示された。
関連論文リスト
- Cognitive Demand Steering for Adaptive Meta-Reasoning in Large Language Models [12.235165912578095]
認知的デマンドステアリング(Cognitive Demand Steering)は、残留需要評価を備えたトレーニングフリーなメタ推論フレームワークである。
3つのフロンティアLCMと6つの推論ベンチマークで比較すると、CDSは直接呼び出しで21.9%、標準のCoT推論で9%の精度向上を実現している。
論文 参考訳(メタデータ) (2026-08-02T15:41:12Z) - RICE-PO: Turning Retrieval Interactions into Credit Signals for Reasoning Agents [37.33108522642245]
本稿では,検索インタラクションを局所的な学習信号に変換する,批判のないポリシー最適化フレームワークであるRICE-POを提案する。
BRIGHTとBEIRでは、RICE-POはプロンプトベースのエージェントとグループベースのRLベースラインを同じレシーバー設定で一貫して上回る。
論文 参考訳(メタデータ) (2026-05-25T21:56:29Z) - When Is Thinking Enough? Early Exit via Sufficiency Assessment for Efficient Reasoning [52.21239821135325]
本稿では、効率的な推論のための新しいフレームワークDTSR(Dynamic Thought Sufficiency in Reasoning)を紹介する。
人間のメタ認知にインスパイアされたDTSRは、リフレクションシグナルモニタリングとThought Sufficiency Checkという2つの段階で動作する。
DTSRは推論長を28.9%から34.9%削減し、性能損失を最小限に抑えている。
論文 参考訳(メタデータ) (2026-04-08T07:56:28Z) - When Should a Robot Think? Resource-Aware Reasoning via Reinforcement Learning for Embodied Robotic Decision-Making [68.12864562049957]
身体ロボットシステムは、高レベルの推論をサポートするために、大規模言語モデル(LLM)ベースのエージェントにますます依存している。
エージェントはいつ、いつ、いつ行動すべきか?
本稿では,エンボディエージェントのリソース・アウェア・オーケストレーションのための階層的なフレームワークであるRARRL(Resource-Aware Reasoning via Reinforcement Learning)を提案する。
論文 参考訳(メタデータ) (2026-03-17T15:38:50Z) - APR: Penalizing Structural Redundancy in Large Reasoning Models via Anchor-based Process Rewards [61.52322047892064]
テスト時間スケーリング(TTS)は、Large Reasoning Models(LRM)の機能を大幅に強化した。
我々は, LRM が推論過程において最終回答を得た後も, 再検討なしに反復的自己検証を頻繁に行うことを観察した。
本稿では,Anchor-based Process Reward (APR)を提案する。
論文 参考訳(メタデータ) (2026-01-31T14:53:20Z) - ReaRAG: Knowledge-guided Reasoning Enhances Factuality of Large Reasoning Models with Iterative Retrieval Augmented Generation [38.64751082999587]
大きな推論モデル(LRM)は、顕著な推論能力を示すが、主にパラメトリック知識に依存し、事実の正確性を制限する。
本稿では,過剰な反復を伴わない多様なクエリを探索する,事実性強化推論モデルReaRAGを提案する。
我々の研究は、レトリーバル強化世代(RAG)のロバスト推論を効果的に統合しつつ、LRMの事実性を向上する。
論文 参考訳(メタデータ) (2025-03-27T17:44:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。