論文の概要: Second Thought: Reasoning in Parallel as LLM Agents Act and Observe
- arxiv url: http://arxiv.org/abs/2608.13667v1
- Date: Thu, 13 Aug 2026 18:04:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-17 20:14:29.181668
- Title: Second Thought: Reasoning in Parallel as LLM Agents Act and Observe
- Title(参考訳): 第二の考え: LLMエージェント法とオブザーバとして並列で推論
- Abstract要約: 本稿では,4つの補助枝に即時各思考フェーズを強制する学習自由推論フレームワークを提案する。
Second Thoughtは、メインスレッドのシーケンシャルなデコードパスから追加の推論をリロケーションする。
- 参考スコア(独自算出の注目度): 11.20181411455386
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLM agents in the ReAct paradigm alternate between reasoning, acting, and observing, but deliberate reasoning is confined to the Thought phase: while the agent serializes an action and waits for the environment, its reasoning is frozen. We identify this recurring interval for Action and Observation as a reasoning idle window and ask whether it can host additional reasoning in parallel that serves future turns. Therefore, we propose Second Thought, a training-free inference framework that forks four auxiliary branches the instant each Thought phase concludes, decodes them concurrently with the main loop, and merges the generated thoughts back when the environment observation arrives. In this way, Second Thought relocates the added reasoning off the main thread's sequential decoding path. Across three agentic benchmarks and three reasoning LLMs, Second Thought lowers the average turn count in all nine (model,benchmark) pairs and reduces main thread decoding in six of them by up to 43% (roughly 20% on average among those settings), while leaving it essentially unchanged in a seventh; Pass@1 shows no significant change in seven of nine pairs and the two significant differences are +12.4 and +10.2 points. Against a compute-matched control that forces an equivalent budget onto the main thread's own reasoning, it attains strictly higher Pass@1 with 1.3 to 3.2 less sequential decoding in all four settings where the control applies.
- Abstract(参考訳): LLMエージェントは推論、行動、観察を交互に行うが、意図的な推論は思考フェーズに限られる:エージェントがアクションをシリアライズして環境を待つ間、その推論は凍結される。
我々は、この繰り返し発生するアクションと観察の間隔を、推論のアイドルウィンドウとして識別し、将来の旋回に役立つ追加の推論を並列にホストできるかどうかを問う。
そこで,本研究では,4つの補助的分岐をフォークして各思考フェーズを終了させ,それらをメインループと並列にデコードし,環境観測が到着した時に生成した思考をマージする,学習自由推論フレームワークであるSecond Thoughtを提案する。
このように、Second Thoughtは、メインスレッドのシーケンシャルなデコードパスから追加の推論をリロケーションする。
3つのエージェントベンチマークと3つのLCMで、Second Thoughtは9つの(モデル、ベンチマーク)ペアの平均ターン数を下げ、そのうち6つのメインスレッドのデコーディングを最大43%(約20%)削減します。
1.3から3.2のシーケンシャルなデコードで、コントロールが適用される4つの設定すべてにおいて、厳格に高いPass@1を達成する。
関連論文リスト
- Geometry of Divergence: Tracking Hidden-State Trajectories for Adaptive Multi-Turn Reasoning [4.4288817363868205]
LLMエージェントは、厳密なリソース制約の下で、長期にわたる多ターン相互作用におけるゴール整合推論を維持する必要がある。
2つの相補的な信号によって特徴付けられるLLMの隠れ状態軌跡としてマルチターン推論を定式化する。
軌道幾何学は推論過程において重要なターンを識別でき、トークンコストを11.2%削減しながら、タスク成功率を24.1%から39.6%に引き上げる。
論文 参考訳(メタデータ) (2026-08-31T11:51:54Z) - Fork-Think with Confidence [20.112221820713632]
本稿では,まず,単一シード経路におけるモデル信頼度を用いてフォークポイントを識別するフォーク思考を提案する。
実験の結果,トークンの消費量を最大30%削減し,実行時間を最大57%削減できることがわかった。
分析の結果,Fork-thinkは下流のタスクに対して意味のあるフォークポイントを識別できることがわかった。
論文 参考訳(メタデータ) (2026-06-30T10:59:20Z) - Teaching Diffusion to Speculate Left-to-Right [3.205247598097648]
大規模言語モデル(LLM)は、幅広いタスクにわたって顕著なパフォーマンスを達成するが、その自己回帰的復号処理は、かなりの推論コストを発生させる。
投機的復号化はこのボトルネックに対処するため、軽量なドラフトモデルを使用して、後により大きなターゲットモデルによって並列に検証される複数の将来のトークンを提案する。
最近の研究は、拡散言語モデルがこの設定に適しており、パラレルでドラフトトークンのブロック全体を生成できることを実証している。
論文 参考訳(メタデータ) (2026-06-10T01:21:56Z) - Right Makes Might: Aligning Verified Hidden States Empowers RL Reasoning [55.264863369127774]
現在の方法では、それぞれの正しいロールアウトを単一の報酬ビットに減らし、隠れた状態間で共有される幾何学的構造を無視している。
本稿では,RLトレーニングにおけるアンカートークンにおける正ロールアウトの最終層を,トレーニングと推論の両方においてゼロオーバーヘッドで整列する補助損失関数Hidden-Alignを提案する。
8つの数学的推論ベンチマークでは、Hidden-AlignはDAPOベースラインの平均パス@1をQwen3-1.7B, 4B, 14Bで3.8, 6.2, 5.4ポイント改善し、3つのスケールで一貫したパス@kゲインを得る。
論文 参考訳(メタデータ) (2026-06-02T06:51:15Z) - Understanding Moral Reasoning Trajectories in Large Language Models: Toward Probing-Based Explainability [8.026492468995187]
我々は,大規模言語モデルが推論段階を越えて倫理的枠組みをどのように構成するかを研究する。
道徳的推論には、体系的なマルチフレームワークの議論が伴う。
本稿では,LLMコヒーレンス評価と強く相関するモーラル表現一貫性(MRC)指標を提案する。
論文 参考訳(メタデータ) (2026-03-16T23:51:30Z) - Internalizing LLM Reasoning via Discovery and Replay of Latent Actions [4.830503861275364]
連鎖プロセスの隠れ状態への内部化は、テスト時間計算をスケールするための非常に効率的なパラダイムとして現れている。
動的潜在軌道制御問題として推論強化を再構築するSTIR(Self-Distilled Tools for Internal Reasoning)を提案する。
論文 参考訳(メタデータ) (2026-02-04T08:44:57Z) - Parallel-Probe: Towards Efficient Parallel Thinking via 2D Probing [76.48164395646019]
Parallel-Probeは、オンライン並列思考を最適化するために設計されたトレーニング不要のコントローラである。
競合精度を維持しつつ、シーケンシャルトークンを最大$textbf35.8$%、トータルトークンコストを$textbf25.8$%まで削減する。
論文 参考訳(メタデータ) (2026-02-03T18:59:41Z) - Enhancing the Outcome Reward-based RL Training of MLLMs with Self-Consistency Sampling [90.87033586963828]
マルチモーダル大言語モデル(MLLM)のステップ・バイ・ステップ推論を洗練させる手段としては,アウトカム・リワード強化学習(RL)が一般的であり,ますます重要になっている。
この問題を修正するために,自己整合サンプリング(SCS)を提案する。
Qwen2.5-VL-7B-インストラクトに基づいて、SCSは、無視できる余分な計算を伴う6つのマルチモーダルベンチマークにおいて、最大7.7ポイントの精度を向上する。
論文 参考訳(メタデータ) (2025-11-13T18:59:57Z) - Stop Spinning Wheels: Mitigating LLM Overthinking via Mining Patterns for Early Reasoning Exit [114.83867400179354]
オーバーライドは、大きな言語モデル全体のパフォーマンスを低下させる可能性がある。
推論は, 探索段階の不足, 補償推論段階, 推論収束段階の3段階に分類される。
我々は,ルールに基づく軽量なしきい値設定戦略を開発し,推論精度を向上させる。
論文 参考訳(メタデータ) (2025-08-25T03:17:17Z) - LongPerceptualThoughts: Distilling System-2 Reasoning for System-1 Perception [105.78609483419115]
我々はLongPerceptualThoughtsを紹介した。これは知覚タスクのための30Kの長所のトレースを持つ新しい合成データセットである。
本稿では,検証可能な複数の質問を最初に合成する新しい3段階データ合成フレームワークを提案する。
既存の視覚的推論データ生成手法よりも顕著な改善が示された。
論文 参考訳(メタデータ) (2025-04-21T18:10:38Z) - Faithful Chain-of-Thought Reasoning [51.21714389639417]
CoT(Chain-of-Thought)は言語モデル(LM)のパフォーマンスを様々な推論タスクで向上させる。
翻訳と問題解決という2つの段階を含む推論フレームワークであるFithful CoTを提案する。
このことは、推論連鎖が最終回答の忠実な説明を提供することを保証している。
論文 参考訳(メタデータ) (2023-01-31T03:04:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。