論文の概要: Internalizing the Future: A Unified Agentic Training Paradigm for World Model Planning
- arxiv url: http://arxiv.org/abs/2606.27483v1
- Date: Thu, 25 Jun 2026 19:05:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-29 18:24:25.29381
- Title: Internalizing the Future: A Unified Agentic Training Paradigm for World Model Planning
- Title(参考訳): 未来を内包する:世界モデル計画のための統一されたエージェント訓練パラダイム
- Abstract要約: 大規模言語モデル(LLM)エージェントは、シーケンシャルな意思決定において強力な能力を示している。
コミットメントの前に潜在的な計画を評価するために「What-if」推論を採用する人間とは異なり、標準エージェントは将来の成果をシミュレートする内的世界モデルが欠如している。
本研究では,1つの自己回帰モデルを訓練し,将来的な状態展開と計画条件による成功推定の両方を言語化することにより,将来の計画の内在化を提案する。
- 参考スコア(独自算出の注目度): 32.26884129316165
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language model (LLM) agents have demonstrated strong capability in sequential decision-making, yet they remains fundamentally reactive in long-horizon tasks. Unlike humans who employ "what-if" reasoning to evaluate potential plans before commitment, standard agents lack an internal world model to simulate future outcomes. Therefore, we propose to internalize future-aware planning by training a single autoregressive model to verbalize both a prospective state rollout and a plan-conditioned success estimate-a textual analogue of the Q-value. Crucially, we identify a format-capability gap: simply fine-tuning agents on look-ahead traces during post-training leads to superficial mimicry of foresight without genuine predictive grounding. To bridge this gap, we introduce a three-stage training paradigm: (i) World Model Agentic Mid-Training (WM-AMT) to inject latent predictive capabilities into the policy; (ii) Format-Eliciting SFT (FE-SFT) to structure this injected capability; and (iii) Foresight-Conditioned Reinforcement Learning (FC-RL) to refine the calibration and utility of the generated simulations. Evaluated on search and mathematical reasoning tasks, our approach consistently outperforms other training baselines. Our results demonstrate that effective internal world modeling in LLM agents requires a capability-first training pipeline to achieve grounded and calibrated foresight.
- Abstract(参考訳): 大規模言語モデル(LLM)エージェントはシーケンシャルな意思決定において強力な能力を示したが、長期的なタスクでは基本的には反応しない。
コミットメントの前に潜在的な計画を評価するために「What-if」推論を採用する人間とは異なり、標準エージェントは将来の成果をシミュレートする内的世界モデルが欠如している。
そこで本研究では,1つの自己回帰モデルを用いて,予測状態のロールアウトと,Q値のテキストアナログである計画条件付き成功推定の両方を言語化することにより,将来の計画の内在化を提案する。
重要なことに、我々はフォーマット・キャパビリティーのギャップを識別する: トレーニング後、単にルックアヘッドトレースを微調整するエージェントは、真の予測的接地を伴わず、目視を表面的に模倣する。
このギャップを埋めるために、3段階のトレーニングパラダイムを導入します。
一 政策に潜伏予測能力を注入するための世界モデルエージェント中期訓練(WM-AMT)
(二)この注入能力を構築するための偽造SFT(FE-SFT)
三 予測整合強化学習(FC-RL)により、生成されたシミュレーションの校正と有用性を向上する。
探索と数学的推論のタスクを評価することで、我々のアプローチは、他のトレーニングベースラインよりも一貫して優れています。
この結果から, LLMエージェントにおける実効的な内部世界モデリングには, 接地・校正のための能力第一の訓練パイプラインが必要であることが示唆された。
関連論文リスト
- Self-Evolving World Models for LLM Agent Planning [72.99782619992361]
我々はWorldEvolverを紹介した。WorldEvolverは、ダウンストリームエージェントとすべてのモデルパラメータを凍結したまま、デプロイメント時間コンテキストを更新する自己進化型ワールドモデルフレームワークである。
WorldEvolverは3つのバックボーンで最高の予測精度を達成し、下流エージェントの成功率で他のワールドモデルベースラインを導く。
論文 参考訳(メタデータ) (2026-06-29T17:58:43Z) - On Predicting the Post-training Potential of Pre-trained LLMs [60.07459271263409]
本稿では,ポストトレーニング前のベースモデルの性能予測という,ポストトレーニング後の潜在能力を予測するための新しいタスクを紹介する。
本稿では,応答判別を活用することで,ベースモデルの生成ギャップを回避できる統一フレームワークであるRuDEを提案する。
実験では、トレーニング後のパフォーマンスと90%以上の相関を示す。
論文 参考訳(メタデータ) (2026-05-12T11:33:49Z) - Self-Correcting VLA: Online Action Refinement via Sparse World Imagination [55.982504915794514]
本稿では, 自己補正VLA (SC-VLA) を提案する。
SC-VLAは最先端のパフォーマンスを達成し、最高タスクスループットを16%削減し、最高パフォーマンスのベースラインよりも9%高い成功率を得る。
論文 参考訳(メタデータ) (2026-02-25T06:58:06Z) - The Hierarchy of Agentic Capabilities: Evaluating Frontier Models on Realistic RL Environments [0.11586753333439907]
本稿では、SurgeのリアルeコマースRL環境における150の職場タスクにおけるフロンティアAIモデルの評価実験について述べる。
我々の分析によると、実世界の展開にはモデルがマスターしなければならないエージェント機能の経験的に派生した階層構造が明らかになっている。
ウィーカーモデルは基本的なツールの使用と計画に苦しむが、強いモデルは明示的な指示以上の文脈推論を必要とするタスクで失敗する。
論文 参考訳(メタデータ) (2026-01-13T23:49:06Z) - Imagine-then-Plan: Agent Learning from Adaptive Lookahead with World Models [13.90532093512575]
エージェント学習のための統合フレームワークであるImagine-then-Plan(textttITP)を提案する。
最終目標とタスクの進捗をトレードオフすることで、適応的な新しいルックアヘッド機構を導入する。
実験の結果, TexttITP は競争ベースラインを著しく上回っていることがわかった。
論文 参考訳(メタデータ) (2026-01-13T19:49:58Z) - On-the-Fly VLA Adaptation via Test-Time Reinforcement Learning [61.38273866396522]
ビジョン・ランゲージ・アクションモデルが汎用ロボット学習の強力なパラダイムとして登場した。
現在の手法は、シミュレーションや物理世界の展開に挑戦するには相変わらず適していない。
本稿では,VLA フレームワークのテスト時間強化学習について紹介する。
論文 参考訳(メタデータ) (2026-01-11T01:51:30Z) - APTBench: Benchmarking Agentic Potential of Base LLMs During Pre-Training [48.20667772172573]
APTBenchは、現実世界のエージェントタスクと成功した軌道を多重選択やテキスト補完の質問に変換するフレームワークである。
中心となるエージェント能力、例えば計画と行動に焦点を当て、主要なエージェントシナリオ、ソフトウェア工学、深層研究をカバーしている。
既存の汎用ベンチマークと比較すると、APTBenchはモデル下流のパフォーマンスをエージェントとしてより予測的な信号を提供する。
論文 参考訳(メタデータ) (2025-10-28T13:11:22Z) - Spatiotemporal Forecasting as Planning: A Model-Based Reinforcement Learning Approach with Generative World Models [45.523937630646394]
本研究では,モデルベース強化学習における新たなパラダイムであるSFP予測・アズ・プランニング(SFP)を提案する。
SFPは、多様な高時間将来の状態をシミュレートし、「想像に基づく」環境シミュレーションを可能にする新しい世界モデルを構築している。
論文 参考訳(メタデータ) (2025-10-05T03:57:38Z) - Beyond Scaling: Measuring and Predicting the Upper Bound of Knowledge Retention in Language Model Pre-Training [68.94373533768501]
我々は、知識保持をモデル化し、そのコーパスから事実情報を記憶するための事前学習言語モデルの能力を示し、学習前にそれを推定する原則的手法を導入する。
本稿では,知識周波数,知識特異度,モデルサイズを統合し,クローズドブック質問応答(QA)の精度を予測する情報理論予測器である,サイズ依存型相互情報(SMI)を提案する。
論文 参考訳(メタデータ) (2025-02-06T13:23:53Z) - Deciphering Cross-Modal Alignment in Large Vision-Language Models with Modality Integration Rate [118.37653302885607]
本稿では,LVLM(Large Vision Language Models)のマルチモーダル事前学習品質を示すために,MIR(Modality Integration Rate)を提案する。
MIRは、トレーニングデータ選択、トレーニング戦略スケジュール、モデルアーキテクチャ設計に重点を置いて、トレーニング前の結果を改善する。
論文 参考訳(メタデータ) (2024-10-09T17:59:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。