論文の概要: Knowing When to Stop Thinking: A Dissection of Expected Free Energy as a Test-Time Compute Controller for Latent World-Model Planning
- arxiv url: http://arxiv.org/abs/2610.28011v1
- Date: Tue, 20 Oct 2026 10:56:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.776017
- Title: Knowing When to Stop Thinking: A Dissection of Expected Free Energy as a Test-Time Compute Controller for Latent World-Model Planning
- Title(参考訳): 思考の停止時期を知る:潜在世界モデル計画のためのテスト時間計算制御系として期待される自由エネルギーの分離
- Abstract要約: 学習した世界モデルを使用するプランナーは、より悪い行動を選択しながら予測結果を改善することができる。
予測自由エネルギー(EFE)が、計画にどれだけの計算を費やすかを決定するのに役立てるかどうかを調査する。
- 参考スコア(独自算出の注目度): 15.628659207220077
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A planner using a learned world model can improve its predicted outcome while choosing a worse action. We study when expected free energy (EFE) can help decide how much computation to spend on a plan. An EFE-inspired objective combines goal distance with disagreement among stochastic predictions. We test candidate scoring, stopping, and online predictor updates separately. Stopping when elite cost stalls reduces refinement on tasks whose success plateaus with depth, with mean success close to fixed-depth references. At the larger tested weights, rewarding disagreement lowers success with a frozen model. Penalizing it helps at some task and weight settings but harms others. When training data omit a region needed to reach the goal, online updates recover part of the resulting loss. The tested cost-stall rule can fail when further optimization exploits model errors, because predicted cost keeps falling after task success peaks. Cost progress can guide computation on a plateau, but protecting performance after a peak requires information about the consequences of the chosen actions.
- Abstract(参考訳): 学習した世界モデルを使用するプランナーは、より悪い行動を選択しながら予測結果を改善することができる。
予測自由エネルギー(EFE)が、計画にどれだけの計算を費やすかを決定するのに役立てるかどうかを調査する。
EFEにインスパイアされた目的は、目標距離と確率的予測の不一致を結合する。
我々は、候補者のスコアリング、停止、オンライン予測更新を別々にテストする。
エリートコストの停止は、成功が深みに満ちたタスクの洗練を減らし、平均的な成功は固定的な参照に近い。
より大きな試験重量では、報酬の相違は凍結モデルでの成功を低下させる。
ペナルティ化はタスクやウェイト設定に役立ちますが、他の人を傷つけます。
トレーニングデータが目標に到達するのに必要なリージョンを省略した場合、オンライン更新は結果の損失の一部を回復する。
テストされたコストストールルールは、さらなる最適化がモデルエラーを悪用する場合に失敗する可能性がある。
コストの進歩は高原での計算を導くことができるが、ピーク後のパフォーマンスを保護するには、選択されたアクションの結果に関する情報が必要である。
関連論文リスト
- VPFlow: Value-Predictive Planning with Imperfect World Models for Offline Goal Reaching [8.813009385776708]
正確な状態予測は、しばしば不要であるのに対し、価値予測は計画に有用であることを示す。
本稿では,世界モデルとワンステップフローポリシを組み合わせ,進化的探索によるノイズ空間の計画を行う価値予測プランナであるVPFlowを紹介する。
論文 参考訳(メタデータ) (2026-10-19T20:55:03Z) - Action-Consequence Alignment for Reliable Planning and Self-Improving in Latent World Models [50.093046379641315]
学習された世界モデルが類似した行動結果対応を維持しているかどうかを検討する。
その結果、近くの代替手段は、記録された目標から遠く離れた物理的結果を生み出すにもかかわらず、より低い予測誤差を得られることが示された。
これらの結果は、予測学習と信頼性プランニングをブリッジする実践原則として、アクション・エフェクト・アライメントを支援する。
論文 参考訳(メタデータ) (2026-10-03T14:12:16Z) - ZIP-RC: Optimizing Test-Time Compute via Zero-Overhead Joint Reward-Cost Prediction [57.799425838564]
ZIP-RCは、モデルに報酬とコストのゼロオーバーヘッド推論時間予測を持たせる適応推論手法である。
ZIP-RCは、同じまたはより低い平均コストで過半数投票よりも最大12%精度が向上する。
論文 参考訳(メタデータ) (2025-12-01T09:44:31Z) - No-Regret Learning Under Adversarial Resource Constraints: A Spending Plan Is All You Need! [56.80767500991973]
アクション選択の前に報酬とコストが観測される$(i)$オンラインリソース割当と、アクション選択後、完全なフィードバックや盗賊フィードバックの下で、リソース制限付きオンライン学習である$(ii)$オンラインリソース割当に焦点を当てた。
報酬とコスト分布が時間とともに任意に変化する場合、これらの設定でサブ線形後悔を達成することは不可能であることが知られている。
我々は、支出計画に従う基準線に対する半線形後悔を実現する一般的な(基本的)二重的手法を設計し、また、支出計画が予算のバランスの取れた配分を保証すると、アルゴリズムの性能が向上する。
論文 参考訳(メタデータ) (2025-06-16T08:42:31Z) - Efficient Robotic Policy Learning via Latent Space Backward Planning [17.770562202624962]
現行のロボット計画手法は、しばしば、全画素の詳細を持つ多フレーム画像の予測に頼っている。
本稿では,その課題を最終目標とするLBP(Latent Space Backward Planning scheme)を提案する。
LBPは既存の細粒度・前方計画法よりも優れた性能を示し,SOTA性能を実現している。
論文 参考訳(メタデータ) (2025-05-11T06:13:51Z) - Acting upon Imagination: when to trust imagined trajectories in model based reinforcement learning [1.26990070983988]
モデルベース強化学習(MBRL)は、行動の結果を予測する環境力学のモデル(s)を学習することを目的としている。
仮想軌道のオンライン評価のための不確実性推定手法を提案する。
その結果,性能を犠牲にすることなく計算コストを大幅に削減できることがわかった。
論文 参考訳(メタデータ) (2021-05-12T15:04:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。