論文の概要: Towards a Belief-Based World Model for LLM Agents
- arxiv url: http://arxiv.org/abs/2609.00455v1
- Date: Mon, 31 Aug 2026 22:48:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-02 16:31:36.123794
- Title: Towards a Belief-Based World Model for LLM Agents
- Title(参考訳): LLMエージェントの信念に基づく世界モデルに向けて
- Abstract要約: 世界モデルは、政策パフォーマンスを高めるための有望な方法です。
推論中、エージェントは現在、候補アクションの結果をシミュレートするためにワールドモデルを使用しています。
シミュレーションは部分的な可観測性の下での意思決定のための不完全なインターフェースである,と我々は主張する。
- 参考スコア(独自算出の注目度): 14.419757676852383
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) are being used as policies for autonomous decision-making and planning in many domains. Despite their strong reasoning capabilities, LLMs struggle with long-horizon tasks, especially under partial observability. World models are a promising way to enhance policy performance, both during training and inference. During inference, agents currently use world models to simulate the consequences of candidate actions before committing to an action, which can improve decision-making. However, we argue that simulation alone is an incomplete interface for decision-making under partial observability: simulation doesn't adequately capture uncertainty about the current state, which agents may need for accurate decision-making. We address this limitation with Belief-Based World Models (BB-WMs), which model and maintain a belief that LLMs can query to access information on what is known and uncertain about the current state. Before developing methods to learn accurate BB-WMs, we first ask a more fundamental question: does exposing a world model's belief directly to an LLM policy improve decision-making? Our results show that giving LLM agents access to world model beliefs improves task performance under partial observability, while remaining complementary to existing simulation-based world models. Code is released at https://github.com/skumar-ml/belief-world-models.
- Abstract(参考訳): 大規模言語モデル(LLM)は、多くのドメインで自律的な意思決定と計画のためのポリシーとして使われている。
強い推論能力にもかかわらず、LLMは特に部分観測可能性の下で、長期の作業に苦しむ。
世界モデルは、トレーニングと推論の両方において、ポリシーパフォーマンスを向上させるための有望な方法です。
推論中、エージェントは現在ワールドモデルを使用して、アクションにコミットする前に候補アクションの結果をシミュレートし、意思決定を改善することができる。
しかし,シミュレーションのみは部分的可観測性の下での意思決定のための不完全なインターフェースである,と我々は主張する。
我々は,この制限をBelief-Based World Models (BB-WMs) を用いて解決する。
BB-WMを正確に学習する手法を開発する前に、我々はまずより根本的な疑問を提起する:世界モデルの信念を直接LLMポリシーに公開することで意思決定は改善されるか?
この結果から, LLM エージェントが世界モデルの信念にアクセスできるようになれば, 既存のシミュレーションに基づく世界モデルに相補的でありながら, 部分観測可能性の下でのタスク性能が向上することが示された。
コードはhttps://github.com/skumar-ml/belief-world-modelsで公開されている。
関連論文リスト
- A Close Look At World Model Recovery In Supervised Fine-Tuned LLM Planners [5.334857433652785]
Supervised Fine-tuning (SFT)は、大規模言語モデル(LLM)におけるエンドツーエンドの古典的計画を改善する
これらのモデルは、彼らが解決しようとしている計画上の問題を表現し、理由づけることも学べるだろうか?
論文 参考訳(メタデータ) (2026-06-02T14:09:16Z) - Reinforcement World Model Learning for LLM-based Agents [60.65003139516272]
強化世界モデル学習(Reinforcement World Model Learning, RWML)は、LDMをベースとしたエージェントのための行動教師付き世界モデルを学ぶ自己条件付き手法である。
本手法は, モデルが生成したシミュレーションされた次の状態と, 環境から観測された次の状態とを一致させる。
本手法をALFWorldと2ドルのBenchで評価し,完全に自己管理されているにもかかわらず,ベースモデルに対する大幅な利得を観測した。
論文 参考訳(メタデータ) (2026-02-05T16:30:08Z) - Grounded in Reality: Learning and Deploying Proactive LLM from Offline Logs [72.08224879435762]
textttLearn-to-Askは、プロアクティブな対話エージェントの学習とデプロイのためのシミュレータフリーフレームワークである。
当社のアプローチは,LLMの大規模オンラインAIサービスへの展開を成功に導くものです。
論文 参考訳(メタデータ) (2025-10-29T12:08:07Z) - R-WoM: Retrieval-augmented World Model For Computer-use Agents [15.812606459788471]
大規模言語モデル(LLM)は、デジタル環境におけるエージェントの意思決定を強化する世界モデルとして機能する。
未来予測と報奨推定という,世界モデルの2つのコア機能について,三つの課題を通して検討する。
本稿では,外部チュートリアルから得られた現実的,最新の知識を取り入れたRetrieval-augmented World Model (R-WoM)を提案する。
論文 参考訳(メタデータ) (2025-10-13T19:52:04Z) - SimuRA: A World-Model-Driven Simulative Reasoning Architecture for General Goal-Oriented Agents [15.91448165400836]
SimuRAは汎用エージェント推論のための目標指向アーキテクチャである。
我々は、オープンソースの研究デモとして、SimuRA上に構築されたWebブラウジングエージェントReasonerAgent-Webをリリースした。
論文 参考訳(メタデータ) (2025-07-31T17:57:20Z) - WALL-E 2.0: World Alignment by NeuroSymbolic Learning improves World Model-based LLM Agents [55.64361927346957]
本研究では,大規模言語モデル(LLM)を補完する環境の記号的知識を学習する「世界アライメント」を提案する。
また、モデル予測制御フレームワークを用いて、RLフリーでモデルベースエージェント「WALL-E 2.0」を提案する。
WALL-E 2.0は、火星(Minecraftのような)とALFWorld(emboded indoor environment)のオープンワールド課題における既存の手法を著しく上回っている
論文 参考訳(メタデータ) (2025-04-22T10:58:27Z) - AI in a vat: Fundamental limits of efficient world modelling for agent sandboxing and interpretability [84.52205243353761]
最近の研究は、世界モデルを使用して、AIエージェントをデプロイ前にテストできる制御された仮想環境を生成することを提案する。
評価対象のAIエージェントに非依存な世界モデルを簡単にする方法を検討する。
論文 参考訳(メタデータ) (2025-04-06T20:35:44Z) - Can LLM Agents Simulate Multi-Turn Human Behavior? Evidence from Real Online Customer Behavior Data [46.65903742010956]
本研究では,人間の行動を正確にシミュレートする,最先端のLDMの能力の大規模定量的評価を行った。
230,965件のユーザアクションを含む31,865件のオンラインショッピングセッションから得られた実世界データを用いて,プロンプトベースのLCMが人間の行動生成においてわずか11.86%の精度で達成できることを明らかにする。
また, 実クリックスルーデータに対して, モデルの性能を大幅に向上させる手法として, 実クリックスルーデータに対する微調整 LLM の戦略を提示する。
論文 参考訳(メタデータ) (2025-03-26T17:33:27Z) - Bayesian Teaching Enables Probabilistic Reasoning in Large Language Models [54.38054999271322]
我々は,大規模言語モデル (LLM) がベイジアンフレームワークから期待されているように,彼らの信念を更新しないことを示す。
我々は、標準ベイズモデルの予測を模倣するように訓練することで、ベイズ的方法による推論をLLMに教える。
より一般的には,LLMは実例から推論スキルを効果的に学習し,それらのスキルを新しいドメインに一般化できることを示す。
論文 参考訳(メタデータ) (2025-03-21T20:13:04Z) - Scaling Autonomous Agents via Automatic Reward Modeling And Planning [52.39395405893965]
大規模言語モデル(LLM)は、様々なタスクにまたがる顕著な機能を示している。
しかし、彼らは多段階の意思決定と環境フィードバックを必要とする問題に苦戦している。
人間のアノテーションを使わずに環境から報酬モデルを自動的に学習できるフレームワークを提案する。
論文 参考訳(メタデータ) (2025-02-17T18:49:25Z) - Evaluating World Models with LLM for Decision Making [14.029514959117067]
世界モデルは意思決定において重要なモジュールとして登場し、MuZeroとDreamerは複雑なタスクで驚くべき成功を収めた。
最近の研究は、Large Language Models (LLM) を一般世界のシミュレータとして活用し、その一般化性から世界のダイナミクスをシミュレートしている。
本研究は,LLMを用いた世界モデルの包括的評価を意思決定の観点から提案する。
論文 参考訳(メタデータ) (2024-11-13T17:19:32Z) - Web Agents with World Models: Learning and Leveraging Environment Dynamics in Web Navigation [25.26545170310844]
本稿では,WMA(World-model-augmented, WMA)Webエージェントを提案する。
WebArenaとMind2Webの実験は、私たちの世界モデルが、トレーニングなしでエージェントのポリシー選択を改善していることを示している。
論文 参考訳(メタデータ) (2024-10-17T05:37:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。