論文の概要: EVOKE: Eliciting World Knowledge in Agents for Transferable Decision-Making
- arxiv url: http://arxiv.org/abs/2609.38334v2
- Date: Thu, 01 Oct 2026 12:36:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:23.53274
- Title: EVOKE: Eliciting World Knowledge in Agents for Transferable Decision-Making
- Title(参考訳): EVOKE:トランスファー可能な意思決定エージェントにおける世界知識の排除
- Abstract要約: 大規模言語モデル(LLM)は、多段階決定のためのエージェントとしてますますデプロイされるが、見当たらない環境にはあまり転送されない。
我々は、この世界の知識の多くは、事前訓練中に既に内部化されていると論じ、この問題は、取得から引き起こすものへとシフトする。
本稿では,一定状態における目標の多様性を通じて,この圧力を供給するポストトレーニング手法EVOKEを紹介する。
- 参考スコア(独自算出の注目度): 27.58256895530572
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) are increasingly deployed as agents for multi-step decision-making, yet transfer poorly to unseen environments. World-model methods address this by training agents to predict future observations, at the cost of additional training and errors that compound when predictions are used for planning. However, for LLM agents operating in digital environments, much of this world knowledge is already internalized during pretraining, which shifts the problem from acquiring it to eliciting it. We argue that typical post-training provides little pressure for such elicitation, since supervision under a single goal at each visited state inadvertently drives policies to rely on superficial contextual habits. We introduce EVOKE, a post-training method that supplies this pressure through goal diversity at fixed states. Motivated by theory showing that an agent competent across diverse goals must encode a world model recoverable from its action preferences, EVOKE holds the environment state and interaction history fixed and ranks the same candidate actions under alternative goals, forcing action preferences to change, so that a policy relying on contextual habits or single-goal correlations cannot order them correctly. This implicitly elicits the policy's pretrained world knowledge to inform decisions. We evaluate EVOKE across diverse tasks in three backbones, demonstrating improved task performance, unseen environment generalization, and data efficiency. We further conduct controlled analyses to better understand what drives these gains. These findings offer a new perspective on eliciting internalized world knowledge for transferable action through direct decision supervision.
- Abstract(参考訳): 大規模言語モデル(LLM)は、多段階決定のためのエージェントとしてますますデプロイされているが、見当たらない環境への転送は不十分である。
世界モデル手法は、将来の観測を予測するための訓練エージェントによるこの問題に対処し、予測が計画に使用される際に複雑になる追加のトレーニングとエラーのコストを負担する。
しかし、デジタル環境で動作するLLMエージェントの場合、この世界の知識の多くは事前訓練中に内部化されており、この問題は取得から引き起こしへと移行している。
訪問した各州における単一の目標の下での監督が、表面的な文脈的習慣に依存する政策を不注意に推進しているため、典型的なポストトレーニングはそのような勧誘にほとんどプレッシャーを与えない、と我々は主張する。
本稿では,一定状態における目標の多様性を通じて,この圧力を供給するポストトレーニング手法EVOKEを紹介する。
多様な目標にまたがるエージェントが行動嗜好から回復可能な世界モデルをエンコードしなければならないという理論によって動機づけられたEVOKEは、環境状態と相互作用履歴を固定し、同じ候補アクションを代替目標の下でランク付けし、行動選好を変更するよう強制する。
これは政策の事前訓練された世界知識を暗黙的に引き起こして決定を下す。
各種タスクのEVOKEを3つのバックボーンで評価し、タスク性能の向上、見えない環境の一般化、データ効率を実証した。
我々はさらに、これらの利得を駆動する要因をよりよく理解するために、制御された分析を行う。
これらの知見は、直接的意思決定監督を通じて、トランスファー可能な行動のための内在的世界知識を引き出すための新たな視点を提供する。
関連論文リスト
- Quo Vadis, World Modeling? [116.2429173084643]
継続的改善エージェントは静的な監視以上の動的インタラクションフィードバックを必要とするが、直接的な環境相互作用はコストが高く、遅く、安全ではない、並列化が難しい。
World Modelingは、エージェントが実際のアクションにコミットする前により低コストで制御可能なフィードバックをクエリできる、自然な中間プロキシを提供する。
この作業は、世界モデリングをエージェント中心のパラダイムに再キャストし、エージェントがよりよい計画を立て、より早く学習し、継続的に進化するための世界プロキシを構築するためのロードマップを確立する。
論文 参考訳(メタデータ) (2026-08-03T17:59:58Z) - Beyond Next-Observation Prediction: Agent-Authored World Modeling for Sequential Decision Making [18.81793832623564]
政策の意思決定ニーズから監督を構築するための訓練手順を提案する。
具体的には、各状態において、エージェントは行動する前に環境について何を理解する必要があるかを識別する。
これは、トレーニングの目的を次の観察の内容ではなく、行動する前にポリシーが必要とするダイナミックスと整合させる。
論文 参考訳(メタデータ) (2026-06-24T05:31:00Z) - Unsupervised Learning of Efficient Exploration: Pre-training Adaptive Policies via Self-Imposed Goals [0.0]
教師なし事前学習は、強化学習エージェントに事前知識を付与し、下流タスクでの学習を加速することができる。
本稿では,文脈内学習者と対向目標生成戦略を組み合わせた教師なしメタ学習手法ULEEを提案する。
論文 参考訳(メタデータ) (2026-01-27T17:10:29Z) - Agent Learning via Early Experience [93.83579011718858]
言語エージェントの長期的な目標は、彼ら自身の経験から学び、改善することであり、最終的には複雑な現実世界のタスクにおいて人間より優れています。
現在のエージェントのほとんどは、専門家データによる教師付き微調整に依存しており、スケールと一般化が不十分である。
本研究では,(1)環境力学における政策の基盤として収集された状態を利用するインプリシット・ワールド・モデリング,(2)エージェントが最適な行動から学習し,推論と意思決定を改善するための自己回帰という2つの手法について検討する。
論文 参考訳(メタデータ) (2025-10-09T17:59:17Z) - Training a Generally Curious Agent [77.61142660542599]
Paprikaは、言語モデルが一般的な意思決定機能を開発することを可能にする微調整のアプローチである。
Paprika氏は、より勾配の更新をすることなく、コンテキスト内の環境フィードバックに基づいて、新しいタスクで彼らの振る舞いを探索し、適応するようにモデルに教えている。
結果は、シーケンシャルな意思決定問題を自律的に解決できるAIシステムへの有望な道のりを示唆している。
論文 参考訳(メタデータ) (2025-02-24T18:56:58Z) - HAZARD Challenge: Embodied Decision Making in Dynamically Changing
Environments [93.94020724735199]
HAZARDは、火災、洪水、風などの3つの予期せぬ災害シナリオで構成されている。
このベンチマークにより、さまざまなパイプラインで自律エージェントの意思決定能力を評価することができる。
論文 参考訳(メタデータ) (2024-01-23T18:59:43Z) - Asking Before Acting: Gather Information in Embodied Decision Making with Language Models [20.282749796376063]
本研究では,Large Language Models (LLM) が,不慣れな環境で重要な情報を効率的に収集する上で,課題に直面していることを示す。
我々は,自然言語を用いた関連する情報に対して,エージェントが外部ソースと積極的に問い合わせることを可能にする方法であるtextitAsking Before Acting (ABA)を提案する。
本研究では,テキストベースの日常タスク,ロボットアーム操作タスク,実世界のオープンドメインイメージベース実施タスクを含む,幅広い環境実験を行う。
論文 参考訳(メタデータ) (2023-05-25T04:05:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。