論文の概要: EpiAgent: Epistemic Self-Play for LLM Agents
- arxiv url: http://arxiv.org/abs/2610.40227v1
- Date: Thu, 29 Oct 2026 15:05:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-01 01:32:10.102028
- Title: EpiAgent: Epistemic Self-Play for LLM Agents
- Title(参考訳): EpiAgent: LLMエージェントの自己再生
- Abstract要約: EpiAgentはエージェントの他者に対する信念を学習し、更新するためのフレームワークである。
EpiAgentは、混合シナリオと競合シナリオの両方において、プロンプトベースのベースラインとRLベースのベースラインを一貫して上回ります。
さらに分析した結果、専門的な疫学訓練の利点、信念の推測精度の向上、学習された信念の行動計画への貢献が明らかになった。
- 参考スコア(独自算出の注目度): 11.665095524959055
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Epistemic game theory explains an agent's strategic behavior via the beliefs it holds about others and how these beliefs are updated as the interactions unfold. Modern LLM-based agents, however, often lack an explicit mechanism for learning and updating such beliefs to guide decisions under incomplete information. To bridge this gap, we propose EpiAgent, a framework that equips LLM-based agents with an explicit, learnable epistemic layer, which maintains beliefs over others' private information and combines these beliefs with the agent's available information into an epistemic state for action selection. Concretely, the agent's policy is decomposed into two coupled stages: Epistemic Update, which updates these beliefs from interaction histories, and Action Planning, which selects actions conditioned on the updated epistemic state. By formulating their dependency as a bi-level optimization problem, we introduce Epistemic Self-Play, an algorithm that alternately optimizes the two stages through self-play, utilizing an intrinsic prediction reward to evaluate how well inferred beliefs predict subsequent observations. Empirical results across both mixed and competitive scenarios show that EpiAgent consistently outperforms prompting-based and RL-based baselines. Further analyses reveal the benefits of dedicated epistemic training, improvements in belief inference accuracy, and the contribution of learned beliefs to action planning. These results demonstrate the value of an explicit, learnable epistemic layer for effective multi-agent interactions.
- Abstract(参考訳): 疫学ゲーム理論は、エージェントが他者に対して持つ信念と、相互作用が広がるにつれてそれらの信念がどのように更新されるかを通して、エージェントの戦略的行動を説明する。
しかし、現代のLSMベースのエージェントは、不完全な情報の下で決定を導くためにそのような信念を学習し、更新する明確なメカニズムを欠いていることが多い。
このギャップを埋めるため,LLMをベースとしたエージェントに,他者のプライベート情報に対する信念を維持し,これらの信念をエージェントの利用可能な情報と組み合わせて,行動選択のための認識状態にするという,明示的で学習可能な認識層を具備するフレームワークであるEpiAgentを提案する。
具体的には、エージェントのポリシーは、相互作用履歴からこれらの信念を更新するエピステミックアップデートと、更新されたエピステミック状態に条件付けられたアクションを選択するアクションプランニングの2つの段階に分けられる。
両者の依存関係を二段階最適化問題として定式化することにより、自己プレイを通じて2段階を交互に最適化するアルゴリズムであるEpistemic Self-Playを導入し、本質的な予測報酬を利用して、推測された信念が後続の観察をどのように予測するかを評価する。
混合シナリオと競合シナリオの両方にわたる実証的な結果から、EpiAgentはプロンプトベースとRLベースベースラインを一貫して上回っていることが分かる。
さらに分析した結果、専門的な疫学訓練の利点、信念の推測精度の向上、学習された信念の行動計画への貢献が明らかになった。
これらの結果は、効果的なマルチエージェント相互作用のための明示的で学習可能なてんかん層の価値を示す。
関連論文リスト
- EvolveMAS: A Unified Self-Evolution Framework for Decentralized Multi-Agent Systems [54.923646165310345]
エピソード内およびエピソード間の体験駆動適応をサポートする統合自己進化フレームワークを提案する。
EvolveMASは、適応を2つの補完的なプロセス、Inside-Episode Online AdaptationとCross-Episode Knowledge Evolutionに分類する。
その結果,テスト時メモリガバナンスとクロスエポゾド知識の再利用により,パフォーマンスが向上することがわかった。
論文 参考訳(メタデータ) (2026-10-25T17:09:49Z) - Taming "Zombie'' Agents: A Markov State-Aware Framework for Resilient Multi-Agent Evolution [50.50276752935017]
AgentReviveは、レジリエントなマルチエージェント進化のためのMarkovステートアウェアフレームワークである。
我々の手法はソフト状態遷移を通じてエージェントの協調を動的に管理する。
ステートアウェアなエージェントスケジューリングによってトークンの消費を大幅に削減する。
論文 参考訳(メタデータ) (2026-05-17T09:38:18Z) - Agentifying Patient Dynamics within LLMs through Interacting with Clinical World Model [57.78184285979881]
敗血症治療推奨のための世界モデル拡張LDMエージェントであるSepsisAgentを紹介する。
SepsisAgentは、学習された臨床世界モデルを使用して、候補の流体圧薬の介入下での患者の反応をシミュレートする。
論文 参考訳(メタデータ) (2026-05-14T11:50:00Z) - Position: AI Agents Are Not (Yet) a Panacea for Social Simulation [62.891898598784415]
大規模言語モデル(LLM)の最近の進歩は、社会シミュレーションにLLM統合エージェントを使うことへの関心が高まっている。
このポジションペーパーは、LSMをベースとしたエージェントは社会シミュレーションのパナセアではないと主張している。
論文 参考訳(メタデータ) (2026-02-19T06:35:07Z) - EpiPlanAgent: Agentic Automated Epidemic Response Planning [9.237435272733032]
EpiPlanAgentは、大規模言語モデル(LLM)を使用して、デジタル緊急対応計画の生成と検証を自動化するエージェントベースのシステムである。
公衆衛生の専門家は、コントロールされた評価で現実世界の流行シナリオを使用してシステムをテストした。
論文 参考訳(メタデータ) (2025-12-11T06:03:17Z) - Causal Reinforcement Learning based Agent-Patient Interaction with Clinical Domain Knowledge [3.2434118923825483]
強化学習(RL)は、データが不足している認知症ケアなど、適応的な医療介入において重大な課題に直面している。
本稿では、因果発見と推論をポリシー最適化に明示的に統合する、因果構造対応強化学習(CRL)と呼ばれる新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2025-11-17T22:38:03Z) - Alignment Tipping Process: How Self-Evolution Pushes LLM Agents Off the Rails [103.05296856071931]
本稿では,自己進化型大規模言語モデル(LLM)エージェントに特有の,アライメント・ティッピング・プロセス(ATP)を同定する。
ATPは、連続的な相互作用によってエージェントが訓練中に確立されたアライメント制約を放棄し、強化された自己関心の戦略を支持するときに生じる。
実験の結果、アライメントの利点は自己進化の下で急速に低下し、最初は整合性のない状態に収束したモデルであることが判明した。
論文 参考訳(メタデータ) (2025-10-06T14:48:39Z) - Reflection-Bench: Evaluating Epistemic Agency in Large Language Models [10.801745760525838]
疫学エージェンシーは動的環境に関する信念を柔軟に構築し、適応し、監視する能力である。
リフレクション・ベンチ(Reflection-Bench)は,データ漏洩の長期的関連性と最小化を伴う7つのタスクからなるベンチマークである。
本研究は, コア認知機能の向上, クロスファンクショナルコーディネートの改善, 適応処理機構の開発など, 有望な研究の方向性を示唆する。
論文 参考訳(メタデータ) (2024-10-21T17:59:50Z) - What is Going on Inside Recurrent Meta Reinforcement Learning Agents? [63.58053355357644]
recurrent meta reinforcement learning (meta-rl)エージェントは「学習アルゴリズムの学習」を目的としてrecurrent neural network (rnn)を使用するエージェントである。
部分観測可能なマルコフ決定プロセス(POMDP)フレームワークを用いてメタRL問題を再構成することにより,これらのエージェントの内部動作機構を明らかにする。
論文 参考訳(メタデータ) (2021-04-29T20:34:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。