論文の概要: A game theory for foundation models shows new paths to rational cooperation through similarity inference

• arxiv url: http://arxiv.org/abs/2608.03958v1
• Date: Tue, 04 Aug 2026 17:24:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-05 15:30:23.29921
• Title: A game theory for foundation models shows new paths to rational cooperation through similarity inference
• Title（参考訳）: ファンデーションモデルのためのゲーム理論は、類似性推論による合理的協調への新たな経路を示す
• Authors: Alexander Meulemans, Maciej Wołczyk, Marissa A. Weis, Rajai Nasser, Roberta Rocca, Seijin Kobayashi, Guillaume Lajoie, Angelika Steger, Blake Richards, Marcus Hutter, James Manyika, Rif A. Saurous, João Sacramento, Blaise Agüera y Arcas,
• Abstract要約: 最適計画に携わる基礎モデルエージェントは、安定的な協調に一貫して収束していることを示す。 分離された物質から埋め込まれた物質へと移行することで、これらのエージェントは自分たちが居住する宇宙の一部として自身をモデル化する。
• 参考スコア（独自算出の注目度）: 56.53805518668248
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As autonomous agents powered by foundation models are increasingly integrated into social and economic systems, understanding the principles governing their collective behavior is essential for ensuring safety and cooperation. Classical game theory, the dominant framework for modeling rational interaction, is built upon the assumption of `decoupled agency,' where agents treat their own decision-making as independent of the environment and other actors. Modern AI agents, however, jointly predict their own future actions alongside external observations. Here, we report a striking finding: when interacting in stylized social dilemmas, foundation model agents engaging in optimal planning consistently converge to stable cooperation, directly contradicting classical game-theoretic predictions of mutual defection. To understand this phenomenon, we introduce the `embedded Bayesian agent,' a theoretical model for foundation model agents. By shifting from decoupled to embedded agency, these agents model themselves as part of the universe they inhabit, maintaining epistemic uncertainty about their own decision-making algorithms. We show that by inferring whether others are behaviorally similar, an embedded agent treats its own deliberation during planning as evidence: a decision to cooperate predicts a similar decision by a similar partner. We formalize this mechanism of similarity inference through the `embedded equilibrium,' a novel solution concept replacing the Nash equilibrium to provide a foundational game theory for the social behavior of modern AI agents.
• Abstract（参考訳）: 基礎モデルによる自律的なエージェントは、社会・経済システムにますます統合されつつあるため、それらの集団行動を管理する原則を理解することは、安全と協力を確保するために不可欠である。 合理的相互作用をモデル化するための支配的な枠組みである古典ゲーム理論は、エージェントが自身の意思決定を環境と他のアクターから独立したものとして扱う「分離されたエージェンシー」の仮定に基づいて構築されている。 しかし、現代のAIエージェントは、外部の観測と並行して、自分たちの将来の行動を共同で予測する。 ここでは、スタイリングされた社会的ジレンマで相互作用する際、最適計画に従事する基礎モデルエージェントは安定的な協調に一貫して収束し、相互欠陥の古典的なゲーム理論的予測と直接矛盾する。 この現象を理解するために,基礎モデルエージェントの理論モデルである「埋め込みベイズエージェント」を導入する。 分離されたエージェントから組込みのエージェントへ移行することで、これらのエージェントは自分たちが居住する宇宙の一部として自分自身をモデル化し、自身の意思決定アルゴリズムに関する認識上の不確実性を維持する。 我々は、他のエージェントが行動に類似しているかどうかを推測することにより、組み込まれたエージェントが、計画中の自身の熟考を証拠として扱い、協力する決定は、同様のパートナーによる同様の決定を予測していることを示す。 我々は、現代のAIエージェントの社会的行動に対する基礎的なゲーム理論を提供するために、ナッシュ均衡を置き換える新しい解の概念である「埋め込み均衡」を通じて、類似性推論のメカニズムを定式化する。

関連論文リスト

• Active Inference: A method for Phenotyping Agency in AI systems? [0.11904398364437437]
  3つの基準を基準として、原則検査に開放された最小限の概念について論じる。 後続の信念、事前の嗜好、そして期待される自由エネルギーの最小化は、共同でエージェント・アクション・チェーンを構成する。
  論文  参考訳（メタデータ） (2026-04-25T12:41:53Z)
• Agentic Reasoning for Large Language Models [122.81018455095999]
  推論は推論、問題解決、意思決定の基礎となる基本的な認知プロセスである。 大規模言語モデル(LLM)は、クローズドワールド設定では強力な推論能力を示すが、オープンエンドおよび動的環境では苦労する。 エージェント推論は、連続的な相互作用を計画し、行動し、学習する自律的なエージェントとしてLLMを解釈することでパラダイムシフトを示す。
  論文  参考訳（メタデータ） (2026-01-18T18:58:23Z)
• Embedded Universal Predictive Intelligence: a coherent framework for multi-agent learning [57.23345786304694]
  予測学習のための枠組みと自己予測を中心とした組込みエージェントを導入する。 マルチエージェント設定では、エージェントが類似したアルゴリズムを実行している他のエージェントについて推論することができる。 我々は、AIXIの理論を拡張し、Solomonoffから始まる普遍的なインテリジェントな埋め込みエージェントについて研究する。
  論文  参考訳（メタデータ） (2025-11-27T08:46:48Z)
• Social World Model-Augmented Mechanism Design Policy Learning [58.739456918502704]
  SWM-AP (Social World Model-Augmented Mechanism Design Policy Learning) を導入する。 SWM-APは,累積報酬とサンプル効率において,モデルベースおよびモデルフリーのRLベースラインよりも優れていた。
  論文  参考訳（メタデータ） (2025-10-22T06:01:21Z)
• Evolving Collective Cognition in Human-Agent Hybrid Societies: How Agents Form Stances and Boundaries [12.68373270583966]
  本研究では,人間とエージェントの混成社会における集団姿勢の分化と社会的境界形成の出現について検討する。 エージェントは事前に設定されたアイデンティティから独立して内在的なスタンスを示す。 以上の結果から,プリセットされたアイデンティティがエージェントの社会的構造を厳格に決定しないことが示唆された。
  論文  参考訳（メタデータ） (2025-08-24T13:50:18Z)
• Exploring the Impact of Reflexivity Theory and Cognitive Social Structures on the Dynamics of Doctor-Patient Social System [0.0]
  医師-患者システムのための2つの異なるモデルを作成します。 1つは確立された仮定を維持し、もう1つは反射論と認知社会構造の理論を取り入れている。 両モデルにおける医師および患者エージェントの挙動を最適化するために,微生物遺伝アルゴリズムを用いた。
  論文  参考訳（メタデータ） (2024-11-08T23:23:13Z)
• Multi-Agent Dynamic Relational Reasoning for Social Robot Navigation [50.01551945190676]
  社会ロボットナビゲーションは、日常生活の様々な状況において有用であるが、安全な人間とロボットの相互作用と効率的な軌道計画が必要である。 本稿では, 動的に進化する関係構造を明示的に推論した系統的関係推論手法を提案する。 マルチエージェント軌道予測とソーシャルロボットナビゲーションの有効性を実証する。
  論文  参考訳（メタデータ） (2024-01-22T18:58:22Z)
• An active inference model of collective intelligence [0.0]
  本稿では,局所的な個人レベルの相互作用と集団的知性の関係をシミュレートする最小エージェントモデルを提案する。 その結果, エージェントの局所的最適とグローバル的最適の整合性の相補的なメカニズムを提供することにより, 段階的認知遷移がシステム性能を向上させることが示された。
  論文  参考訳（メタデータ） (2021-04-02T14:32:01Z)
• Deep Interactive Bayesian Reinforcement Learning via Meta-Learning [63.96201773395921]
  他のエージェントの戦略に対する不確実性下での最適適応行動は、インタラクティブベイズ強化学習フレームワークを用いて計算することができる。 本稿では,メタラーン近似的信念推論とベイズ最適行動を提案する。 提案手法は, モデルフリーアプローチ, 近似後部からのサンプル採取, 他者のメモリフリーモデル維持, あるいは環境の既知の構造を完全に活用しない既存手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2021-01-11T13:25:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。