論文の概要: Identity, Incentives, and Cooperative Behavior for AI: Reverse-Engineering Multiagent Cooperation

• arxiv url: http://arxiv.org/abs/2610.19188v1
• Date: Tue, 13 Oct 2026 20:52:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.808094
• Title: Identity, Incentives, and Cooperative Behavior for AI: Reverse-Engineering Multiagent Cooperation
• Title（参考訳）: AIのためのアイデンティティ、インセンティブ、協調行動:リバースエンジニアリング型マルチエージェント協調
• Abstract要約: AIシステムの振る舞いは、エージェントが互いに協調したり協調したりする程度にますます依存している。 AIエージェントのアイデンティティや自尊心は明確で曖昧ではない。 我々は,あるエージェントが特定の協調関連行動に関与している理由をリバースエンジニアリングするための枠組みを開発する。
• 参考スコア（独自算出の注目度）: 28.084217710009487
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The behavior of AI systems increasingly depends on the extent to which agents cooperate or coordinate with one another, in ways that may be desirable or not depending on the situation. Conventional explanations for cooperative behavior distinguish between purely other-regarding preferences ("altruism") and instrumental reasons for self-interested agents to cooperate. The way that agents should enact these mechanisms for cooperation (or not) is complicated by the fact that there is not a clear or unambiguous locus of identity or selfhood for AI agents. For example, it is unclear whether agents involved in instances of misaligned collective behavior are motivated by goals at the level of the collective or by various forms of instrumental reasoning. We develop a framework for reverse-engineering why a given set of agents engage in a particular set of cooperation-related behaviors. We argue that many different mechanisms can often produce similar observed behaviors and introduce a set of experimental designs along with conditions under which they can successfully disentangle competing explanations for multiagent behavior. We apply this framework to interactions from a set of frontier models in a simulated environment and demonstrate that the behavior of different models arises from substantively different mechanisms.
• Abstract（参考訳）: AIシステムの振る舞いは、エージェントが互いに協力するか、協調するか、状況によって望ましいか、そうでないかによって、ますます大きく依存する。 協力行動に関する従来の説明は、純粋に非無視的な嗜好(「アルトリズム」)と、利己的なエージェントが協力する道具的理由を区別している。 エージェントがこれらのメカニズムを協調(あるいはそうでない)ために実行すべき方法は、AIエージェントのアイデンティティや自己意識が明確で曖昧でないという事実によって複雑である。 例えば、不整合集団行動の事例に関わるエージェントが、集団のレベルにおける目標や様々な形態の道具的推論によって動機付けられているかどうかは不明である。 我々は,あるエージェントが特定の協調関連行動に関与している理由をリバースエンジニアリングするための枠組みを開発する。 我々は、多くの異なるメカニズムが、しばしば同様の観察された振る舞いを生み出すことができ、それらが競合するマルチエージェント動作の説明を解き放つことができる条件とともに、一連の実験的な設計を導入することができると論じる。 この枠組みをシミュレーション環境におけるフロンティアモデルからの相互作用に適用し、異なるモデルの挙動が実質的に異なるメカニズムから生じることを実証する。

関連論文リスト

• A game theory for foundation models shows new paths to rational cooperation through similarity inference [56.53805518668248]
  最適計画に携わる基礎モデルエージェントは、安定的な協調に一貫して収束していることを示す。 分離された物質から埋め込まれた物質へと移行することで、これらのエージェントは自分たちが居住する宇宙の一部として自身をモデル化する。
  論文  参考訳（メタデータ） (2026-08-04T17:24:33Z)
• Beyond Individual Intelligence: Surveying Collaboration, Failure Attribution, and Self-Evolution in LLM-based Multi-Agent Systems [65.90791804095561]
  マルチエージェントシステムは、特殊エージェント間の構造化された協調を通じてこの問題に対処するが、より厳密な調整は、あまり検討されていないリスクを増幅する。 既存の調査では、個々のエージェント能力、マルチエージェントのコラボレーション、エージェントの自己進化を別々にカバーしている。 この調査は4つの因果関係のあるステージを中心にまとめられた統一されたレビューを提供する。これはLIFEの進展(Lay the capabilities foundation)、協力によるエージェントの統合、帰属による障害の発見、自律的な自己改善によるEvolveである。
  論文  参考訳（メタデータ） (2026-05-14T14:36:13Z)
• Causal Foundations of Collective Agency [6.242119553843324]
  先進的なAIシステムの大きな課題は、単純なエージェントが必然的に、あらゆる個人とは異なる能力と目標を持つ集合エージェントを形成する可能性があることである。 我々は,グループ間の共同行動が合理的かつ目標指向であると見なす際に,集団的主体をグループに割り当てる,この問いに答える行動的視点を採用する。 我々のフレームワークは、マルチエージェントAIシステムにおける創発的集団エージェントを理解し、予測し、制御するための理論的かつ経験的な研究の基盤を提供することを目的としている。
  論文  参考訳（メタデータ） (2026-04-30T21:32:10Z)
• ProAgent: Building Proactive Cooperative Agents with Large Language Models [89.53040828210945]
  ProAgentは、大規模な言語モデルを利用してプロアクティブエージェントを生成する新しいフレームワークである。 ProAgentは現状を分析し、チームメイトの意図を観察から推測することができる。 ProAgentは高度なモジュール化と解釈可能性を示し、様々な調整シナリオに容易に統合できる。
  論文  参考訳（メタデータ） (2023-08-22T10:36:56Z)
• Towards a Unifying Model of Rationality in Multiagent Systems [11.321217099465196]
  マルチエージェントシステムは、これらのエージェントが互いに協力するのと同じくらい効果的に、他のエージェント(人間を含む)と協力する必要がある。 本稿では,個々に合理的な学習者であり,相互に協力できる社会的知的エージェントの汎用モデルを提案する。 我々は、異なる形態の後悔のために、社会的にインテリジェントなエージェントを構築する方法を示します。
  論文  参考訳（メタデータ） (2023-05-29T13:18:43Z)
• Diversifying Agent's Behaviors in Interactive Decision Models [11.125175635860169]
  他のエージェントの振る舞いをモデル化することは、複数のエージェント間の相互作用に関する決定モデルにおいて重要な役割を果たす。 本稿では,その相互作用に先立って,被験者の意思決定モデルにおける他のエージェントの行動の多様化について検討する。
  論文  参考訳（メタデータ） (2022-03-06T23:05:00Z)
• Multi-Agent Imitation Learning with Copulas [102.27052968901894]
  マルチエージェント模倣学習は、観察と行動のマッピングを学習することで、デモからタスクを実行するために複数のエージェントを訓練することを目的としている。 本稿では,確率変数間の依存を捉える強力な統計ツールである copula を用いて,マルチエージェントシステムにおける相関関係と協調関係を明示的にモデル化する。 提案モデルでは,各エージェントの局所的行動パターンと,エージェント間の依存構造のみをフルにキャプチャするコプラ関数を別々に学習することができる。
  論文  参考訳（メタデータ） (2021-07-10T03:49:41Z)
• A mechanism of Individualistic Indirect Reciprocity with internal and external dynamics [0.0]
  本研究は,エージェントの態度に着目した Nowak モデルと Sigmund モデルの新しい変種を提案する。 エージェントベースモデルとデータサイエンス手法を用いて,エージェントの識別的スタンスがほとんどの場合優位であることを示す。 また, 他者の評判が不明な場合には, 不均一性が高く, 協力需要が高い場合には, 異種社会が得られることも示唆した。
  論文  参考訳（メタデータ） (2021-05-28T23:28:50Z)
• Modelling Cooperation in Network Games with Spatio-Temporal Complexity [11.665246332943058]
  複雑なグリッドワールドドメインにおける自己組織化協調の出現について検討する。 マルチエージェント深層強化学習を用いて,エージェント・ソサエティの多種多様なメカニズムをシミュレートした。 本手法は,人間および人工エージェントシステムにおける機構設計に影響を及ぼす。
  論文  参考訳（メタデータ） (2021-02-13T12:04:52Z)
• Multi-Agent Interactions Modeling with Correlated Policies [53.38338964628494]
  本稿では,マルチエージェントインタラクションモデリング問題をマルチエージェント模倣学習フレームワークに実装する。 相関ポリシー(CoDAIL)を用いた分散型適応模倣学習アルゴリズムの開発 様々な実験により、CoDAILはデモレーターに近い複雑な相互作用をより良く再生できることが示されている。
  論文  参考訳（メタデータ） (2020-01-04T17:31:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。