論文の概要: Causal Foundations of Collective Agency
- arxiv url: http://arxiv.org/abs/2605.00248v1
- Date: Thu, 30 Apr 2026 21:32:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-04 17:43:28.764698
- Title: Causal Foundations of Collective Agency
- Title（参考訳）: 集団機関の因果財団
- Authors: Frederik Hytting Jørgensen, Sebastian Weichwald, Lewis Hammond,
- Abstract要約: 先進的なAIシステムの大きな課題は、単純なエージェントが必然的に、あらゆる個人とは異なる能力と目標を持つ集合エージェントを形成する可能性があることである。
我々は,グループ間の共同行動が合理的かつ目標指向であると見なす際に,集団的主体をグループに割り当てる,この問いに答える行動的視点を採用する。
我々のフレームワークは、マルチエージェントAIシステムにおける創発的集団エージェントを理解し、予測し、制御するための理論的かつ経験的な研究の基盤を提供することを目的としている。
- 参考スコア（独自算出の注目度）: 6.242119553843324
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A key challenge for the safety of advanced AI systems is the possibility that multiple simpler agents might inadvertently form a collective agent with capabilities and goals distinct from those of any individual. More generally, determining when a group of agents can be viewed as a unified collective agent is a foundational question in the study of interactions and incentives in both biological and artificial systems. We adopt a behavioral perspective in answering this question, ascribing collective agency to a group when viewing the group's joint actions as rational and goal-directed successfully predicts its behavior. We formalize this perspective on collective agency using causal games -- which are causal models of strategic, multi-agent interactions -- and causal abstraction -- which formalizes when a simple, high-level model faithfully captures a more complex, low-level model. We use this framework to solve a puzzle regarding multi-agent incentives in actor-critic models and to make quantitative assessments of the degree of collective agency exhibited by different voting mechanisms. Our framework aims to provide a foundation for theoretical and empirical work to understand, predict, and control emergent collective agents in multi-agent AI systems.
- Abstract（参考訳）: 高度なAIシステムの安全性の鍵となる課題は、複数の単純なエージェントが必然的に、あらゆる個人とは異なる能力と目標を持つ集合エージェントを形成する可能性があることである。
より一般的には、エージェントの集団が統合された集合体エージェントと見なされる時期を決定することは、生物学的および人工両方のシステムにおける相互作用とインセンティブの研究における基礎的な問題である。
我々は,グループ間の共同行動が合理的かつ目標指向であると見なす場合,集団的主体をグループに割り当てることによって,この問いに答える行動的視点を採用する。
我々は、この視点を、戦略的なマルチエージェント相互作用の因果モデルである因果ゲームと、より複雑で低レベルなモデルを忠実に捉えた時に形式化する因果抽象化を用いて、集合的なエージェンシーにフォーマル化する。
この枠組みは,アクター批判モデルにおけるマルチエージェントインセンティブに関する問題解決と,異なる投票機構によって提示される集合体の程度を定量的に評価するために用いられる。
我々のフレームワークは、マルチエージェントAIシステムにおける創発的集団エージェントを理解し、予測し、制御するための理論的かつ経験的な研究の基盤を提供することを目的としている。
関連論文リスト
- Agentic Reasoning for Large Language Models [122.81018455095999]
推論は推論、問題解決、意思決定の基礎となる基本的な認知プロセスである。
大規模言語モデル(LLM)は、クローズドワールド設定では強力な推論能力を示すが、オープンエンドおよび動的環境では苦労する。
エージェント推論は、連続的な相互作用を計画し、行動し、学習する自律的なエージェントとしてLLMを解釈することでパラダイムシフトを示す。
論文 参考訳（メタデータ） (2026-01-18T18:58:23Z) - Emergent Coordination in Multi-Agent Language Models [2.504366738288215]
マルチエージェントシステムが高次構造の兆候を示すかどうかをテストするための情報理論フレームワークを提案する。
この情報分解により、マルチエージェントLLMシステムに動的に出現するかどうかを測定することができる。
我々は,エージェントの直接通信を使わずに,単純な推測ゲームを用いた実験に本フレームワークを適用した。
論文 参考訳（メタデータ） (2025-10-05T11:26:41Z) - Can an Individual Manipulate the Collective Decisions of Multi-Agents? [53.01767232004823]
M-Spoilerは、マルチエージェントシステム内のエージェントインタラクションをシミュレートして、対向サンプルを生成するフレームワークである。
M-スポイラーは、敵対的サンプルの最適化を積極的に支援するスタブボーン剤を導入した。
本研究は,マルチエージェントシステムにおける個々のエージェントの知識によって引き起こされるリスクを検証した。
論文 参考訳（メタデータ） (2025-09-20T01:54:20Z) - Beyond Brainstorming: What Drives High-Quality Scientific Ideas? Lessons from Multi-Agent Collaboration [59.41889496960302]
本稿では,構造化マルチエージェントの議論が独創的思考を超えうるかどうかを考察する。
研究提案を作成するための協調型マルチエージェントフレームワークを提案する。
エージェントベースのスコアリングと,新規性,戦略的ビジョン,統合深度といった領域にわたるヒューマンレビューを備えた包括的プロトコルを採用している。
論文 参考訳（メタデータ） (2025-08-06T15:59:18Z) - HiddenBench: Assessing Collective Reasoning in Multi-Agent LLMs via Hidden Profile Tasks [12.203366267017737]
マルチエージェント LLM における集合的推論を評価するための最初のベンチマークである HiddenBench を紹介する。
ベンチマークを基礎として,このパラダイムをカスタムタスクで形式化し,GPT-4.1グループが分散知識の統合に失敗したことを示す。
次に、カスタムデザイン、先行研究、自動生成から引き出された65のタスクにまたがる完全なベンチマークを構築します。
論文 参考訳（メタデータ） (2025-05-15T19:22:54Z) - Reaching Consensus in Cooperative Multi-Agent Reinforcement Learning
with Goal Imagination [16.74629849552254]
本稿では,複数のエージェントを協調するモデルに基づくコンセンサス機構を提案する。
提案したMulti-Adnt Goal Imagination (MAGI) フレームワークは、エージェントがImagined Common goalとコンセンサスに達するためのガイドである。
このような効率的なコンセンサス機構は、すべてのエージェントを協調して有用な将来状態に導くことができることを示す。
論文 参考訳（メタデータ） (2024-03-05T18:07:34Z) - On the Complexity of Multi-Agent Decision Making: From Learning in Games
to Partial Monitoring [105.13668993076801]
マルチエージェント強化学習(MARL)理論における中心的な問題は、構造条件やアルゴリズムの原理がサンプル効率の学習保証につながるかを理解することである。
本稿では,複数のエージェントを用いた対話型意思決定のための一般的な枠組みとして,この問題について考察する。
マルチエージェント意思決定における統計的複雑性を特徴付けることは、単一エージェント決定の統計的複雑性を特徴付けることと等価であることを示す。
論文 参考訳（メタデータ） (2023-05-01T06:46:22Z) - Multi-Agent Imitation Learning with Copulas [102.27052968901894]
マルチエージェント模倣学習は、観察と行動のマッピングを学習することで、デモからタスクを実行するために複数のエージェントを訓練することを目的としている。
本稿では,確率変数間の依存を捉える強力な統計ツールである copula を用いて,マルチエージェントシステムにおける相関関係と協調関係を明示的にモデル化する。
提案モデルでは,各エージェントの局所的行動パターンと,エージェント間の依存構造のみをフルにキャプチャするコプラ関数を別々に学習することができる。
論文 参考訳（メタデータ） (2021-07-10T03:49:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。