論文の概要: MACIE: Multi-Agent Causal Intelligence Explainer for Collective Behavior Understanding

• arxiv url: http://arxiv.org/abs/2511.15716v1
• Date: Tue, 11 Nov 2025 19:04:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-21 17:08:52.274359
• Title: MACIE: Multi-Agent Causal Intelligence Explainer for Collective Behavior Understanding
• Title（参考訳）: MACIE:集団行動理解のためのマルチエージェント因果情報記述器
• Authors: Abraham Itzhak Weinberg,
• Abstract要約: 本稿では,構造因果モデル,介入対策,シェープリー値を組み合わせたフレームワークMACIEを提案する。 我々は、MARLの4つのシナリオ(協調、競争、混合モチベーション)でMACIEを評価した。 結果は正確な結果の属性を示し、平均 phi_i は 5.07 で、標準偏差は 0.05 未満、協調作業の正の出現を検知し、相乗指数は 0.461 まで、効率的な計算は CPU 上でのデータセット当たり 0.79 秒である。
• 参考スコア（独自算出の注目度）: 0.2538209532048867
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As Multi Agent Reinforcement Learning systems are used in safety critical applications. Understanding why agents make decisions and how they achieve collective behavior is crucial. Existing explainable AI methods struggle in multi agent settings. They fail to attribute collective outcomes to individuals, quantify emergent behaviors, or capture complex interactions. We present MACIE Multi Agent Causal Intelligence Explainer, a framework combining structural causal models, interventional counterfactuals, and Shapley values to provide comprehensive explanations. MACIE addresses three questions. First, each agent's causal contribution using interventional attribution scores. Second, system level emergent intelligence through synergy metrics separating collective effects from individual contributions. Third, actionable explanations using natural language narratives synthesizing causal insights. We evaluate MACIE across four MARL scenarios: cooperative, competitive, and mixed motive. Results show accurate outcome attribution, mean phi_i equals 5.07, standard deviation less than 0.05, detection of positive emergence in cooperative tasks, synergy index up to 0.461, and efficient computation, 0.79 seconds per dataset on CPU. MACIE uniquely combines causal rigor, emergence quantification, and multi agent support while remaining practical for real time use. This represents a step toward interpretable, trustworthy, and accountable multi agent AI.
• Abstract（参考訳）: マルチエージェント強化学習システムは、安全クリティカルな応用に利用される。 なぜエージェントが意思決定を行うのか、どのように集団行動を達成するかを理解することが重要である。 既存の説明可能なAIメソッドは、マルチエージェント設定で苦労する。 集団的な成果を個人に割り当てたり、創発的な振る舞いを定量化したり、複雑な相互作用を捉えたりするのに失敗する。 本稿では、構造因果モデル、介入対策、およびシェープ値を組み合わせたフレームワークであるMACIE Multi Agent Causal Intelligence Explainerを紹介し、包括的説明を提供する。 MACIEは3つの質問に対処する。 まず、介入帰属スコアを用いた各エージェントの因果貢献。 第2に、システムレベルの創発的インテリジェンスを、個々のコントリビューションから集合的効果を分離する相乗効果メトリクスによって実現する。 第3に、因果的洞察を合成する自然言語の物語を用いた実用的な説明。 我々は,MARLの4つのシナリオ(協調,競争,混合モチベーション)でMACIEを評価した。 結果は正確な結果の属性を示し、平均 phi_i は 5.07 で、標準偏差は 0.05 未満、協調作業の正の出現を検知し、相乗指数は 0.461 まで、効率的な計算は CPU 上でのデータセット当たり 0.79 秒である。 MACIEは因果関係の厳密さ、量子化の出現、マルチエージェントのサポートを一意に組み合わせつつ、実時間での実用性を維持している。 これは、解釈可能で信頼性があり、説明可能なマルチエージェントAIへの一歩である。

関連論文リスト

• Understanding Action Effects through Instrumental Empowerment in Multi-Agent Reinforcement Learning [39.74025439412935]
  本研究は,政策分布の分析のみでエージェント行動に対する有意義な洞察を抽出できるかどうかを考察する。 知的エージェントが収束器質的価値を追求する傾向にある現象にインスパイアされた我々は、ICV(Intended Cooperation Values)を導入する。 ICVは、その決定(不確実性)と選好の整合性を評価することで、チームメイトの方針に対するエージェントの作用を測定する。
  論文  参考訳（メタデータ） (2025-08-21T15:35:59Z)
• MCP-Orchestrated Multi-Agent System for Automated Disinformation Detection [84.75972919995398]
  本稿では,関係抽出を用いてニュース記事の偽情報を検出するマルチエージェントシステムを提案する。 提案したエージェントAIシステムは、(i)機械学習エージェント(ロジスティック回帰)、(ii)Wikipedia知識チェックエージェント、(iv)Webスクラッドデータアナライザの4つのエージェントを組み合わせる。 その結果、マルチエージェントアンサンブルはF1スコア0.964で95.3%の精度を達成し、個々のエージェントや従来のアプローチよりも大幅に優れていた。
  論文  参考訳（メタデータ） (2025-08-13T19:14:48Z)
• A Cooperative Multi-Agent Framework for Zero-Shot Named Entity Recognition [71.61103962200666]
  ゼロショット名付きエンティティ認識(NER)は、注釈のないテキストコーパスからエンティティ認識システムを開発することを目的としている。 最近の研究は、特別なプロンプトテンプレートを作成することで、ゼロショットNERに大規模な言語モデル(LLM)を適用している。 ゼロショットNERのための新しいフレームワークである協調型マルチエージェントシステム(CMAS)を紹介する。
  論文  参考訳（メタデータ） (2025-02-25T23:30:43Z)
• Understanding Individual Agent Importance in Multi-Agent System via Counterfactual Reasoning [20.76991315856237]
  本稿では,エージェントの重要度を評価する新しいエージェントレベルの説明手法であるEMAIを提案する。 反実的推論にインスパイアされたエージェントのランダム化作用による報酬の変化は、その重要性を示唆している。 EMAIは、ベースラインよりも説明の忠実度が高く、実践的応用においてより効果的なガイダンスを提供する。
  論文  参考訳（メタデータ） (2024-12-20T07:24:43Z)
• Malicious Agent Detection for Robust Multi-Agent Collaborative Perception [52.261231738242266]
  多エージェント協調(MAC)知覚は、単エージェント認識よりも敵攻撃に対して脆弱である。 MAC知覚に特異的な反応防御であるMADE(Malicious Agent Detection)を提案する。 我々は、ベンチマーク3DデータセットV2X-simとリアルタイムデータセットDAIR-V2Xで包括的な評価を行う。
  論文  参考訳（メタデータ） (2023-10-18T11:36:42Z)
• Collective eXplainable AI: Explaining Cooperative Strategies and Agent Contribution in Multiagent Reinforcement Learning with Shapley Values [68.8204255655161]
  本研究は,シェープリー値を用いたマルチエージェントRLにおける協調戦略を説明するための新しい手法を提案する。 結果は、差別的でない意思決定、倫理的かつ責任あるAI由来の意思決定、公正な制約の下での政策決定に影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2021-10-04T10:28:57Z)
• Multi-Agent Imitation Learning with Copulas [102.27052968901894]
  マルチエージェント模倣学習は、観察と行動のマッピングを学習することで、デモからタスクを実行するために複数のエージェントを訓練することを目的としている。 本稿では,確率変数間の依存を捉える強力な統計ツールである copula を用いて,マルチエージェントシステムにおける相関関係と協調関係を明示的にモデル化する。 提案モデルでは,各エージェントの局所的行動パターンと,エージェント間の依存構造のみをフルにキャプチャするコプラ関数を別々に学習することができる。
  論文  参考訳（メタデータ） (2021-07-10T03:49:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。