論文の概要: Counterfactual Reasoning for Causal Responsibility Attribution in Probabilistic Multi-Agent Systems

• arxiv url: http://arxiv.org/abs/2605.13077v1
• Date: Wed, 13 May 2026 06:50:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-14 23:30:27.857102
• Title: Counterfactual Reasoning for Causal Responsibility Attribution in Probabilistic Multi-Agent Systems
• Title（参考訳）: 確率的マルチエージェントシステムにおける因果責任属性の因果推論
• Authors: Chunyan Mu, Muhammad Najib,
• Abstract要約: 責任割り当てはマルチエージェントシステムの設計と分析における根本的な課題である。 エージェントの成果に対する説明責任を定量化する,レトロスペクティブ(後方)の反現実的責任の概念を導入する。 責任認識型マルチエージェントシステムにおける検証と戦略的推論の両方をサポートする形式的フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 4.189643331553923
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Responsibility allocation -- determining the extent to which agents are accountable for outcomes -- is a fundamental challenge in the design and analysis of multi-agent systems. In this work, we model such systems as concurrent stochastic multi-player games and introduce a notion of retrospective (backward) counterfactual responsibility, which quantifies an agent's accountability for outcomes resulting from a given strategy profile. To allocate responsibility among agents, we utilise the Shapley value and formally show that this method satisfies key desirable properties, including fairness and consistency. Building on this foundation, we propose a formal framework that supports both verification and strategic reasoning in responsibility-aware multi-agent systems. Furthermore, by adopting Nash equilibrium as the solution concept, we demonstrate how to compute stable strategy profiles in which agents trade off responsibility against expected reward.
• Abstract（参考訳）: 責任割り当て -- エージェントが結果に責任を負う程度を決定する -- は、マルチエージェントシステムの設計と分析において根本的な課題である。 本研究では,同時確率的マルチプレイヤーゲームのようなシステムをモデル化し,与えられた戦略プロファイルから得られる結果に対するエージェントの説明責任を定量化する,レトロスペクティブ(後方)の対物責任の概念を導入する。 エージェント間の責任を割り当てるために、Shapley値を利用し、このメソッドがフェアネスや一貫性を含む重要な望ましい特性を満たすことを正式に示す。 この基盤を基盤として,責任認識型マルチエージェントシステムにおける検証と戦略的推論の両立を支援する形式的枠組みを提案する。 さらに、ソリューション概念としてナッシュ均衡を採用することにより、エージェントが期待される報酬に対して責任を負うような安定した戦略プロファイルを計算する方法を示す。

関連論文リスト

• Position: agentic AI orchestration should be Bayes-consistent [92.04373485710285]
  本稿では,エージェントシステムのオーケストレーションレベルにおいて,一貫性のある意思決定にはベイズ原理が必要であることを論じる。 信念とユーティリティ対応ポリシーがエージェントAIオーケストレーションをどのように改善するかを説明するための例とデザインパターンを提供する。
  論文  参考訳（メタデータ） (2026-05-01T15:43:43Z)
• SAVOIR: Learning Social Savoir-Faire via Shapley-based Reward Attribution [82.31558282651811]
  複雑な対人相互作用をナビゲートするソーシャルインテリジェンスは、言語エージェントに根本的な課題を提示する。 既存のアプローチでは、言語モデルを直接使用してエピソードレベルの報酬を分配する。 協調ゲーム理論に基づく新しい原理的枠組みであるSAVOIRを提案する。
  論文  参考訳（メタデータ） (2026-04-21T02:08:25Z)
• ChatShopBuddy: Towards Reliable Conversational Shopping Agents via Reinforcement Learning [88.87305027895657]
  本研究では,現実シナリオにおけるショッピングエージェントの強化学習に基づく最適化について検討する。 エージェントは、客観的指標(生産的正確性)、主観的品質(説得性)、成果報酬(最終応答品質)、プロセス報酬(ツール効率)にまたがる複数の相互依存目標を同時に満たさなければならない。 実験の結果、我々のRL学習エージェントであるChatShopBuddyは、一般的な推論に依存する大きなモデルよりも一貫して優れています。
  論文  参考訳（メタデータ） (2026-03-06T09:18:51Z)
• Causal Responsibility Attribution for Human-AI Collaboration [62.474732677086855]
  本稿では,人間のAIシステムにおける責任を体系的に評価するために,構造因果モデル(SCM)を用いた因果的枠組みを提案する。 2つのケーススタディは、多様な人間とAIのコラボレーションシナリオにおけるフレームワークの適応性を示している。
  論文  参考訳（メタデータ） (2024-11-05T17:17:45Z)
• Responsibility-aware Strategic Reasoning in Probabilistic Multi-Agent Systems [1.7819574476785418]
  責任は、信頼できる自律システムの開発と展開において重要な役割を果たす。 本稿では,確率的交代時間論理の変種であるPATL+Rを提案する。 本稿では,PATL+Rで指定された結果を満たす共同戦略の合成手法を提案する。
  論文  参考訳（メタデータ） (2024-10-31T18:49:12Z)
• Measuring Responsibility in Multi-Agent Systems [1.5883812630616518]
  マルチエージェントプランニングにおける責任の定量的尺度のファミリーを紹介する。 行動と責任の確率を3つの指標でリンクすることで、特定の結果のエージェントに責任を割り当てます。 エントロピーに基づく責任測定は、時間の経過とともに結果の因果責任特性を捉えた最初のものである。
  論文  参考訳（メタデータ） (2024-10-31T18:45:34Z)
• Responsibility in a Multi-Value Strategic Setting [12.143925288392166]
  責任はマルチエージェントシステムにおいて重要な概念であり、安全で信頼性があり倫理的なAIを作成する。 マルチエージェント・マルチバリュー設定における責任帰属モデルを提案する。 責任の考慮は、エージェントがその価値に沿った戦略を選択するのにどのように役立つかを示す。
  論文  参考訳（メタデータ） (2024-10-22T17:51:13Z)
• Agent-Oriented Planning in Multi-Agent Systems [54.429028104022066]
  マルチエージェントシステムにおけるエージェント指向計画のための新しいフレームワークであるAOPを提案する。 本研究では, エージェント指向計画の3つの重要な設計原則, 可解性, 完全性, 非冗長性を明らかにする。 大規模実験は,マルチエージェントシステムにおける単一エージェントシステムと既存の計画戦略と比較して,現実の問題を解決する上でのAOPの進歩を実証している。
  論文  参考訳（メタデータ） (2024-10-03T04:07:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。