論文の概要: Causal Explanations for Sequential Decision-Making in Multi-Agent Systems

• arxiv url: http://arxiv.org/abs/2302.10809v4
• Date: Wed, 14 Feb 2024 18:28:52 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-15 20:25:39.496816
• Title: Causal Explanations for Sequential Decision-Making in Multi-Agent Systems
• Title（参考訳）: 多エージェントシステムにおける逐次決定過程の因果説明
• Authors: Balint Gyevnar, Cheng Wang, Christopher G. Lucas, Shay B. Cohen, Stefano V. Albrecht
• Abstract要約: CEMAは、シーケンシャルなマルチエージェントシステムにおけるエージェントの決定を因果自然言語で説明するためのフレームワークである。 CEMAは,他のエージェントが多数存在する場合でも,エージェントの決定の背後にある原因を正しく識別する。 我々は,CEMAの説明が参加者の自動運転車への信頼に肯定的な影響を及ぼすことを示す。
• 参考スコア（独自算出の注目度）: 31.674391914683888
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We present CEMA: Causal Explanations in Multi-Agent systems; a framework for creating causal natural language explanations of an agent's decisions in dynamic sequential multi-agent systems to build more trustworthy autonomous agents. Unlike prior work that assumes a fixed causal structure, CEMA only requires a probabilistic model for forward-simulating the state of the system. Using such a model, CEMA simulates counterfactual worlds that identify the salient causes behind the agent's decisions. We evaluate CEMA on the task of motion planning for autonomous driving and test it in diverse simulated scenarios. We show that CEMA correctly and robustly identifies the causes behind the agent's decisions, even when a large number of other agents is present, and show via a user study that CEMA's explanations have a positive effect on participants' trust in autonomous vehicles and are rated as high as high-quality baseline explanations elicited from other participants. We release the collected explanations with annotations as the HEADD dataset.
• Abstract（参考訳）: マルチエージェントシステムにおける因果説明(causal explanations in multi-agent systems)、すなわち、より信頼できる自律エージェントを構築するために、動的に連続するマルチエージェントシステムにおいてエージェントの決定を因果自然言語で説明するためのフレームワークである。 固定因果構造を仮定する以前の作業とは異なり、CEMAはシステムの状態を前方シミュレーションするためにのみ確率論的モデルを必要とする。 このようなモデルを用いて、CEMAはエージェントの決定の背後にある健全な原因を特定する反事実世界をシミュレートする。 自動走行の動作計画におけるCEMAの評価を行い,様々なシミュレーションシナリオで検証した。 CEMAは,多数のエージェントが存在する場合でも,エージェントの意思決定の背景にある原因を正しくかつ堅牢に特定し,CEMAの説明が自律走行車に対する参加者の信頼に肯定的な影響を及ぼし,他の参加者から引き出された高品質のベースライン説明と評価されていることを示す。 HEADDデータセットとしてアノテーションで収集した説明をリリースします。

関連論文リスト

• Linguistic Fuzzy Information Evolution with Random Leader Election Mechanism for Decision-Making Systems [58.67035332062508]
  言語ファジィ情報進化はエージェント間の情報交換を理解する上で重要である。 エージェントの重みの違いは、古典的なDeGrootモデルにおいて異なる収束結果をもたらす可能性がある。 本稿では,言語ファジィ情報力学の新しい3つのモデルを提案する。
  論文  参考訳（メタデータ） (2024-10-19T18:15:24Z)
• Agent-as-a-Judge: Evaluate Agents with Agents [61.33974108405561]
  本稿ではエージェント・アズ・ア・ジャッジ(Agent-as-a-Judge)フレームワークを紹介し,エージェント・システムを用いてエージェント・システムの評価を行う。 これはLLM-as-a-Judgeフレームワークの有機的拡張であり、タスク解決プロセス全体の中間フィードバックを可能にするエージェント的特徴を取り入れている。 55のリアルな自動化AI開発タスクのベンチマークであるDevAIを紹介します。
  論文  参考訳（メタデータ） (2024-10-14T17:57:02Z)
• On the Resilience of Multi-Agent Systems with Malicious Agents [58.79302663733702]
  本稿では,悪意のあるエージェント下でのマルチエージェントシステムのレジリエンスについて検討する。 我々は、任意のエージェントを悪意のあるエージェントに変換する2つの方法、AutoTransformとAutoInjectを考案した。 各エージェントが他のエージェントの出力に挑戦するためのメカニズムを導入するか、あるいはメッセージのレビューと修正を行う追加のエージェントを導入することで、システムのレジリエンスを高めることができることを示す。
  論文  参考訳（メタデータ） (2024-08-02T03:25:20Z)
• BET: Explaining Deep Reinforcement Learning through The Error-Prone Decisions [7.139669387895207]
  エージェントの振る舞いをよりよく説明するために,バックボーン抽出木(Backbone Extract Tree, BET)と呼ばれる新しい自己解釈構造を提案する。 高いレベルでは、BETはエージェントが一貫して一様決定を行う状態はエラーの妥当性を低下させるという仮説を立てている。 説明忠実度の観点から,既存の自己解釈モデルよりもBETの方が優れていることを示す。
  論文  参考訳（メタデータ） (2024-01-14T11:45:05Z)
• On Imperfect Recall in Multi-Agent Influence Diagrams [57.21088266396761]
  マルチエージェント・インフルエンス・ダイアグラム(MAID)はベイズネットワークに基づくゲーム理論モデルとして人気がある。 混合ポリシと2種類の相関平衡を用いて, 忘れ易いエージェントと不注意なエージェントでMAIDを解く方法を示す。 また,不完全なリコールがしばしば避けられないマルコフゲームやチーム状況へのMAIDの適用についても述べる。
  論文  参考訳（メタデータ） (2023-07-11T07:08:34Z)
• Discovering Agents [10.751378433775606]
  エージェントの因果モデルは、機械学習システムの安全性の側面を分析するために使われてきた。 本稿では, エージェントの因果的定義を初めて提唱する。エージェントは, アクションが世界に影響を与える場合, エージェントが政策に適応するシステムであることを概ね示唆する。
  論文  参考訳（メタデータ） (2022-08-17T15:13:25Z)
• Differential Assessment of Black-Box AI Agents [29.98710357871698]
  従来知られていたモデルから逸脱したブラックボックスAIエージェントを差分評価する手法を提案する。 我々は,漂流エージェントの現在の挙動と初期モデルの知識の疎度な観察を利用して,アクティブなクエリポリシーを生成する。 経験的評価は、エージェントモデルをスクラッチから再学習するよりも、我々のアプローチの方がはるかに効率的であることを示している。
  論文  参考訳（メタデータ） (2022-03-24T17:48:58Z)
• Learning Causal Models of Autonomous Agents using Interventions [11.351235628684252]
  我々は、AIシステムがシミュレータで高レベルの命令シーケンスを実行することができるエージェントアセスメントモジュールの分析を拡張した。 このような原始的なクエリ応答能力は、システムのユーザ解釈可能な因果関係モデルを効率的に導出するのに十分であることを示す。
  論文  参考訳（メタデータ） (2021-08-21T21:33:26Z)
• Multi-Agent Imitation Learning with Copulas [102.27052968901894]
  マルチエージェント模倣学習は、観察と行動のマッピングを学習することで、デモからタスクを実行するために複数のエージェントを訓練することを目的としている。 本稿では,確率変数間の依存を捉える強力な統計ツールである copula を用いて,マルチエージェントシステムにおける相関関係と協調関係を明示的にモデル化する。 提案モデルでは,各エージェントの局所的行動パターンと,エージェント間の依存構造のみをフルにキャプチャするコプラ関数を別々に学習することができる。
  論文  参考訳（メタデータ） (2021-07-10T03:49:41Z)
• CausalCity: Complex Simulations with Agency for Causal Discovery and Reasoning [68.74447489372037]
  本稿では,因果探索と反事実推論のためのアルゴリズムの開発を目的とした,高忠実度シミュレーション環境を提案する。 私たちの作業の中核となるコンポーネントは、複雑なシナリオを定義して作成することが簡単になるような、テキストの緊急性を導入することです。 我々は3つの最先端の手法による実験を行い、ベースラインを作成し、この環境の可利用性を強調する。
  論文  参考訳（メタデータ） (2021-06-25T00:21:41Z)
• A Formal Framework for Reasoning about Agents' Independence in Self-organizing Multi-agent Systems [0.7734726150561086]
  本稿では,自己組織型マルチエージェントシステムの論理ベースフレームワークを提案する。 このようなシステムを検証する計算の複雑さは、標準atlの領域に近いままであることを示す。 また、制約満足問題をモデル化するためにフレームワークを使用する方法も示します。
  論文  参考訳（メタデータ） (2021-05-17T07:32:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。