論文の概要: Actual Causality and Responsibility Attribution in Decentralized Partially Observable Markov Decision Processes

• arxiv url: http://arxiv.org/abs/2204.00302v1
• Date: Fri, 1 Apr 2022 09:22:58 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-04 14:47:16.320822
• Title: Actual Causality and Responsibility Attribution in Decentralized Partially Observable Markov Decision Processes
• Title（参考訳）: 分散型部分可観測マルコフ決定過程における因果関係と責任帰属
• Authors: Stelios Triantafyllou, Adish Singla, Goran Radanovic
• Abstract要約: 我々はこれらの概念を、不確実性の下でのマルチエージェントシーケンシャルな意思決定のための広く使われている枠組みの下で研究する。 実際の因果関係は特定の結果に焦点を当て、関心の成果を実現する上で重要な決定(行動)を識別することを目的としている。 責任帰属(Responsibility attribution)は相補的であり、意思決定者(エージェント)がこの結果にどの程度の責任を持つかを特定することを目的としている。
• 参考スコア（独自算出の注目度）: 22.408657774650358
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Actual causality and a closely related concept of responsibility attribution are central to accountable decision making. Actual causality focuses on specific outcomes and aims to identify decisions (actions) that were critical in realizing an outcome of interest. Responsibility attribution is complementary and aims to identify the extent to which decision makers (agents) are responsible for this outcome. In this paper, we study these concepts under a widely used framework for multi-agent sequential decision making under uncertainty: decentralized partially observable Markov decision processes (Dec-POMDPs). Following recent works in RL that show correspondence between POMDPs and Structural Causal Models (SCMs), we first establish a connection between Dec-POMDPs and SCMs. This connection enables us to utilize a language for describing actual causality from prior work and study existing definitions of actual causality in Dec-POMDPs. Given that some of the well-known definitions may lead to counter-intuitive actual causes, we introduce a novel definition that more explicitly accounts for causal dependencies between agents' actions. We then turn to responsibility attribution based on actual causality, where we argue that in ascribing responsibility to an agent it is important to consider both the number of actual causes in which the agent participates, as well as its ability to manipulate its own degree of responsibility. Motivated by these arguments we introduce a family of responsibility attribution methods that extends prior work, while accounting for the aforementioned considerations. Finally, through a simulation-based experiment, we compare different definitions of actual causality and responsibility attribution methods. The empirical results demonstrate the qualitative difference between the considered definitions of actual causality and their impact on attributed responsibility.
• Abstract（参考訳）: 実際の因果関係と密接に関連する責任帰属の概念は、説明責任のある意思決定の中心である。 実際の因果関係は特定の結果に焦点を当て、関心の成果を実現する上で重要な決定(行動)を識別することを目的としている。 責任帰属(Responsibility attribution)は補完的であり、意思決定者(エージェント)がこの結果にどの程度の責任を持つかを特定することを目的としている。 本稿では,不確実性を考慮したマルチエージェントシーケンシャル意思決定の枠組みとして,分散部分可観測マルコフ決定プロセス(dec-pomdps)について検討する。 近年のRLにおけるPOMDPと構造因果モデル(Structure Causal Models, SCM)の対応性を示す研究に続いて、最初にDec-POMDPとSCMの関連性を確立する。 この接続により,dec-pomdpsにおける実因果関係の既存定義を学習し,先行研究から実因果関係を記述できる言語を活用できる。 既知の定義のいくつかが直観に反する実際の原因につながる可能性があることを考慮し、エージェントのアクション間の因果関係をより明確に説明できる新しい定義を導入する。 次に、実際の因果性に基づく責任帰属に転換し、エージェントに責任を課す際には、エージェントが参加する実際の原因の数と、その責任の程度を操作する能力の両方を考慮することが重要であると論じる。 これらの議論に動機づけられたのが,先述の考察を考慮しつつ,先行業務を拡張する責任帰属法である。 最後に,シミュレーションに基づく実験により,実際の因果関係と責任帰属方法の異なる定義を比較する。 実験の結果,実因果関係の定義と因果関係の因果関係との質的差異が示された。

関連論文リスト

• Causal Responsibility Attribution for Human-AI Collaboration [62.474732677086855]
  本稿では,人間のAIシステムにおける責任を体系的に評価するために,構造因果モデル(SCM)を用いた因果的枠組みを提案する。 2つのケーススタディは、多様な人間とAIのコラボレーションシナリオにおけるフレームワークの適応性を示している。
  論文  参考訳（メタデータ） (2024-11-05T17:17:45Z)
• The Odyssey of Commonsense Causality: From Foundational Benchmarks to Cutting-Edge Reasoning [70.16523526957162]
  常識の因果関係を理解することは、人々が現実世界の原理をよりよく理解するのに役立ちます。 その重要性にもかかわらず、このトピックの体系的な探索は特に欠落している。 本研究の目的は、体系的な概要の提供、最近の進歩に関する学者の更新、初心者のための実践的なガイドを提供することである。
  論文  参考訳（メタデータ） (2024-06-27T16:30:50Z)
• Towards CausalGPT: A Multi-Agent Approach for Faithful Knowledge Reasoning via Promoting Causal Consistency in LLMs [60.244412212130264]
  Causal-Consistency Chain-of-Thoughtは、基礎モデルの忠実さと因果性を強化するために、マルチエージェントコラボレーションを活用する。 我々のフレームワークは、広範囲かつ包括的な評価を通じて、最先端の手法よりも大きな優位性を示す。
  論文  参考訳（メタデータ） (2023-08-23T04:59:21Z)
• A Semantic Approach to Decidability in Epistemic Planning (Extended Version) [72.77805489645604]
  我々は決定可能性を達成するために新しい意味論的アプローチを用いる。 具体的には、知識の論理S5$_n$と(知識)可換性と呼ばれる相互作用公理を拡大する。 我々は,本フレームワークが,独立した知識である共通知識の有限的非固定点的特徴を認めていることを証明した。
  論文  参考訳（メタデータ） (2023-07-28T11:26:26Z)
• Learning Causally Disentangled Representations via the Principle of Independent Causal Mechanisms [17.074858228123706]
  本稿では、因果関係の観測ラベルによって教師される因果関係の非絡み合い表現を学習するための枠組みを提案する。 この枠組みは, 極めて不整合な因果関係を生じさせ, 介入の堅牢性を向上し, 反事実発生と相容れないことを示す。
  論文  参考訳（メタデータ） (2023-06-02T00:28:48Z)
• Towards Computationally Efficient Responsibility Attribution in Decentralized Partially Observable MDPs [5.825190876052148]
  責任帰属(Responsibility Attribution)は、説明責任のあるマルチエージェント意思決定の鍵となる概念である。 エージェントの責任度を効率的に近似するモンテカルロ木探索(MCTS)方式を提案する。 シミュレーションベースのテストベッドを用いて,提案アルゴリズムの有効性を実験的に評価した。
  論文  参考訳（メタデータ） (2023-02-24T14:56:25Z)
• Phenomenological Causality [14.817342045377842]
  本稿では,基本的な概念が基本的な行動の集合である「現象因果性」の概念を提案する。 検討中のシステムが基本的な動作を制御する他の変数と相互作用する場合、それは因果マルコフ条件と一致していると論じる。
  論文  参考訳（メタデータ） (2022-11-15T13:05:45Z)
• Application of Causal Inference to Analytical Customer Relationship Management in Banking and Insurance [6.228766191647919]
  統計学において、因果関係は長年研究され、応用されてきたが、人工知能(AI)についてはあまり詳細には研究されていない。 本研究では、分析的顧客関係管理問題を解決するための説明可能性を提供するために、因果推論の原則を適用した。 ローンのデフォルト、保険詐欺検出、クレジットカード詐欺検出データセットの良質な対策が作成された。
  論文  参考訳（メタデータ） (2022-08-19T05:57:58Z)
• On Blame Attribution for Accountable Multi-Agent Sequential Decision Making [29.431349181232203]
  協調型マルチエージェントシーケンシャル意思決定の文脈における責任帰属について検討する。 我々は、Shapley値のようなよく知られた非難帰属の手法が、パフォーマンスにインセンティブを与えていないことを示す。 そこで我々は,それが満足する特性の集合に特有の,新たな因果帰属法を提案する。
  論文  参考訳（メタデータ） (2021-07-26T02:22:23Z)
• Everything Has a Cause: Leveraging Causal Inference in Legal Text Analysis [62.44432226563088]
  因果推論は変数間の因果関係を捉えるプロセスである。 本論文では,事実記述から因果グラフを構築するための新たなグラフベース因果推論フレームワークを提案する。 GCIに含まれる因果知識を強力なニューラルネットワークに効果的に注入することで、パフォーマンスと解釈性が向上します。
  論文  参考訳（メタデータ） (2021-04-19T16:13:10Z)
• Thinking About Causation: A Causal Language with Epistemic Operators [58.720142291102135]
  我々はエージェントの状態を表すことで因果モデルの概念を拡張した。 対象言語の側面には、知識を表現する演算子や、新しい情報を観察する行為が追加されます。 我々は、論理の健全かつ完全な公理化を提供し、このフレームワークと因果的チーム意味論との関係について論じる。
  論文  参考訳（メタデータ） (2020-10-30T12:16:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。