論文の概要: Actual Causality and Responsibility Attribution in Decentralized
Partially Observable Markov Decision Processes
- arxiv url: http://arxiv.org/abs/2204.00302v1
- Date: Fri, 1 Apr 2022 09:22:58 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-04 14:47:16.320822
- Title: Actual Causality and Responsibility Attribution in Decentralized
Partially Observable Markov Decision Processes
- Title(参考訳): 分散型部分可観測マルコフ決定過程における因果関係と責任帰属
- Authors: Stelios Triantafyllou, Adish Singla, Goran Radanovic
- Abstract要約: 我々はこれらの概念を、不確実性の下でのマルチエージェントシーケンシャルな意思決定のための広く使われている枠組みの下で研究する。
実際の因果関係は特定の結果に焦点を当て、関心の成果を実現する上で重要な決定(行動)を識別することを目的としている。
責任帰属(Responsibility attribution)は相補的であり、意思決定者(エージェント)がこの結果にどの程度の責任を持つかを特定することを目的としている。
- 参考スコア(独自算出の注目度): 22.408657774650358
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Actual causality and a closely related concept of responsibility attribution
are central to accountable decision making. Actual causality focuses on
specific outcomes and aims to identify decisions (actions) that were critical
in realizing an outcome of interest. Responsibility attribution is
complementary and aims to identify the extent to which decision makers (agents)
are responsible for this outcome. In this paper, we study these concepts under
a widely used framework for multi-agent sequential decision making under
uncertainty: decentralized partially observable Markov decision processes
(Dec-POMDPs). Following recent works in RL that show correspondence between
POMDPs and Structural Causal Models (SCMs), we first establish a connection
between Dec-POMDPs and SCMs. This connection enables us to utilize a language
for describing actual causality from prior work and study existing definitions
of actual causality in Dec-POMDPs. Given that some of the well-known
definitions may lead to counter-intuitive actual causes, we introduce a novel
definition that more explicitly accounts for causal dependencies between
agents' actions. We then turn to responsibility attribution based on actual
causality, where we argue that in ascribing responsibility to an agent it is
important to consider both the number of actual causes in which the agent
participates, as well as its ability to manipulate its own degree of
responsibility. Motivated by these arguments we introduce a family of
responsibility attribution methods that extends prior work, while accounting
for the aforementioned considerations. Finally, through a simulation-based
experiment, we compare different definitions of actual causality and
responsibility attribution methods. The empirical results demonstrate the
qualitative difference between the considered definitions of actual causality
and their impact on attributed responsibility.
- Abstract(参考訳): 実際の因果関係と密接に関連する責任帰属の概念は、説明責任のある意思決定の中心である。
実際の因果関係は特定の結果に焦点を当て、関心の成果を実現する上で重要な決定(行動)を識別することを目的としている。
責任帰属(Responsibility attribution)は補完的であり、意思決定者(エージェント)がこの結果にどの程度の責任を持つかを特定することを目的としている。
本稿では,不確実性を考慮したマルチエージェントシーケンシャル意思決定の枠組みとして,分散部分可観測マルコフ決定プロセス(dec-pomdps)について検討する。
近年のRLにおけるPOMDPと構造因果モデル(Structure Causal Models, SCM)の対応性を示す研究に続いて、最初にDec-POMDPとSCMの関連性を確立する。
この接続により,dec-pomdpsにおける実因果関係の既存定義を学習し,先行研究から実因果関係を記述できる言語を活用できる。
既知の定義のいくつかが直観に反する実際の原因につながる可能性があることを考慮し、エージェントのアクション間の因果関係をより明確に説明できる新しい定義を導入する。
次に、実際の因果性に基づく責任帰属に転換し、エージェントに責任を課す際には、エージェントが参加する実際の原因の数と、その責任の程度を操作する能力の両方を考慮することが重要であると論じる。
これらの議論に動機づけられたのが,先述の考察を考慮しつつ,先行業務を拡張する責任帰属法である。
最後に,シミュレーションに基づく実験により,実際の因果関係と責任帰属方法の異なる定義を比較する。
実験の結果,実因果関係の定義と因果関係の因果関係との質的差異が示された。
関連論文リスト
- A Semantic Approach to Decidability in Epistemic Planning (Extended
Version) [72.77805489645604]
我々は決定可能性を達成するために新しい意味論的アプローチを用いる。
具体的には、知識の論理S5$_n$と(知識)可換性と呼ばれる相互作用公理を拡大する。
我々は,本フレームワークが,独立した知識である共通知識の有限的非固定点的特徴を認めていることを証明した。
論文 参考訳(メタデータ) (2023-07-28T11:26:26Z) - Learning Causally Disentangled Representations via the Principle of
Independent Causal Mechanisms [18.318692567104378]
本稿では、因果関係の観測ラベルによって教師される因果関係の非絡み合い表現を学習するための枠組みを提案する。
この枠組みは, 極めて不整合な因果関係を生じさせ, 介入の堅牢性を向上し, 反事実発生と相容れないことを示す。
論文 参考訳(メタデータ) (2023-06-02T00:28:48Z) - Towards Computationally Efficient Responsibility Attribution in
Decentralized Partially Observable MDPs [5.825190876052148]
責任帰属(Responsibility Attribution)は、説明責任のあるマルチエージェント意思決定の鍵となる概念である。
エージェントの責任度を効率的に近似するモンテカルロ木探索(MCTS)方式を提案する。
シミュレーションベースのテストベッドを用いて,提案アルゴリズムの有効性を実験的に評価した。
論文 参考訳(メタデータ) (2023-02-24T14:56:25Z) - Phenomenological Causality [14.817342045377842]
本稿では,基本的な概念が基本的な行動の集合である「現象因果性」の概念を提案する。
検討中のシステムが基本的な動作を制御する他の変数と相互作用する場合、それは因果マルコフ条件と一致していると論じる。
論文 参考訳(メタデータ) (2022-11-15T13:05:45Z) - Application of Causal Inference to Analytical Customer Relationship
Management in Banking and Insurance [6.228766191647919]
統計学において、因果関係は長年研究され、応用されてきたが、人工知能(AI)についてはあまり詳細には研究されていない。
本研究では、分析的顧客関係管理問題を解決するための説明可能性を提供するために、因果推論の原則を適用した。
ローンのデフォルト、保険詐欺検出、クレジットカード詐欺検出データセットの良質な対策が作成された。
論文 参考訳(メタデータ) (2022-08-19T05:57:58Z) - Causal Fairness Analysis [68.12191782657437]
意思決定設定における公平性の問題を理解し、モデル化し、潜在的に解決するためのフレームワークを導入します。
我々のアプローチの主な洞察は、観測データに存在する格差の定量化と、基礎となる、しばしば観測されていない、因果的なメカニズムの収集を結びつけることである。
本研究は,文献中の異なる基準間の関係を整理し,説明するための最初の体系的試みであるフェアネスマップにおいて,本研究の成果を左右するものである。
論文 参考訳(メタデータ) (2022-07-23T01:06:34Z) - Causal Inference Principles for Reasoning about Commonsense Causality [93.19149325083968]
コモンセンス因果推論(Commonsense causality reasoning)は、平均的な人によって妥当と見なされる自然言語記述における妥当な原因と影響を特定することを目的としている。
既存の作業は通常、深い言語モデルに全面的に依存しており、共起を混同する可能性がある。
古典的因果原理に触発され,我々はCCRの中心的問題を明確にし,観察研究と自然言語における人間の対象間の類似性を引き出す。
本稿では,時間信号をインシデント・インシデント・インシデント・インシデント・インシデントとして活用する新しいフレームワークであるROCKをReason O(A)bout Commonsense K(C)ausalityに提案する。
論文 参考訳(メタデータ) (2022-01-31T06:12:39Z) - On Blame Attribution for Accountable Multi-Agent Sequential Decision
Making [29.431349181232203]
協調型マルチエージェントシーケンシャル意思決定の文脈における責任帰属について検討する。
我々は、Shapley値のようなよく知られた非難帰属の手法が、パフォーマンスにインセンティブを与えていないことを示す。
そこで我々は,それが満足する特性の集合に特有の,新たな因果帰属法を提案する。
論文 参考訳(メタデータ) (2021-07-26T02:22:23Z) - Everything Has a Cause: Leveraging Causal Inference in Legal Text
Analysis [62.44432226563088]
因果推論は変数間の因果関係を捉えるプロセスである。
本論文では,事実記述から因果グラフを構築するための新たなグラフベース因果推論フレームワークを提案する。
GCIに含まれる因果知識を強力なニューラルネットワークに効果的に注入することで、パフォーマンスと解釈性が向上します。
論文 参考訳(メタデータ) (2021-04-19T16:13:10Z) - Learning Causal Semantic Representation for Out-of-Distribution
Prediction [125.38836464226092]
因果推論に基づく因果意味生成モデル(CSG)を提案し,その2つの要因を別々にモデル化する。
CSGはトレーニングデータに適合させることで意味的因子を識別できることを示し、この意味的識別はOOD一般化誤差の有界性を保証する。
論文 参考訳(メタデータ) (2020-11-03T13:16:05Z) - Thinking About Causation: A Causal Language with Epistemic Operators [58.720142291102135]
我々はエージェントの状態を表すことで因果モデルの概念を拡張した。
対象言語の側面には、知識を表現する演算子や、新しい情報を観察する行為が追加されます。
我々は、論理の健全かつ完全な公理化を提供し、このフレームワークと因果的チーム意味論との関係について論じる。
論文 参考訳(メタデータ) (2020-10-30T12:16:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。