論文の概要: Causal Discovery for Fairness

• arxiv url: http://arxiv.org/abs/2206.06685v1
• Date: Tue, 14 Jun 2022 08:40:40 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-15 14:09:38.683576
• Title: Causal Discovery for Fairness
• Title（参考訳）: 公平性に対する因果的発見
• Authors: R\=uta Binkyt\.e-Sadauskien\.e, Karima Makhlouf, Carlos Pinz\'on, Sami Zhioua, Catuscia Palamidessi
• Abstract要約: 因果的発見アプローチの違いが因果的モデルにどのように影響するか,因果的モデル間の微妙な差異が公平さ/差別的結論にどのように影響するかを示す。 本研究の主な目的は,因果関係を用いて公平に対処する因果発見ステップの重要性を明らかにすることである。
• 参考スコア（独自算出の注目度）: 3.3861246056563616
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: It is crucial to consider the social and ethical consequences of AI and ML based decisions for the safe and acceptable use of these emerging technologies. Fairness, in particular, guarantees that the ML decisions do not result in discrimination against individuals or minorities. Identifying and measuring reliably fairness/discrimination is better achieved using causality which considers the causal relation, beyond mere association, between the sensitive attribute (e.g. gender, race, religion, etc.) and the decision (e.g. job hiring, loan granting, etc.). The big impediment to the use of causality to address fairness, however, is the unavailability of the causal model (typically represented as a causal graph). Existing causal approaches to fairness in the literature do not address this problem and assume that the causal model is available. In this paper, we do not make such assumption and we review the major algorithms to discover causal relations from observable data. This study focuses on causal discovery and its impact on fairness. In particular, we show how different causal discovery approaches may result in different causal models and, most importantly, how even slight differences between causal models can have significant impact on fairness/discrimination conclusions. These results are consolidated by empirical analysis using synthetic and standard fairness benchmark datasets. The main goal of this study is to highlight the importance of the causal discovery step to appropriately address fairness using causality.
• Abstract（参考訳）: これらの新興技術の安全かつ許容可能な使用について、AIとMLに基づく決定の社会的および倫理的結果を検討することが重要である。 特に公平性は、MLの決定が個人やマイノリティに対する差別を生じさせないことを保証している。 性的属性(性別、人種、宗教など)と決定(雇用、貸与など)の間の因果関係を考える因果関係により、確実な公平さ/差別を同定し、測定することがより適している。 しかし、公平性に対処するために因果関係を使用する大きな障害は因果モデル(典型的には因果グラフとして表現される)が使えないことである。 文献において、既存の因果的アプローチは、この問題に対処せず、因果的モデルが利用可能であると仮定する。 本稿では,このような仮定は行わず,観測可能なデータから因果関係を発見するための主要なアルゴリズムを概観する。 本研究は因果発見とその公平性への影響に注目した。 特に,因果発見アプローチの違いが因果モデルにどのように影響するか,そして最も重要なことは,因果モデル間のわずかな差が公正/差別的結論に大きな影響を与えるかを示す。 これらの結果は、合成および標準フェアネスベンチマークデータセットを用いた経験的分析によって統合される。 本研究の主な目的は,因果関係を用いて公平に対処する因果発見ステップの重要性を明らかにすることである。

関連論文リスト

• Fairness-Accuracy Trade-Offs: A Causal Perspective [58.06306331390586]
  我々は、初めて因果レンズから公正性と正確性の間の張力を分析する。 因果的制約を強制することは、しばしば人口集団間の格差を減少させることを示す。 因果制約付きフェアラーニングのための新しいニューラルアプローチを導入する。
  論文  参考訳（メタデータ） (2024-05-24T11:19:52Z)
• Identifiable Latent Polynomial Causal Models Through the Lens of Change [82.14087963690561]
  因果表現学習は、観測された低レベルデータから潜在的な高レベル因果表現を明らかにすることを目的としている。 主な課題の1つは、識別可能性(identifiability)として知られるこれらの潜伏因果モデルを特定する信頼性の高い保証を提供することである。
  論文  参考訳（メタデータ） (2023-10-24T07:46:10Z)
• Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
  公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。 カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。 本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
  論文  参考訳（メタデータ） (2023-07-17T04:08:29Z)
• A Survey on Causal Discovery: Theory and Practice [2.741266294612776]
  因果推論は、原因とその影響を結びつける基礎となる関係を定量化するように設計されている。 本稿では,最近の進歩を統一的に検討し,既存のアルゴリズムを一貫した概要を提供し,有用なツールやデータを報告する。
  論文  参考訳（メタデータ） (2023-05-17T08:18:56Z)
• Active Bayesian Causal Inference [72.70593653185078]
  因果発見と推論を統合するための完全ベイズ能動学習フレームワークであるアクティブベイズ因果推論(ABCI)を提案する。 ABCIは因果関係のモデルと関心のクエリを共同で推論する。 我々のアプローチは、完全な因果グラフの学習のみに焦点を当てた、いくつかのベースラインよりも、よりデータ効率が高いことを示す。
  論文  参考訳（メタデータ） (2022-06-04T22:38:57Z)
• Counterfactual Fairness with Partially Known Causal Graph [85.15766086381352]
  本稿では,真の因果グラフが不明な場合に,対実フェアネスの概念を実現するための一般的な手法を提案する。 特定の背景知識が提供されると、正の因果グラフが完全に知られているかのように、反ファクト的公正性を達成することができる。
  論文  参考訳（メタデータ） (2022-05-27T13:40:50Z)
• Causality, Causal Discovery, and Causal Inference in Structural Engineering [1.827510863075184]
  本稿では,土木工学の観点からの因果発見と因果推論の事例を構築した。 具体的には、因果関係の鍵となる原理と、因果関係の発見と因果推論のための最も一般的なアルゴリズムとパッケージについて概説する。
  論文  参考訳（メタデータ） (2022-04-04T14:49:47Z)
• Identifiability of Causal-based Fairness Notions: A State of the Art [4.157415305926584]
  機械学習アルゴリズムは、偏見のある結果/予測を生成することができ、通常は少数派や少数民族に対するものである。 本論文は,機械学習の公正性に特に関係する主要な識別可能性の結果をまとめたものである。
  論文  参考訳（メタデータ） (2022-03-11T13:10:32Z)
• Promises and Challenges of Causality for Ethical Machine Learning [2.1946447418179664]
  我々は「潜在的成果の枠組み」に基づく因果フェアネスの適切な適用条件を策定する。 我々は、因果的公平性文学においてしばしば無視される因果的推論の重要な側面を強調した。 このような介入の概念化は因果的仮定の妥当性を評価する上で重要であると我々は主張する。
  論文  参考訳（メタデータ） (2022-01-26T00:04:10Z)
• Towards Causal Representation Learning [96.110881654479]
  機械学習とグラフィカル因果関係の2つの分野が生まれ、別々に発展した。 現在、他分野の進歩の恩恵を受けるために、クロスポリン化と両方の分野への関心が高まっている。
  論文  参考訳（メタデータ） (2021-02-22T15:26:57Z)
• Survey on Causal-based Machine Learning Fairness Notions [4.157415305926584]
  本稿では,因果関係に基づくフェアネス概念の包括的リストについて検討し,実世界のシナリオにおける適用性について検討する。 因果関係に基づく公平性の概念の大部分は、観測不可能な量という観点で定義されるため、実際にはそれらの量を計算するか、見積もる必要がある。
  論文  参考訳（メタデータ） (2020-10-19T14:28:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。