論文の概要: A New Paradigm for Counterfactual Reasoning in Fairness and Recourse

• arxiv url: http://arxiv.org/abs/2401.13935v1
• Date: Thu, 25 Jan 2024 04:28:39 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-26 15:47:29.700540
• Title: A New Paradigm for Counterfactual Reasoning in Fairness and Recourse
• Title（参考訳）: フェアネスとリコースにおける反事実推論の新しいパラダイム
• Authors: Lucius E.J. Bynum, Joshua R. Loftus, Julia Stoyanovich
• Abstract要約: この文献における対実的推論の伝統的なパラダイムは、介入的対実的である。 このパラダイムの本質的な制限は、一部の人口統計学的介入が、介入的反事実の形式主義に変換されないことである。 そこで本研究では,バックトラック対策に基づく新たなパラダイムについて検討する。
• 参考スコア（独自算出の注目度）: 12.119272303766056
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Counterfactuals and counterfactual reasoning underpin numerous techniques for auditing and understanding artificial intelligence (AI) systems. The traditional paradigm for counterfactual reasoning in this literature is the interventional counterfactual, where hypothetical interventions are imagined and simulated. For this reason, the starting point for causal reasoning about legal protections and demographic data in AI is an imagined intervention on a legally-protected characteristic, such as ethnicity, race, gender, disability, age, etc. We ask, for example, what would have happened had your race been different? An inherent limitation of this paradigm is that some demographic interventions -- like interventions on race -- may not translate into the formalisms of interventional counterfactuals. In this work, we explore a new paradigm based instead on the backtracking counterfactual, where rather than imagine hypothetical interventions on legally-protected characteristics, we imagine alternate initial conditions while holding these characteristics fixed. We ask instead, what would explain a counterfactual outcome for you as you actually are or could be? This alternate framework allows us to address many of the same social concerns, but to do so while asking fundamentally different questions that do not rely on demographic interventions.
• Abstract（参考訳）: 反事実と反事実推論は、人工知能(ai)システムの監査と理解のための多くの技術を支える。 この文献における反事実推論の伝統的なパラダイムは、仮説的介入を想像しシミュレーションする介入的反事実である。 そのため、AIにおける法的保護と人口統計データに関する因果推論の出発点は、民族、人種、性別、障害、年齢など、法的に保護された特徴への介入である。 例えば、もしあなたのレースが違っていたら、何が起こっただろうか? このパラダイムの本質的な制限は、人種の介入のような一部の人口統計学的介入は、介入反事実の形式主義に変換されないことである。 本研究は,法的に保護された特性に対する仮説的介入を想像する代わりに,これらの特性を固定しつつ,異なる初期条件を想定する,バックトラック対策に基づく新たなパラダイムを探求する。 代わりに、あなたが実際にあるか、あるいは可能なように、反現実的な結果を説明するものは何か、と尋ねる。 この代替フレームワークによって、同じ社会的関心事の多くに対処できますが、人口統計学的介入に依存しない、基本的に異なる質問をすることができるのです。

関連論文リスト

• Longitudinal Counterfactuals: Constraints and Opportunities [59.11233767208572]
  本稿では,反ファクトの妥当性を評価・改善するために,縦断データを用いた手法を提案する。 本研究では, 縦差と反実差を比較する指標を開発し, 先行観測した変化と反実差の類似性を評価する。
  論文  参考訳（メタデータ） (2024-02-29T20:17:08Z)
• Explaining Text Classifiers with Counterfactual Representations [0.0]
  本稿では,テキスト表現の空間を介在させることで,対物生成の簡易な手法を提案する。 提案手法を検証するために,まず合成データセットを用いて実験を行い,次に現実的な反事実のデータセットを用いて実験を行った。
  論文  参考訳（メタデータ） (2024-02-01T16:06:35Z)
• Estimation of Counterfactual Interventions under Uncertainties [10.674015311238696]
  「ローンを承認するために違うことをすべきだったのか。」 「ローンを承認するために違うことをすべきだったのか。」 「ローンを承認するために違うことをすべきだったのか。」
  論文  参考訳（メタデータ） (2023-09-15T11:41:23Z)
• Emergent Causality and the Foundation of Consciousness [0.0]
  我々は$do$演算子がない場合、介入は変数で表現できると主張している。 狭義では、それは何を知るべきかを記述し、意識の側面の機械的な説明である。
  論文  参考訳（メタデータ） (2023-02-07T01:41:23Z)
• Backtracking Counterfactuals [6.709991492637819]
  我々は、構造因果モデル(SCM)フレームワークの中で、代替的な対実的推論方式を探求し、定式化する。 人間によるバックトラックの証拠が豊富にあるにもかかわらず、本研究は私たちの知識の最高の部分を占めており、バックトラックのカウンターファクトリーの最初の一般的な説明とアルゴリズムである。
  論文  参考訳（メタデータ） (2022-11-01T14:07:30Z)
• Neural Causal Models for Counterfactual Identification and Estimation [62.30444687707919]
  本稿では,ニューラルモデルによる反事実文の評価について検討する。 まず、神経因果モデル(NCM)が十分に表現可能であることを示す。 第2に,反事実分布の同時同定と推定を行うアルゴリズムを開発する。
  論文  参考訳（メタデータ） (2022-09-30T18:29:09Z)
• Logical Satisfiability of Counterfactuals for Faithful Explanations in NLI [60.142926537264714]
  本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。 これは、説明に表される論理述語に基づいて、反実仮説を生成する。 そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
  論文  参考訳（メタデータ） (2022-05-25T03:40:59Z)
• Empirical Estimates on Hand Manipulation are Recoverable: A Step Towards Individualized and Explainable Robotic Support in Everyday Activities [80.37857025201036]
  ロボットシステムの鍵となる課題は、他のエージェントの振る舞いを理解することである。 正しい推論の処理は、(衝突)因子が実験的に制御されない場合、特に困難である。 人に関する観察研究を行うために必要なツールをロボットに装備することを提案する。
  論文  参考訳（メタデータ） (2022-01-27T22:15:56Z)
• Nested Counterfactual Identification from Arbitrary Surrogate Experiments [95.48089725859298]
  観測と実験の任意の組み合わせからネスト反事実の同定について検討した。 具体的には、任意のネストされた反事実を非ネストされたものへ写像できる反ファクト的非ネスト定理(英語版)(CUT)を証明する。
  論文  参考訳（メタデータ） (2021-07-07T12:51:04Z)
• CausalCity: Complex Simulations with Agency for Causal Discovery and Reasoning [68.74447489372037]
  本稿では,因果探索と反事実推論のためのアルゴリズムの開発を目的とした,高忠実度シミュレーション環境を提案する。 私たちの作業の中核となるコンポーネントは、複雑なシナリオを定義して作成することが簡単になるような、テキストの緊急性を導入することです。 我々は3つの最先端の手法による実験を行い、ベースラインを作成し、この環境の可利用性を強調する。
  論文  参考訳（メタデータ） (2021-06-25T00:21:41Z)
• On Generating Plausible Counterfactual and Semi-Factual Explanations for Deep Learning [15.965337956587373]
  PlausIble Exceptionality-based Contrastive Explanations (PIECE) は、テストイメージにおけるすべての例外的特徴を、対実クラスの観点から正規化するように修正する。 2つの制御された実験は、PIECEを文献上の他のものと比較し、PIECEはいくつかの尺度において最も妥当な反事実を生成するだけでなく、最良の半事実も生成することを示した。
  論文  参考訳（メタデータ） (2020-09-10T14:48:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。