論文の概要: Counterfactual Situation Testing: From Single to Multidimensional Discrimination

• arxiv url: http://arxiv.org/abs/2502.01267v1
• Date: Mon, 03 Feb 2025 11:38:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-05 14:57:57.821329
• Title: Counterfactual Situation Testing: From Single to Multidimensional Discrimination
• Title（参考訳）: 対物的状況テスト:一次元から多次元の識別まで
• Authors: Jose M. Alvarez, Salvatore Ruggieri,
• Abstract要約: 本稿では,意思決定データセットにおける個人識別のための因果データマイニングフレームワークであるCSTについて述べる。 CSTは、"モデルの結果が、個人、または不平が異なる保護された状態であった場合はどうだったのか? 反実的推論による差異を考慮し、公正性の概念を運用することで、法的根拠のある状況テスト(ST)を拡張します。
• 参考スコア（独自算出の注目度）: 22.596961524387233
• License:
• Abstract: We present counterfactual situation testing (CST), a causal data mining framework for detecting individual discrimination in a dataset of classifier decisions. CST answers the question "what would have been the model outcome had the individual, or complainant, been of a different protected status?" It extends the legally-grounded situation testing (ST) of Thanh et al. (2011) by operationalizing the notion of fairness given the difference via counterfactual reasoning. ST finds for each complainant similar protected and non-protected instances in the dataset; constructs, respectively, a control and test group; and compares the groups such that a difference in outcomes implies a potential case of individual discrimination. CST, instead, avoids this idealized comparison by establishing the test group on the complainant's generated counterfactual, which reflects how the protected attribute when changed influences other seemingly neutral attributes of the complainant. Under CST we test for discrimination for each complainant by comparing similar individuals within each group but dissimilar individuals across groups. We consider single (e.g., gender) and multidimensional (e.g., gender and race) discrimination testing. For multidimensional discrimination we study multiple and intersectional discrimination and, as feared by legal scholars, find evidence that the former fails to account for the latter kind. Using a k-nearest neighbor implementation, we showcase CST on synthetic and real data. Experimental results show that CST uncovers a higher number of cases than ST, even when the model is counterfactually fair. In fact, CST extends counterfactual fairness (CF) of Kusner et al. (2017) by equipping CF with confidence intervals.
• Abstract（参考訳）: 本稿では,分類器決定データセットにおける個人識別のための因果データマイニングフレームワークであるCSTについて述べる。 CSTは、"モデルの結果が、個人、または不平が異なる保護された状態であった場合はどうだったのか? 2011年、Tanh et al (2011) の法的根拠による状況検証(ST)を拡張し、対実的推論による差異を考慮に入れた公平性の概念を運用する。 STは、データセット内の各不適切な保護されたインスタンスと非保護されたインスタンス、それぞれが制御およびテストグループである構成、および結果の違いが個人識別の潜在的ケースを意味するようにグループを比較します。 代わりに、CSTは、不平者の生成した反事実に関するテスト群を確立することで、この理想的な比較を避ける。 CSTでは、各グループ内の類似した個人と、グループ間で異なる個人とを比較して、苦情ごとの差別を検査する。 単体(eg, 性別)と多次元(eg, 性別, 人種)の判別テストを検討する。 多次元的差別については、多面的および交叉的差別を研究し、法学者が恐れるように、前者が後者を説明できないという証拠を見出す。 k-アネレスの隣り合わせの実装を用いて、合成データと実データにCSTを示す。 実験結果から, モデルが非現実的公正である場合でも, CSTの方がSTよりも多くの症例を発見できることがわかった。 実際、CST は CF に信頼区間を持たせることで Kusner et al (2017) の対実公正性(CF) を拡張している。

関連論文リスト

• Shedding light on underrepresentation and Sampling Bias in machine learning [0.0]
  差別を分散、偏見、ノイズに分解する方法を示す。 我々は、未表現グループのサンプルを多く集めることで、識別に対処できるという、広く受け入れられている緩和アプローチに挑戦する。
  論文  参考訳（メタデータ） (2023-06-08T09:34:20Z)
• Counterfactual Situation Testing: Uncovering Discrimination under Fairness given the Difference [26.695316585522527]
  本稿では,分類器の識別を行う因果データマイニングフレームワークであるCSTについて述べる。 CSTは「モデルの結果が、個人、または不平が、異なる保護された状態であったとしたら、どんな結果だったのか?
  論文  参考訳（メタデータ） (2023-02-23T11:41:21Z)
• Measuring Equality in Machine Learning Security Defenses: A Case Study in Speech Recognition [56.69875958980474]
  この研究は、学習したシステムを守るためのアプローチと、異なるサブ人口間でのセキュリティ防衛がパフォーマンス上の不平等をもたらす方法を検討する。 提案された多くの手法は、虚偽の拒絶やロバストネストレーニングの不平等といった直接的な害を引き起こす可能性がある。 本稿では, ランダム化スムースメントとニューラルリジェクションの2つの防御法の比較を行い, マイノリティ集団のサンプリング機構により, ランダム化スムースメントがより公平であることを見出した。
  論文  参考訳（メタデータ） (2023-02-17T16:19:26Z)
• Aleatoric and Epistemic Discrimination: Fundamental Limits of Fairness Interventions [13.279926364884512]
  機械学習モデルは、モデル開発時の選択とデータ固有のバイアスにより、特定の人口群で過小評価される可能性がある。 フェアネス制約下でのモデルの性能限界を決定することにより,アレータリック判別の定量化を行う。 本研究では, 公平性制約を適用した際のモデルの精度と, アレタリック判別による限界とのギャップとして, てんかんの判別を定量化する。
  論文  参考訳（メタデータ） (2023-01-27T15:38:20Z)
• TESTSGD: Interpretable Testing of Neural Networks Against Subtle Group Discrimination [8.207802966970378]
  TESTSGDは,隠されたグループ識別を体系的に同定し,測定する,解釈可能なテスト手法である。 我々は、構造化データとテキストデータの両方を含む一般的なデータセット上でTESTSGDを評価する。
  論文  参考訳（メタデータ） (2022-08-24T06:26:06Z)
• Error Parity Fairness: Testing for Group Fairness in Regression Tasks [5.076419064097733]
  この研究は、回帰フェアネスの概念としてエラーパリティを示し、グループフェアネスを評価するためのテスト手法を導入する。 続いて、いくつかの統計上のグループを比較し、格差を探索し、影響されたグループを特定するのに適した置換テストが実施される。 全体として、提案された回帰公正性テスト手法は、公正な機械学習文献のギャップを埋め、より大きなアカウンタビリティ評価とアルゴリズム監査の一部として機能する可能性がある。
  論文  参考訳（メタデータ） (2022-08-16T17:47:20Z)
• Adversarial Attacks and Defense for Non-Parametric Two-Sample Tests [73.32304304788838]
  本稿では,非パラメトリックTSTの障害モードを逆攻撃により系統的に明らかにする。 TST非依存的な攻撃を可能にするために,異なる種類のテスト基準を協調的に最小化するアンサンブル攻撃フレームワークを提案する。 そこで本研究では,TSTの強化のために,逆対を反復的に生成し,深層カーネルを訓練する最大最小最適化を提案する。
  論文  参考訳（メタデータ） (2022-02-07T11:18:04Z)
• Statistical discrimination in learning agents [64.78141757063142]
  統計的差別は、訓練人口のバイアスとエージェントアーキテクチャの両方の関数としてエージェントポリシーに現れる。 我々は、リカレントニューラルネットワークを使用するエージェントによる差別の低減と、トレーニング環境のバイアスの低減が示される。
  論文  参考訳（メタデータ） (2021-10-21T18:28:57Z)
• Nested Counterfactual Identification from Arbitrary Surrogate Experiments [95.48089725859298]
  観測と実験の任意の組み合わせからネスト反事実の同定について検討した。 具体的には、任意のネストされた反事実を非ネストされたものへ写像できる反ファクト的非ネスト定理(英語版)(CUT)を証明する。
  論文  参考訳（メタデータ） (2021-07-07T12:51:04Z)
• Unsupervised Feature Learning by Cross-Level Instance-Group Discrimination [68.83098015578874]
  我々は、インスタンスグループ化ではなく、クロスレベルな識別によって、インスタンス間の類似性を対照的な学習に統合する。 CLDは、教師なし学習を、自然データや現実世界のアプリケーションに効果的に近づける。 セルフスーパービジョン、セミスーパービジョン、トランスファーラーニングベンチマークに関する新たな最先端技術は、報告されたすべてのパフォーマンスでMoCo v2とSimCLRを上回っている。
  論文  参考訳（メタデータ） (2020-08-09T21:13:13Z)
• Two-Sample Testing on Ranked Preference Data and the Role of Modeling Assumptions [57.77347280992548]
  本稿では,ペアワイズ比較データとランキングデータのための2サンプル試験を設計する。 私たちのテストでは、基本的に分布に関する仮定は必要ありません。 実世界のペアワイズ比較データに2サンプルテストを適用することで、人によって提供される評価とランキングは、実際は異なる分散である、と結論付ける。
  論文  参考訳（メタデータ） (2020-06-21T20:51:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。