論文の概要: The Illusion of Fairness: Auditing Fairness Interventions with Audit Studies

• arxiv url: http://arxiv.org/abs/2507.02152v1
• Date: Wed, 02 Jul 2025 21:15:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-04 15:37:15.187376
• Title: The Illusion of Fairness: Auditing Fairness Interventions with Audit Studies
• Title（参考訳）: フェアネスのイリュージョン: フェアネスの介入と監査研究
• Authors: Disa Sariola, Patrick Button, Aron Culotta, Nicholas Mattei,
• Abstract要約: 自動採用アルゴリズムを訓練・評価する能力を向上させるために,監査研究のデータをどのように活用できるかを検討する。 このようなデータから,クラス間での基準レートを等化する共通フェアネス介入法が,従来の尺度を用いてパリティを達成していることが明らかとなった。
• 参考スコア（独自算出の注目度）: 12.7910460546047
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Artificial intelligence systems, especially those using machine learning, are being deployed in domains from hiring to loan issuance in order to automate these complex decisions. Judging both the effectiveness and fairness of these AI systems, and their human decision making counterpart, is a complex and important topic studied across both computational and social sciences. Within machine learning, a common way to address bias in downstream classifiers is to resample the training data to offset disparities. For example, if hiring rates vary by some protected class, then one may equalize the rate within the training set to alleviate bias in the resulting classifier. While simple and seemingly effective, these methods have typically only been evaluated using data obtained through convenience samples, introducing selection bias and label bias into metrics. Within the social sciences, psychology, public health, and medicine, audit studies, in which fictitious ``testers'' (e.g., resumes, emails, patient actors) are sent to subjects (e.g., job openings, businesses, doctors) in randomized control trials, provide high quality data that support rigorous estimates of discrimination. In this paper, we investigate how data from audit studies can be used to improve our ability to both train and evaluate automated hiring algorithms. We find that such data reveals cases where the common fairness intervention method of equalizing base rates across classes appears to achieve parity using traditional measures, but in fact has roughly 10% disparity when measured appropriately. We additionally introduce interventions based on individual treatment effect estimation methods that further reduce algorithmic discrimination using this data.
• Abstract（参考訳）: 人工知能システム、特に機械学習を使用するシステムは、これらの複雑な決定を自動化するために、採用からローン発行までドメインにデプロイされている。 これらのAIシステムの有効性と公平性、そしてその人間による意思決定を判断することは、計算科学と社会科学の両方で研究される複雑で重要なトピックである。 機械学習では、下流の分類器でバイアスに対処する一般的な方法は、トレーニングデータをサンプル化し、相違を相殺することである。 例えば、ある保護されたクラスによって雇用率が異なる場合、トレーニングセット内の比率を等しくし、その結果の分類器のバイアスを軽減することができる。 単純で一見効果的であるが、これらの手法は通常、便利なサンプルから得られたデータを用いてのみ評価され、選択バイアスとラベルバイアスがメトリクスに導入されている。 社会科学、心理学、公衆衛生、医学、監査研究では、ランダム化コントロールトライアルの被験者(例えば、求職者、ビジネス、医師)に「テスター」(例、履歴書、メール、患者俳優)が送られ、厳密な差別推定を支援する高品質なデータを提供する。 本稿では,自動採用アルゴリズムの訓練と評価の両面において,監査研究から得られるデータがどのように活用できるかを検討する。 このようなデータから,授業間ベースレートを等しくする共通フェアネス介入法が,従来の尺度で同等であることがわかったが,実際,適切な測定を行った場合,約10%の差があることがわかった。 また、このデータを用いたアルゴリズムの識別をさらに削減する個別処理効果推定法に基づく介入も導入する。

関連論文リスト

• Simulating Biases for Interpretable Fairness in Offline and Online Classifiers [0.35998666903987897]
  緩和方法は、モデル結果が公平に調整されることを保証するために重要である。 我々は、制御可能なバイアス注入による合成データセット生成のためのフレームワークを開発する。 実験では、オフラインとオンラインの両方の学習アプローチが採用されている。
  論文  参考訳（メタデータ） (2025-07-14T11:04:24Z)
• Underrepresentation, Label Bias, and Proxies: Towards Data Bias Profiles for the EU AI Act and Beyond [42.710392315326104]
  我々は3つの共通のデータバイアスを示し、アルゴリズムの識別に対する個人的および共同的な影響について研究する。 我々は、特定の種類のバイアスを検出するための専用メカニズムを開発し、それをデータバイアスプロファイル(DBP)と呼ぶ予備構造に組み合わせる。 この初期定式化は、どのように異なるバイアス信号が体系的に文書化されるかという概念の証明となる。
  論文  参考訳（メタデータ） (2025-07-09T15:52:11Z)
• On the Interconnections of Calibration, Quantification, and Classifier Accuracy Prediction under Dataset Shift [58.91436551466064]
  本稿では,データセットシフト条件下でのキャリブレーションと定量化の3つの基本問題間の相互接続について検討する。 これらのタスクのいずれか1つに対するオラクルへのアクセスは、他の2つのタスクの解決を可能にすることを示す。 本稿では,他の分野から借用した高度に確立された手法の直接適応に基づく各問題に対する新しい手法を提案する。
  論文  参考訳（メタデータ） (2025-05-16T15:42:55Z)
• Outlier Detection Bias Busted: Understanding Sources of Algorithmic Bias through Data-centric Factors [28.869581543676947]
  unsupervised outlier detection (OD) は、金融、セキュリティ等に多くの応用がある。 この研究は、データ中心の異なる要因の下で検出モデルを監査することで、ODの不公平な源泉に光を当てることを目的としている。 この研究に基づくODアルゴリズムは、すべて公正な落とし穴を示すが、どの種類のデータバイアスがより影響を受けやすいかは異なる。
  論文  参考訳（メタデータ） (2024-08-24T20:35:32Z)
• D-BIAS: A Causality-Based Human-in-the-Loop System for Tackling Algorithmic Bias [57.87117733071416]
  D-BIASは、人間のループ内AIアプローチを具現化し、社会的バイアスを監査し軽減する視覚対話型ツールである。 ユーザは、因果ネットワークにおける不公平な因果関係を識別することにより、グループに対する偏見の存在を検出することができる。 それぞれのインタラクション、例えばバイアスのある因果縁の弱体化/削除は、新しい(偏りのある)データセットをシミュレートするために、新しい方法を用いている。
  論文  参考訳（メタデータ） (2022-08-10T03:41:48Z)
• Understanding Unfairness in Fraud Detection through Model and Data Bias Interactions [4.159343412286401]
  アルゴリズムの不公平性は、データ内のモデルとバイアスの間の相互作用に起因すると我々は主張する。 フェアネスブラインドMLアルゴリズムが示す公平さと正確さのトレードオフに関する仮説を、異なるデータバイアス設定下で検討する。
  論文  参考訳（メタデータ） (2022-07-13T15:18:30Z)
• Statistical discrimination in learning agents [64.78141757063142]
  統計的差別は、訓練人口のバイアスとエージェントアーキテクチャの両方の関数としてエージェントポリシーに現れる。 我々は、リカレントニューラルネットワークを使用するエージェントによる差別の低減と、トレーニング環境のバイアスの低減が示される。
  論文  参考訳（メタデータ） (2021-10-21T18:28:57Z)
• Automatic Fairness Testing of Neural Classifiers through Adversarial Sampling [8.2868128804393]
  本稿では,識別サンプルを体系的に検索するスケーラブルで効果的な手法を提案する。 最先端の手法と比較して、我々の手法は勾配計算やクラスタリングのような軽量な手法のみを用いる。 再訓練されたモデルは、それぞれ平均57.2%と60.2%の差別を減少させる。
  論文  参考訳（メタデータ） (2021-07-17T03:47:08Z)
• Can Active Learning Preemptively Mitigate Fairness Issues? [66.84854430781097]
  データセットバイアスは、機械学習における不公平な原因の1つです。 不確実性に基づくALで訓練されたモデルが保護クラスの決定において公平であるかどうかを検討する。 また,勾配反転(GRAD)やBALDなどのアルゴリズム的公正性手法の相互作用についても検討する。
  論文  参考訳（メタデータ） (2021-04-14T14:20:22Z)
• Domain-Incremental Continual Learning for Mitigating Bias in Facial Expression and Action Unit Recognition [5.478764356647437]
  FERシステムの公平性を高めるための強力なバイアス軽減法として,Continual Learning (CL) の新たな利用法を提案する。 表現認識と行動ユニット(AU)検出タスクにおける分類精度と公平度スコアについて,非CL法とCL法との比較を行った。 実験の結果,CLに基づく手法は,精度と公正度の両方において,他の一般的なバイアス緩和手法よりも優れていた。
  論文  参考訳（メタデータ） (2021-03-15T18:22:17Z)
• Coping with Mistreatment in Fair Algorithms [1.2183405753834557]
  教師付き学習環境におけるアルゴリズムの公平性を検討し,等価機会指標の分類器最適化の効果を検討する。 このバイアスを軽減するための概念的にシンプルな方法を提案する。 提案手法を厳密に解析し,その効果を示す実世界データセット上で評価する。
  論文  参考訳（メタデータ） (2021-02-22T03:26:06Z)
• Towards Model-Agnostic Post-Hoc Adjustment for Balancing Ranking Fairness and Algorithm Utility [54.179859639868646]
  Bipartiteランキングは、ラベル付きデータから正の個人よりも上位の個人をランク付けするスコアリング機能を学ぶことを目的としている。 学習したスコアリング機能が、異なる保護グループ間で体系的な格差を引き起こすのではないかという懸念が高まっている。 本稿では、二部構成のランキングシナリオにおいて、それらのバランスをとるためのモデル後処理フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-06-15T10:08:39Z)
• Bias in Multimodal AI: Testbed for Fair Automatic Recruitment [73.85525896663371]
  異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。 我々は、性別や人種の偏りを意識的に評価したマルチモーダルな合成プロファイルを用いて、自動求人アルゴリズムを訓練する。 我々の方法論と結果は、一般により公平なAIベースのツール、特により公平な自動採用システムを生成する方法を示している。
  論文  参考訳（メタデータ） (2020-04-15T15:58:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。