論文の概要: Counterfactual, Per-Decision Bias Auditing for Automated Hiring: Localizing and Explaining Disparate Impact in Applicant Tracking Systems

• arxiv url: http://arxiv.org/abs/2608.21537v1
• Date: Fri, 21 Aug 2026 18:19:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-25 13:29:43.256228
• Title: Counterfactual, Per-Decision Bias Auditing for Automated Hiring: Localizing and Explaining Disparate Impact in Applicant Tracking Systems
• Title（参考訳）: 自動採用のための非現実的・決定的バイアス監査:応用追従システムにおける異なる影響の局所化と説明
• Abstract要約: 本稿では,AIバイアスファイアウォール(AIBF)について紹介する。 AIBFは、候補者の保護属性プロキシを中和し、決定を再スコアし、結果として生じる反事実シフトを測定する。 我々は、合成データではなく、アダルトとCompASの2つの実際の公開データセットを評価する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Automated applicant tracking systems increasingly decide who advances in hiring, and litigation and regulation now demand that those decisions be auditable. Existing tools sit at two extremes. Group fairness metrics such as the disparate impact ratio summarize a whole population but cannot say which individual decisions were unfair or why, while local explainers such as SHAP attribute a single prediction but are not connected to the legal standard by which hiring bias is judged. We present the AI Bias Firewall (AIBF), a method that audits an applicant tracking system one decision at a time. AIBF neutralizes a candidate's protected-attribute proxies, re-scores the decision, and measures the resulting counterfactual shift, which yields a signed per-decision bias in score points, a flag for decisions the protected attributes changed, and a plain-language explanation naming the responsible factors. We evaluate on two real public datasets, Adult and COMPAS, rather than on synthetic data. The per-decision counterfactual shift is faithful, aggregating to reproduce the known group level disparity, for example a mean shift of +7.5 points for the privileged group and -8.0 for the disadvantaged group on Adult, consistent with the measured statistical parity difference. AIBF identifies the decisions that protected attributes flipped with an area under the ROC curve of 0.963 on Adult, against 0.672 for a baseline that flags by group membership, and it identifies the harmed candidates so precisely that reviewing only five percent of decisions surfaces fifty-five percent of them, against six percent under group based review. We also report a limitation: correcting flagged decisions raises the disparate impact ratio substantially but not to legal parity, because features labeled as merit carry residual proxy correlation. AIBF is released under the Apache 2.0 license with code and experiments.
• Abstract（参考訳）: 自動応募者追跡システムは採用の進展をますます決定し、訴訟と規制はこれらの決定を監査可能に要求している。 既存のツールは2つの極端に座っています。 異なるインパクト比のようなグループフェアネスの指標は、人口全体を要約するが、どの個人決定が不公平であるか、なぜ不公平であるかは説明できない。 本稿では,AIバイアスファイアウォール(AIBF)について紹介する。 AIBFは、候補者の保護属性プロキシを中和し、決定を再スコア化し、結果の反事実シフトを測定する。 我々は、合成データではなく、アダルトとCompASの2つの実際の公開データセットを評価する。 例えば、特権群では +7.5 点、成人群では -8.0 点の平均シフトは、測定された統計的パリティ差と一致している。 AIBF は、アダルト上で 0.963 の ROC 曲線の下で、グループメンバーシップにフラグを付ける基準として 0.672 に対して、保護属性が 0.963 の領域で反転した決定を識別し、グループベースレビューの 6 パーセントに対して、5% の判定しか表示されないほど、害のある候補を正確に識別する。 フラグ付き決定の修正は、異なる影響比率を実質的に引き上げるが、法的に同等ではない。 AIBFはApache 2.0ライセンスのもと、コードと実験と共にリリースされた。

関連論文リスト

• Using AI Agents to Automate Black-Box Audits of Personalization Algorithms at Scale [76.72846830885882]
  パーソナライズアルゴリズムは、ユーザーがオンラインプラットフォームで遭遇するコンテンツを決定する。 独立した監査役はアルゴリズムへのブラックボックスアクセスしか持たないため、これらのシステムの監査は難しい。 合成アカウントの動作エンジンとして生成AIエージェントを用いたパーソナライズアルゴリズムのブラックボックス監査のためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-06-29T18:25:09Z)
• Do Gender Cues Affect LLM Value Trade-offs? Evidence from a Controlled Decision Benchmark [33.25199452418043]
  シナリオを保持しながらロールジェンダーの設定だけを変えるベンチマークを構築します。 明示的なジェンダーの手がかりは、有界だが体系的な意思決定のフリップを引き起こす。 ジェンダー効果は、決定的な値境界の近くに集中しており、ジェンダーの手がかりが局所的な境界シフト要因として働くことを示唆している。
  論文  参考訳（メタデータ） (2026-06-01T13:14:10Z)
• Fairness under uncertainty in sequential decisions [14.392931077157906]
  アルゴリズム的アプローチだけでは構造的不等式は解決できない。 多くの実際の機械学習アプリケーションはオンラインでシーケンシャルであり、事前決定は将来のものを伝える。 本稿では, 逐次意思決定における不確実性の分類について紹介する。
  論文  参考訳（メタデータ） (2026-04-23T14:17:58Z)
• Partial Identification Approach to Counterfactual Fairness Assessment [50.88100567472179]
  未知の対実的公正度尺度を高い信頼性で有界化するためのベイズ的アプローチを導入する。 以上の結果から、人種をアフリカ系アメリカ人に転換する際のCompASスコアに対する肯定的な(不快な)効果と、若年から高齢に移行する際の否定的な(直接的な因果関係)効果が明らかとなった。
  論文  参考訳（メタデータ） (2025-09-30T18:35:08Z)
• Mitigating Subgroup Disparities in Multi-Label Speech Emotion Recognition: A Pseudo-Labeling and Unsupervised Learning Approach [53.824673312331626]
  Implicit Demography Inference (IDI)モジュールは、k平均クラスタリングを用いて、音声感情認識(SER)におけるバイアスを軽減する 実験により、擬似ラベルIDIはサブグループの格差を減らし、フェアネスの指標を28%以上改善することが示された。 教師なしのIDIは、SERのパフォーマンスが3.6%未満のフェアネス指標を4.6%以上改善する。
  論文  参考訳（メタデータ） (2025-05-20T14:50:44Z)
• When Bias Backfires: The Modulatory Role of Counterfactual Explanations on the Adoption of Algorithmic Bias in XAI-Supported Human Decision-Making [0.0]
  この研究は採用決定をシミュレートし、偏りのあるAIレコメンデーションが時間の経過とともに人間の判断にどのように影響するかを調べる。 その結果,対象候補者の資格が同等であった時期の70%は,参加者がAIレコメンデーションに従っていたことが示唆された。 相互作用後の段階では、参加者の独立した決定は、以前に反実的な説明が提供されなかった場合のバイアスと一致したが、説明が与えられた場合のバイアスを逆転させた。
  論文  参考訳（メタデータ） (2025-05-20T14:00:28Z)
• Online Decision Mediation [72.80902932543474]
  意思決定支援アシスタントを学習し、(好奇心)専門家の行動と(不完全)人間の行動の仲介役として機能することを検討する。 臨床診断では、完全に自律的な機械行動は倫理的余裕を超えることが多い。
  論文  参考訳（メタデータ） (2023-10-28T05:59:43Z)
• Equal Confusion Fairness: Measuring Group-Based Disparities in Automated Decision Systems [5.076419064097733]
  本稿では,公正度の自動判定システムをチェックするための等混乱公正度試験と,不公平度を定量化するための新しい混乱パリティ誤差を提案する。 全体として、ここで提供される方法とメトリクスは、より広範な説明責任評価の一環として、自動決定システムの公正性を評価することができる。
  論文  参考訳（メタデータ） (2023-07-02T04:44:19Z)
• D-BIAS: A Causality-Based Human-in-the-Loop System for Tackling Algorithmic Bias [57.87117733071416]
  D-BIASは、人間のループ内AIアプローチを具現化し、社会的バイアスを監査し軽減する視覚対話型ツールである。 ユーザは、因果ネットワークにおける不公平な因果関係を識別することにより、グループに対する偏見の存在を検出することができる。 それぞれのインタラクション、例えばバイアスのある因果縁の弱体化/削除は、新しい(偏りのある)データセットをシミュレートするために、新しい方法を用いている。
  論文  参考訳（メタデータ） (2022-08-10T03:41:48Z)
• Delving into Probabilistic Uncertainty for Unsupervised Domain Adaptive Person Re-Identification [54.174146346387204]
  ドメイン適応型人物再識別のための確率的不確実性誘導プログレッシブラベル精錬(P$2$LR)という手法を提案する。 擬似ラベルの不確実性を測定し、ネットワークトレーニングを容易にする定量的基準を確立する。 本手法はDuke2Marketタスクではベースラインが6.5%,Market2MSMTタスクでは2.5%,最先端手法では2.5%を上回った。
  論文  参考訳（メタデータ） (2021-12-28T07:40:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。