Fugu-MT 論文翻訳(概要): Assessing Classifier Fairness with Collider Bias

論文の概要: Assessing Classifier Fairness with Collider Bias

arxiv url: http://arxiv.org/abs/2010.03933v2
Date: Fri, 28 Jan 2022 04:10:37 GMT
ステータス: 処理完了
システム内更新日: 2022-10-09 11:23:08.512302
Title: Assessing Classifier Fairness with Collider Bias
Title（参考訳）: 衝突バイアスによる分類器フェアネスの評価
Authors: Zhenlong Xu (1), Ziqi Xu (1), Jixue Liu (1), Debo Cheng (1), Jiuyong Li (1), Lin Liu (1), Ke Wang (2) ((1) STEM, Univsersity of South Austrlia, Adelaide, Australia, (2) Simon Frasier University, Burnaby, Canada) Ziqi Xu and Zhenlong Xu contributed equally to this paper
Abstract要約: 我々は、コライダーバイアスを避けるために、公正性評価を導くための定理を開発する。開発した定理を応用した非バイアス評価アルゴリズムを提案する。実験とシミュレーションにより,提案アルゴリズムは評価においてコライダーバイアスを大幅に低減することを示した。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: The increasing application of machine learning techniques in everyday decision-making processes has brought concerns about the fairness of algorithmic decision-making. This paper concerns the problem of collider bias which produces spurious associations in fairness assessment and develops theorems to guide fairness assessment avoiding the collider bias. We consider a real-world application of auditing a trained classifier by an audit agency. We propose an unbiased assessment algorithm by utilising the developed theorems to reduce collider biases in the assessment. Experiments and simulations show the proposed algorithm reduces collider biases significantly in the assessment and is promising in auditing trained classifiers.
Abstract（参考訳）: 日々の意思決定プロセスにおける機械学習技術の適用が増えているため、アルゴリズムによる意思決定の公平性が懸念されている。本稿では, 公平性評価に拍車をかける衝突型バイアスの問題と, 衝突型バイアスを回避する公平性評価を導くための定理を考案する。監査機関が訓練した分類器を監査する実世界の応用について検討する。本研究では, 開発した定理を用いて非バイアス評価アルゴリズムを提案する。実験およびシミュレーションにより, 提案手法は, 評価において有意な衝突バイアスを低減し, 訓練された分類器の監査に有望であることが示された。

関連論文リスト

Auditing the Use of Language Models to Guide Hiring Decisions [2.949890760187898]
アルゴリズムバイアスから保護するための規制努力は、大規模言語モデルで急速に進歩した緊急性を高めている。現在の規制と科学文献は、これらの評価の実施方法に関するガイダンスをほとんど提供していない。本稿では,監査アルゴリズムの1つのアプローチとして,対応実験を提案する。
論文参考訳（メタデータ） (2024-04-03T22:01:26Z)
Online Decision Mediation [72.80902932543474]
意思決定支援アシスタントを学習し、(好奇心)専門家の行動と(不完全)人間の行動の仲介役として機能することを検討する。臨床診断では、完全に自律的な機械行動は倫理的余裕を超えることが多い。
論文参考訳（メタデータ） (2023-10-28T05:59:43Z)
Neural Causal Models for Counterfactual Identification and Estimation [62.30444687707919]
本稿では,ニューラルモデルによる反事実文の評価について検討する。まず、神経因果モデル(NCM)が十分に表現可能であることを示す。第2に,反事実分布の同時同定と推定を行うアルゴリズムを開発する。
論文参考訳（メタデータ） (2022-09-30T18:29:09Z)
ReAct: Temporal Action Detection with Relational Queries [84.76646044604055]
本研究は,アクションクエリを備えたエンコーダ・デコーダフレームワークを用いて,時間的行動検出(TAD)の進展を図ることを目的とする。まず,デコーダ内の関係注意機構を提案し,その関係に基づいてクエリ間の関心を誘導する。最後に、高品質なクエリを区別するために、推論時に各アクションクエリのローカライズ品質を予測することを提案する。
論文参考訳（メタデータ） (2022-07-14T17:46:37Z)
A Sandbox Tool to Bias(Stress)-Test Fairness Algorithms [19.86635585740634]
バイアス注入型サンドボックスツールの概念と実装について, 各種バイアスの公平性について検討する。既存のツールキットとは異なり、私たちのツールはMLパイプラインに事実上バイアスを注入する制御された環境を提供します。特に、バイアス注入前において、偏りのない状態の真のラベルに介入した後に生じる予測を比較することで、与えられた治療法が注入されたバイアスを軽減することができるかどうかを検証できる。
論文参考訳（メタデータ） (2022-04-21T16:12:19Z)
On Learning and Enforcing Latent Assessment Models using Binary Feedback from Human Auditors Regarding Black-Box Classifiers [1.116812194101501]
本稿では,人間監査者による2値フィードバックを特徴付ける潜在評価モデル (LAM) を提案する。個人と集団の公正性の概念は、監査人の本質的な判断が本質的に公正性の概念を満足している限り保証されていることを証明する。また、LAMと従来の公正の概念との関係を3つのよく知られたデータセットで示す。
論文参考訳（メタデータ） (2022-02-16T18:54:32Z)
Information-Theoretic Bias Reduction via Causal View of Spurious Correlation [71.9123886505321]
本稿では,スプリアス相関の因果的解釈による情報理論バイアス測定手法を提案する。本稿では,バイアス正規化損失を含むアルゴリズムバイアスに対する新しいデバイアスフレームワークを提案する。提案したバイアス測定とデバイアス法は、多様な現実シナリオで検証される。
論文参考訳（メタデータ） (2022-01-10T01:19:31Z)
Benign Overfitting in Adversarially Robust Linear Classification [91.42259226639837]
分類器がノイズの多いトレーニングデータを記憶しながらも、優れた一般化性能を達成している「双曲オーバーフィッティング」は、機械学習コミュニティにおいて大きな注目を集めている。本研究は, 対人訓練において, 対人訓練において, 良心過剰が実際に発生することを示し, 対人訓練に対する防御の原則的アプローチを示す。
論文参考訳（メタデータ） (2021-12-31T00:27:31Z)
Unsupervised Learning of Debiased Representations with Pseudo-Attributes [85.5691102676175]
教師なし方式で,単純かつ効果的な脱バイアス手法を提案する。特徴埋め込み空間上でクラスタリングを行い、クラスタリング結果を利用して疑似属性を識別する。次に,非偏り表現を学習するために,クラスタベースの新しい重み付け手法を用いる。
論文参考訳（メタデータ） (2021-08-06T05:20:46Z)
Coping with Mistreatment in Fair Algorithms [1.2183405753834557]
教師付き学習環境におけるアルゴリズムの公平性を検討し,等価機会指標の分類器最適化の効果を検討する。このバイアスを軽減するための概念的にシンプルな方法を提案する。提案手法を厳密に解析し,その効果を示す実世界データセット上で評価する。
論文参考訳（メタデータ） (2021-02-22T03:26:06Z)
Debiasing Evaluations That are Biased by Evaluations [32.135315382120154]
我々は、結果に関する情報が利用可能である場合に、評価における結果誘発バイアスを緩和する問題を考察する。この順序制約の下で正規化最適化問題を解くことでデバイアス化手法を提案する。また,適切な正規化量を適応的に選択するクロスバリデーション手法も提案する。
論文参考訳（メタデータ） (2020-12-01T18:20:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。