論文の概要: Hidden or Inferred: Fair Learning-To-Rank with Unknown Demographics

• arxiv url: http://arxiv.org/abs/2407.17459v1
• Date: Wed, 24 Jul 2024 17:54:07 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-25 13:05:35.476037
• Title: Hidden or Inferred: Fair Learning-To-Rank with Unknown Demographics
• Title（参考訳）: 隠されたか、推測されたか:未知のデモグラフィーによる公正な学習
• Authors: Oluseun Olulana, Kathleen Cachel, Fabricio Murai, Elke Rundensteiner,
• Abstract要約: 本稿では,人口推定における誤差が,人気公正学習・ランク戦略の公平性にどのように影響するかを示す。 その結果,推測ノイズが増大するにつれて,学習プロセスに公平性を考慮した手法がバイアスを増大させる可能性が示唆された。
• 参考スコア（独自算出の注目度）: 2.0749231618270803
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: As learning-to-rank models are increasingly deployed for decision-making in areas with profound life implications, the FairML community has been developing fair learning-to-rank (LTR) models. These models rely on the availability of sensitive demographic features such as race or sex. However, in practice, regulatory obstacles and privacy concerns protect this data from collection and use. As a result, practitioners may either need to promote fairness despite the absence of these features or turn to demographic inference tools to attempt to infer them. Given that these tools are fallible, this paper aims to further understand how errors in demographic inference impact the fairness performance of popular fair LTR strategies. In which cases would it be better to keep such demographic attributes hidden from models versus infer them? We examine a spectrum of fair LTR strategies ranging from fair LTR with and without demographic features hidden versus inferred to fairness-unaware LTR followed by fair re-ranking. We conduct a controlled empirical investigation modeling different levels of inference errors by systematically perturbing the inferred sensitive attribute. We also perform three case studies with real-world datasets and popular open-source inference methods. Our findings reveal that as inference noise grows, LTR-based methods that incorporate fairness considerations into the learning process may increase bias. In contrast, fair re-ranking strategies are more robust to inference errors. All source code, data, and experimental artifacts of our experimental study are available here: https://github.com/sewen007/hoiltr.git
• Abstract（参考訳）: 学習からランクへのモデルは、深い人生に影響を及ぼす領域における意思決定のためにますます多くデプロイされているため、FairMLコミュニティは、公正な学習からランクへのモデル(LTR)を開発してきた。 これらのモデルは、人種や性別などのセンシティブな人口統計学的特徴の可用性に依存している。 しかし、実際には、規制上の障害とプライバシー上の懸念により、このデータは収集や使用から保護されている。 結果として、実践者はこれらの特徴が欠如しているにもかかわらず公平性を促進する必要があるか、あるいはそれらを推論しようとするために人口推定ツールに切り替える必要があるかもしれない。 本論文は,これらのツールが誤りであるとして,人口統計学における誤りが,人気の公正なLTR戦略の公平性にどのように影響するかを更に理解することを目的とする。 モデルからそのような階層的属性を隠蔽するよりも、推論する方がよい場合がありますか? フェアネスを意識しないLTRから、フェアネスを意識しないLTRへ、そしてフェアネスを意識しないLTRへ、そしてフェアレベルのLTRへ、および非人口動態の特徴を隠蔽して、公平なLTR戦略のスペクトルについて検討した。 我々は,推定された感度特性を体系的に摂動させることにより,異なるレベルの推論誤差をモデル化した制御実験を行った。 また、実世界のデータセットと人気のあるオープンソース推論手法を用いて3つのケーススタディを実行する。 その結果,推測ノイズが増大するにつれて,学習プロセスに公平性を考慮したLTRベースの手法がバイアスを増大させる可能性が示唆された。 対照的に、公正な再ランク戦略は、推論エラーに対してより堅牢である。 実験的な研究のソースコード、データ、実験的な成果物はすべてここにある。

関連論文リスト

• AIM: Attributing, Interpreting, Mitigating Data Unfairness [40.351282126410545]
  既存の公正機械学習(FairML)の研究は、モデル予測における差別バイアスの軽減に重点を置いている。 トレーニングデータからバイアスや偏見を反映したサンプルの発見という,新たな研究課題について検討する。 サンプルバイアスの測定と対策のための実用的なアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-06-13T05:21:10Z)
• Fairness Without Harm: An Influence-Guided Active Sampling Approach [32.173195437797766]
  我々は、モデルの精度に害を与えることなく、グループフェアネスの格差を軽減するモデルを訓練することを目指している。 公正なアクティブな学習アプローチのような現在のデータ取得方法は、通常、アノテートセンシティブな属性を必要とする。 トレーニンググループアノテーションに依存しない抽出可能なアクティブデータサンプリングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-02-20T07:57:38Z)
• Continual Learning with Pre-Trained Models: A Survey [61.97613090666247]
  継続的な学習は、新しい知識を学ぶ際に、かつての知識の破滅的な忘れを克服することを目的としている。 本稿では, PTM を用いた CL の最近の進歩を包括的に調査する。
  論文  参考訳（メタデータ） (2024-01-29T18:27:52Z)
• Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
  公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。 カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。 本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
  論文  参考訳（メタデータ） (2023-07-17T04:08:29Z)
• Non-Invasive Fairness in Learning through the Lens of Data Drift [88.37640805363317]
  データや学習アルゴリズムを変更することなく、機械学習モデルの公平性を向上する方法を示す。 異なる集団間の傾向のばらつきと、学習モデルと少数民族間の連続的な傾向は、データドリフトと類似している。 このドリフトを解決するための2つの戦略(モデル分割とリウィーディング)を探索し、基礎となるデータに対するモデル全体の適合性を改善することを目的としている。
  論文  参考訳（メタデータ） (2023-03-30T17:30:42Z)
• Deep Learning on a Healthy Data Diet: Finding Important Examples for Fairness [15.210232622716129]
  データ駆動予測ソリューションは、主に商用アプリケーションで使われているが、バイアスやステレオタイプに悩まされる傾向がある。 データ拡張は、トレーニングデータセットに反実例を追加することで、性別バイアスを低減する。 拡張データセットのいくつかの例は、公平性には重要でも有害でもないことを示します。
  論文  参考訳（メタデータ） (2022-11-20T22:42:30Z)
• D-BIAS: A Causality-Based Human-in-the-Loop System for Tackling Algorithmic Bias [57.87117733071416]
  D-BIASは、人間のループ内AIアプローチを具現化し、社会的バイアスを監査し軽減する視覚対話型ツールである。 ユーザは、因果ネットワークにおける不公平な因果関係を識別することにより、グループに対する偏見の存在を検出することができる。 それぞれのインタラクション、例えばバイアスのある因果縁の弱体化/削除は、新しい(偏りのある)データセットをシミュレートするために、新しい方法を用いている。
  論文  参考訳（メタデータ） (2022-08-10T03:41:48Z)
• Can Active Learning Preemptively Mitigate Fairness Issues? [66.84854430781097]
  データセットバイアスは、機械学習における不公平な原因の1つです。 不確実性に基づくALで訓練されたモデルが保護クラスの決定において公平であるかどうかを検討する。 また,勾配反転(GRAD)やBALDなどのアルゴリズム的公正性手法の相互作用についても検討する。
  論文  参考訳（メタデータ） (2021-04-14T14:20:22Z)
• Balancing Biases and Preserving Privacy on Balanced Faces in the Wild [50.915684171879036]
  現在の顔認識(FR)モデルには、人口統計バイアスが存在する。 さまざまな民族と性別のサブグループにまたがる偏見を測定するために、我々のバランス・フェイススをWildデータセットに導入します。 真偽と偽のサンプルペアを区別するために1点のスコアしきい値に依存すると、最適以下の結果が得られます。 本稿では,最先端ニューラルネットワークから抽出した顔特徴を用いたドメイン適応学習手法を提案する。
  論文  参考訳（メタデータ） (2021-03-16T15:05:49Z)
• Fairness-Aware Learning with Prejudice Free Representations [2.398608007786179]
  本稿では,潜在性識別特徴を効果的に識別し,治療できる新しいアルゴリズムを提案する。 このアプローチは、モデルパフォーマンスを改善するために差別のない機能を集めるのに役立つ。
  論文  参考訳（メタデータ） (2020-02-26T10:06:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。