論文の概要: Fairness through Difference Awareness: Measuring Desired Group Discrimination in LLMs
- arxiv url: http://arxiv.org/abs/2502.01926v1
- Date: Tue, 04 Feb 2025 01:56:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-05 15:05:32.342510
- Title: Fairness through Difference Awareness: Measuring Desired Group Discrimination in LLMs
- Title（参考訳）: 差異認識による公正性:LLMにおける集団識別の偏差の測定
- Authors: Angelina Wang, Michelle Phan, Daniel E. Ho, Sanmi Koyejo,
- Abstract要約: 我々は、様々な重要な設定において、グループ差の認識が重要であると論じている。
16kの質問に対して8つのシナリオからなるベンチマークスイートを提案する。
差分認識は公平性の異なる次元であることを示す10のモデルにまたがって結果を示す。
- 参考スコア（独自算出の注目度）: 17.424396781457975
- License:
- Abstract: Algorithmic fairness has conventionally adopted a perspective of racial color-blindness (i.e., difference unaware treatment). We contend that in a range of important settings, group difference awareness matters. For example, differentiating between groups may be necessary in legal contexts (e.g., the U.S. compulsory draft applies to men but not women) and harm assessments (e.g., calling a girl a terrorist may be less harmful than calling a Muslim person one). In our work we first introduce an important distinction between descriptive (fact-based), normative (value-based), and correlation (association-based) benchmarks. This distinction is significant because each category requires distinct interpretation and mitigation tailored to its specific characteristics. Then, we present a benchmark suite composed of eight different scenarios for a total of 16k questions that enables us to assess difference awareness. Finally, we show results across ten models that demonstrate difference awareness is a distinct dimension of fairness where existing bias mitigation strategies may backfire.
- Abstract（参考訳）: アルゴリズム的公正性は、伝統的に人種的色鮮度(すなわち、異なる無意識の扱い)の観点を採用してきた。
我々は、様々な重要な設定において、グループ差の認識が重要であることを主張する。
例えば、集団間の差別化は法的文脈(例えば、米国強制草案は男性に適用されるが女性には適用されない)と危害評価(例えば、少女をテロリストと呼ぶことはムスリムの人と呼ぶよりも有害ではないかもしれない)において必要である。
私たちの研究で最初に紹介するのは、記述的(ファクトベース)、規範的(バリューベース)、相関性(連想ベース)の2つの重要な違いです。
この区別は、それぞれのカテゴリーが固有の特徴に合わせて異なる解釈と緩和を必要とするため重要である。
次に,8つの異なるシナリオで構成され,合計16kの質問に対して,差分認識を評価可能なベンチマークスイートを提案する。
最後に、差分認識が、既存の偏見緩和戦略がバックファイアする可能性のあるフェアネスの別次元であることを示す10モデルにまたがる結果を示す。
関連論文リスト
- Fairness-Accuracy Trade-Offs: A Causal Perspective [58.06306331390586]
我々は、初めて因果レンズから公正性と正確性の間の張力を分析する。
因果的制約を強制することは、しばしば人口集団間の格差を減少させることを示す。
因果制約付きフェアラーニングのための新しいニューラルアプローチを導入する。
論文 参考訳（メタデータ） (2024-05-24T11:19:52Z) - Evaluating the Fairness of Discriminative Foundation Models in Computer
Vision [51.176061115977774]
本稿では,CLIP (Contrastive Language-Pretraining) などの差別基盤モデルのバイアス評価のための新しい分類法を提案する。
そして、これらのモデルにおけるバイアスを緩和するための既存の手法を分類学に関して体系的に評価する。
具体的には,ゼロショット分類,画像検索,画像キャプションなど,OpenAIのCLIPとOpenCLIPモデルをキーアプリケーションとして評価する。
論文 参考訳（メタデータ） (2023-10-18T10:32:39Z) - Intersectionality and Testimonial Injustice in Medical Records [10.06051533333397]
実世界の医療データを用いて、医療記録が証言の不正につながる可能性のある単語を示すかどうかを判断する。
人口統計学的特徴(例えば、性別や人種)の交叉性が、証言の不正を明らかにする上でどのように異なるかを分析する。
論文 参考訳（メタデータ） (2023-06-20T17:22:50Z) - Counterpart Fairness -- Addressing Systematic between-group Differences in Fairness Evaluation [17.495053606192375]
機械学習を用いて意思決定を行う場合、アルゴリズム上の決定が公平であり、特定の個人やグループに対して差別的でないことを保証することが重要である。
既存のグループフェアネス手法は、人種や性別などの保護された変数によって規定されたグループ間で平等な結果を保証することを目的としている。
グループ間の系統的な差異が結果に重要な役割を果たす場合、これらの手法は非保護変数の影響を見逃す可能性がある。
論文 参考訳（メタデータ） (2023-05-29T15:41:12Z) - RankCSE: Unsupervised Sentence Representations Learning via Learning to
Rank [54.854714257687334]
本稿では,教師なし文表現学習のための新しい手法であるRangCSEを提案する。
コントラスト学習を伴うランキング一貫性とランキング蒸留を統一された枠組みに組み込む。
セマンティックテキスト類似性(STS)と転送タスク(TR)の両方について、広範な実験が実施されている。
論文 参考訳（メタデータ） (2023-05-26T08:27:07Z) - Fair Without Leveling Down: A New Intersectional Fairness Definition [1.0958014189747356]
本稿では,感性グループ間での絶対値と相対値のパフォーマンスを組み合わせた$alpha$-Intersectional Fairnessという新たな定義を提案する。
我々は、新しいフェアネス定義を用いて、複数の一般的なプロセス内機械学習アプローチをベンチマークし、単純なベースラインよりも改善が得られないことを示します。
論文 参考訳（メタデータ） (2023-05-21T16:15:12Z) - Multi-dimensional discrimination in Law and Machine Learning -- A
comparative overview [14.650860450187793]
公正を意識した機械学習の領域は、AI/MLモデルにおけるバイアスの理解、緩和、説明のための方法とアルゴリズムに焦点を当てている。
実際には、人間のアイデンティティは多次元であり、複数の保護された特徴に基づいて識別を行うことができる。
この方向の最近のアプローチは、主に法域からのいわゆる交叉フェアネスの定義に従う。
論文 参考訳（メタデータ） (2023-02-12T20:41:58Z) - Measuring Fairness of Text Classifiers via Prediction Sensitivity [63.56554964580627]
加速度予測感度は、入力特徴の摂動に対するモデルの予測感度に基づいて、機械学習モデルの公正度を測定する。
この計量は、群フェアネス(統計パリティ)と個人フェアネスという特定の概念と理論的に関連付けられることを示す。
論文 参考訳（メタデータ） (2022-03-16T15:00:33Z) - Fairness for Image Generation with Uncertain Sensitive Attributes [97.81354305427871]
この研究は、画像超解像のような生成手順の文脈における公平性の問題に取り組む。
伝統的群フェアネスの定義は通常、指定された保護された群に関して定義されるが、本質的な真偽は存在しないことを強調する。
人口比率の自然拡大はグループ化に強く依存しており、明白に達成可能であることを示す。
論文 参考訳（メタデータ） (2021-06-23T06:17:17Z) - MultiFair: Multi-Group Fairness in Machine Learning [52.24956510371455]
機械学習におけるマルチグループフェアネスの研究(MultiFair)
この問題を解決するために,汎用的なエンドツーエンドのアルゴリズムフレームワークを提案する。
提案するフレームワークは多くの異なる設定に一般化可能である。
論文 参考訳（メタデータ） (2021-05-24T02:30:22Z) - Characterizing Intersectional Group Fairness with Worst-Case Comparisons [0.0]
我々は、公平度指標が交差性のレンズの下で検討される必要がある理由について議論する。
既存のグループ公平度指標の定義を拡張するための単純な最悪のケース比較方法を提案する。
現代の文脈における交差点の公平性を扱うための社会的、法的、政治的枠組みで締めくくります。
論文 参考訳（メタデータ） (2021-01-05T17:44:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。