論文の概要: Rethinking Fairness Metrics for Multi-Class and Multi-Group Assessment: Not Everything is Binary
- arxiv url: http://arxiv.org/abs/2611.03257v1
- Date: Mon, 02 Nov 2026 15:05:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 05:29:36.269109
- Title: Rethinking Fairness Metrics for Multi-Class and Multi-Group Assessment: Not Everything is Binary
- Title(参考訳): マルチクラスとマルチグループアセスメントのためのフェアネスメトリクスの再考:すべてがバイナリではない
- Abstract要約: 既存のメトリクスの限界について議論し、新しい、数学的に健全で一般化されたマルチグループおよびマルチクラスのメトリクスの定式化を提案する。
その結果,二項化戦略による経験的評価歪みが強調され,マルチクラス設定における二項公正度指標の限界が明らかになった。
- 参考スコア(独自算出の注目度): 0.7575628551625838
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Artificial Intelligence, and Machine Learning in general, is becoming pervasive across all domains and disciplines. By means of this data-driven approach, algorithms can learns complex task just by learning from samples. However, if the data-set is biased, they might lead to the development of unfair computer systems, that is, characterised by a prejudice towards specific individuals or groups, which might get an unmotivated output from the system. This circumstance lead to the development of multiple metrics designed to quantify the level of unfairness of an algorithm. However, a generalised assumption in the literature is that the sensitive features and the output labels are binary. When the data is not binary, it is forcefully binarized using a one-versus-the-rest simplification. In this work, we discuss the limitations of existing metrics and propose novel, mathematically sound, and generalized multi-group and multi-class formulations of the metrics. Ultimately, our results highlight the empirical assessment distortion caused by binarization strategies, which reveals the limitations of binary fairness metrics in the multi class setting.
- Abstract(参考訳): 人工知能と機械学習は、あらゆる分野や分野に広まりつつある。
このデータ駆動アプローチにより、アルゴリズムはサンプルから学ぶだけで複雑なタスクを学習することができる。
しかし、データセットが偏りがある場合、それらは不公平なコンピュータシステム、すなわち特定の個人やグループに対する偏見によって特徴づけられ、システムから動機のない出力を得ることになるかもしれない。
この状況は、アルゴリズムの不公平性のレベルを定量化するために設計された複数のメトリクスの開発に繋がる。
しかし、文献における一般化された仮定は、センシティブな特徴と出力ラベルがバイナリであるということである。
データがバイナリでない場合、一対一の単純化によって強制的に二項化される。
本稿では,既存のメトリクスの限界について議論し,新しい,数学的に健全な,一般化されたマルチグループおよびマルチクラスなメトリクスの定式化を提案する。
その結果,二項化戦略による経験的評価の歪みが強調され,多クラス設定における二項公正度指標の限界が明らかとなった。
関連論文リスト
- Probably Approximately Precision and Recall Learning [60.00180898830079]
機械学習における重要な課題は、一方的なフィードバックの頻度である。
本稿では,確率的近似(PAC)フレームワークを導入し,各入力をラベルの集合にマッピングする仮説を定めている。
我々は、正のデータのみから学習する新しいアルゴリズムを開発し、実現可能な場合において最適なサンプル複雑性を実現する。
論文 参考訳(メタデータ) (2024-11-20T04:21:07Z) - Data quality dimensions for fair AI [0.0]
我々は、データ品質の次元の観点から、AIシステムにおけるバイアスの問題を考察する。
我々は、精度戦略に基づくバイアス軽減ツールの限定モデル構築について強調する。
本稿では, 完全性, 一貫性, タイムライン, 信頼性の観点から, 分類タスクの公平性を再考する。
論文 参考訳(メタデータ) (2023-05-11T16:48:58Z) - Practical Approaches for Fair Learning with Multitype and Multivariate
Sensitive Attributes [70.6326967720747]
現実世界に展開された機械学習アルゴリズムが不公平さや意図しない社会的結果をもたらすことはないことを保証することが重要である。
本稿では,カーネルHilbert Spacesの相互共分散演算子上に構築されたフェアネス尺度であるFairCOCCOを紹介する。
実世界のデータセットにおける予測能力と公正性のバランスをとる上で、最先端技術に対する一貫した改善を実証的に示す。
論文 参考訳(メタデータ) (2022-11-11T11:28:46Z) - A Reduction to Binary Approach for Debiasing Multiclass Datasets [12.885756277367443]
R2Bが最適性およびバイアス保証を満たすことを証明し、2つの基準線を越えれば改善につながることを実証的に証明する。
これらの結論は、社会科学、コンピュータビジョン、医療からの合成および実世界のデータセット上で検証される。
論文 参考訳(メタデータ) (2022-05-31T15:11:41Z) - Leveraging Ensembles and Self-Supervised Learning for Fully-Unsupervised
Person Re-Identification and Text Authorship Attribution [77.85461690214551]
完全ラベル付きデータからの学習は、Person Re-IdentificationやText Authorship Attributionなどのマルチメディアフォレスト問題において困難である。
近年の自己教師型学習法は,基礎となるクラスに意味的差異が有る場合に,完全ラベル付きデータを扱う際に有効であることが示されている。
本研究では,異なるクラスからのサンプルが顕著に多様性を持っていない場合でも,ラベルのないデータから学習できるようにすることにより,個人再認識とテキストオーサシップの属性に対処する戦略を提案する。
論文 参考訳(メタデータ) (2022-02-07T13:08:11Z) - Blackbox Post-Processing for Multiclass Fairness [1.5305403478254664]
我々は,マルチクラス設定における公平性を達成するため,ブラックボックス機械学習分類器の予測を変更することを検討する。
我々は,系統的な合成実験を通じて,公正かつ正確な予測を行う方法を探究する。
全体として、我々の手法は精度の小さな低下を生じさせ、データセットの個体数が高い場合に公平さを強制する。
論文 参考訳(メタデータ) (2022-01-12T13:21:20Z) - MultiFair: Multi-Group Fairness in Machine Learning [52.24956510371455]
機械学習におけるマルチグループフェアネスの研究(MultiFair)
この問題を解決するために,汎用的なエンドツーエンドのアルゴリズムフレームワークを提案する。
提案するフレームワークは多くの異なる設定に一般化可能である。
論文 参考訳(メタデータ) (2021-05-24T02:30:22Z) - One-vs.-One Mitigation of Intersectional Bias: A General Method to Extend Fairness-Aware Binary Classification [0.14732811715354452]
1-vs.ワン・マイティゲーション(英: One-vs. One Mitigation)は、二項分類のためのフェアネス認識機械学習と、センシティブ属性に関連する各サブグループの比較プロセスである。
本手法は,すべての設定において従来の手法よりも交叉バイアスを緩和する。
論文 参考訳(メタデータ) (2020-10-26T11:35:39Z) - Bias in Multimodal AI: Testbed for Fair Automatic Recruitment [73.85525896663371]
異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。
我々は、性別や人種の偏りを意識的に評価したマルチモーダルな合成プロファイルを用いて、自動求人アルゴリズムを訓練する。
我々の方法論と結果は、一般により公平なAIベースのツール、特により公平な自動採用システムを生成する方法を示している。
論文 参考訳(メタデータ) (2020-04-15T15:58:05Z) - A survey of bias in Machine Learning through the prism of Statistical
Parity for the Adult Data Set [5.277804553312449]
偏見を自動決定にどのように導入できるかを理解することの重要性を示す。
まず、公正学習問題、特に二項分類設定における数学的枠組みについて述べる。
そこで,本研究では,現実およびよく知られた成人所得データセットの標準差分効果指標を用いて,偏見の有無を定量化することを提案する。
論文 参考訳(メタデータ) (2020-03-31T14:48:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。