論文の概要: Finding Pareto Trade-offs in Fair and Accurate Detection of Toxic Speech

• arxiv url: http://arxiv.org/abs/2204.07661v3
• Date: Thu, 10 Apr 2025 00:29:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-11 12:21:49.964518
• Title: Finding Pareto Trade-offs in Fair and Accurate Detection of Toxic Speech
• Title（参考訳）: 有害音声の公平かつ正確な検出におけるパレートトレードオフの発見
• Authors: Soumyajit Gupta, Venelin Kovatchev, Anubrata Das, Maria De-Arteaga, Matthew Lease,
• Abstract要約: 我々は、人口集団間でバランスの取れた精度を提供するために、人気の公正度尺度である精度パリティの微分可能なバージョンを開発する。 次に、モデルに依存しないHyperNetwork最適化が任意のNLPモデルアーキテクチャを効率的にトレーニングする方法を示す。 提案手法の汎用性と有効性は,2つのデータセット,3つのニューラルアーキテクチャ,3つのフェアネス損失にまたがる。
• 参考スコア（独自算出の注目度）: 10.117274664802343
• License:
• Abstract: Optimizing NLP models for fairness poses many challenges. Lack of differentiable fairness measures prevents gradient-based loss training or requires surrogate losses that diverge from the true metric of interest. In addition, competing objectives (e.g., accuracy vs. fairness) often require making trade-offs based on stakeholder preferences, but stakeholders may not know their preferences before seeing system performance under different trade-off settings. To address these challenges, we begin by formulating a differentiable version of a popular fairness measure, Accuracy Parity, to provide balanced accuracy across demographic groups. Next, we show how model-agnostic, HyperNetwork optimization can efficiently train arbitrary NLP model architectures to learn Pareto-optimal trade-offs between competing metrics. Focusing on the task of toxic language detection, we show the generality and efficacy of our methods across two datasets, three neural architectures, and three fairness losses.
• Abstract（参考訳）: 公平性のためにNLPモデルを最適化することは、多くの課題をもたらす。 差別化可能な公正度尺度の欠如は、勾配に基づく損失訓練を妨げたり、真の利害基準から逸脱する代理的損失を要求したりする。 さらに、競合する目的(例えば、正確性対公正性)は、しばしばステークホルダーの好みに基づいてトレードオフを行う必要があるが、利害関係者は、異なるトレードオフ設定の下でシステムパフォーマンスを見る前に、彼らの好みを知ることができないかもしれない。 これらの課題に対処するために、人口統計群間でバランスの取れた精度を提供するために、人気のある公正度尺度である精度パリティの微分可能なバージョンを定式化することから始める。 次に、モデルに依存しないハイパーネットワーク最適化が任意のNLPモデルアーキテクチャを効率的にトレーニングし、競合するメトリクス間のパレート最適トレードオフを学習する方法を示す。 有害な言語検出の課題に着目し,2つのデータセット,3つのニューラルアーキテクチャ,3つのフェアネス損失にまたがる手法の汎用性と有効性を示す。

関連論文リスト

• Differential Adjusted Parity for Learning Fair Representations [14.267727134658292]
  公正で偏見のない機械学習モデルの開発は、人工知能分野の研究者にとって現在も進行中の目標である。 偏差適応パリティ(DAP)の損失を非偏差情報表現として導入する。
  論文  参考訳（メタデータ） (2025-02-13T20:48:26Z)
• Fair Bilevel Neural Network (FairBiNN): On Balancing fairness and accuracy via Stackelberg Equilibrium [0.3350491650545292]
  バイアスを緩和する現在の方法は、情報損失と精度と公平性のバランスが不十分であることが多い。 本稿では,二段階最適化の原理に基づく新しい手法を提案する。 私たちのディープラーニングベースのアプローチは、正確性と公平性の両方を同時に最適化します。
  論文  参考訳（メタデータ） (2024-10-21T18:53:39Z)
• Fairness-Aware Meta-Learning via Nash Bargaining [63.44846095241147]
  本稿では,機械学習におけるグループレベルの公平性の問題に対処する2段階のメタ学習フレームワークを提案する。 第1段階では、過度な競合を解決するためにNash Bargaining Solution(NBS)を使用して、モデルをステアリングする。 6つのキーフェアネスデータセットと2つの画像分類タスクにおいて、様々なフェアネス目標に対して経験的効果を示す。
  論文  参考訳（メタデータ） (2024-06-11T07:34:15Z)
• Boosting Fair Classifier Generalization through Adaptive Priority Reweighing [59.801444556074394]
  より優れた一般化性を持つ性能向上フェアアルゴリズムが必要である。 本稿では,トレーニングデータとテストデータ間の分散シフトがモデル一般化性に与える影響を解消する適応的リライジング手法を提案する。
  論文  参考訳（メタデータ） (2023-09-15T13:04:55Z)
• Fair Few-shot Learning with Auxiliary Sets [53.30014767684218]
  多くの機械学習(ML)タスクでは、ラベル付きデータサンプルしか収集できないため、フェアネスのパフォーマンスが低下する可能性がある。 本稿では,限定的なトレーニングサンプルを用いたフェアネス認識学習課題をemphfair few-shot Learning問題として定義する。 そこで我々は,学習した知識をメタテストタスクに一般化し,様々なメタトレーニングタスクに公平な知識を蓄積する新しいフレームワークを考案した。
  論文  参考訳（メタデータ） (2023-08-28T06:31:37Z)
• Optimizing fairness tradeoffs in machine learning with multiobjective meta-models [0.913755431537592]
  複数のコスト関数を持つ重み付き分類問題として、公平な機械学習タスクを定義するフレキシブルなフレームワークを提案する。 我々は、与えられた学習者のモデルトレーニングで使用されるサンプル重量を定義するために多目的最適化を使用し、重みを適応させ、公平性と精度の複数の指標を最適化する。 実世界の一連の問題において、このアプローチは、好ましいエラー/フェアネストレードオフを持つ解集合を見つけることによって、現在の最先端の手法よりも優れている。
  論文  参考訳（メタデータ） (2023-04-21T13:42:49Z)
• DualFair: Fair Representation Learning at Both Group and Individual Levels via Contrastive Self-supervision [73.80009454050858]
  この研究は、DualFairと呼ばれる自己教師型モデルを提示し、学習された表現から性別や人種などのセンシティブな属性をデバイアスすることができる。 我々のモデルは、グループフェアネスと対実フェアネスという2つのフェアネス基準を共同で最適化する。
  論文  参考訳（メタデータ） (2023-03-15T07:13:54Z)
• Mitigating Unfairness via Evolutionary Multi-objective Ensemble Learning [0.8563354084119061]
  1つまたは複数の公正度対策を最適化することは、他の措置を犠牲にしたり、悪化させることがある。 複数のメトリクスを同時に最適化するために、多目的進化学習フレームワークが使用される。 提案アルゴリズムは,意思決定者に対して,精度とマルチフェアネス指標のトレードオフを向上する。
  論文  参考訳（メタデータ） (2022-10-30T06:34:10Z)
• Learning Optimal Fair Classification Trees: Trade-offs Between Interpretability, Fairness, and Accuracy [7.215903549622416]
  最適分類木を学習するための混合整数最適化フレームワークを提案する。 我々は、一般的なデータセットの公平な分類のための最先端アプローチに対して、我々の手法をベンチマークする。 我々の手法は、ほぼ完全に一致した決定を一貫して見つけ出すが、他の手法は滅多にない。
  論文  参考訳（メタデータ） (2022-01-24T19:47:10Z)
• Deep F-measure Maximization for End-to-End Speech Understanding [52.36496114728355]
  本稿では,F測度に対する微分可能な近似法を提案し,標準バックプロパゲーションを用いてネットワークをトレーニングする。 我々は、アダルト、コミュニティ、犯罪の2つの標準フェアネスデータセットの実験を行い、ATISデータセットの音声・インテリジェンス検出と音声・COCOデータセットの音声・イメージ概念分類を行った。 これらの4つのタスクのすべてにおいて、F測定は、クロスエントロピー損失関数で訓練されたモデルと比較して、最大8%の絶対的な絶対的な改善を含む、マイクロF1スコアの改善をもたらす。
  論文  参考訳（メタデータ） (2020-08-08T03:02:27Z)
• Meta-Learned Confidence for Few-shot Learning [60.6086305523402]
  数ショットのメトリックベースのアプローチのための一般的なトランスダクティブ推論手法は、最も確実なクエリ例の平均で、各クラスのプロトタイプを更新することである。 本稿では,各クエリの信頼度をメタラーニングして,ラベルのないクエリに最適な重みを割り当てる手法を提案する。 4つのベンチマークデータセットに対してメタ学習の信頼度で、少数ショットの学習モデルを検証した。
  論文  参考訳（メタデータ） (2020-02-27T10:22:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。