論文の概要: Controllable Pareto Trade-off between Fairness and Accuracy

• arxiv url: http://arxiv.org/abs/2509.13651v1
• Date: Wed, 17 Sep 2025 02:56:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-18 18:41:50.698533
• Title: Controllable Pareto Trade-off between Fairness and Accuracy
• Title（参考訳）: 公正性と正確性の間の制御可能なパレートトレードオフ
• Authors: Yongkang Du, Jieyu Zhao, Yijun Yang, Tianyi Zhou,
• Abstract要約: 現在の作業では,2つの目標のバランスをとるために,ひとつの"最適"なソリューションを見つけることに重点を置いています。 この作業は、ユーザーが2つの目的を好み、制御可能なトレードオフを提供することを目的としている。 また、制御性も向上し、人間の定義した参照ベクトルを正確に追従することができる。
• 参考スコア（独自算出の注目度）: 29.212667074233973
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The fairness-accuracy trade-off is a key challenge in NLP tasks. Current work focuses on finding a single "optimal" solution to balance the two objectives, which is limited considering the diverse solutions on the Pareto front. This work intends to provide controllable trade-offs according to the user's preference of the two objectives, which is defined as a reference vector. To achieve this goal, we apply multi-objective optimization (MOO), which can find solutions from various regions of the Pareto front. However, it is challenging to precisely control the trade-off due to the stochasticity of the training process and the high dimentional gradient vectors. Thus, we propose Controllable Pareto Trade-off (CPT) that can effectively train models to perform different trade-offs according to users' preferences. CPT 1) stabilizes the fairness update with a moving average of stochastic gradients to determine the update direction, and 2) prunes the gradients by only keeping the gradients of the critical parameters. We evaluate CPT on hate speech detection and occupation classification tasks. Experiments show that CPT can achieve a higher-quality set of solutions on the Pareto front than the baseline methods. It also exhibits better controllability and can precisely follow the human-defined reference vectors.
• Abstract（参考訳）: 公平さと正確さのトレードオフは、NLPタスクにおける重要な課題である。 現在の研究は、2つの目標のバランスをとるために単一の"最適"ソリューションを見つけることに焦点を当てている。 この作業は、参照ベクトルとして定義される2つの目的に対するユーザの好みに応じて、制御可能なトレードオフを提供することを目的としている。 この目的を達成するために,多目的最適化 (MOO) を適用し,パレートフロントの様々な領域からの解を求める。 しかし、トレーニングプロセスの確率性と高次元勾配ベクトルによるトレードオフを正確に制御することは困難である。 そこで本研究では,ユーザの好みに応じて異なるトレードオフを行うために,効果的にモデルをトレーニングできるコントロール可能なパレートトレードオフ(CPT)を提案する。 CPT 1) 確率勾配の移動平均でフェアネス更新を安定化し、更新方向を決定する。 2) 臨界パラメータの勾配のみを保って勾配を求める。 ヘイトスピーチ検出および職業分類タスクにおけるCPTの評価を行った。 実験により、CPTはベースライン法よりもパレート面における高品質な解の集合を達成できることが示されている。 また、制御性も向上し、人間の定義した参照ベクトルを正確に追従することができる。

関連論文リスト

• MAP: Low-compute Model Merging with Amortized Pareto Fronts via Quadratic Approximation [80.47072100963017]
  Amortized Pareto Front (MAP) を用いた新しい低演算アルゴリズム Model Merging を導入する。 MAPは、複数のモデルをマージするためのスケーリング係数のセットを効率的に識別し、関連するトレードオフを反映する。 また,タスク数が比較的少ないシナリオではベイジアンMAP,タスク数の多い状況ではNested MAPを導入し,計算コストを削減した。
  論文  参考訳（メタデータ） (2024-06-11T17:55:25Z)
• Controllable Preference Optimization: Toward Controllable Multi-Objective Alignment [103.12563033438715]
  人工知能におけるアライメントは、モデル応答と人間の好みと値の一貫性を追求する。 既存のアライメント技術は、主に一方向であり、様々な目的に対して、最適以下のトレードオフと柔軟性の低下につながる。 制御可能な選好最適化(CPO)を導入し、異なる目的に対する選好スコアを明確に指定する。
  論文  参考訳（メタデータ） (2024-02-29T12:12:30Z)
• Interactive Hyperparameter Optimization in Multi-Objective Problems via Preference Learning [65.51668094117802]
  我々は多目的機械学習(ML)に適した人間中心型対話型HPO手法を提案する。 ユーザが自分のニーズに最も適した指標を推測する代わりに、私たちのアプローチは自動的に適切な指標を学習します。
  論文  参考訳（メタデータ） (2023-09-07T09:22:05Z)
• Finding Pareto Trade-offs in Fair and Accurate Detection of Toxic Speech [10.117274664802343]
  我々は、人口集団間でバランスの取れた精度を提供するために、人気の公正度尺度である精度パリティの微分可能なバージョンを開発する。 次に、モデルに依存しないHyperNetwork最適化が任意のNLPモデルアーキテクチャを効率的にトレーニングする方法を示す。 提案手法の汎用性と有効性は,2つのデータセット,3つのニューラルアーキテクチャ,3つのフェアネス損失にまたがる。
  論文  参考訳（メタデータ） (2022-04-15T22:11:25Z)
• Pareto Navigation Gradient Descent: a First-Order Algorithm for Optimization in Pareto Set [17.617944390196286]
  マルチタスク学習のような現代の機械学習アプリケーションは、複数の目的関数をトレードオフするために最適なモデルパラメータを見つける必要がある。 勾配情報のみを用いてOPT-in-Paretoを近似的に解く1次アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-10-17T04:07:04Z)
• Exact Pareto Optimal Search for Multi-Task Learning and Multi-Criteria Decision-Making [10.914300987810128]
  EPO 探索は線形収束速度で EPO 解に収束することを示す。 我々は, PFを後部MCDMで近似するPESA-EPOと, 対話型MCDMで誘導するGP-EPOという新しいアルゴリズムを開発した。 EPO検索は変数数と線形にスケールし、ディープEコマースネットワークに使用することができる。
  論文  参考訳（メタデータ） (2021-08-02T02:13:21Z)
• Multi-Objective Learning to Predict Pareto Fronts Using Hypervolume Maximization [0.0]
  現実の問題は、しばしば多目的であり、意思決定者は、対立する目的の間のトレードオフが好ましい優先順位を特定できない。 本研究では,学習者の集合に対応する平均損失ベクトルの高体積(HV)を最大化することにより,パレートフロントを推定する新しい学習手法を提案する。 提案手法では,学習者の集合を動的損失関数で多目的に訓練し,各学習者の損失をHV最大化勾配によって重み付けする。 3つの異なる多目的タスクに対する実験は、学習者の集合の出力が実際に十分に拡散していることを示している
  論文  参考訳（メタデータ） (2021-02-08T20:41:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。