論文の概要: FairPO: Robust Preference Optimization for Fair Multi-Label Learning

• arxiv url: http://arxiv.org/abs/2505.02433v2
• Date: Fri, 16 May 2025 12:47:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-19 14:36:13.062736
• Title: FairPO: Robust Preference Optimization for Fair Multi-Label Learning
• Title（参考訳）: FairPO: 公正なマルチラベル学習のためのロバストな選好最適化
• Authors: Soumen Kumar Mondal, Akshit Varmora, Prateek Chanda, Ganesh Ramakrishnan,
• Abstract要約: マルチラベル分類における公平性の促進を目的とした新しいフレームワークであるFairPOを提案する。 私たちのフレームワークでは、ラベルのセットは特権グループと非特権グループに分割されています。 学習問題をグループに対するロバストな最適化とすることで、より低いパフォーマンスを持つグループに対するトレーニングの重点を調整できる。
• 参考スコア（独自算出の注目度）: 16.66633426354087
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We propose FairPO, a novel framework designed to promote fairness in multi-label classification by directly optimizing preference signals with a group robustness perspective. In our framework, the set of labels is partitioned into privileged and non-privileged groups, and a preference-based loss inspired by Direct Preference Optimization (DPO) is employed to more effectively differentiate true positive labels from confusing negatives within the privileged group, while preserving baseline classification performance for non-privileged labels. By framing the learning problem as a robust optimization over groups, our approach dynamically adjusts the training emphasis toward groups with poorer performance, thereby mitigating bias and ensuring a fairer treatment across diverse label categories. In addition, we outline plans to extend this approach by investigating alternative loss formulations such as Simple Preference Optimisation (SimPO) and Contrastive Preference Optimization (CPO) to exploit reference-free reward formulations and contrastive training signals. Furthermore, we plan to extend FairPO with multilabel generation capabilities, enabling the model to dynamically generate diverse and coherent label sets for ambiguous inputs.
• Abstract（参考訳）: グループロバストネスの観点から選好信号を直接最適化することにより,マルチラベル分類における公平性を向上する新しいフレームワークであるFairPOを提案する。 本フレームワークでは、ラベルの集合を特権グループと非特権グループに分割し、直接選好最適化(DPO)にインスパイアされた嗜好に基づく損失を用いて、真の正のラベルを特権グループ内で混乱する負のラベルとより効果的に区別し、非特権ラベルのベースライン分類性能を維持する。 学習問題をグループに対するロバストな最適化として検討することにより、パフォーマンスの悪いグループに対するトレーニングの重点を動的に調整し、バイアスを軽減し、様々なラベルカテゴリーで公平な扱いを確実にする。 さらに,提案手法は,参照なし報酬の定式化とコントラスト学習信号を利用するために,SimPO (Simple Preference Optimisation) やContrastive Preference Optimization (Contrastive Preference Optimization) などの代替的損失定式化を調査することによって,このアプローチを拡張する計画の概要を述べる。 さらに、FairPOをマルチラベル生成機能で拡張し、曖昧な入力のための多様なコヒーレントなラベルセットを動的に生成する計画である。

関連論文リスト

• In-context Ranking Preference Optimization [48.36442791241395]
  In-context Ranking Preference Optimization (IRPO) フレームワークを提案する。 IRPOは標準のDPO手法よりも高い性能を示し、LLMと直接文脈内ランキング設定の整合性を強調した。
  論文  参考訳（メタデータ） (2025-04-21T23:06:12Z)
• RosePO: Aligning LLM-based Recommenders with Human Values [38.029251417802044]
  我々は、パーソナライズされた選好最適化(RosePO)を円滑にするための一般的なフレームワークを提案する。 RosePOは、トレーニング後の段階において、カスタマイズされた人的価値との整合性が向上する。 実世界の3つのデータセットの評価は,本手法の有効性を示す。
  論文  参考訳（メタデータ） (2024-10-16T12:54:34Z)
• Geometric-Averaged Preference Optimization for Soft Preference Labels [78.2746007085333]
  LLMを人間の嗜好と整合させる多くのアルゴリズムは、人間の嗜好は二進的かつ決定論的であると仮定する。 本研究では,分散ソフトな選好ラベルを導入し,損失関数におけるLLM出力確率の重み付き幾何平均を用いて直接選好最適化(DPO)を改善する。
  論文  参考訳（メタデータ） (2024-09-10T17:54:28Z)
• Pareto-Optimal Learning from Preferences with Hidden Context [17.590330740964266]
  本稿では,多元的アライメントを実現するPOPLを提案する。 理論的および実証的な評価は,POPLが報酬関数とポリシーの学習において,基本的手法を超越していることを示している。 また,POPLは,グループフェアネスの特定の概念を最適化する手法の基盤としても機能することを示す。
  論文  参考訳（メタデータ） (2024-06-21T18:57:38Z)
• Group Robust Preference Optimization in Reward-free RLHF [23.622835830345725]
  そこで本研究では,大規模言語モデルと各グループの嗜好を密に整合させる新しいグループロバスト選好最適化法を提案する。 これを達成するため、GRPOは異なるグループの重要性を適応的かつ順次重み付けし、累積損失が悪化したグループを優先順位付けする。 我々は,最悪のパフォーマンス群の性能向上,グループ間の損失不均衡の低減,確率精度の向上について検討した。
  論文  参考訳（メタデータ） (2024-05-30T17:50:04Z)
• Re-weighting Based Group Fairness Regularization via Classwise Robust Optimization [30.089819400033985]
  そこで本研究では,グループフェアネス尺度を学習目標に組み込むことにより,この2つの学習手法を統一する原理的手法を提案する。 我々は,各グループに対して適切な再重み付けを自動的に生成することにより,結果の目的を最小化する反復最適化アルゴリズムを開発した。 実験の結果,FairDROはスケーラブルで,多様なアプリケーションに容易に適用可能であることがわかった。
  論文  参考訳（メタデータ） (2023-03-01T12:00:37Z)
• Fairness via Adversarial Attribute Neighbourhood Robust Learning [49.93775302674591]
  本稿では,分類ヘッドを損なうために,UnderlineRobust underlineAdversarial underlineAttribute underlineNeighbourhood (RAAN)損失を原則として提案する。
  論文  参考訳（メタデータ） (2022-10-12T23:39:28Z)
• Towards Model-Agnostic Post-Hoc Adjustment for Balancing Ranking Fairness and Algorithm Utility [54.179859639868646]
  Bipartiteランキングは、ラベル付きデータから正の個人よりも上位の個人をランク付けするスコアリング機能を学ぶことを目的としている。 学習したスコアリング機能が、異なる保護グループ間で体系的な格差を引き起こすのではないかという懸念が高まっている。 本稿では、二部構成のランキングシナリオにおいて、それらのバランスをとるためのモデル後処理フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-06-15T10:08:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。