論文の概要: Privacy-Preserving Orthogonal Aggregation for Guaranteeing Gender Fairness in Federated Recommendation

• arxiv url: http://arxiv.org/abs/2411.19678v1
• Date: Fri, 29 Nov 2024 13:12:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-02 15:19:20.689003
• Title: Privacy-Preserving Orthogonal Aggregation for Guaranteeing Gender Fairness in Federated Recommendation
• Title（参考訳）: フェデレーション・リコメンデーションにおけるジェンダーフェアの確保のためのプライバシー保護直交集合
• Authors: Siqing Zhang, Yuchen Ding, Wei Tang, Wei Sun, Yong Liao, Peng Yuan Zhou,
• Abstract要約: 我々は、厳密なプライバシー制約の下で、連合推薦システムがグループフェアネスを達成できるかどうかを検討する。 セキュアアグリゲーション方式と量子化手法を用いたプライバシ保存直交アグリゲーション(PPOA)を提案する。 実験の結果、PPOAは女性と男性両方の推奨効果を最大8.25%、男性では6.36%向上させることが示された。
• 参考スコア（独自算出の注目度）: 18.123459468576648
• License:
• Abstract: Under stringent privacy constraints, whether federated recommendation systems can achieve group fairness remains an inadequately explored question. Taking gender fairness as a representative issue, we identify three phenomena in federated recommendation systems: performance difference, data imbalance, and preference disparity. We discover that the state-of-the-art methods only focus on the first phenomenon. Consequently, their imposition of inappropriate fairness constraints detrimentally affects the model training. Moreover, due to insufficient sensitive attribute protection of existing works, we can infer the gender of all users with 99.90% accuracy even with the addition of maximal noise. In this work, we propose Privacy-Preserving Orthogonal Aggregation (PPOA), which employs the secure aggregation scheme and quantization technique, to prevent the suppression of minority groups by the majority and preserve the distinct preferences for better group fairness. PPOA can assist different groups in obtaining their respective model aggregation results through a designed orthogonal mapping while keeping their attributes private. Experimental results on three real-world datasets demonstrate that PPOA enhances recommendation effectiveness for both females and males by up to 8.25% and 6.36%, respectively, with a maximum overall improvement of 7.30%, and achieves optimal fairness in most cases. Extensive ablation experiments and visualizations indicate that PPOA successfully maintains preferences for different gender groups.
• Abstract（参考訳）: 厳格なプライバシー制約の下では、フェデレーションされた推薦システムがグループフェアネスを達成できるかどうかは、いまだに不十分な問題である。 ジェンダーフェアネスを代表的課題として、フェデレーションレコメンデーションシステムにおいて、パフォーマンス差、データ不均衡、嗜好格差の3つの現象を識別する。 最先端の手法は、最初の現象にのみ焦点をあてることがわかりました。 その結果、不適切な公正性制約を課すことは、モデルのトレーニングに有害な影響を及ぼす。 さらに,既存作品の機密性保護が不十分なため,最大雑音を付加しても,全ユーザの性別を99.90%の精度で推定することができる。 本研究では,セキュアなアグリゲーション・スキームと量子化技術を用いたプライバシ保存オルソゴン・アグリゲーション(PPOA)を提案する。 PPOAは、それらの属性をプライベートに保ちながら、設計した直交写像を通じて、それぞれのモデル集約結果を得るのを支援することができる。 3つの実世界のデータセットによる実験の結果、PPOAは雌雄ともに最大8.25%、雄雄ともに最大6.36%の推奨効率を向上し、全体的な改善は7.30%となり、ほとんどの場合において最適な公正性を達成する。 大規模なアブレーション実験と可視化は、PPOAが異なる性別グループに対する嗜好を維持することに成功していることを示している。

関連論文リスト

• The Root Shapes the Fruit: On the Persistence of Gender-Exclusive Harms in Aligned Language Models [58.130894823145205]
  我々はトランスジェンダー、ノンバイナリ、その他のジェンダー・ディバースのアイデンティティを中心とし、アライメント手順が既存のジェンダー・ディバースバイアスとどのように相互作用するかを検討する。 以上の結果から,DPO対応モデルは特に教師付き微調整に敏感であることが示唆された。 DPOとより広範なアライメントプラクティスに合わせたレコメンデーションで締めくくります。
  論文  参考訳（メタデータ） (2024-11-06T06:50:50Z)
• Federated Fairness without Access to Sensitive Groups [12.888927461513472]
  連合学習におけるグループフェアネスへの現在のアプローチは、トレーニング中に事前に定義されラベル付けされたセンシティブなグループが存在することを前提としている。 我々は、センシティブなグループや追加のラベルの事前定義された定義に依存しないグループフェアネスを保証するための新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2024-02-22T19:24:59Z)
• MaxMin-RLHF: Towards Equitable Alignment of Large Language Models with Diverse Human Preferences [101.57443597426374]
  Reinforcement Learning from Human Feedback (RLHF) は、言語モデルと人間の嗜好を一致させる。 予測最大化アルゴリズムを用いて嗜好分布の混合を学習し、人間の嗜好をよりよく表現する。 従来のRLHFアルゴリズムよりも16%以上の勝利率向上を実現している。
  論文  参考訳（メタデータ） (2024-02-14T03:56:27Z)
• Equal Opportunity of Coverage in Fair Regression [50.76908018786335]
  我々は、予測の不確実性の下で公正な機械学習(ML)を研究し、信頼性と信頼性のある意思決定を可能にする。 本研究は,(1)類似した結果の異なる集団に対するカバー率が近いこと,(2)人口全体のカバー率が一定水準にあること,の2つの特性を達成することを目的としたカバーの平等機会(EOC)を提案する。
  論文  参考訳（メタデータ） (2023-11-03T21:19:59Z)
• Fair-CDA: Continuous and Directional Augmentation for Group Fairness [48.84385689186208]
  公正な制約を課すための詳細なデータ拡張戦略を提案する。 グループ間の感性のある特徴の遷移経路のモデルを正規化することにより、グループフェアネスを実現することができることを示す。 提案手法はデータ生成モデルを仮定せず,精度と公平性の両方に優れた一般化を実現する。
  論文  参考訳（メタデータ） (2023-04-01T11:23:00Z)
• Fairness via Adversarial Attribute Neighbourhood Robust Learning [49.93775302674591]
  本稿では,分類ヘッドを損なうために,UnderlineRobust underlineAdversarial underlineAttribute underlineNeighbourhood (RAAN)損失を原則として提案する。
  論文  参考訳（メタデータ） (2022-10-12T23:39:28Z)
• Equal Experience in Recommender Systems [21.298427869586686]
  我々は、バイアスデータの存在下で不公平を規制するために、新しい公正の概念(平等な経験と呼ぶ)を導入する。 本稿では、正規化項としての公正性の概念を取り入れた最適化フレームワークを提案し、最適化を解く計算効率の良いアルゴリズムを導入する。
  論文  参考訳（メタデータ） (2022-10-12T05:53:05Z)
• Improved Approximation for Fair Correlation Clustering [4.629694186457133]
  相関クラスタリングは教師なし機械学習におけるユビキタスパラダイムであり、不公平に対処することが大きな課題である。 そこで本研究では,データポイントが異なる保護グループに属しているフェア相関クラスタリングについて検討する。 本稿は,Ahmadi et al.とAhmadian et alの以前の研究の質保証を著しく一般化し,改善する。
  論文  参考訳（メタデータ） (2022-06-09T03:07:57Z)
• Balancing Biases and Preserving Privacy on Balanced Faces in the Wild [50.915684171879036]
  現在の顔認識(FR)モデルには、人口統計バイアスが存在する。 さまざまな民族と性別のサブグループにまたがる偏見を測定するために、我々のバランス・フェイススをWildデータセットに導入します。 真偽と偽のサンプルペアを区別するために1点のスコアしきい値に依存すると、最適以下の結果が得られます。 本稿では,最先端ニューラルネットワークから抽出した顔特徴を用いたドメイン適応学習手法を提案する。
  論文  参考訳（メタデータ） (2021-03-16T15:05:49Z)
• Post-Comparison Mitigation of Demographic Bias in Face Recognition Using Fair Score Normalization [15.431761867166]
  顔認識におけるバイアスの影響を低減するために,教師なしのフェアスコア正規化手法を提案する。 我々の解決策は、性別を考慮した場合の人口バイアスを最大82.7%削減する。 従来の研究とは対照的に、我々の公正な正規化アプローチは、偽一致率0.001で53.2%、偽一致率0.00001で82.9%まで全体の性能を向上させる。
  論文  参考訳（メタデータ） (2020-02-10T08:17:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。