論文の概要: Fairness-Constrained Optimization Attack in Federated Learning

• arxiv url: http://arxiv.org/abs/2510.12143v1
• Date: Tue, 14 Oct 2025 04:49:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-15 19:02:32.189955
• Title: Fairness-Constrained Optimization Attack in Federated Learning
• Title（参考訳）: フェデレーション学習における公正制約付き最適化攻撃
• Authors: Harsh Kasyap, Minghong Fang, Zhuqing Liu, Carsten Maple, Somanath Tripathy,
• Abstract要約: フェデレーション・ラーニング(Federated Learning, FL)は、人口統計学における参加者間のコラボレーションを促進する、プライバシ保護機械学習技術である。 本稿では,クライアントが不正にバイアス付きモデルを送信する意図的公正攻撃を提案する。 我々は,現在最先端のビザンチン・ロバストとフェアネス・アウェア・アグリゲーション・スキームに対する,異なるデータセットに対する攻撃を評価した。
• 参考スコア（独自算出の注目度）: 26.380464066437668
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated learning (FL) is a privacy-preserving machine learning technique that facilitates collaboration among participants across demographics. FL enables model sharing, while restricting the movement of data. Since FL provides participants with independence over their training data, it becomes susceptible to poisoning attacks. Such collaboration also propagates bias among the participants, even unintentionally, due to different data distribution or historical bias present in the data. This paper proposes an intentional fairness attack, where a client maliciously sends a biased model, by increasing the fairness loss while training, even considering homogeneous data distribution. The fairness loss is calculated by solving an optimization problem for fairness metrics such as demographic parity and equalized odds. The attack is insidious and hard to detect, as it maintains global accuracy even after increasing the bias. We evaluate our attack against the state-of-the-art Byzantine-robust and fairness-aware aggregation schemes over different datasets, in various settings. The empirical results demonstrate the attack efficacy by increasing the bias up to 90\%, even in the presence of a single malicious client in the FL system.
• Abstract（参考訳）: フェデレーション・ラーニング(Federated Learning, FL)は、人口統計学における参加者間のコラボレーションを促進する、プライバシ保護機械学習技術である。 FLはデータの移動を制限しながらモデル共有を可能にする。 FLは参加者にトレーニングデータに対する独立性を与えるため、毒殺攻撃の影響を受けやすい。 このようなコラボレーションは、データ内の異なるデータ分布や歴史的なバイアスのために、参加者間の偏見を、意図せずにも伝播させる。 本稿では,同種データ分布を考慮しても,学習中の公平さ損失を増大させることにより,クライアントが不正にバイアス付きモデルを送信する意図的公正攻撃を提案する。 フェアネス損失は、人口分布パリティや等化オッズなどのフェアネス指標の最適化問題を解くことで計算される。 この攻撃は、偏見を増した後も世界的正確性を維持するため、不安で検出が難しい。 我々は、さまざまな設定で、最先端のビザンチン・ロバストとフェアネス・アウェア・アグリゲーション・スキームに対する攻撃を評価した。 その結果、FLシステムに悪意のあるクライアントが1つ存在する場合でも、バイアスを最大90%まで増やすことで攻撃効果を実証した。

関連論文リスト

• Targeted Learning for Data Fairness [52.59573714151884]
  データ生成プロセス自体の公平性を評価することにより、公平性推論を拡張する。 我々は、人口統計学的平等、平等機会、条件付き相互情報から推定する。 提案手法を検証するため,いくつかのシミュレーションを行い,実データに適用する。
  論文  参考訳（メタデータ） (2025-02-06T18:51:28Z)
• Decaf: Data Distribution Decompose Attack against Federated Learning [4.3667223256713745]
  FLにおけるデータ分散分解攻撃(Data Distribution Decompose Attack on FL)という,革新的なプライバシの脅威を考案しています。 Decafはひそかに運営しており、データ配信のプライバシーの侵害に関して、完全に受動的で、被害者のユーザーには検出できない。 結果から,IID,非IIDのいずれであっても,ローカルなデータ分散を正確に分解できることを示す。
  論文  参考訳（メタデータ） (2024-05-24T07:56:32Z)
• Fairness-enhancing mixed effects deep learning improves fairness on in- and out-of-distribution clustered (non-iid) data [6.596656267996196]
  フェア・ミックスド・エフェクト・ディープ・ラーニング(Fair MEDL)フレームワークを提案する。 本フレームワークは,1)不変なFEを学習するためのクラスタ逆効果,2)REのためのベイズニューラルネットワーク,3)最終的な予測のためにFEとREを組み合わせた混合関数,を通じて,クラスタ不変な固定効果(FE)とクラスタ固有ランダムエフェクト(RE)を定量化する。 公正なMEDLフレームワークは、年齢で86.4%、人種で64.9%、性で57.8%、結婚で36.2%の公正性を向上し、堅牢な予測性能を維持している。
  論文  参考訳（メタデータ） (2023-10-04T20:18:45Z)
• Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
  公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。 カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。 本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
  論文  参考訳（メタデータ） (2023-07-17T04:08:29Z)
• FedVal: Different good or different bad in federated learning [9.558549875692808]
  フェデレート・ラーニング(FL)システムは悪意のあるアクターからの攻撃を受けやすい。 FLは、異なる人口集団の公正なパフォーマンスを保証するなど、グループの偏見に対処する上で、新たな課題を提起する。 このようなバイアスに対処するために使用される従来の方法は、FLシステムが持っていないデータへの集中的なアクセスを必要とする。 我々は、クライアントからの追加情報を必要としない堅牢性と公正性の両方に対して、新しいアプローチであるFedValを提案する。
  論文  参考訳（メタデータ） (2023-06-06T22:11:13Z)
• On Comparing Fair Classifiers under Data Bias [42.43344286660331]
  本研究では,データ偏差の変化が公正分類器の精度と公平性に及ぼす影響について検討する。 我々の実験は、既存のフェアネスダッシュボードにデータバイアスリスクの尺度を統合する方法を示している。
  論文  参考訳（メタデータ） (2023-02-12T13:04:46Z)
• Securing Federated Learning against Overwhelming Collusive Attackers [7.587927338603662]
  局所モデル間の相関を利用して,最小スパンニング木とk-Densestグラフに基づく2つのグラフ理論アルゴリズムを提案する。 我々のFLモデルは、攻撃者の影響を最大70%まで無効にすることができる。 我々は、精度、攻撃成功率、早期検出ラウンドを用いて、既存のアルゴリズムよりもアルゴリズムの優位性を確立する。
  論文  参考訳（メタデータ） (2022-09-28T13:41:04Z)
• D-BIAS: A Causality-Based Human-in-the-Loop System for Tackling Algorithmic Bias [57.87117733071416]
  D-BIASは、人間のループ内AIアプローチを具現化し、社会的バイアスを監査し軽減する視覚対話型ツールである。 ユーザは、因果ネットワークにおける不公平な因果関係を識別することにより、グループに対する偏見の存在を検出することができる。 それぞれのインタラクション、例えばバイアスのある因果縁の弱体化/削除は、新しい(偏りのある)データセットをシミュレートするために、新しい方法を用いている。
  論文  参考訳（メタデータ） (2022-08-10T03:41:48Z)
• Acceleration of Federated Learning with Alleviated Forgetting in Local Training [61.231021417674235]
  フェデレートラーニング(FL)は、プライバシを保護しながら機械学習モデルの分散最適化を可能にする。 我々は,FedRegを提案する。FedRegは,局所的な訓練段階において,知識を忘れることなくFLを加速するアルゴリズムである。 我々の実験は、FedRegはFLの収束率を著しく改善するだけでなく、特にニューラルネットワークアーキテクチャが深い場合にも改善することを示した。
  論文  参考訳（メタデータ） (2022-03-05T02:31:32Z)
• Towards Multi-Objective Statistically Fair Federated Learning [1.2687030176231846]
  フェデレートラーニング(FL)は、データの所有権とプライバシーに関する懸念の結果生まれた。 本稿では,様々な統計的公正度指標を含む複数の目的を満足できる新しいFLフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-01-24T19:22:01Z)
• WAFFLe: Weight Anonymized Factorization for Federated Learning [88.44939168851721]
  データが機密性やプライベート性を持つドメインでは、ローカルデバイスを離れることなく、分散的に学習できるメソッドには大きな価値があります。 本稿では,フェデレートラーニングのためのウェイト匿名化因子化(WAFFLe)を提案する。これは,インド・バフェット・プロセスとニューラルネットワークの重み要因の共有辞書を組み合わせたアプローチである。
  論文  参考訳（メタデータ） (2020-08-13T04:26:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。