Fugu-MT 論文翻訳(概要): Fairis: Fairness-Aware Aggregation with Provable Influence Containment against Fairness Poisoning Attacks in Collaborative Machine Learning

論文の概要: Fairis: Fairness-Aware Aggregation with Provable Influence Containment against Fairness Poisoning Attacks in Collaborative Machine Learning

arxiv url: http://arxiv.org/abs/2608.06469v1
Date: Thu, 06 Aug 2026 18:02:54 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-10 16:21:25.257624
Title: Fairis: Fairness-Aware Aggregation with Provable Influence Containment against Fairness Poisoning Attacks in Collaborative Machine Learning
Title（参考訳）: Fairis: 協調学習におけるフェアネス・アウェア・アグリゲーション(Fairness Aware Aggregation with Provable Influence Containment)
Abstract要約: 協調型機械学習は、グループフェアであり、意図的な敵の操作に対して堅牢でなければならない。本稿では,サーバ側のリウェイト方式であるFairisについて述べる。フェアリスは、全てのクライアントが厳格に肯定的な重みを保証し、そのバイアスにおいて敵の重みを単調に減らす唯一のルールであることを示す。
参考スコア（独自算出の注目度）: 1.4161980487236754
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Collaborative machine learning among financial institutions must be both group-fair and robust against deliberate adversarial manipulation. Existing fairness-aware aggregation methods remain formally vulnerable to fairness poisoning: a malicious client maximizing group disparity while preserving accuracy evades accuracy-based Byzantine defenses, and in our threat model FairFed's gap-based weighting can be gamed by an adversary who observes the global fairness score. We present Fairis, a server-side reweighting scheme in which each client's update receives the normalized weight $ω_k = \bar{w}_k / \sum_j \bar{w}_j$ built from the unnormalized score $\bar{w}_k = η- \mathcal{F}_k$, with $\mathcal{F}_k \in [0,1]$ the local Equal Opportunity Difference and $η> 1$ a security parameter. We prove three properties, Monotone Weight Reduction (MWR), Demographic Participation, and Non-Gamesmanship, extend MWR to colluding minority coalitions, and show that combining MWR with server-side norm clipping bounds the adversary's displacement of the global model by $ω_0 C$, strictly decreasing in its own reported disparity. Assuming honest score reporting, an assumption this paper does not discharge, Fairis is the only rule evaluated that guarantees every client strictly positive weight while provably reducing an adversary's weight monotonically in its bias; clipped FairFed can reach a lower weight but guarantees nothing and zeroes a client outright on Taiwan Credit. Against an adversary stealthy enough to evade accuracy-based defenses, within 0.04 accuracy of benign, Fairis cuts its weight by 41 to 54% below a size-blind control on Taiwan. On routine non-IID partitions no rule dominates, and a uniform-weighting ablation shows that containment tracks how far the adversary's score separates from the honest mean, providing none when the honest population is already unfair.
Abstract（参考訳）: 金融機関間の協調的機械学習は、グループフェアであり、意図的な敵の操作に対して堅牢でなければならない。精度を保ちながら集団格差を最大化する悪意のあるクライアントは、正確性に基づくビザンツ防衛を回避し、我々の脅威モデルでは、FairFedのギャップに基づく重み付けは、世界的公正度スコアを観察する敵によってゲームすることができる。 Fairisは、各クライアントの更新が正規化重量$ω_k = \bar{w}_k / \sum_j \bar{w}_j$を非正規化スコア$\bar{w}_k = η- \mathcal{F}_k$, with $\mathcal{F}_k \in [0,1]$ the local Equal Opportunity difference and $η> 1$ a security parameters. 我々は,単調軽量化(MWR),復調参加(Demographic Participation),非ゲームマンシップ(Non-Gamesmanship)の3つの特性を証明し,MWRをマイノリティの解消に拡張し,MWRとサーバサイドのノルムクリッピングの組み合わせは,グローバルモデルの敵の変位を$ω_0C$で制限することを示した。正直なスコア報告を仮定すると、この論文が排出しないと仮定すると、Fairisは、すべてのクライアントが厳格に肯定的な重みを保証しつつ、そのバイアスで敵の重みを単調に減らし、クリップされたFairFedは低い重みに達するが、台湾クレジットでクライアントをゼロにする、という唯一のルールである。正確性に基づく防衛を回避するのに十分な敵のステルスに対抗して、Fairisは0.04の精度以内で、台湾におけるサイズ・ブラインド・コントロールを41～54%下回る重量を削減した。通常の非IIDパーティションではルールが支配されず、均一に重み付けされたアブレーションは、敵のスコアが正直な平均からどのくらい離れているかを追跡する。

関連論文リスト

Fairness in Link Prediction Beyond Demographic Parity: A Reproducibility Study [0.0]
サブグループペアリンクが体系的に他のリンクよりも低い位置にある場合でも,集団パリティ(_mathrmDP$)は集合パリティを示すことができることを示す。また,競争力を維持しつつ露光による公正性を向上するポストプロセッシング手法であるMORALの有効性を再現する。
論文参考訳（メタデータ） (2026-08-10T17:47:19Z)
Fair Finetuning Mitigates Distribution Inference Attacks [0.609170287691728]
センシティブなデータに基づいてトレーニングされた機械学習モデルは、トレーニングディストリビューションに関する人口レベルの情報を不注意に漏洩させる可能性がある。フェアファインチューニング (FFt: Fair Fine-tuning) モデルを提案する。我々の研究は、モデルが測定したEO差分をDIAゲームにおける敵の優位性に直接接続する最初の形式的境界を提供する。
論文参考訳（メタデータ） (2026-06-01T05:34:19Z)
Post-hoc Provider Fairness Adaptation via Hierarchical Exposure Alignment [54.58748721533078]
ポストホックフェアネス適応(Post-hoc Fairness Adaptation, PFA)は、フリーズレコメンデータにフェアネスアダプタを装備する軽量フレームワークである。ユーザアイコンの埋め込みから、フェアネスに対するステアプロバイダの露出まで、パーソナライズされた加算点調整を学習する。 PFAは無視できる精度の損失を伴ってかなりの公平性を達成し、一貫して強いベースラインを上回ります。
論文参考訳（メタデータ） (2026-05-02T16:32:52Z)
Fairness Aware Reward Optimization [78.85867531002346]
本稿では,Fairness Aware Reward Optimization (Faro)を紹介した。Fairness Aware Reward Optimization (Faro)は,階層的平等,等化オッズ,あるいは反実的フェアネス制約の下で報酬モデルを訓練するプロセス内フレームワークである。 LLMアライメントにおける報酬レベルの公平性に関する最初の理論的解析を行った。 Faroはモデルの品質を維持したり改善したりしながら、バイアスや有害な世代を著しく削減します。
論文参考訳（メタデータ） (2026-02-08T03:35:49Z)
GuardFed: A Trustworthy Federated Learning Framework Against Dual-Facet Attacks [56.983319121358555]
フェデレートラーニング(FL)は、プライバシ保護のための協調モデルトレーニングを可能にするが、敵の行動に弱いままである。本稿では,予測精度とグループフェアネスを同時に損なう新たな脅威モデルであるデュアル顔攻撃(DFA)を紹介する。本稿では,少量のクリーンサーバデータを用いて,公正な参照モデルを維持する自己適応型防衛フレームワークであるGuardFedを提案する。
論文参考訳（メタデータ） (2025-11-12T13:02:45Z)
A Bayesian Incentive Mechanism for Poison-Resilient Federated Learning [0.0]
フェデレートラーニング(FL)は、データプライバシを保持しながら、分散クライアント間で協調的なモデルトレーニングを可能にする。本稿では, 有害行為を経済的に不合理にする軽度ベイズインセンティブ機構を, 積極的, 経済的防衛に導入する。
論文参考訳（メタデータ） (2025-07-16T17:27:25Z)
BadFair: Backdoored Fairness Attacks with Group-conditioned Triggers [11.406478357477292]
BadFairは、バックドア型フェアネスアタック手法である。 BadFairは、通常の条件下で正確さと公正さで動作するモデルをステルス的に作り出すが、特定のトリガーによって起動されると、特定のグループに対して誤った結果を生成して生成する。以上の結果から,BadFairは標的グループを標的とした攻撃で85%以上の攻撃成功率を達成したが,精度の低下は最小限であった。
論文参考訳（メタデータ） (2024-10-23T01:14:54Z)
TrojFair: Trojan Fairness Attacks [14.677100524907358]
TrojFairは、既存のモデルフェアネスオーディション検出器に耐性があるステルスフェアネス攻撃である。目標グループの攻撃成功率は8.77%ドルを超え、平均的精度損失は0.44%ドル以下である。また、ターゲットグループとターゲットでないグループの間で、さまざまなデータセットやモデル間で高い差別的なスコアを維持している。
論文参考訳（メタデータ） (2023-12-16T17:36:23Z)
Causal Context Connects Counterfactual Fairness to Robust Prediction and Group Fairness [15.83823345486604]
我々は、公正性と正確性の間に根本的なトレードオフがないことを示すことによって、事実的公正を動機付けます。対実フェアネスは、比較的単純なグループフェアネスの測定によってテストされることがある。
論文参考訳（メタデータ） (2023-10-30T16:07:57Z)
Consistent End-to-End Estimation for Counterfactual Fairness [56.9060492313073]
本稿では, 対実フェアネスの予測を行うための新しい対実フェアネス予測器を提案する。我々は,本手法が対実公正性の概念を確実にするのに有効であることを理論的に保証する。
論文参考訳（メタデータ） (2023-10-26T17:58:39Z)
G$^2$uardFL: Safeguarding Federated Learning Against Backdoor Attacks through Attributed Client Graph Clustering [116.4277292854053]
Federated Learning (FL)は、データ共有なしで協調的なモデルトレーニングを提供する。 FLはバックドア攻撃に弱いため、有害なモデル重みがシステムの整合性を損なう。本稿では、悪意のあるクライアントの識別を属性グラフクラスタリング問題として再解釈する保護フレームワークであるG$2$uardFLを提案する。
論文参考訳（メタデータ） (2023-06-08T07:15:04Z)
Improving Robust Fairness via Balance Adversarial Training [51.67643171193376]
対人訓練 (AT) 法は, 対人攻撃に対して有効であるが, 異なるクラス間での精度と頑健さの相違が激しい。本稿では,頑健な公正性問題に対処するために,BAT(Adversarial Training)を提案する。
論文参考訳（メタデータ） (2022-09-15T14:44:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。