論文の概要: Unveiling the Security Risks of Federated Learning in the Wild: From Research to Practice

• arxiv url: http://arxiv.org/abs/2603.20615v1
• Date: Sat, 21 Mar 2026 03:19:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-24 19:11:38.995654
• Title: Unveiling the Security Risks of Federated Learning in the Wild: From Research to Practice
• Title（参考訳）: 野生におけるフェデレートラーニングのセキュリティリスクの解明:研究から実践へ
• Authors: Jiahao Chen, Zhiming Zhao, Yuwen Pu, Chunyi Zhou, Zhou Feng, Songze Li, Shouling Ji,
• Abstract要約: フェデレーテッド・ラーニング(FL)は学術と産業の両方で大きな注目を集めている。 しかし、実際のセキュリティ姿勢はよく分かっていない。 本稿では,FLのセキュリティを計測の観点から再考する。
• 参考スコア（独自算出の注目度）: 50.84321144889696
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated learning (FL) has attracted substantial attention in both academia and industry, yet its practical security posture remains poorly understood. In particular, a large body of poisoning research is evaluated under idealized assumptions about attacker participation, client homogeneity, and success metrics, which can substantially distort how security risks are perceived in deployed FL systems. This paper revisits FL security from a measurement perspective. We systematize three major sources of mismatch between research and practice: unrealistic poisoning threat models, the omission of hybrid heterogeneity, and incomplete metrics that overemphasize peak attack success while ignoring stability and utility cost. To study these gaps, we build TFLlib, a uniform evaluation framework that supports image, text, and tabular FL tasks and re-implements representative poisoning attacks under practical settings. Our empirical study shows that idealized evaluation often overstates security risk. Under practical settings, attack performance becomes markedly more dataset-dependent and unstable, and several attacks that appear consistently strong in idealized FL lose effectiveness or incur clear benign-task degradation once practical constraints are enforced. These findings further show that final-round attack success alone is insufficient for security assessment; practical measurement must jointly consider effectiveness, temporal stability, and collateral utility loss. Overall, this work argues that many conclusions in the FL poisoning literature are not directly transferable to real deployments. By tightening the threat model and using measurement protocols aligned with practice, we provide a more realistic view of the security risks faced by contemporary FL systems and distill concrete guidance for future FL security evaluation. Our code is available at https://github.com/xaddwell/TFLlib
• Abstract（参考訳）: フェデレーテッド・ラーニング(FL)は学術と産業の両方で大きな注目を集めているが、その実践的なセキュリティ姿勢はよく分かっていない。 特に、攻撃者への参加、クライアントの均質性、成功の指標に関する理想的な仮定の下で、大量の中毒研究が評価され、デプロイされたFLシステムにおけるセキュリティリスクの認識を著しく歪めることができる。 本稿では,FLのセキュリティを計測の観点から再考する。 非現実的な汚染脅威モデル、ハイブリッド不均一性の排除、および安定性と実用コストを無視しながらピーク攻撃の成功を過度に強調する不完全な指標の3つの主要なミスマッチ源を体系化する。 これらのギャップを研究するために,画像,テキスト,表象FLタスクをサポートする一様評価フレームワークであるTFLlibを構築し,実践的な環境下での代表的毒殺攻撃を再実装する。 私たちの実証研究は、理想的な評価がセキュリティリスクを過大評価していることを示している。 現実的な設定下では、攻撃性能はデータセット依存と不安定性が著しく向上し、現実的な制約が実施されれば、理想的なFLで一貫して強いように見えるいくつかの攻撃は、有効性を失うか、明確なベニグタク劣化を引き起こす。 これらの結果から,最終ラウンドでの攻撃成功だけではセキュリティ評価に不十分であることが示唆された。 この研究は、FL中毒の文献における多くの結論は、実際の展開に直接転送できないと主張している。 脅威モデルを強化し,実践に沿った測定プロトコルを用いることで,現代のFLシステムで直面するセキュリティリスクをより現実的に把握し,将来的なFLセキュリティ評価のための具体的なガイダンスを提供する。 私たちのコードはhttps://github.com/xaddwell/TFLlibで利用可能です。

関連論文リスト

• Anchoring Refusal Direction: Mitigating Safety Risks in Tuning via Projection Constraint [52.878820730054365]
  インストラクションファインチューニング(IFT)は,大規模言語モデル(LLM)の能力向上のための効果的なポストトレーニング戦略として広く採用されている。 LLMの内部機構に関する最近の研究は、隠蔽状態における拒絶方向(r方向)を同定し、拒絶行動の制御において重要な役割を担っている。 このようなドリフトを緩和するため,提案手法では,各トレーニングサンプルの隠れ状態のr方向への投射の大きさを規則化する投射制約損失項を導入する。
  論文  参考訳（メタデータ） (2025-09-08T15:24:33Z)
• Sparsification Under Siege: Defending Against Poisoning Attacks in Communication-Efficient Federated Learning [9.911465831373423]
  フェデレートラーニング(FL)は、データプライバシを保持しながら、分散クライアント間で協調的なモデルトレーニングを可能にする。 通信効率と毒殺攻撃に対する脆弱性において、大きな課題に直面している。 スパースインデックスマスク検査とモデル更新符号類似性分析を統合した,新しいフェデレート学習フレームワークFLAREを提案する。
  論文  参考訳（メタデータ） (2025-04-30T14:59:13Z)
• Safety Margins for Reinforcement Learning [53.10194953873209]
  安全マージンを生成するためにプロキシ臨界度メトリクスをどのように活用するかを示す。 Atari 環境での APE-X と A3C からの学習方針に対するアプローチを評価する。
  論文  参考訳（メタデータ） (2023-07-25T16:49:54Z)
• FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning [66.56240101249803]
  我々は,クライアントの強固化がグローバルモデル(および悪意のあるクライアント)に与える影響について検討する。 本稿では, 逆エンジニアリングによる防御手法を提案するとともに, 堅牢性を保証して, 改良を実現できることを示す。 競合する8つのSOTA防御法について, 単発および連続のFLバックドア攻撃に対して, 提案手法の実証的優位性を示した。
  論文  参考訳（メタデータ） (2022-10-23T22:24:03Z)
• Back to the Drawing Board: A Critical Evaluation of Poisoning Attacks on Federated Learning [32.88150721857589]
  近年の研究では、フェデレート・ラーニング(FL)は、侵害されたクライアントによる攻撃に弱いことが示されている。 これらの研究はいくつかの非現実的な仮定を導いており、何らかの誤解を招く結論に達している。 本研究は,実用FL環境下での毒殺攻撃に関する最初の批判的分析を行う。
  論文  参考訳（メタデータ） (2021-08-23T15:29:45Z)
• Conservative Safety Critics for Exploration [120.73241848565449]
  強化学習(RL)における安全な探索の課題について検討する。 我々は、批評家を通じて環境状態の保守的な安全性推定を学習する。 提案手法は,破滅的故障率を著しく低く抑えながら,競争力のあるタスク性能を実現することができることを示す。
  論文  参考訳（メタデータ） (2020-10-27T17:54:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。