論文の概要: Model Poisoning Against Federated Model Adaptation with Chain of Bit-Flips

• arxiv url: http://arxiv.org/abs/2606.09548v1
• Date: Mon, 08 Jun 2026 14:27:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-09 14:42:07.263177
• Title: Model Poisoning Against Federated Model Adaptation with Chain of Bit-Flips
• Title（参考訳）: ビットフリップの連鎖を考慮したフェデレーションモデル適応に対するモデルポジショニング
• Authors: Bastien Vuillod, Kevin Hector, Pierre-Alain Moellic, Jean-Max Dutertre, Olivier Potin,
• Abstract要約: フェデレートラーニング(FL)は、一組のクライアントが、ローカルなトレーニングデータを共有することなく、グローバルなモデルを集合的にトレーニングすることを可能にする。 近年のハードウェア故障の脅威は、全体の攻撃面を拡大している。 FLトレーニング期間中にハードウェア故障を誘発し,タスク非依存のバックドアアタックを提案する。
• 参考スコア（独自算出の注目度）: 1.0874100424278175
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Federated Learning (FL) allows a set of clients to collectively train a global model without sharing local training data. Giving the responsibility of the training to decentralized actors may lead to poisoning attacks: clients controlled by malicious third party potentially poison the training dataset to install a backdoor in neural networks. In FL, these backdoor attacks rely solely on algorithmic approach, however, recent advances in hardware faults threats (e.g, Rowhammer) have widen the overall attack surface. In the context of federated model adaptation, we introduce a novel category of backdoor attack against FL systems that relies on model poisoning based on hardware-fault attacks. More precisely, we propose a task-agnostic backdoor attack that is implanted during the FL training time by inducing hardware faults (bit-flips) in parameters of a single local model. The backdoor is crafted during a previous offline phase from the pretrained model initially used by the FL system. Our results show that a backdoor can be successfully applied on different type of models and datasets. Typically, with up to 10 faults per malicious client occurrence and 19 total occurrences on a ResNet-18 are enough to reach 94% of attack success rate. Finally, we discuss the practicality and the robustness of the attack potential defenses, while putting into perspective the practical constraints of Rowhammer, which is the preferred attack vector for this type of threats.
• Abstract（参考訳）: フェデレートラーニング(FL)は、一組のクライアントが、ローカルなトレーニングデータを共有することなく、グローバルなモデルを集合的にトレーニングすることを可能にする。 悪意のあるサードパーティが管理するクライアントは、ニューラルネットワークにバックドアを設置するためにトレーニングデータセットを悪用する可能性がある。 FLでは、これらのバックドア攻撃はアルゴリズム的アプローチにのみ依存するが、ハードウェア故障の脅威(例えばローハンマー)の最近の進歩は、全体的な攻撃面を広げている。 フェデレートされたモデル適応の文脈では、ハードウェア・フォールト・アタックに基づくモデル中毒に依存するFLシステムに対するバックドア・アタックの新たなカテゴリを導入する。 より正確には、単一局所モデルのパラメータにハードウェア故障(ビットフリップ)を誘導することにより、FLトレーニング期間中に埋め込むタスク非依存のバックドア攻撃を提案する。 バックドアは、FLシステムで最初に使用される事前訓練されたモデルから以前のオフラインフェーズで製造される。 以上の結果から,バックドアがさまざまなモデルやデータセットに適用可能であることが示唆された。 通常、悪意のあるクライアント1件につき最大10件の障害と、ResNet-18の19件の合計は、攻撃成功率の94%に達するのに十分である。 最後に、このような脅威に対して好ましい攻撃ベクトルであるローハンマーの実用的制約を考察しながら、攻撃可能性防衛の実用性と堅牢性について論じる。

関連論文リスト

• Securing Federated Learning against Backdoor Threats with Foundation Model Integration [8.191214701984162]
  フェデレートラーニング(FL)は、プライバシを保護しながら、分散モデルトレーニングを可能にする。 近年,ファンデーションモデル(FM)のFLへの統合により性能が向上したが,新たなバックドア攻撃機構が導入された。 FLにおけるバックドア攻撃とバックドア攻撃の両方に対処する新しいデータフリー防衛戦略を提案する。
  論文  参考訳（メタデータ） (2024-10-23T05:54:41Z)
• TrojFM: Resource-efficient Backdoor Attacks against Very Large Foundation Models [69.37990698561299]
  TrojFMは、非常に大きな基礎モデルに適した、新しいバックドア攻撃である。 提案手法では,モデルパラメータのごく一部のみを微調整することでバックドアを注入する。 広範に使われている大規模GPTモデルに対して,TrojFMが効果的なバックドアアタックを起動できることを実証する。
  論文  参考訳（メタデータ） (2024-05-27T03:10:57Z)
• FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning [98.43475653490219]
  フェデレート・ラーニング(Federated Learning, FL)は、毒素による攻撃を受けやすい。 FreqFedは、モデルの更新を周波数領域に変換する新しいアグリゲーションメカニズムである。 FreqFedは, 凝集モデルの有用性に悪影響を及ぼすことなく, 毒性攻撃を効果的に軽減できることを実証した。
  論文  参考訳（メタデータ） (2023-12-07T16:56:24Z)
• One-bit Flip is All You Need: When Bit-flip Attack Meets Model Training [54.622474306336635]
  メモリフォールトインジェクション技術を利用したビットフリップ攻撃(BFA)と呼ばれる新たな重み修正攻撃が提案された。 本稿では,高リスクモデルを構築するための訓練段階に敵が関与する,訓練支援ビットフリップ攻撃を提案する。
  論文  参考訳（メタデータ） (2023-08-12T09:34:43Z)
• DABS: Data-Agnostic Backdoor attack at the Server in Federated Learning [14.312593000209693]
  フェデレートラーニング(FL)は、中央サーバの協調の下で、分散デバイスからローカルモデルを集約することで、グローバルモデルをトレーニングしようとする試みである。 多数の異種デバイスが存在するため、FLは様々な攻撃、特にステルスなバックドア攻撃に対して脆弱である。 我々は,サーバがグローバルモデルを直接変更して,FLシステムにバックドアを施すような,FLの新たなアタックモデル,すなわち,サーバにおけるData-Agnostic Backdoor attack(DABS)を提案する。
  論文  参考訳（メタデータ） (2023-05-02T09:04:34Z)
• Neurotoxin: Durable Backdoors in Federated Learning [73.82725064553827]
  連合学習システムは バックドア攻撃の訓練中に 固有の脆弱性がある 我々は,既存のバックドア攻撃に対する単純な一直線修正であるニューロトキシンを提案する。
  論文  参考訳（メタデータ） (2022-06-12T16:52:52Z)
• How to Backdoor HyperNetwork in Personalized Federated Learning? [16.190739713218942]
  そこで本研究では,HNTrojを用いた新規モデル転送攻撃(HNTroj)を提案する。 HNTrojは、攻撃を成功させるために必要な妥協されたクライアントの数を減らす。 いくつかのベンチマークデータセットを用いて実施した実験では、HNTrojがデータ中毒やモデル置換攻撃を著しく上回っていることが示されている。
  論文  参考訳（メタデータ） (2022-01-18T15:41:46Z)
• Backdoor Attacks on Federated Learning with Lottery Ticket Hypothesis [49.38856542573576]
  フェデレート学習におけるエッジデバイスは通常、データセンターのサーバに比べて計算と通信のリソースがはるかに限られている。 本研究は,ロタリー・ティケットモデルが元の密集モデルと同様にバックドア攻撃に対して等しく脆弱であることを実証的に実証する。
  論文  参考訳（メタデータ） (2021-09-22T04:19:59Z)
• BlockFLA: Accountable Federated Learning via Hybrid Blockchain Architecture [11.908715869667445]
  Federated Learning (FL) は、分散された分散化された機械学習プロトコルである。 FL中、攻撃者が訓練されたモデルにバックドアを注入できることが示されている。 我々は、スマートコントラクトを使用して攻撃者を自動的に検出し、処罰する、ハイブリッドブロックチェーンベースのFLフレームワークを開発した。
  論文  参考訳（メタデータ） (2020-10-14T22:43:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。