論文の概要: FedGraph: Defending Federated Large Language Model Fine-Tuning Against Backdoor Attacks via Graph-Based Aggregation

• arxiv url: http://arxiv.org/abs/2610.18430v1
• Date: Tue, 13 Oct 2026 14:08:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.625783
• Title: FedGraph: Defending Federated Large Language Model Fine-Tuning Against Backdoor Attacks via Graph-Based Aggregation
• Title（参考訳）: FedGraph: グラフベースのアグリゲーションを通したバックドアアタックに対するフェデレーション付き大規模言語モデルファインチューニングの回避
• Abstract要約: 大きな言語モデル(LLM)のフェデレートされた微調整により、複数のクライアントが生データを共有せずにモデルに協調的に適応することが可能になり、強力なプライバシー上のメリットを提供する。 この設定はバックドア攻撃に対して非常に脆弱で、悪意のあるクライアントが自身の更新を操作してターゲットの動作を誘導する。 クライアント更新間の関係を明示的にモデル化するグラフベースの集約フレームワークであるFedGraphを提案する。
• 参考スコア（独自算出の注目度）: 45.2397392757212
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated fine-tuning of large language models (LLMs) allows multiple clients to collaboratively adapt models without sharing raw data, offering strong privacy benefits. However, this setting is highly vulnerable to backdoor attacks, in which malicious clients manipulate their updates to induce targeted behaviors while maintaining normal performance on benign inputs. In this work, we make a key observation specific to federated LLM fine-tuning: malicious clients tend to exhibit strong consistency in their model updates, whereas benign clients produce more diverse and dispersed updates. This structural difference is not well captured by existing defense methods, which typically rely on direct anomaly detection in high-dimensional parameter space and therefore struggle in the presence of entangled LLM updates. Motivated by this observation, we propose FedGraph, a graph-based aggregation framework that explicitly models relationships among client updates. By representing clients as nodes in a dynamically constructed graph and extracting structural features that characterize their relative positions and interactions, FedGraph derives compact client representations that effectively separate malicious and benign behaviors. These representations are then used to identify and suppress malicious contributions during aggregation. Extensive experiments demonstrate that FedGraph significantly improves backdoor defense. It consistently reduces attack success rates to below 10% while achieving high detection accuracy (95.5% on average) and a low false positive rate (2.33%), substantially outperforming existing federated learning defenses.
• Abstract（参考訳）: 大きな言語モデル(LLMs)のフェデレートされた微調整により、複数のクライアントが生データを共有せずにモデルに協調的に適応することが可能になり、強力なプライバシー上のメリットを提供する。 しかし、この設定はバックドア攻撃に対して非常に脆弱であり、悪意のあるクライアントが自身の更新を操作してターゲットの動作を誘導し、良質な入力に対する通常のパフォーマンスを維持している。 悪意のあるクライアントはモデル更新において強い一貫性を示す傾向にあり、一方、良質なクライアントはより多様で分散した更新を生成する。 この構造的差異は、通常、高次元パラメータ空間における直接異常検出に依存している既存の防御手法ではうまく捉えられず、したがって、絡み合ったLSM更新の存在に苦慮している。 本稿では,クライアント更新間の関係を明示的にモデル化するグラフベースのアグリゲーションフレームワークであるFedGraphを提案する。 動的に構築されたグラフでクライアントをノードとして表現し、それらの相対的な位置と相互作用を特徴付ける構造的特徴を抽出することによって、FedGraphは、悪意のある振る舞いと良心的な振る舞いを効果的に分離する、コンパクトなクライアント表現を導出する。 これらの表現は、アグリゲーション中の悪意あるコントリビューションを識別し、抑制するために使用される。 大規模な実験により、FedGraphはバックドアディフェンスを大幅に改善した。 高い検出精度(平均で95.5%)と低い偽陽性率(2.33%)を達成しつつも、攻撃の成功率を10%以下に抑え、既存の連邦学習防衛を著しく上回っている。

関連論文リスト

• Defending against Model Extraction for GNNs with Model Reprogramming [57.82196268649236]
  グラフニューラルネットワーク(GNN)は、ML(Machine-Learning-as-a-Service)における高スループットアプリケーションのバックボーンとして機能する。 それでも、ブラックボックスのデプロイメントは、モデル抽出(ME)攻撃に晒される。 既存の防衛は「ユークリッドバイアス」に苦しむ セキュリティのためにモデル再プログラミングを再利用するプロアクティブディフェンスフレームワークであるGraphRPを提案する。
  論文  参考訳（メタデータ） (2026-08-11T23:20:15Z)
• GShield: Mitigating Poisoning Attacks in Federated Learning [2.6260952524631787]
  Federated Learning (FL) は、最近、機械学習モデルを協調訓練するための革命的なアプローチとして登場した。 データプライバシを保護しながら、分散モデルのトレーニングを可能にするが、その分散特性により、Data Poisoningとして知られる深刻な攻撃に対して、非常に脆弱である。 我々はGShieldと呼ばれる新しい防御機構を提案し、悪質で低品質な更新を検知・緩和する。
  論文  参考訳（メタデータ） (2025-12-22T11:29:28Z)
• FLARE: Adaptive Multi-Dimensional Reputation for Robust Client Reliability in Federated Learning [0.6524460254566904]
  フェデレートラーニング(FL)は、データのプライバシを維持しながら協調的なモデルトレーニングを可能にする。 ビザンツの攻撃、データ中毒、あるいは適応的な敵行動を通じてモデルの完全性を侵害する悪意のあるクライアントには、依然として脆弱である。 FLAREは,クライアントの信頼性評価を二分決定から連続的多次元信頼評価に変換するアダプティブな評価ベースフレームワークである。
  論文  参考訳（メタデータ） (2025-11-18T17:57:40Z)
• Graph Representation-based Model Poisoning on Federated Large Language Models [3.5233863453805143]
  フェデレートされた大規模言語モデル(FedLLMs)は、データのプライバシを保持しながら、無線ネットワーク内で強力な生成機能を実現する。 本稿では,FedLLMのモデル中毒技術と既存の防御機構の最近の進歩について概説する。 さらに、グラフ表現に基づくモデル中毒(GRMP)は、良質なクライアント勾配間の高次相関を利用して、悪意ある更新を正当なものと区別できないものにする新興攻撃パラダイムである。
  論文  参考訳（メタデータ） (2025-07-02T13:20:52Z)
• Client-side Gradient Inversion Against Federated Learning from Poisoning [59.74484221875662]
  フェデレートラーニング(FL)により、分散参加者は、データを中央サーバに直接共有することなく、グローバルモデルをトレーニングできる。 近年の研究では、FLは元のトレーニングサンプルの再構築を目的とした勾配反転攻撃(GIA)に弱いことが判明している。 本稿では,クライアント側から起動可能な新たな攻撃手法であるクライアント側中毒性グレーディエント・インバージョン(CGI)を提案する。
  論文  参考訳（メタデータ） (2023-09-14T03:48:27Z)
• G$^2$uardFL: Safeguarding Federated Learning Against Backdoor Attacks through Attributed Client Graph Clustering [116.4277292854053]
  Federated Learning (FL)は、データ共有なしで協調的なモデルトレーニングを提供する。 FLはバックドア攻撃に弱いため、有害なモデル重みがシステムの整合性を損なう。 本稿では、悪意のあるクライアントの識別を属性グラフクラスタリング問題として再解釈する保護フレームワークであるG$2$uardFLを提案する。
  論文  参考訳（メタデータ） (2023-06-08T07:15:04Z)
• CrowdGuard: Federated Backdoor Detection in Federated Learning [39.58317527488534]
  本稿では,フェデレートラーニングにおけるバックドア攻撃を効果的に軽減する新しい防御機構であるCrowdGuardを提案する。 CrowdGuardでは、サーバロケーションのスタック化されたクラスタリングスキームを使用して、クライアントからのフィードバックに対するレジリエンスを高めている。 評価結果は、CrowdGuardがさまざまなシナリオで100%正の正の正の正の負の負の負の値を達成することを示す。
  論文  参考訳（メタデータ） (2022-10-14T11:27:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。