論文の概要: When the Aggregator Cheats: Data-Free Backdoors in Federated LLM-based QA Systems

• arxiv url: http://arxiv.org/abs/2606.27511v1
• Date: Thu, 25 Jun 2026 19:53:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-29 18:24:25.309977
• Title: When the Aggregator Cheats: Data-Free Backdoors in Federated LLM-based QA Systems
• Title（参考訳）: Aggregator Cheats:Federated LLMベースのQAシステムにおけるデータフリーバックドア
• Abstract要約: フェデレートラーニングは、生のクライアントデータを共有せずに協調的なトレーニングを可能にする。 本稿では,悪意あるアグリゲータがサードパーティベンダと共謀する可能性のある脆弱性について検討する。 我々は,クライアントがトレーニング中にアップロードした勾配を活用し,データフリー・ステルス中毒のための2段階のフレームワークを開発することを提案する。
• 参考スコア（独自算出の注目度）: 23.626345382670667
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Model (LLM)-based question-answering (QA) systems are increasingly deployed in sensitive domains such as healthcare, mental health counseling, and legal consultation. Federated learning (FL) enables collaborative training without sharing raw client data, for which locally trained models are aggregated at a central server (i.e., a cloud service provider) to obtain a global model. In this paper, we explore the potential vulnerability where a malicious aggregator, who may collude with a third-party vendor, stealthily implants advertisement-type backdoors into federated QA models, without ever accessing client data. The attacker's goals are twofold: (1) preserve clean QA fidelity (i.e., the poisoned model behaves like a clean model on non-triggered queries); and (2) generate highly natural, contextually relevant responses with target advertisements when a trigger appears. Achieving these two goals simultaneously is highly challenging, as naive backdoor injection without knowledge about private data may degrade model's clean performance or fail to inject the target. Motivated by this, we propose to leverage clients' uploaded gradients during training, and develop a two-stage framework for data-free and stealthy poisoning: (1) recover representative training samples from client gradients, and (2) construct poisoning datasets utilizing recovered samples and trigger phrases to inject backdoors into the global model. Experiments across representative QA datasets and LLM families under full fine-tuning and LoRA settings demonstrate that, our method achieves nearly 100% Attack Success Rate (ASR) while incurring negligible degradation on clean tasks. Crucially, reconstructing only 5-20% of gradients suffices to mount a reliable attack, exposing a practical blind spot in the pipeline of federated training of QA LLMs.
• Abstract（参考訳）: 大規模言語モデル (LLM) に基づく質問応答システム (QA) は、医療、メンタルヘルスカウンセリング、法的相談などの機密分野にますます導入されている。 フェデレートラーニング(FL)は、ローカルにトレーニングされたモデルを中央サーバ(クラウドサービスプロバイダ)に集約してグローバルモデルを取得する、生のクライアントデータを共有することなく、協調的なトレーニングを可能にする。 本稿では,悪質なアグリゲータがクライアントデータにアクセスすることなく,広告タイプのバックドアをフェデレートされたQAモデルに密かに埋め込む,潜在的な脆弱性について検討する。 攻撃者の目標は2つある: 1) 清潔なQA忠実度を保つ(すなわち、有害なモデルは、トリガーされていないクエリのクリーンなモデルのように振る舞う)。 この2つの目標を同時に達成することは極めて困難であり、プライベートデータに関する知識のない素直なバックドアインジェクションは、モデルのクリーンパフォーマンスを低下させるか、ターゲットを注入できない可能性がある。 そこで本研究では,クライアントのトレーニング中にアップロードしたグラデーションを活用し,(1)クライアントの勾配から代表的なトレーニングサンプルを回収し,(2)回収したサンプルとトリガーフレーズを利用した中毒データセットを構築し,バックドアをグローバルモデルに注入する2段階のフレームワークを開発することを提案する。 完全微調整およびLORA設定下での代表的なQAデータセットおよびLLMファミリーを対象とした実験により, クリーンタスクにおいて無視できない劣化を生じながら, 約100%の攻撃成功率(ASR)を達成することを示した。 重要なこととして、信頼性の高い攻撃を行うのに十分な勾配の5-20%しか再構築せず、QA LLMの連邦訓練パイプラインにおいて、実用的な盲点が露呈した。

関連論文リスト

• SCRUB-FL: Sanitizing and Cleansing Representations via Unlearning of Backdoors [9.273743530407977]
  Federated Learning (FL)は、生データを共有せずに協調的なモデルトレーニングを可能にする。 悪意のあるクライアントがモデル予測を操作するために、ローカルのトレーニングデータに隠れたトリガーを埋め込むバックドア攻撃に対して脆弱である。 SCRUB-FL, SCRUB-FLを提案する。
  論文  参考訳（メタデータ） (2026-06-21T22:34:34Z)
• FL-PBM: Pre-Training Backdoor Mitigation for Federated Learning [15.911410230033816]
  バックドア攻撃は、人工知能(AI)モデルの完全性と信頼性に重大な脅威をもたらす。 本稿では,フェデレートラーニングのための事前学習バックドア緩和を提案する。 フェデレートされた学習環境において、モデルトレーニングの前に、クライアント側の有毒データを積極的にフィルタリングする。
  論文  参考訳（メタデータ） (2026-03-30T16:56:38Z)
• ProtegoFed: Backdoor-Free Federated Instruction Tuning with Interspersed Poisoned Data [50.142067708131826]
  Federated Instruction Tuning (FIT)は、複数の組織(組織)にまたがる大規模な言語モデルの、プライベートなインストラクションの共有を必要とせずに、クロスサイロ環境での協調的なインストラクションチューニングを可能にする。 最近の研究では、有毒なサンプルが現実世界のデータセットに広範に埋め込まれており、たとえクライアントが良心的であっても、すべてのクライアントに分散している可能性が示唆されている。 ProtegoFedは、トレーニング中にクライアント間で汚染されたデータを正確に検出・浄化・分散する最初のバックドアフリーFITフレームワークである。
  論文  参考訳（メタデータ） (2026-02-28T07:25:32Z)
• On the Detectability of Active Gradient Inversion Attacks in Federated Learning [5.828517827413101]
  フェデレートラーニング(FL)は、クライアントのデータを現場に保持しながら、機械学習(ML)モデルを協調的にトレーニングすることができる。 しかし、以前の研究では、FLトレーニング中に交換された勾配が、グラディエント・インバージョン・アタック(GIA)に対して脆弱であることが示されている。 これらの攻撃は、クライアントのローカルデータの再構築を可能にし、FLのプライバシーの約束を破る。 近年、新たな活発なGIAが出現し、これまでのアプローチよりもずっとステルス性が高いと主張している。
  論文  参考訳（メタデータ） (2025-11-13T17:06:57Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• Client-side Gradient Inversion Against Federated Learning from Poisoning [59.74484221875662]
  フェデレートラーニング(FL)により、分散参加者は、データを中央サーバに直接共有することなく、グローバルモデルをトレーニングできる。 近年の研究では、FLは元のトレーニングサンプルの再構築を目的とした勾配反転攻撃(GIA)に弱いことが判明している。 本稿では,クライアント側から起動可能な新たな攻撃手法であるクライアント側中毒性グレーディエント・インバージョン(CGI)を提案する。
  論文  参考訳（メタデータ） (2023-09-14T03:48:27Z)
• Mitigating Cross-client GANs-based Attack in Federated Learning [78.06700142712353]
  マルチ分散マルチメディアクライアントは、グローバル共有モデルの共同学習のために、フェデレートラーニング(FL)を利用することができる。 FLは、GAN(C-GANs)をベースとしたクロスクライアント・ジェネレーティブ・敵ネットワーク(GANs)攻撃に苦しむ。 C-GAN攻撃に抵抗する現在のFLスキームを改善するためのFed-EDKD手法を提案する。
  論文  参考訳（メタデータ） (2023-07-25T08:15:55Z)
• FedDefender: Client-Side Attack-Tolerant Federated Learning [60.576073964874]
  フェデレーション学習は、プライバシを損なうことなく、分散化されたデータソースからの学習を可能にする。 悪意のあるクライアントがトレーニングプロセスに干渉する、毒殺攻撃のモデル化には脆弱である。 我々はFedDefenderと呼ばれるクライアントサイドに焦点を当てた新しい防御機構を提案し、クライアントの堅牢なローカルモデルのトレーニングを支援する。
  論文  参考訳（メタデータ） (2023-07-18T08:00:41Z)
• G$^2$uardFL: Safeguarding Federated Learning Against Backdoor Attacks through Attributed Client Graph Clustering [116.4277292854053]
  Federated Learning (FL)は、データ共有なしで協調的なモデルトレーニングを提供する。 FLはバックドア攻撃に弱いため、有害なモデル重みがシステムの整合性を損なう。 本稿では、悪意のあるクライアントの識別を属性グラフクラスタリング問題として再解釈する保護フレームワークであるG$2$uardFLを提案する。
  論文  参考訳（メタデータ） (2023-06-08T07:15:04Z)
• CrowdGuard: Federated Backdoor Detection in Federated Learning [39.58317527488534]
  本稿では,フェデレートラーニングにおけるバックドア攻撃を効果的に軽減する新しい防御機構であるCrowdGuardを提案する。 CrowdGuardでは、サーバロケーションのスタック化されたクラスタリングスキームを使用して、クライアントからのフィードバックに対するレジリエンスを高めている。 評価結果は、CrowdGuardがさまざまなシナリオで100%正の正の正の正の負の負の負の値を達成することを示す。
  論文  参考訳（メタデータ） (2022-10-14T11:27:49Z)
• CRFL: Certifiably Robust Federated Learning against Backdoor Attacks [59.61565692464579]
  本稿では,第1の汎用フレームワークであるCertifiably Robust Federated Learning (CRFL) を用いて,バックドアに対する堅牢なFLモデルをトレーニングする。 提案手法は, モデルパラメータのクリッピングと平滑化を利用して大域的モデル平滑化を制御する。
  論文  参考訳（メタデータ） (2021-06-15T16:50:54Z)
• BaFFLe: Backdoor detection via Feedback-based Federated Learning [3.6895394817068357]
  フィードバックに基づくフェデレーション学習(BAFFLE)によるバックドア検出を提案する。 BAFFLEは,最先端のバックドア攻撃を100%,偽陽性率5%以下で確実に検出できることを示す。
  論文  参考訳（メタデータ） (2020-11-04T07:44:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。