論文の概要: ShadowFPT: Backdooring Federated Prompt Tuning via Shadow Triggers

• arxiv url: http://arxiv.org/abs/2610.22871v1
• Date: Fri, 16 Oct 2026 03:22:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.738206
• Title: ShadowFPT: Backdooring Federated Prompt Tuning via Shadow Triggers
• Title（参考訳）: ShadowFPT:シャドウトリガーによるプロンプト調整のバックドア化
• Abstract要約: Federated Prompt Tuning (FPT)は、トレーニング済みのバックボーンを凍結し、クライアント間で軽量なプロンプトパラメータのみを最適化することにより、大きなビジョン言語モデルに適応する。 我々は、この凍結したバックボーン攻撃面を利用するターゲットバックドアアタックである textbfShadowFPT を提案する。
• 参考スコア（独自算出の注目度）: 24.99099173120491
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated Prompt Tuning (FPT) adapts large vision--language models by freezing the pretrained backbone and optimizing only lightweight prompt parameters across clients. Although this design improves communication and parameter efficiency, it creates an overlooked security risk. Since the backbone is shared and frozen, a malicious client can induce backdoor behavior through the representation space while keeping its uploaded prompt updates close to benign ones. We propose \textbf{ShadowFPT}, a targeted backdoor attack that exploits this frozen-backbone attack surface. ShadowFPT first pretrains a learnable \emph{Shadow Trigger} against the frozen CLIP visual encoder, using either auxiliary public data or the malicious client's local data, so that triggered inputs are steered toward the target class in representation space. During federated prompt tuning, the malicious client adapts the trigger under the current global prompt and then optimizes its local prompt on both clean and triggered samples. Only prompt parameters are uploaded to the server, while the trigger and frozen encoders remain local. By shifting most of the attack burden from prompt updates to trigger-induced representation steering, ShadowFPT achieves targeted misclassification while preserving prompt-space stealthiness. Across multiple datasets, aggregation rules, and non-IID federated partitions, ShadowFPT increases the attack success rate from 19.81\% to 90.36\% in our main setting, while maintaining clean accuracy. It remains effective across textual, visual, and joint vision--language prompt tuning. These results identify frozen backbones as stealthy and underexplored backdoor surfaces in federated prompt tuning, suggesting that defenses based only on prompt-update anomaly detection are insufficient.
• Abstract（参考訳）: Federated Prompt Tuning (FPT)は、トレーニング済みのバックボーンを凍結し、クライアント間で軽量なプロンプトパラメータのみを最適化することにより、大きなビジョン言語モデルに適応する。 この設計では通信とパラメータの効率が向上するが、見落とされたセキュリティリスクが生じる。 バックボーンは共有され凍結されているため、悪意のあるクライアントは、アップロードされたプロンプト更新を良質な更新に近く保ちながら、表現空間を通じてバックドア動作を誘導することができる。 この凍結したバックボーン攻撃面を利用するターゲットバックドアアタックである \textbf{ShadowFPT} を提案する。 ShadowFPTは、最初に学習可能な \emph{Shadow Trigger} を凍結されたCLIPビジュアルエンコーダに対して事前トレーニングし、補助的な公開データまたは悪意のあるクライアントのローカルデータを使用する。 フェデレートされたプロンプトチューニングの間、悪意のあるクライアントは現在のグローバルプロンプトの下でトリガーを適応し、クリーンとトリガーの両方でローカルプロンプトを最適化する。 プロンプトパラメータだけがサーバにアップロードされるが、トリガーと凍結エンコーダはローカルのままである。 攻撃負荷の大部分を即時更新からトリガによる表現ステアリングにシフトすることで、シャドウFPTは、プロンプト空間のステルス性を維持しながら、ターゲットの誤分類を実現する。 複数のデータセット、アグリゲーションルール、非IIDフェデレーションパーティションを通じて、ShadowFPTは、クリーンな精度を維持しながら、メイン設定で攻撃成功率を19.81\%から90.36\%に引き上げます。 テキスト、ビジュアル、ジョイントビジョンで有効であり、言語によるプロンプトチューニングが有効である。 これらの結果から, 凍結した背骨は, 早期異常検出のみに基づく防御が不十分であることが示唆された。

関連論文リスト

• WaSA: Wavelet Scattering Autoencoders for Unsupervised Offline Detection of Malicious Clients in Federated Learning [51.56484100374058]
  Federated Learning(FL)は、生データを公開することなく、協調的なモデルトレーニングを可能にする。 我々は、悪意のあるクライアント検出のための完全に教師なしのオフラインフレームワーク、WaSAを提案する。 クリーンな補助データのみに基づいて訓練されたデノナイジングオートエンコーダは、学習された良性多様体からの偏差に基づいてクライアントをスコアする。
  論文  参考訳（メタデータ） (2026-10-09T08:10:10Z)
• When Claws Remember but Do Not Tell: Stealthy Memory Injection in Persistent Personal Agents [55.87577638514179]
  我々は、リモートのブラックボックスが1つのメールペイロードを送信し、エージェントに有毒なメモリを誘導しなければならない、ステルスメモリインジェクションとして脅威を調査する。 我々は,ワンショットペイロード生成フレームワークであるMemGhostを提案する。 56のテストケースで、MemGhostはGPT-5.4でOpenClawで87.5%、Sonnet 4.6でClaude Code SDKで71.4%を達成している。
  論文  参考訳（メタデータ） (2026-07-06T15:08:58Z)
• Detecting and Mitigating Backdoor Attacks in OTA-FL Systems: A Two-Stage Robust Aggregation Scheme [27.75838619796163]
  オーバー・ザ・エア・フェデレーション・ラーニング (OTA-FL) は無線チャネルの重ね合わせ特性を利用して通信効率を向上させる。 パラメータサーバは個々のローカル更新にアクセスできない。 OTA-FLにおけるバックドア攻撃に対する防御のための2段階のロバストアグリゲーションフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-19T01:57:31Z)
• Backdoor Attacks on Open Vocabulary Object Detectors via Multi-Modal Prompt Tuning [5.0734761482919115]
  オープン語彙オブジェクト検出器(OVOD)は、視覚と言語を統一し、テキストプロンプトに基づいて任意のオブジェクトカテゴリを検出する。 我々は,OVODに対するバックドアアタックの最初の研究を行い,即時チューニングによって導入された新たなアタックサーフェスを明らかにする。
  論文  参考訳（メタデータ） (2025-11-16T19:05:31Z)
• FedAPT: Federated Adversarial Prompt Tuning for Vision-Language Models [97.35577473867296]
  Federated Adversarial Prompt Tuning (textbfFedAPT)は、FPTの対向性を高めるために設計された新しい手法である。 この問題に対処するために,テキストプロンプトから視覚的なプロンプトを生成するtextbfclass-awareプロンプトジェネレータを提案する。 複数の画像分類データセットの実験は、対向ロバスト性を改善する上でFedAPTの優位性を示している。
  論文  参考訳（メタデータ） (2025-09-03T03:46:35Z)
• BadPromptFL: A Novel Backdoor Threat to Prompt-based Federated Learning in Multimodal Models [8.874122783196139]
  textbfBadPromptFLは,プロンプトベースのフェデレーション学習をターゲットにした最初のバックドア攻撃である。 BadPromptFLでは、妥協されたクライアントが、ローカルなバックドアトリガーを共同で最適化し、埋め込みを促し、中毒したプロンプトをグローバルアグリゲーションプロセスに注入する。 本実験は, 攻撃の有効性, ステルス性, 一般化性を検証し, 即時学習の堅牢性に対する批判的懸念を提起するものである。
  論文  参考訳（メタデータ） (2025-08-11T14:42:44Z)
• FL-PLAS: Federated Learning with Partial Layer Aggregation for Backdoor Defense Against High-Ratio Malicious Clients [7.1383449614815415]
  フェデレートラーニング(FL)は、新たなコラボレーティブ機械学習アプローチとして注目を集めている。 FLの基本アルゴリズムであるFederated Averaging (FedAvg)は、バックドア攻撃の影響を受けやすい。 バックドア攻撃からローカルモデルを効果的に保護できる新しい防御アルゴリズムFL-PLASを提案する。
  論文  参考訳（メタデータ） (2025-05-17T14:16:47Z)
• Stealthy Patch-Wise Backdoor Attack in 3D Point Cloud via Curvature Awareness [52.780853311462636]
  バックドア攻撃はディープニューラルネットワーク(DNN)に深刻な脅威をもたらす 既存の3Dポイントのクラウドバックドア攻撃は、サンプルワイドなグローバルな修正に依存している。 我々は,3Dポイントクラウド用のパッチワイドバックドアアタックフレームワークであるStealthy Patch-Wise Backdoor Attack (SPBA)を提案する。
  論文  参考訳（メタデータ） (2025-03-12T12:30:59Z)
• EmInspector: Combating Backdoor Attacks in Federated Self-Supervised Learning Through Embedding Inspection [53.25863925815954]
  フェデレートされた自己教師付き学習(FSSL)は、クライアントの膨大な量の未ラベルデータの利用を可能にする、有望なパラダイムとして登場した。 FSSLはアドバンテージを提供するが、バックドア攻撃に対する感受性は調査されていない。 ローカルモデルの埋め込み空間を検査し,悪意のあるクライアントを検知する埋め込み検査器(EmInspector)を提案する。
  論文  参考訳（メタデータ） (2024-05-21T06:14:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。