論文の概要: Exposing Functional Fusion: A New Class of Strategic Backdoor in Dynamic Prompt Architectures

• arxiv url: http://arxiv.org/abs/2605.19478v1
• Date: Tue, 19 May 2026 07:29:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-20 15:03:09.188833
• Title: Exposing Functional Fusion: A New Class of Strategic Backdoor in Dynamic Prompt Architectures
• Title（参考訳）: ファンクショナルフュージョンの公開:動的プロンプトアーキテクチャにおける戦略的バックドアの新しいクラス
• Authors: Zeyao Liu, Zhendong Zhao, Xiaojun Chen, Xin Zhao, Yuexin Xuan, Xiaoshuang Ji,
• Abstract要約: VIPER は軽量でダイナミックな Visual Prompt Generator (VPG) 上に構築された攻撃フレームワークである。 我々はVIPERがいかにクリーンなデータで最先端のパフォーマンスを達成するかを示し、推論遅延は0.06ms (1.16%)しか認識できない。
• 参考スコア（独自算出の注目度）: 9.813992799239346
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Existing ViT backdoor attacks based on backbone-overwriting full-tuning are computationally expensive and inflict performance degradation. This has forced adversaries towards the Visual Parameter-Efficient Fine-Tuning (PEFT) paradigm, dominated by adapter-based (e.g., LoRA) and prompt-based (e.g., VPT) approaches. While adapter security has seen initial study, the risks of the burgeoning prompt-based ecosystem remain critically unexplored. We fill this critical gap, exposing how the evolution of VPT towards dynamic and context-aware architectures can facilitate a far more dangerous and emergent threat. This vulnerability arises even though these dynamic modules unlock superior benign performance. We propose VIPER, an attack framework built on a lightweight, dynamic Visual Prompt Generator (VPG) that demonstrates this vulnerability. Critically, this dynamic architecture enables Functional Fusion: an emergent phenomenon where malicious logic and benign task utility are tightly fused into the same sparse, high-magnitude parameter core. This fusion creates a formidable ``hostage" dilemma, as pruning the attack necessarily destroys the benign performance. Comprehensive evaluations show VIPER effectively addresses the attacker's trilemma: VIPER not only achieves state-of-the-art performance on clean data, but also maintains near-100% ASR even under 90% VPG-module pruning (where LoRA attacks collapse), while adding only an imperceptible 0.06ms (1.16%) of inference latency. VIPER's results, driven by Functional Fusion, expose a new, paradigm-level risk in dynamic prompt architectures.
• Abstract（参考訳）: バックボーンオーバーライトフルチューニングに基づく既存のViTバックドア攻撃は、計算コストが高く、性能が劣化する。 これにより、アダプタベースの(例えばLoRA)とプロンプトベースの(例えばVPT)アプローチで支配される、ビジュアルパラメータ効率の良いファインチューニング(PEFT)パラダイムに敵を向かわせた。 アダプタのセキュリティは初期の研究で見てきたが、急成長するプロンプトベースのエコシステムのリスクは、いまだに明らかにされていない。 この重要なギャップを埋め、VPTの動的でコンテキスト対応のアーキテクチャへの進化が、より危険で創発的な脅威をいかに促進するかを明らかにします。 この脆弱性は、これらの動的モジュールが優れた良質なパフォーマンスを解放したとしても生じる。 我々は、この脆弱性を実証する軽量でダイナミックなVisual Prompt Generator(VPG)上に構築された攻撃フレームワークVIPERを提案する。 重要なことに、この動的アーキテクチャはFunctional Fusionを可能にする。これは、悪意のあるロジックと良心的なタスクユーティリティが、同じスパースで高マグニチュードなパラメータコアに密に融合される緊急現象である。 この融合は、攻撃を打つことで必然的に良心的なパフォーマンスが損なわれるため、恐ろしい‘hostage’ジレンマを生じさせる。 VIPERはクリーンなデータで最先端のパフォーマンスを達成するだけでなく、90%のVPGモジュールプルーニング(LoRAが攻撃する場所)でもほぼ100%のASRを維持し、許容できない0.06ms(1.16%)の推論遅延しか追加しない。 ファンクショナルフュージョンによって駆動されるVIPERの結果は、動的プロンプトアーキテクチャにおける新しいパラダイムレベルのリスクを明らかにする。

関連論文リスト

• ATAAT: Adaptive Threat-Aware Adversarial Tuning Framework against Backdoor Attacks on Vision-Language-Action Models [11.93174278125059]
  本研究では,視覚経路を標的としたバックドア攻撃について検討した。 従来の攻撃パラダイムの障害の原因となる中核的障害を識別する:「グラディエント干渉」 適応型脅威認識型適応チューニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-09T02:15:10Z)
• ARES: Adaptive Red-Teaming and End-to-End Repair of Policy-Reward System [70.10833169681239]
  ヒトフィードバック(RLHF)からの強化学習は、大規模言語モデル(LLM)の整合の中心である 不完全なリワードモデル(RM)は、安全でない振る舞いをペナルティ化できないと、単一障害点になる可能性がある。 このような二重脆弱性を系統的に発見・緩和するフレームワークであるARESを紹介する。
  論文  参考訳（メタデータ） (2026-04-20T19:54:47Z)
• VLMShield: Efficient and Robust Defense of Vision-Language Models against Malicious Prompts [63.54526809319117]
  VLM(Vision-Language Models)は、視覚統合時のアライメントの弱さにより、悪意のあるプロンプト攻撃による重大な安全性上の脆弱性に直面している。 我々は,CLIPが長いテキストを処理し,マルチモーダル情報を統一表現に融合することを可能にするマルチモーダル集約特徴抽出フレームワークを提案する。 我々は,マルチモーダル攻撃をプラグ・アンド・プレイ・ソリューションとして効率的に識別する軽量安全検知器 VLMShield を開発した。
  論文  参考訳（メタデータ） (2026-04-07T22:18:27Z)
• Robust Anti-Backdoor Instruction Tuning in LVLMs [53.766434746801366]
  大規模視覚言語モデル(LVLM)のための軽量で認証に依存しない防御フレームワークについて紹介する。 私たちのフレームワークは、命令チューニングの下で、アダプタモジュールとテキスト埋め込み層のみを微調整します。 Flickr30kとMSCOCOに対する7つの攻撃に対する実験は、我々の攻撃の成功率をほぼゼロに低下させることを示した。
  論文  参考訳（メタデータ） (2025-06-04T01:23:35Z)
• Co-Evolutionary Defence of Active Directory Attack Graphs via GNN-Approximated Dynamic Programming [9.704696173031714]
  我々は,Active Directoryにおける攻撃と防御の相互作用を,アダプティブアタックとプロアクティブディフェンダーの間のStackelbergゲームとしてモデル化する。 本稿では,GNNDP(Graph Neural Network Approximated Dynamic Programming)を併用して攻撃戦略をモデル化する,共進化型防衛フレームワークを提案する。 本フレームワークは,攻撃者や防御者の政策を洗練し,一般化を改善し,早期収束を防ぐ。
  論文  参考訳（メタデータ） (2025-05-16T21:37:50Z)
• ELBA-Bench: An Efficient Learning Backdoor Attacks Benchmark for Large Language Models [55.93380086403591]
  生成可能な大規模言語モデルは、バックドアアタックに対して脆弱である。 $textitELBA-Bench$は、パラメータを効率的に微調整することで攻撃者がバックドアを注入できるようにする。 $textitELBA-Bench$は1300以上の実験を提供する。
  論文  参考訳（メタデータ） (2025-02-22T12:55:28Z)
• $\textrm{A}^{\textrm{2}}$RNet: Adversarial Attack Resilient Network for Robust Infrared and Visible Image Fusion [22.666969931655043]
  Infrared and visible image fusion (IVIF) は視覚能力を高める重要な技術である。 本稿では,textrmAtextrm2$RNetと呼ばれる新たな攻撃耐性ネットワークを提案する。
  論文  参考訳（メタデータ） (2024-12-13T08:24:12Z)
• RigorLLM: Resilient Guardrails for Large Language Models against Undesired Content [62.685566387625975]
  現在の緩和戦略は効果はあるものの、敵の攻撃下では弾力性がない。 本稿では,大規模言語モデルのための弾力性ガードレール(RigorLLM)について紹介する。
  論文  参考訳（メタデータ） (2024-03-19T07:25:02Z)
• Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
  CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。 任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。 本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
  論文  参考訳（メタデータ） (2021-05-31T17:01:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。