論文の概要: Context-Shielded Backdoor Attack against Large Vision-Language Models

• arxiv url: http://arxiv.org/abs/2611.01252v1
• Date: Sat, 31 Oct 2026 20:34:46 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 19:33:03.478779
• Title: Context-Shielded Backdoor Attack against Large Vision-Language Models
• Title（参考訳）: 大規模視覚言語モデルに対するコンテキストシールド型バックドアアタック
• Abstract要約: 本研究では,プロジェクタのみのバックドアであるStripWakeを提案する。 StripWakeは、ターゲットにランダム化された圧縮されたビューと、クリーンに教師されたフルトーケンビューをペアリングし、初期の視覚的注意を凍結した良心的な教師と整合させて、クリーンなユーティリティを維持する。
• 参考スコア（独自算出の注目度）: 26.475060283761053
• License:
• Abstract: Large vision-language models (LVLMs) routinely use inference-time visual-token compression to prune hundreds of patch tokens down to a compact budget. Existing LVLM backdoors fire whenever a triggered image appears, whereas prior deployment-triggered attacks activate only when model weights are quantized or pruned. However, conventional LVLM backdoors exhibit nearly 100% attack success rate (ASR) under full-token inference, immediately exposing compromised checkpoints during pre-deployment auditing. We reveal context stripping: surrounding clean visual tokens suppress an embedded trigger at full length, whereas token pruning strips this context away and activates the backdoor. Motivated by this finding, we propose StripWake, a projector-only backdoor that remains dormant under full-token auditing yet activates across unseen compressors. Specifically, StripWake pairs clean-supervised full-token views with target-supervised randomized compressed views, and aligns early visual attention with a frozen benign teacher to preserve clean utility. On LLaVA-1.5-7B across nine unseen compressors, StripWake stays dormant at 0.4% full-token ASR yet achieves 94.0%-99.7% compressed ASR across five primary compressors without CIDEr loss.
• Abstract（参考訳）: 大規模視覚言語モデル(LVLM)は、数百のパッチトークンを小額の予算まで掘り下げるために、推論時ビジュアルトーケン圧縮を常用する。 既存のLVLMバックドアはトリガ画像が現れるたびに発火するが、以前の展開トリガーによる攻撃はモデルの重みが定量化またはプルーニングされた場合にのみ有効である。 しかし、従来のLVLMバックドアは100%の攻撃成功率(ASR)を完全な推論で示しており、デプロイ前の監査中にすぐに妥協されたチェックポイントを暴露している。 クリーンな視覚トークンを取り囲むことで、完全な長さで埋め込まれたトリガーが抑制されるのに対して、トークンプルーニングは、このコンテキストを切り離し、バックドアを起動する。 この発見に触発されたStripWakeは、プロジェクターのみのバックドアであり、フルトーケン監査下では休眠状態にあるが、目に見えない圧縮機間でアクティベートされる。 具体的には、StripWakeは、対象のランダム化された圧縮されたビューと、クリーンに教師されたフルトーケンビューをペアリングし、初期の視覚的注意を凍結した良心的な教師と整合させて、クリーンなユーティリティを保存する。 LLaVA-1.5-7Bは9つの未確認圧縮機で、StripWakeは0.4%のフルトーケンASRで休眠するが、CIDEr損失のない5つの一次圧縮機で94.0%-99.7%の圧縮ASRを達成する。

関連論文リスト

• Feature-Aware Token Attack for Compression-Triggered Stealthy Failures in Large Vision-Language Models [20.428011554832093]
  FATA(Feature-Aware Token Attack)は、注意抑制とコサインに基づく特徴保存を関連づける。 FATAの精度は96.3%、CBRは22.1%で、CAAは89.8%、CAAは15.7%である。
  論文  参考訳（メタデータ） (2026-09-30T07:04:15Z)
• Still There, No Longer Seen: Exposing Compression-Induced Risk in Large Vision-Language Models [20.07886405027695]
  我々は,大規模視覚言語モデルに対する圧縮誘導型リスクアタックであるCIRAを提案する。 CIRAはダウンストリームの質問やラベルは使用せず、言語モデル、デプロイされた圧縮機、正確な圧縮予算へのアクセスを必要としない。 その結果、CIRAのCSFRの平均値は20.35%であり、攻撃成功率は6.92%に制限されている。
  論文  参考訳（メタデータ） (2026-09-28T12:06:18Z)
• Just Noticeable Difference Modeling for Token Compression in Vision-Language-Action Models [62.522141464687195]
  本稿では,単に目立った差分(JND)の原理を具体化するためのアクションJNDを紹介する。 トークンの変化は、誘導された行動偏差が許容範囲内に留まっている場合にのみ許容できると考えられる。 結果として生じるアクション耐性スコアは、VLA圧縮パラダイムのプラグアンドプレイ基準として機能する。
  論文  参考訳（メタデータ） (2026-08-21T15:59:37Z)
• Localization then Neutralization: Gradient-guided Token Suppression against Visual Prompt Injection Attack [78.02110947708535]
  敵対的なイメージは、プロンプトインジェクションを通じて、マルチモーダルな大規模言語モデルに深刻なセキュリティ上の脅威をもたらす。 敵の攻撃を成功させるには、画像全体を一様に依存するのではなく、重要な画像トークンの小さなサブセットに依存していることを示す。 本稿では,これらのトークンを勾配解析により局所化し,マスキングにより中和するグラディエントトークンマスキング(GTM)を提案する。
  論文  参考訳（メタデータ） (2026-05-24T17:51:34Z)
• BackdoorIDS: Zero-shot Backdoor Detection for Pretrained Vision Encoder [13.008131372229458]
  BackdoorIDSは、事前訓練された視覚エンコーダのためのゼロショット、推論時バックドアサンプル検出方法である。 さまざまな攻撃タイプ、データセット、モデルファミリーで、既存の防御を一貫して上回る。 BackdoorIDSは、CNN、ViT、CLIP、LLaVA-1.5など、幅広いエンコーダアーキテクチャと互換性がある。
  論文  参考訳（メタデータ） (2026-03-12T08:32:19Z)
• PIO-FVLM: Rethinking Training-Free Visual Token Reduction for VLM Acceleration from an Inference-Objective Perspective [59.24570811503256]
  本稿では,視覚モデル(VLM)における冗長な視覚トークンを減らし,推論を高速化するPIO-FVLMを提案する。 提案されているPIO-FVLMは、トレーニングフリーで、FlashAttentionと互換性があり、実用的なアプリケーションやデプロイメントに親しみやすい。 LLaVA-Next-7Bでは、PIO-FVLMは視覚トークンの11.1%しか保持していないが、オリジナルのパフォーマンスの97.2%を維持している。
  論文  参考訳（メタデータ） (2026-02-04T15:33:10Z)
• One Token Embedding Is Enough to Deadlock Your Large Reasoning Model [91.48868589442837]
  我々は, LRMの生成制御フローをハイジャックする資源枯渇手法であるDeadlock Attackを提案する。 提案手法は4つの先進LEMにおいて100%の攻撃成功率を達成する。
  論文  参考訳（メタデータ） (2025-10-12T07:42:57Z)
• Robust Anti-Backdoor Instruction Tuning in LVLMs [53.766434746801366]
  大規模視覚言語モデル(LVLM)のための軽量で認証に依存しない防御フレームワークについて紹介する。 私たちのフレームワークは、命令チューニングの下で、アダプタモジュールとテキスト埋め込み層のみを微調整します。 Flickr30kとMSCOCOに対する7つの攻撃に対する実験は、我々の攻撃の成功率をほぼゼロに低下させることを示した。
  論文  参考訳（メタデータ） (2025-06-04T01:23:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。