論文の概要: Beyond Static Cues: Unified Dynamic Detection of MLLM Backdoors via Dual-Flow Trajectory Analysis

• arxiv url: http://arxiv.org/abs/2610.20319v1
• Date: Wed, 14 Oct 2026 15:05:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:16.213828
• Title: Beyond Static Cues: Unified Dynamic Detection of MLLM Backdoors via Dual-Flow Trajectory Analysis
• Title（参考訳）: Beyond Static Cues: Dual-Flow Trajectory AnalysisによるMLLMバックドアの動的統一検出
• Abstract要約: MLLM(Multimodal Large Language Models)は、安全クリティカルなドメインにますますデプロイされているが、バックドア攻撃に対する感受性は依然として深刻な課題である。 初期復号過程における内部信号の動的進化をモニタする統合検出フレームワーク EVO-Detect を提案する。 我々のアプローチは、BYEやTCAPといった最先端のベースラインを多種多様な攻撃ファミリーで大幅に上回っている。
• 参考スコア（独自算出の注目度）: 26.512990219107266
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multimodal Large Language Models (MLLMs) are increasingly deployed in safety-critical domains, yet their susceptibility to backdoor attacks remains a formidable challenge. While existing defenses have evolved from visual-centric patch cues to unsupervised internal attention statistics, they are fundamentally constrained by a reliance on static snapshots and attack-specific heuristics. Given the intricate interplay between dual modalities, the vast design space for multimodal triggers allows diverse threats, such as textual injections, sub-perceptual noises, and coordinated cross-modal triggers, to easily circumvent such rigid priors, particularly when attack types are unknown in real-world applications. In this paper, we rethink backdoor detection by shifting the diagnostic paradigm from static observations to dynamic output evolution. We observe that a successful attack inevitably hijacks the model's decoding trajectory, skewing internal modal contributions during generation while maintaining an abnormal output invariance despite input perturbations. To capture this behavior, we propose EVO-Detect, a unified detection framework that monitors the dynamic evolution of internal signals during early decoding steps through two complementary channels: Attention Flow and Logits Flow. The attention branch measures how image-text attention allocation evolves during early generation, whereas the logits branch quantifies the sensitivity of the output distribution to modal perturbations through interventional ablations. We then convert these trajectories into compact sample-level metrics and normalize them against negative-control signatures so that natural perturbations are less likely to be mistaken for backdoor evidence. Extensive evaluations show that our approach substantially outperforms state-of-the-art baselines such as BYE and TCAP across diverse attack families.
• Abstract（参考訳）: MLLM(Multimodal Large Language Models)は、安全クリティカルなドメインにますますデプロイされているが、バックドア攻撃に対する感受性は依然として深刻な課題である。 既存の防御は、視覚中心のパッチキューから教師なしの内部注意統計へと進化してきたが、それらは基本的に静的スナップショットと攻撃固有のヒューリスティックに依存している。 二重モード間の複雑な相互作用を考えると、多モードトリガーの広大な設計空間は、テキストインジェクション、サブパーセプティカルノイズ、コーディネートされたクロスモーダルトリガーなどの様々な脅威を許容し、特に実世界のアプリケーションで攻撃タイプが不明な場合に、そのような厳密な事前を回避できる。 本稿では,診断パラダイムを静的な観測からダイナミックな出力進化へシフトさせることにより,バックドア検出を再考する。 入力摂動にも拘わらず異常な出力不変性を保ちながら、モデルがデコードする軌道を必然的にハイジャックし、生成中に内部のモーダル寄与を揺さぶる。 この動作を捉えるために,初期復号過程における内部信号の動的進化を監視する統合検出フレームワークであるEVO-Detectを提案する。 アテンションブランチは、画像テキストのアレンジメントが早期にどのように進化するかを計測する一方、ロジットブランチは介入によるモーダル摂動に対する出力分布の感度を定量化する。 次に、これらの軌跡をコンパクトなサンプルレベルメトリクスに変換し、負制御シグネチャに対して正規化することにより、自然摂動をバックドアの証拠と誤認しにくくする。 以上の結果から,BYEやTCAPなどの攻撃ファミリーにおいて,本手法は多種多様な攻撃ファミリーにおいて,最先端のベースラインを著しく上回っていることが示唆された。

関連論文リスト

• Scaling Exposes the Trigger: Input-Level Backdoor Detection in Text-to-Image Diffusion Models via Cross-Attention Scaling [12.573852448122716]
  テキスト・ツー・イメージ(T2I)拡散モデルは画像合成において顕著な成功を収めているが、大規模データやオープンエコシステムへの依存は深刻なバックドアセキュリティリスクをもたらす。 既存の防御、特に入力レベルメソッドは、より実用的だが、しばしばステルスでセマンティクスを保存するトリガー設計の下で信頼性が低い観測可能な異常に頼っている。 入力レベルのバックドア検出フレームワークであるSETを提案する。これはマルチスケールの摂動下で応答オフセット機能を構築し、小さなクリーンなサンプル集合からコンパクトな良性応答空間を学習する。
  論文  参考訳（メタデータ） (2026-04-14T08:31:37Z)
• A Patch-based Cross-view Regularized Framework for Backdoor Defense in Multimodal Large Language Models [10.372037861522783]
  本稿では,パッチ拡張とクロスビュー規則性に基づく統一型防衛フレームワークを提案する。 我々の研究は、現実的な低周波中毒と隠蔽トリガーシナリオにおける大規模マルチモーダルモデルの安全かつ制御された展開を可能にする。
  論文  参考訳（メタデータ） (2026-04-06T07:27:04Z)
• STEP: Detecting Audio Backdoor Attacks via Stability-based Trigger Exposure Profiling [31.05830693695975]
  ハードラベルのみのアクセスで動作するブラックボックス・リトレーニングフリーバックドア検出器STEP(Stability-based Trigger Exposure Profiling)を提案する。 その中核となる考え方は、セマンティック・ブレークング・摂動下での異常ラベルの安定性と、セマンティック・ストアング・摂動下での異常ラベルの脆弱性という、バックドア・トリガーの特徴的な二重異常を利用することである。 実験の結果、STEP は平均 AUROC 97.92% と EER 4.54% を達成し、最先端のベースラインを大きく上回っている。
  論文  参考訳（メタデータ） (2026-03-18T12:14:14Z)
• Backdoor Directions in Vision Transformers [56.382912038371046]
  本稿では,視覚変換器(ViT)におけるバックドアアタックの表現方法について検討する。 我々は、トリガーの内部表現に対応するモデルのアクティベーションにおいて、特定のトリガー方向'を識別する。 この方向を診断ツールとして使用して、バックドア機能が層間でどのように処理されるかを追跡する。
  論文  参考訳（メタデータ） (2026-03-11T14:13:48Z)
• When One Modality Rules Them All: Backdoor Modality Collapse in Multimodal Diffusion Models [32.77084507646192]
  マルチモーダル拡散モデルにおけるバックドアモダリティ崩壊現象について検討する。 攻撃はしばしばサブセット・モダリティの優位に崩壊し、相互モダリティの相互作用は無視または否定的である。 これらの結果は、攻撃の成功率が高いことが、モダリティのサブセットに根本的な依存を隠蔽していることを示唆している。
  論文  参考訳（メタデータ） (2026-03-06T17:42:08Z)
• When Backdoors Go Beyond Triggers: Semantic Drift in Diffusion Models Under Encoder Attacks [2.4923006485141284]
  エンコーダ側の中毒は持続的かつトリガーフリーなセマンティックな腐敗を引き起こすことを実証する。 バックドアは低ランクで目標中心の変形として機能し、局所的な感度を増幅し、乱れがセマンティックな近傍を連続的に伝播する。 本研究は, 拡散および対照的なパラダイムにまたがって検証され, エンコーダ中毒の深い構造的リスクを明らかにし, 単純な攻撃成功率を超える幾何的監査の必要性を強調した。
  論文  参考訳（メタデータ） (2026-02-21T23:48:04Z)
• DeLeaker: Dynamic Inference-Time Reweighting For Semantic Leakage Mitigation in Text-to-Image Models [55.30555646945055]
  テキスト・ツー・イメージ(T2I)モデルはセマンティック・リークに対して脆弱である。 DeLeakerは、モデルのアテンションマップに直接介入することで、漏洩を緩和する軽量なアプローチである。 SLIMはセマンティックリークに特化した最初のデータセットである。
  論文  参考訳（メタデータ） (2025-10-16T17:39:21Z)
• Backdoor Cleaning without External Guidance in MLLM Fine-tuning [76.82121084745785]
  Believe Your Eyes (BYE)は、アテンションエントロピーパターンを自己教師信号として活用して、バックドアサンプルを特定してフィルタリングするデータフィルタリングフレームワークである。 クリーンタスクのパフォーマンスを維持しながら、ほぼゼロの攻撃成功率を達成する。
  論文  参考訳（メタデータ） (2025-05-22T17:11:58Z)
• Dynamic Attention Analysis for Backdoor Detection in Text-to-Image Diffusion Models [70.03122709795122]
  従来のバックドア検出手法は主にバックドアサンプルの静的特徴に焦点を当てていた。 本研究では、動的注意分析(DEA)と呼ばれる新しいバックドア検出視点を導入し、これらの動的特徴がバックドア検出の指標となることを示す。 我々の手法は既存の検出方法を大きく上回り、平均F1スコアは79.49%、AUCは87.67%に達した。
  論文  参考訳（メタデータ） (2025-04-29T07:59:35Z)
• Trigger without Trace: Towards Stealthy Backdoor Attack on Text-to-Image Diffusion Models [70.03122709795122]
  テキストと画像の拡散モデルをターゲットにしたバックドア攻撃が急速に進んでいる。 現在のバックドアサンプルは良性サンプルと比較して2つの重要な異常を示すことが多い。 我々はこれらの成分を明示的に緩和することでTwT(Trigger without Trace)を提案する。
  論文  参考訳（メタデータ） (2025-03-22T10:41:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。