論文の概要: Test-Time Backdoor Attacks on Multimodal Large Language Models

• arxiv url: http://arxiv.org/abs/2402.08577v1
• Date: Tue, 13 Feb 2024 16:28:28 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-14 14:42:10.328560
• Title: Test-Time Backdoor Attacks on Multimodal Large Language Models
• Title（参考訳）: マルチモーダル大規模言語モデルにおけるテストタイムバックドア攻撃
• Authors: Dong Lu, Tianyu Pang, Chao Du, Qian Liu, Xianjun Yang, Min Lin
• Abstract要約: マルチモーダル大規模言語モデル(MLLM)に対するテスト時間バックドア攻撃であるAnyDoorを提案する。 AnyDoorは、普遍的な敵攻撃で使用される同様のテクニックを採用しているが、有害な効果のセットアップとアクティベーションのタイミングを分離する能力によって、自分自身を区別している。
• 参考スコア（独自算出の注目度）: 41.601029747738394
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Backdoor attacks are commonly executed by contaminating training data, such that a trigger can activate predetermined harmful effects during the test phase. In this work, we present AnyDoor, a test-time backdoor attack against multimodal large language models (MLLMs), which involves injecting the backdoor into the textual modality using adversarial test images (sharing the same universal perturbation), without requiring access to or modification of the training data. AnyDoor employs similar techniques used in universal adversarial attacks, but distinguishes itself by its ability to decouple the timing of setup and activation of harmful effects. In our experiments, we validate the effectiveness of AnyDoor against popular MLLMs such as LLaVA-1.5, MiniGPT-4, InstructBLIP, and BLIP-2, as well as provide comprehensive ablation studies. Notably, because the backdoor is injected by a universal perturbation, AnyDoor can dynamically change its backdoor trigger prompts/harmful effects, exposing a new challenge for defending against backdoor attacks. Our project page is available at https://sail-sg.github.io/AnyDoor/.
• Abstract（参考訳）: バックドア攻撃は、テストフェーズ中にトリガーが所定の有害な効果を活性化するようにトレーニングデータを汚染することで一般的に実行される。 本稿では,多モード大言語モデル(mllms)に対するテストタイムバックドア攻撃であるanydoorを提案する。これは,学習データへのアクセスや修正を必要とせず,逆テスト画像(同じ普遍的摂動を共有する)を用いて,テキストのモーダリティにバックドアを注入することを含む。 AnyDoorは、普遍的な敵攻撃で使用される同様のテクニックを採用しているが、有害な効果のセットアップとアクティベーションのタイミングを分離する能力によって、自分自身を区別している。 実験では,LLaVA-1.5, MiniGPT-4, InstructBLIP, BLIP-2などのMLLMに対するAnyDoorの有効性を検証した。 特に、バックドアは普遍的な摂動によって注入されるため、anydoorはバックドアのトリガーを動的に変更し、バックドア攻撃から防御するための新たな挑戦を露呈することができる。 プロジェクトのページはhttps://sail-sg.github.io/anydoor/で閲覧できます。

関連論文リスト

• NoiseAttack: An Evasive Sample-Specific Multi-Targeted Backdoor Attack Through White Gaussian Noise [0.19820694575112383]
  ディープラーニング開発にサードパーティのデータを使用する場合、バックドア攻撃は重大な脅威となる。 我々は,新しいサンプル特異的なマルチターゲットバックドアアタック,すなわちNossAttackを紹介した。 この作業は、複数のターゲットクラスを生成する目的でビジョンバックドアアタックを起動する、この種の最初のものだ。
  論文  参考訳（メタデータ） (2024-09-03T19:24:46Z)
• LOTUS: Evasive and Resilient Backdoor Attacks through Sub-Partitioning [49.174341192722615]
  バックドア攻撃は、ディープラーニングアプリケーションに重大なセキュリティ脅威をもたらす。 近年の研究では、特殊な変換機能によって作られたサンプル特異的に見えないトリガーを用いた攻撃が導入されている。 我々は、回避性とレジリエンスの両方に対処するために、新しいバックドアアタックLOTUSを導入する。
  論文  参考訳（メタデータ） (2024-03-25T21:01:29Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。 最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
  論文  参考訳（メタデータ） (2022-11-02T16:03:43Z)
• MM-BD: Post-Training Detection of Backdoor Attacks with Arbitrary Backdoor Pattern Types Using a Maximum Margin Statistic [27.62279831135902]
  本稿では,任意の種類のバックドア埋め込みによるバックドア攻撃を検出するポストトレーニングディフェンスを提案する。 我々の検出器は正当なクリーンなサンプルを一切必要とせず、任意の数のソースクラスでバックドア攻撃を効率的に検出することができる。
  論文  参考訳（メタデータ） (2022-05-13T21:32:24Z)
• Check Your Other Door! Establishing Backdoor Attacks in the Frequency Domain [80.24811082454367]
  検出不能で強力なバックドア攻撃を確立するために周波数領域を利用する利点を示す。 また、周波数ベースのバックドア攻撃を成功させる2つの防御方法と、攻撃者がそれらを回避できる可能性を示す。
  論文  参考訳（メタデータ） (2021-09-12T12:44:52Z)
• Hidden Killer: Invisible Textual Backdoor Attacks with Syntactic Trigger [48.59965356276387]
  本稿では,テキストバックドア攻撃の引き金として構文構造を用いることを提案する。 我々は、トリガーベースアタック法が同等のアタック性能を達成できることを示すため、広範囲な実験を行った。 また,本研究の結果から,テキストバックドア攻撃の重篤さと有害性も明らかとなった。
  論文  参考訳（メタデータ） (2021-05-26T08:54:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。