論文の概要: BlackMirror: Black-Box Backdoor Detection for Text-to-Image Models via Instruction-Response Deviation

• arxiv url: http://arxiv.org/abs/2603.05921v1
• Date: Fri, 06 Mar 2026 05:22:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-09 13:17:45.105604
• Title: BlackMirror: Black-Box Backdoor Detection for Text-to-Image Models via Instruction-Response Deviation
• Title（参考訳）: BlackMirror: インストラクション応答偏差によるテキスト間画像モデルのブラックボックスバックドア検出
• Abstract要約: 本稿では,ブラックボックス設定下でのバックドアテキスト・ツー・イメージモデル検出の課題について検討する。 新たな検出フレームワークであるBlackMirrorを導入している。
• 参考スコア（独自算出の注目度）: 117.54208768824869
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper investigates the challenging task of detecting backdoored text-to-image models under black-box settings and introduces a novel detection framework BlackMirror. Existing approaches typically rely on analyzing image-level similarity, under the assumption that backdoor-triggered generations exhibit strong consistency across samples. However, they struggle to generalize to recently emerging backdoor attacks, where backdoored generations can appear visually diverse. BlackMirror is motivated by an observation: across backdoor attacks, {only partial semantic patterns within the generated image are steadily manipulated, while the rest of the content remains diverse or benign. Accordingly, BlackMirror consists of two components: MirrorMatch, which aligns visual patterns with the corresponding instructions to detect semantic deviations; and MirrorVerify, which evaluates the stability of these deviations across varied prompts to distinguish true backdoor behavior from benign responses. BlackMirror is a general, training-free framework that can be deployed as a plug-and-play module in Model-as-a-Service (MaaS) applications. Comprehensive experiments demonstrate that BlackMirror achieves accurate detection across a wide range of attacks. Code is available at https://github.com/Ferry-Li/BlackMirror.
• Abstract（参考訳）: 本稿では,ブラックボックス設定下でのバックドアテキスト・ツー・イメージモデル検出の課題について検討し,新たな検出フレームワークであるBlackMirrorを紹介した。 既存のアプローチは、バックドアトリガー世代がサンプル間で強い一貫性を示すという仮定の下で、画像レベルの類似性を分析することに依存している。 しかし、バックドア世代が視覚的に多様に見える最近のバックドア攻撃への一般化に苦慮している。 BlackMirrorは、バックドアアタック全体において、生成された画像内の部分的セマンティックパターンのみを着実に操作する一方で、残りのコンテンツは多様または良質なままである。 したがって、BlackMirrorは2つのコンポーネントから構成される: MirrorMatchは視覚パターンを対応する命令と整列して意味的偏差を検出する。 BlackMirrorは、MaaS(Model-as-a-Service)アプリケーションでプラグイン・アンド・プレイモジュールとしてデプロイできる、一般的な、トレーニング不要のフレームワークである。 総合的な実験により、BlackMirrorは広範囲の攻撃に対して正確な検出を達成している。 コードはhttps://github.com/Ferry-Li/BlackMirror.comで入手できる。

関連論文リスト

• BackdoorVLM: A Benchmark for Backdoor Attacks on Vision-Language Models [63.5775877701015]
  textbfBackdoorVLMは視覚言語モデル(VLM)に対するバックドア攻撃を評価するための最初の総合的なベンチマークである。 BackdoorVLMは、マルチモーダルなバックドア脅威を、ターゲットされた拒絶、悪意のある注入、ジェイルブレイク、コンセプト置換、知覚的ハイジャックの5つのカテゴリに分類する。 2つのオープンソースのVLMと3つのマルチモーダルデータセットでテストし、テキスト、画像、バイモーダルトリガにまたがる12の代表的な攻撃手法を用いて、これらの脅威を評価する。
  論文  参考訳（メタデータ） (2025-11-24T09:30:38Z)
• BadScan: An Architectural Backdoor Attack on Visual State Space Models [2.2499166814992435]
  最近導入されたVisual State Space Model (VMamba) は視覚変換器 (ViT) と比較して非常に優れた性能を示している。 一般的なアプローチの1つは、トレーニングデータにトリガーを組み込んでモデルを再トレーニングすることで、データサンプルをターゲットクラスに誤分類する。 我々は、VMambaモデルを欺くように設計されたBadScanと呼ばれる新しいアーキテクチャバックドアアタックを導入する。
  論文  参考訳（メタデータ） (2024-11-26T10:13:09Z)
• Prompting the Unseen: Detecting Hidden Backdoors in Black-Box Models [26.918410899715735]
  ビジュアルプロンプト(VP)は、ソースドメインタスクをターゲットとした、よく訓練された凍結モデルに適応する。 textscBPromは、不審なモデルのバックドアを特定するブラックボックスモデルレベルの検出方法である。
  論文  参考訳（メタデータ） (2024-11-14T15:56:11Z)
• Backdoor Attack with Mode Mixture Latent Modification [26.720292228686446]
  本研究では,微調整の要領でバックドアを注入するために,クリーンモデルへの最小限の変更しか必要としないバックドア攻撃パラダイムを提案する。 提案手法の有効性を4つのベンチマーク・データセットで評価した。
  論文  参考訳（メタデータ） (2024-03-12T09:59:34Z)
• Model Pairing Using Embedding Translation for Backdoor Attack Detection on Open-Set Classification Tasks [63.269788236474234]
  バックドア検出のためのオープンセット分類タスクにモデルペアを用いることを提案する。 このスコアは、異なるアーキテクチャのモデルがあるにもかかわらず、バックドアの存在を示す指標であることを示している。 この技術は、オープンセット分類タスク用に設計されたモデル上のバックドアの検出を可能にするが、文献ではほとんど研究されていない。
  論文  参考訳（メタデータ） (2024-02-28T21:29:16Z)
• Mask and Restore: Blind Backdoor Defense at Test Time with Masked Autoencoder [50.1394620328318]
  既存のバックドア防御手法では、いくつかのバリデーションデータとモデルパラメータにアクセスする必要があることが多い。 Masked AutoEncoder (BDMAE) を用いたブラインドバックドアディフェンスの提案 BDMAEは、画像の構造的類似性と、テスト画像とMAE復元の間のラベルの整合性を用いて、可能な局所的なトリガを検出する。
  論文  参考訳（メタデータ） (2023-03-27T19:23:33Z)
• Black-box Detection of Backdoor Attacks with Limited Information and Data [56.0735480850555]
  モデルへのクエリアクセスのみを用いてバックドア攻撃を同定するブラックボックスバックドア検出(B3D)手法を提案する。 バックドア検出に加えて,同定されたバックドアモデルを用いた信頼性の高い予測手法を提案する。
  論文  参考訳（メタデータ） (2021-03-24T12:06:40Z)
• Scalable Backdoor Detection in Neural Networks [61.39635364047679]
  ディープラーニングモデルは、トロイの木馬攻撃に対して脆弱で、攻撃者はトレーニング中にバックドアをインストールして、結果のモデルが小さなトリガーパッチで汚染されたサンプルを誤識別させる。 本稿では,ラベル数と計算複雑性が一致しない新たなトリガリバースエンジニアリング手法を提案する。 実験では,提案手法が純モデルからトロイの木馬モデルを分離する際の完全なスコアを達成できることが観察された。
  論文  参考訳（メタデータ） (2020-06-10T04:12:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。