論文の概要: TokenScanner: Detecting Backdoors and Discovering Triggers in Text-to-Image LoRAs via Full Vocabulary Scanning

• arxiv url: http://arxiv.org/abs/2609.31878v1
• Date: Fri, 25 Sep 2026 18:14:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 05:01:29.018436
• Title: TokenScanner: Detecting Backdoors and Discovering Triggers in Text-to-Image LoRAs via Full Vocabulary Scanning
• Title（参考訳）: TokenScanner: フルボキャブラリスキャンによるテキスト対画像ロラのバックドア検出とトリガー発見
• Abstract要約: モデルレベルの語彙スキャナであるTokenScannerを,LoRA微調整によるテキスト・画像拡散モデル内でのバックドア検出を行う。 鍵となる観察は、トレーニングプロンプトの多さに現れるバックドアトリガートークンは、より顕著なトークン固有のLoRA応答を引き起こす傾向があることである。
• 参考スコア（独自算出の注目度）: 7.352588780769858
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LoRAs are widely studied for adapting base text-to-image diffusion models. However, a backdoored LoRA can hide a backdoor: it behaves normally in most cases, but produces attacker-specified content (the backdoor target) when a hidden backdoor trigger appears in the input prompt. Detecting such backdoors before using an untrusted LoRA is important for the safety of LoRA adaptation. We present TokenScanner, a model-level vocabulary scanner for backdoor detection within a LoRA fine-tuned text-to-image diffusion model, aiming to discover the malicious trigger for trustworthy LoRA adaptation. The key observation is that backdoor trigger tokens that appear in a larger proportion of training prompts tend to induce more prominent token-specific LoRA responses than those induced by unrelated tokens. TokenScanner therefore scans the tokenizer vocabulary and measures token-wise LoRA responses in the U-Net and the text encoder. It uses these responses to detect backdoored LoRAs and rank candidate trigger tokens for subsequent testing of backdoor activation. Experiments on seven backdoor settings, comprising 840 backdoored LoRAs and 840 real-world benign test LoRAs, show that TokenScanner achieves 95.96% AUC and 96.55% TPR at an FPR of 10.95%. It also achieves 89.40% Hit@1 and 99.40% Hit@5 for trigger discovery across all seven settings.
• Abstract（参考訳）: LoRAは、ベーステキストと画像の拡散モデルを適用するために広く研究されている。 通常は動作しますが、入力プロンプトに隠れたバックドアトリガーが現れると、攻撃者が特定したコンテンツ(バックドアターゲット)を生成します。 信頼できないLoRAを使用する前にそのようなバックドアを検出することは、LoRA適応の安全性にとって重要である。 本稿では,LoRA微調整テキスト・画像拡散モデル内でのバックドア検出のためのモデルレベルの語彙スキャナであるTokenScannerについて述べる。 鍵となる観察は、トレーニングプロンプトの多さに現れるバックドアトリガートークンは、無関係なトークンによって引き起こされるトークンよりも、より顕著なトークン固有のLoRA応答を誘導する傾向があることである。 そのため、TokenScannerはトークン化子語彙をスキャンし、U-Netとテキストエンコーダのトークン単位のLoRA応答を測定する。 これらの応答を使用して、バックドアのLoRAを検出し、その後にバックドアアクティベーションのテストを行うための候補トリガートークンをランク付けする。 840のバックドアLoRAと840の現実世界の良心テストLoRAを含む7つのバックドア環境の実験は、TokenScannerが10.95%のFPRで95.96%のAUCと96.55%のTPRを達成したことを示している。 また、89.40%のhit@1と99.40%のhit@5を達成し、7つの設定すべてにわたるトリガー発見を実現している。

関連論文リスト

• Weight space Detection of Backdoors in LoRA Adapters [7.857959066844162]
  LoRAアダプタはHugging Face Hubのようなオープンリポジトリを通じて共有される。 現在の検出方法は、テスト入力データでモデルを実行する必要がある。 我々は, モデルを実行することなく, 行列の重みを直接解析し, 有毒なアダプタを検出する。
  論文  参考訳（メタデータ） (2026-02-16T21:20:47Z)
• Assimilation Matters: Model-level Backdoor Detection in Vision-Language Pretrained Models [71.44858461725893]
  信頼できない第三者によって微調整されたモデルを考えると、モデルがバックドアで注入されたかどうかが重要で難しい問題である。 既存の検出方法は通常、トレーニングデータセット、バックドアトリガー、ターゲットの事前知識に依存する。 このような事前知識を伴わずに動作する新しいモデルレベルの検出フレームワークであるAssimilation Matters in DETection (AMDET)を紹介する。
  論文  参考訳（メタデータ） (2025-11-29T06:20:00Z)
• Backdoor Attribution: Elucidating and Controlling Backdoor in Language Models [61.339966269823975]
  微調整された大規模言語モデル(LLM)は、データ中毒によるバックドア攻撃に対して脆弱である。 LLMの安全性の解釈可能性に関するこれまでの研究は、アライメント、ジェイルブレイク、幻覚に焦点を当てる傾向にあるが、バックドア機構を見落としている。 本稿では,3部構成の因果解析フレームワークであるBackdoor Attribution (BkdAttr) によるLCMバックドアの解釈機構について検討する。
  論文  参考訳（メタデータ） (2025-09-26T01:45:25Z)
• Trigger without Trace: Towards Stealthy Backdoor Attack on Text-to-Image Diffusion Models [70.03122709795122]
  テキストと画像の拡散モデルをターゲットにしたバックドア攻撃が急速に進んでいる。 現在のバックドアサンプルは良性サンプルと比較して2つの重要な異常を示すことが多い。 我々はこれらの成分を明示的に緩和することでTwT(Trigger without Trace)を提案する。
  論文  参考訳（メタデータ） (2025-03-22T10:41:46Z)
• Large Language Models Can Verbatim Reproduce Long Malicious Sequences [23.0516001201445]
  機械学習モデルに対するバックドア攻撃は、広く研究されている。 本稿では,大規模言語モデルにおけるバックドア攻撃の概念を再検討する。 ターゲット入力のトリガによって、$leq100$のハードコードキーを含む任意の応答を再生できることが判明した。
  論文  参考訳（メタデータ） (2025-03-21T23:24:49Z)
• Turn the Combination Lock: Learnable Textual Backdoor Attacks via Word Substitution [57.51117978504175]
  最近の研究では、ニューラルネットワーク処理(NLP)モデルがバックドア攻撃に弱いことが示されている。 バックドアを注入すると、モデルは通常、良質な例で実行されるが、バックドアがアクティブになったときに攻撃者が特定した予測を生成する。 単語置換の学習可能な組み合わせによって活性化される見えないバックドアを提示する。
  論文  参考訳（メタデータ） (2021-06-11T13:03:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。