論文の概要: BadDLM: Backdooring Diffusion Language Models with Diverse Targets

• arxiv url: http://arxiv.org/abs/2605.09397v1
• Date: Sun, 10 May 2026 07:50:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 14:41:07.827382
• Title: BadDLM: Backdooring Diffusion Language Models with Diverse Targets
• Title（参考訳）: BadDLM: 異なるターゲットを持つ拡散言語モデルのバックドア化
• Abstract要約: 拡散言語モデル(DLM)は、最近、自己回帰(AR)言語モデルに代わるモデリングパラダイムとして登場した。 我々は,多種多様なターゲットを持つDLMに対するバックドア攻撃を研究するための統合フレームワークであるBadDLMを提案する。 本研究は,拡散型言語生成における新たなセキュリティリスクのクラスを明らかにし,DLMに合わせた防衛を呼びかけることを目的とした。
• 参考スコア（独自算出の注目度）: 35.316538349611406
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Diffusion language models (DLMs) have recently emerged as an alternative modeling paradigm to autoregressive (AR) language models, enabling parallel generation and bidirectional context modeling. Yet their security implications, particularly their vulnerability to backdoor attacks, remain underexplored. We propose BadDLM, a unified framework for studying backdoor attacks against DLMs with diverse targets. We introduce a trigger-aware training objective that emphasizes target-relevant positions in poisoned samples, and theoretically prove that this objective is equivalent to training under an induced forward masking distribution. Unlike backdoors in autoregressive models, which typically manipulate next-token prediction, this characterization indicates that BadDLM can implant backdoors by exploiting the forward masking process. We instantiate BadDLM across different target levels: concept injection (BadDLM_Concept), semantic attribute steering (BadDLM_Attribute), alignment bypass (BadDLM_Align), and code payload injection (BadDLM_Payload). Experiments on mainstream open-source DLMs show that BadDLM achieves strong attack effectiveness across diverse targets while largely preserving benign utility, and remains effective against defenses designed for AR backdoors. Our findings expose a new class of security risks in diffusion-based language generation and call for defenses tailored to DLM denoising dynamics.
• Abstract（参考訳）: 拡散言語モデル(DLM)は、最近、自動回帰(AR)言語モデルに代わるモデリングパラダイムとして登場し、並列生成と双方向コンテキストモデリングを可能にした。 しかし、彼らのセキュリティ、特にバックドア攻撃に対する脆弱性は、まだ未調査のままだ。 我々は,多種多様なターゲットを持つDLMに対するバックドア攻撃を研究するための統合フレームワークであるBadDLMを提案する。 本研究は,有毒試料における標的関連位置を強調したトリガー・アウェア・トレーニング・ターゲットを導入し,この目標が前向きマスク分布の誘導によるトレーニングと等価であることを理論的に証明する。 この特徴は、BadDLMがフォワードマスキングプロセスを利用してバックドアを埋め込むことができることを示している。 コンセプトインジェクション(BadDLM_Concept)、セマンティック属性ステアリング(BadDLM_Attribute)、アライメントバイパス(BadDLM_Align)、コードペイロードインジェクション(BadDLM_Payload)である。 主流のオープンソースDLMの実験では、BadDLMは多種多様なターゲットに対して強力な攻撃効果を達成しつつ、良質なユーティリティを保ち、ARバックドア用に設計された防御に対して有効であることが示されている。 本研究は,拡散型言語生成における新たなセキュリティリスクのクラスを明らかにし,DLMに合わせた防衛を呼びかけることを目的とした。

関連論文リスト

• Data-Efficient Autoregressive-to-Diffusion Language Models via On-Policy Distillation [50.27099285181793]
  自己回帰モデル(ARLM)の拡散言語モデル(DLM)への変換について検討する。 本稿では,ALLM-to-DLM変換にOPD(On-Policy Diffusion Language Model)を用いる,OPDLM(On-Policy Diffusion Language Model)を提案する。
  論文  参考訳（メタデータ） (2026-06-04T20:58:08Z)
• Backdooring Masked Diffusion Language Models [46.57066684106858]
  本研究はMDLMに対する訓練時バックドア攻撃に関する最初の体系的研究である。 本研究は,MDLMの前方破壊プロセスを変更するバックドアアタックであるSHADOWMASKを提案する。 DiTベースのMDLMとLLaDA-8B-InstructのWikiText-103、OpenWebText、Alpacaによる評価は、SHADOWMASKがほぼ100%の攻撃成功を達成していることを示している。
  論文  参考訳（メタデータ） (2026-05-19T02:20:08Z)
• ProjLens: Unveiling the Role of Projectors in Multimodal Model Safety [54.4092272526747]
  MLLM(Multimodal Large Language Models)は、クロスモーダルな理解と生成において大きな成功を収めていますが、そのデプロイは重大な安全性の脆弱性によって脅かされています。 本稿では,MLLMのバックドアを復号化するための解釈可能性フレームワークであるProjLensを提案する。
  論文  参考訳（メタデータ） (2026-04-21T04:52:38Z)
• Self-Purification Mitigates Backdoors in Multimodal Diffusion Language Models [74.1970982768771]
  確立されたデータポゾンパイプラインは,MDLMにバックドアを埋め込むことに成功した。 拡散自己浄化(Diffusion Self-Purification)と呼ばれるMDLMのバックドア防御フレームワークについて紹介する。
  論文  参考訳（メタデータ） (2026-02-24T15:47:52Z)
• Lethe: Purifying Backdoored Large Language Models with Knowledge Dilution [49.78359632298156]
  大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクにおいて優れたパフォーマンスを達成し、大幅な進歩を遂げている。 標準クエリではモデルが正常に動作しますが、特定のトリガがアクティブになると、有害な応答や意図しない出力を生成します。 本稿では,LLMからのバックドアの挙動を知識希釈により除去する新しい手法LETHEを提案する。
  論文  参考訳（メタデータ） (2025-08-28T17:05:18Z)
• Diff-Cleanse: Identifying and Mitigating Backdoor Attacks in Diffusion Models [3.134071086568745]
  拡散モデル(DM)は、今日では最も先進的な生成モデルの一つと見なされている。 近年の研究では、DMはバックドア攻撃に弱いことが示唆されている。 この脆弱性は、モデル所有者に評判を害するなど、重大なリスクをもたらす。 Diff-Cleanseは、DM用に特別に設計された2段階のバックドア防御フレームワークである。
  論文  参考訳（メタデータ） (2024-07-31T03:54:41Z)
• VillanDiffusion: A Unified Backdoor Attack Framework for Diffusion Models [69.20464255450788]
  拡散モデル(英: Diffusion Models, DM)は、可逆的ノイズ付加から可逆的腐敗過程を学習し、雑音を除去する手法である。 最近の研究では、基本的な無条件DMがバックドア注入に弱いことが示されている。 本稿では,DMのバックドア分析の現在の範囲を広げるために,統合されたバックドア攻撃フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-06-12T05:14:13Z)
• MSDT: Masked Language Model Scoring Defense in Text Domain [16.182765935007254]
  我々は,MSDTというテキストバックドア防御手法を新たに導入し,既存の防御アルゴリズムを特定のデータセットで上回る性能を示す。 実験結果から,テキスト領域におけるバックドア攻撃に対する防御の観点から,本手法が有効かつ建設的であることが示唆された。
  論文  参考訳（メタデータ） (2022-11-10T06:46:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。