論文の概要: Why Jailbreaks Succeed in Diffusion Language Models: An Energy Landscape Analysis

• arxiv url: http://arxiv.org/abs/2609.30841v1
• Date: Fri, 25 Sep 2026 05:35:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.237769
• Title: Why Jailbreaks Succeed in Diffusion Language Models: An Energy Landscape Analysis
• Title（参考訳）: 拡散言語モデルにおける脱獄の理由:エネルギー景観分析
• Abstract要約: 既存の拡散ベースの大規模言語モデル(dLLM)に対する攻撃と防御は、特定の脆弱性をターゲットにしているが、なぜ攻撃が成功したのかを説明する共有フレームワークがない。 安全アライメントをデノナイジングエナジーランドスケープを形成するものとして解釈して提案する。 現在のジェイルブレイク攻撃は、この障壁を回避するための2つの戦略に還元されている。
• 参考スコア（独自算出の注目度）: 14.306119791052575
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Existing attacks and defenses for diffusion-based large language models (dLLMs) target specific vulnerabilities but lack a shared framework explaining why attacks succeed. We propose one by interpreting safety alignment as shaping the denoising energy landscape: a well-aligned model routes harmful queries toward safe outputs through an energy barrier that separates the two regions. Current jailbreak attacks reduce to two strategies for circumventing this barrier: obscuring the query's safety disposition at initialisation, or intervening mid-trajectory to force the denoising path across the energy barrier. From this perspective and the result that masked diffusion models minimise kinetic energy during denoising, we derive three complementary, training-free detection signals: a step-0 ratio that reads the initial safety disposition from the logit distribution before generation begins, and two trajectory-velocity signals that track kinetic energy in complementary subspaces of the logit space. An attack must either reveal its intent at initialisation or expend kinetic energy to cross the barrier in at least one monitored subspace, so the three signals cover each other's blind spots in the energy budget by construction. Evaluation across three dense dLLMs (LLaDA-8B, LLaDA-1.5, Dream-7B) and a sparse mixture-of-experts dLLM (LLaDA-MoE-7B) confirms this complementarity. In stress tests of known attacks, every configuration that evades detection also fails to produce harmful content, suggesting that the detection and barrier-crossing thresholds are hard to separate.
• Abstract（参考訳）: 既存の拡散ベースの大規模言語モデル(dLLM)に対する攻撃と防御は、特定の脆弱性をターゲットにしているが、なぜ攻撃が成功したのかを説明する共有フレームワークがない。 安全アライメントをデノナイズドエナジーランドスケープを形作るものとして解釈することで,2つの領域を分離するエネルギーバリアを介し,有害なクエリを安全なアウトプットへルートするモデルを提案する。 現在のジェイルブレイク攻撃は、この障壁を回避するための2つの戦略に還元されている。 この観点から、マスク拡散モデルにより、デノナイジング中の運動エネルギーを最小化する結果、生成開始前のロジット分布から初期安全分布を読み取るステップ-0比と、ロジット空間の相補部分空間における運動エネルギーを追跡する2つの軌道速度信号の3つの相補的無訓練検出信号が導出される。 攻撃は初期化の意図を明らかにするか、少なくとも1つの監視された部分空間でバリアを横断するために運動エネルギーを消費しなければならないため、3つの信号は建設によってエネルギー予算の盲点をカバーしている。 3つの密度dLLM (LLaDA-8B, LLaDA-1.5, Dream-7B) とスパース混合物dLLM (LLaDA-MoE-7B) による評価により, この相補性が確認された。 既知の攻撃のストレステストでは、検出を回避するすべての構成も有害なコンテンツの生成に失敗し、検出とバリア交差しきい値の分離が難しいことを示唆している。

関連論文リスト

• SafeCA: Safe Cross-Attention Localization and Regulation for Text-to-Video Jailbreak Defense [77.70598852234149]
  テキスト・トゥ・ビデオ(T2V)生成モデルは、現実世界のデプロイにおいてジェイルブレイク攻撃に対して脆弱である。 安全なクロスアテンション・ローカライゼーションと正規化のための機能レベル防衛機構であるSafeCAを提案する。 実験の結果、SafeCAは主流のT2Vモデルでジェイルブレイクの成功率を約20%削減することが示された。
  論文  参考訳（メタデータ） (2026-08-11T14:01:24Z)
• Truth Lies Deep: Countering Semantic Camouflage via Latent Intent Verification [0.0]
  本研究は、モデルが良心的物語の文脈において有害な意図を包む敵攻撃に対して脆弱であることを示す。 本研究は、モデルが異なる事前訓練された表現が、クエリを安全な物語にコンテキスト化する際に崩壊する「普遍的意図的水平」を同定する。 PKU-SafeRLHFデータセットの実験では、LIVが標準ガードレールを20～50%のマージンで上回っていることが示されている。
  論文  参考訳（メタデータ） (2026-06-27T06:47:13Z)
• A Fragile Guardrail: Diffusion LLM's Safety Blessing and Its Failure Mode [51.43498132808724]
  Diffusion large language model (D-LLMs) はjailbreak攻撃に対して本質的に堅牢であることを示す。 構成された良質なコンテキスト内に有害な要求が埋め込まれる、単純な、効果的な障害モードをコンテキストネストと呼ぶ。 この単純な戦略は、D-LLMの安全性を回避し、最先端の攻撃成功率を達成するのに十分であることを示す。
  論文  参考訳（メタデータ） (2026-01-30T23:08:14Z)
• Attributing and Exploiting Safety Vectors through Global Optimization in Large Language Models [50.91504059485288]
  本報告では,全頭部のグローバルな最適化により,安全クリティカルな注意点を同時に識別するフレームワークを提案する。 我々は,アクティベーション・リマッチによって同定された安全ベクトルを利用する,新しい推論時ホワイトボックス・ジェイルブレイク法を開発した。
  論文  参考訳（メタデータ） (2026-01-22T09:32:43Z)
• DiffuGuard: How Intrinsic Safety is Lost and Found in Diffusion Large Language Models [50.21378052667732]
  我々は、ステップ内およびステップ間ダイナミクスという2つの異なる次元にわたるジェイルブレイク攻撃に対して、dLLM脆弱性の詳細な分析を行う。 デュアルステージアプローチによる脆弱性に対処する,トレーニング不要な防御フレームワークであるDiffuGuardを提案する。
  論文  参考訳（メタデータ） (2025-09-29T05:17:10Z)
• Bidirectional Intention Inference Enhances LLMs' Defense Against Multi-Turn Jailbreak Attacks [18.3415330691504]
  ジェイルブレイク」攻撃は、安全アライメントメカニズムをバイパスする敵のプロンプトを悪用する。 この課題に対処するために,Bi Intention Inference Defense (BIID)を提案する。 BIIDは、フォワード要求に基づく意図推論と後方応答に基づく意図の振り返りを統合する。
  論文  参考訳（メタデータ） (2025-09-25T13:29:48Z)
• Attention Slipping: A Mechanistic Understanding of Jailbreak Attacks and Defenses in LLMs [61.916827858666906]
  私たちは、脱獄攻撃中に起こる普遍的な現象を明らかにします。 Attention Slippingは、勾配ベースのトークン置換、プロンプトレベルのテンプレートリファインメント、コンテキスト内学習など、さまざまなジェイルブレイクメソッドに一貫性があることを示します。 本研究では,温度スケーリングによる注意スコア分布の鮮明化により,注意スライッピングと直接対向する新たな防御法である注意シャープニングを提案する。
  論文  参考訳（メタデータ） (2025-07-06T12:19:04Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。