論文の概要: Silencing the Guardrails: Inference-Time Jailbreaking via Dynamic Contextual Representation Ablation

• arxiv url: http://arxiv.org/abs/2604.07835v1
• Date: Thu, 09 Apr 2026 05:35:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-10 18:34:05.722673
• Title: Silencing the Guardrails: Inference-Time Jailbreaking via Dynamic Contextual Representation Ablation
• Title（参考訳）: ガードレールのサイレンシング:動的文脈表現アブレーションによる推論時間ジェイルブレイク
• Authors: Wenpeng Xing, Moran Fang, Guangtai Wang, Changting Lin, Meng Han,
• Abstract要約: モデルガードレールを動的に静かにする新しい推論時間介入フレームワーク、Contextual Representation Ablation (CRA)を提案する。 CRAは、高価なパラメータ更新やトレーニングを必要とせずに、デコード中の拒絶誘発活性化パターンを特定し、抑制する。 複数の安全に整合したオープンソース LLM に対する実証的な評価は、CRA がベースラインを大幅に上回っていることを示している。
• 参考スコア（独自算出の注目度）: 16.17685258866394
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: While Large Language Models (LLMs) have achieved remarkable performance, they remain vulnerable to jailbreak attacks that circumvent safety constraints. Existing strategies, ranging from heuristic prompt engineering to computationally intensive optimization, often face significant trade-offs between effectiveness and efficiency. In this work, we propose Contextual Representation Ablation (CRA), a novel inference-time intervention framework designed to dynamically silence model guardrails. Predicated on the geometric insight that refusal behaviors are mediated by specific low-rank subspaces within the model's hidden states, CRA identifies and suppresses these refusal-inducing activation patterns during decoding without requiring expensive parameter updates or training. Empirical evaluation across multiple safety-aligned open-source LLMs demonstrates that CRA significantly outperforms baselines. These results expose the intrinsic fragility of current alignment mechanisms, revealing that safety constraints can be surgically ablated from internal representations, and underscore the urgent need for more robust defenses that secure the model's latent space.
• Abstract（参考訳）: 大きな言語モデル(LLM)は目覚ましいパフォーマンスを達成したが、安全上の制約を回避するジェイルブレイク攻撃には弱いままである。 既存の戦略は、ヒューリスティック・プロンプト・エンジニアリングから計算集約的な最適化まで、有効性と効率性の間の大きなトレードオフに直面していることが多い。 本研究では,モデルガードレールを動的に沈黙させる新しい推論時間介入フレームワークであるContextual Representation Ablation (CRA)を提案する。 モデルの隠蔽状態内の特定の低ランク部分空間によって、拒絶行動が媒介されるという幾何学的洞察に基づいて、CRAは、高価なパラメータ更新やトレーニングを必要とせずに、デコード中のこれらの拒絶誘発活性化パターンを特定し、抑制する。 複数の安全に整合したオープンソース LLM に対する実証的な評価は、CRA がベースラインを大幅に上回っていることを示している。 これらの結果は、現在のアライメント機構の本質的な脆弱さを明らかにし、安全性の制約が内部表現から外科的に緩和できることを明らかにし、モデルの潜伏空間を確保するためのより堅牢な防御の必要性を強調している。

関連論文リスト

• MEEA: Mere Exposure Effect-Driven Confrontational Optimization for LLM Jailbreaking [10.331506725187038]
  マルチターン安全性の信頼性を評価するための完全に自動化されたフレームワークであるMEEAを提案する。 MEEAはセマンティックプログレッシブなプロンプトチェーンを構築し、シミュレートされたアニール戦略を使ってそれらを最適化する。 その結果,MEEAは7つのベースラインよりも攻撃成功率が高いことがわかった。
  論文  参考訳（メタデータ） (2025-12-21T14:43:26Z)
• Context-Aware Hierarchical Learning: A Two-Step Paradigm towards Safer LLMs [38.3239023969819]
  大きな言語モデル(LLM)は多様なアプリケーションのための強力なツールとして登場した。 ツール・コンプリート・アタック(TCA)と呼ばれる新しい種類の脆弱性を特定し,提案する。 これらの脆弱性に対処するために、コンテキスト認識階層学習(CAHL)を導入します。
  論文  参考訳（メタデータ） (2025-12-03T12:10:21Z)
• DeLeaker: Dynamic Inference-Time Reweighting For Semantic Leakage Mitigation in Text-to-Image Models [55.30555646945055]
  テキスト・ツー・イメージ(T2I)モデルはセマンティック・リークに対して脆弱である。 DeLeakerは、モデルのアテンションマップに直接介入することで、漏洩を緩和する軽量なアプローチである。 SLIMはセマンティックリークに特化した最初のデータセットである。
  論文  参考訳（メタデータ） (2025-10-16T17:39:21Z)
• Cannot See the Forest for the Trees: Invoking Heuristics and Biases to Elicit Irrational Choices of LLMs [83.11815479874447]
  本研究では,人間の認知における認知的分解と偏見に触発された新しいジェイルブレイク攻撃フレームワークを提案する。 我々は、悪意のあるプロンプトの複雑さと関連バイアスを減らし、認知的分解を用いて、プロンプトを再編成する。 また、従来の二分的成功または失敗のパラダイムを超越したランキングベースの有害度評価指標も導入する。
  論文  参考訳（メタデータ） (2025-05-03T05:28:11Z)
• MIRAGE: Multimodal Immersive Reasoning and Guided Exploration for Red-Team Jailbreak Attacks [85.3303135160762]
  MIRAGEは、物語駆動型コンテキストとロール没入を利用して、マルチモーダル大規模言語モデルにおける安全性メカニズムを回避する新しいフレームワークである。 最先端のパフォーマンスを達成し、最高のベースラインよりも攻撃成功率を最大17.5%向上させる。 役割の浸漬と構造的セマンティック再構築は、モデル固有のバイアスを活性化し、モデルが倫理的保護に自発的に違反することを実証する。
  論文  参考訳（メタデータ） (2025-03-24T20:38:42Z)
• Reasoning-to-Defend: Safety-Aware Reasoning Can Defend Large Language Models from Jailbreaking [54.10710423370126]
  本稿では,大規模言語モデルの生成プロセスに安全性を考慮した推論機構を統合する訓練パラダイムであるReasoning-to-Defend(R2D)を提案する。 CPOは、与えられた対話の安全性に対するモデルの認識を高める。 実験によると、R2Dは様々な攻撃を効果的に軽減し、元の性能を維持しながら全体の安全性を向上させる。
  論文  参考訳（メタデータ） (2025-02-18T15:48:46Z)
• Latent-space adversarial training with post-aware calibration for defending large language models against jailbreak attacks [23.793583584784685]
  大規模言語モデル(LLM)は、システム脆弱性を利用して安全対策を回避し、有害または不適切な出力を誘発するジェイルブレイク攻撃の影響を受ける。 LATPC(Latent-space Adrial Training with Post-aware framework)を紹介する。 LATPCは有害な入力と良性入力を対比することにより安全性に重要な潜伏次元を同定し、ターゲットの拒絶特徴除去攻撃を適応的に構築する。
  論文  参考訳（メタデータ） (2025-01-18T02:57:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。