論文の概要: Moving the Safety Barrier: Dynamic Routing Adaptive Alignment Against White-Box Attacks

• arxiv url: http://arxiv.org/abs/2608.02674v1
• Date: Sun, 02 Aug 2026 17:45:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-05 15:30:22.883959
• Title: Moving the Safety Barrier: Dynamic Routing Adaptive Alignment Against White-Box Attacks
• Title（参考訳）: 安全バリアの移動:ホワイトボックス攻撃に対する動的ルーティング適応アライメント
• Abstract要約: 本稿では,安全経路の破損時に頑健な拒絶行動を維持するために動的補償経路を導入する枠組みを提案する。 具体的には、まず、安全な校正サンプルと安全でない校正サンプルの内的アクティベーションを対比することにより、モデルの安全経路を特定し、ローカライズする。 DRAAはこの安全経路を隠蔽し、因果的障害を誘発し、結果の防衛的障害を選択的にマイニングする。
• 参考スコア（独自算出の注目度）: 43.16135323790632
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: With the widespread deployment of large foundation models (LFMs) in open environments, safety threats are shifting from black-box jailbreaks toward white-box attacks that directly identify and disrupt internal safety neurons or routes. However, existing safety defenses often rely on static safety units or fixed refusal pathways, leaving models highly vulnerable to targeted route-level white-box attacks. For that, we propose dynamic routing adaptive alignment (DRAA), a framework that introduces dynamic compensatory routes to preserve robust refusal behavior when the safety route is compromised. Specifically, we first identify and localize the model's safety route by contrasting internal activations between safe and unsafe calibration samples. DRAA then masks this safety route to induce causal failure cases and selectively mines the resulting defense failures, thereby constructing failure-aware preference pairs. Extensive experiments demonstrate that DRAA effectively restructures the underlying pathway dependence of model safety, substantially improving robustness against route-level white-box attacks, while preserving general utility.
• Abstract（参考訳）: 大規模な基盤モデル(LFM)がオープン環境に広く展開されるにつれ、安全上の脅威はブラックボックスのジェイルブレイクからホワイトボックスの攻撃へとシフトし、内部の安全ニューロンやルートを直接識別し破壊するようになっている。 しかし、既存の安全防衛は、しばしば静的な安全装置や固定された拒絶経路に依存しており、標的のルートレベルのホワイトボックス攻撃に対して非常に脆弱なモデルを残している。 そこで本稿では,動的ルーティング適応アライメント(DRAA)を提案する。 具体的には、まず、安全な校正サンプルと安全でない校正サンプルの内的アクティベーションを対比することにより、モデルの安全経路を特定し、ローカライズする。 DRAAは、この安全経路を隠蔽して因果的障害を誘発し、結果の防衛失敗を選択的にマイニングし、失敗を認識した優先ペアを構築する。 大規模な実験により、DRAAはモデル安全性の経路依存性を効果的に再構築し、汎用性を維持しながら経路レベルのホワイトボックス攻撃に対するロバスト性を大幅に改善することを示した。

関連論文リスト

• Do Models Share Safety Representations? Cross-Model Steering for Safe Visual Generation [52.122731171289665]
  クロスモデル安全ステアリングのための最初のフレームワークを紹介する。 私たちのパイプラインは、ターゲット側の安全でないデータにアクセスしません。 多様なソース・ターゲット・モデル・ペア間のテキスト・ツー・イメージとテキスト・ツー・ビデオ生成におけるアプローチを評価する。
  論文  参考訳（メタデータ） (2026-06-03T18:00:04Z)
• RASA: Routing-Aware Safety Alignment for Mixture-of-Experts Models [10.741523413040559]
  ルーティング対応の専門家レベルのアライメントフレームワークであるRASAを提案する。 RASAは、ジェイルブレイクの成功によって不当にアクティベートされた専門家を特定し、固定されたルーティングの下でこれらの専門家だけを選択的に微調整する。 この結果から,グローバルなパラメータ更新よりも,目標とする専門家の修復により,ロバストなMoEの安全性が向上することが示唆された。
  論文  参考訳（メタデータ） (2026-02-04T11:19:15Z)
• SafeThinker: Reasoning about Risk to Deepen Safety Beyond Shallow Alignment [43.86865924673546]
  軽量なゲートウェイ分類器を介して防御資源を割り当てる適応型フレームワークであるSafeThinkerを提案する。 実験によると、SafeThinkerは、堅牢性を損なうことなく、さまざまなジェイルブレイク戦略における攻撃の成功率を大幅に低下させる。
  論文  参考訳（メタデータ） (2026-01-23T07:12:53Z)
• UpSafe$^\circ$C: Upcycling for Controllable Safety in Large Language Models [67.91151588917396]
  大規模言語モデル(LLM)は、幅広いタスクで顕著な進歩を遂げているが、有害なコンテンツ生成やジェイルブレイク攻撃といった安全リスクに弱いままである。 安全に配慮したリサイクルによるLCMの安全性向上のための統合フレームワークであるUpSafe$circ$Cを提案する。 この結果から, 静的アライメントから動的, モジュール, 推論対応制御への移行という, LLMの安全性の新たな方向性が明らかになった。
  論文  参考訳（メタデータ） (2025-10-02T16:43:33Z)
• Shape it Up! Restoring LLM Safety during Finetuning [65.75757313781104]
  大型言語モデル(LLM)の微調整は、ユーザ固有のカスタマイズを可能にするが、重大な安全性リスクをもたらす。 動的安全整形(DSS)は,不安全コンテンツを抑えつつ,応答の安全な部分からの学習を強化するための,きめ細かい安全信号を用いたフレームワークである。 STARスコアによって導かれるSTAR-DSSは、微調整リスクを堅牢に軽減し、多様な脅威、データセット、モデルファミリーにまたがる大幅な安全性の向上を提供する。
  論文  参考訳（メタデータ） (2025-05-22T18:05:16Z)
• SafeAligner: Safety Alignment against Jailbreak Attacks via Response Disparity Guidance [48.36220909956064]
  SafeAlignerは、ジェイルブレイク攻撃に対する防御を強化するためのデコード段階で実装された方法論である。 安全性を高めるために訓練されたセンチネルモデルと、よりリスクの高い応答を生成するように設計されたイントルーダモデルである。 SafeAlignerは有害なトークンの発生を低減しつつ、有益トークンの可能性を高めることができることを示す。
  論文  参考訳（メタデータ） (2024-06-26T07:15:44Z)
• BEEAR: Embedding-based Adversarial Removal of Safety Backdoors in Instruction-tuned Language Models [57.5404308854535]
  大型言語モデル(LLM)における安全バックドア攻撃は、正常な相互作用中の検出を回避しながら、安全でない振る舞いをステルス的に引き起こすことができる。 モデル埋め込み空間において,バックドアトリガーが比較的均一なドリフトを引き起こすという知見を活かした緩和手法であるBEEARを提案する。 両レベル最適化手法は、不要な振る舞いを誘発する普遍的な埋め込み摂動を特定し、モデルパラメータを調整し、これらの摂動に対する安全な振舞いを強化する。
  論文  参考訳（メタデータ） (2024-06-24T19:29:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。