論文の概要: Adversarial Self-Distillation

• arxiv url: http://arxiv.org/abs/2610.38732v1
• Date: Wed, 28 Oct 2026 19:26:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.405026
• Title: Adversarial Self-Distillation
• Title（参考訳）: 対訳 自己蒸留
• Abstract要約: 逆自己蒸留(Adversarial Self-Distillation、ASD)は、モデル自身の安全な振る舞いを敵の摂動の空間に拡張する。 ASDは、複数の選択精度を損なうことなく、最先端の防御よりも低い攻撃成功を達成する。
• 参考スコア（独自算出の注目度）: 58.171138746381395
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Even though current safety-aligned language models are able to refuse harmful requests, their guard can still be bypassed by adversarial perturbations. As in other domains, adversarial training is considered a standard defense. However, due to the autoregressive nature of language generation, supervised finetuning on template refusals does not necessarily teach the model to refuse. Evidence of this is that the adversarially trained model still complies when the attacker injects a compliant prefill. We propose Adversarial Self-Distillation (ASD), which extends a model's own safe behavior to the space of adversarial perturbations. The teacher (the model itself given the clean prompt) can refuse the harmful request by default, or with the help of an additional instruction in its context. ASD distills this knowledge to the student (which is the same model under attack) at the prefixes that the student visits (due to on-policy sampling). These potentially include compliant openings. ASD achieves lower attack success than state-of-the-art defenses with little loss in multiple-choice accuracy, and it becomes able to recover a refusal even after a compliant opening.
• Abstract（参考訳）: 現在の安全に配慮した言語モデルは有害な要求を拒否することができるが、そのガードは敵の摂動によって回避される。 他の藩と同様に、敵の訓練は標準的な防御と見なされている。 しかし、言語生成の自己回帰的な性質のため、テンプレートの拒絶を監督する微調整は、必ずしも拒否するモデルを教えるとは限らない。 これの証拠は、アタッカーが準拠したプリフィルを注入したとき、敵に訓練されたモデルがまだ準拠していることである。 本稿では, モデル自体の安全な振る舞いを, 逆方向の摂動空間に拡張する, 逆方向自己蒸留(ASD)を提案する。 教師(モデル自体がクリーンプロンプトを付与している)は、悪質な要求をデフォルトで拒否するか、あるいはそのコンテキストで追加の命令の助けを借りて拒否することができる。 ASDは、学生が訪問するプレフィックス(オンラインサンプリングのため)で、この知識を学生(攻撃中の同じモデル)に蒸留する。 これらは、互換性のある開口部を含む可能性がある。 ASDは、複数選択精度を損なうことなく、最先端の防御よりも低い攻撃成功を実現し、適合した開口後でも拒絶を回復することができる。

関連論文リスト

• Refusal geometry reflects refusal training: diverse refusal prefixes can raise stable rank and weaken refusal vector ablation attacks [1.0152838128195467]
  フェールトレーニングは、トレーニングモデルによってAIモデルをジェイルブレイクから保護し、安全でないクエリを減らし、誤用のリスクを低減する。 近年の研究では、アライメント言語モデルにおける拒絶行動は、単一のアクティベーション方向または有害なプロンプト間で共有される低次元の拒絶部分空間によって媒介されることが判明している。 しかし、なぜ広範囲のモデルで安全クリティカルな特徴が集中した低次元構造に現れるのかは、いまだ不明である。
  論文  参考訳（メタデータ） (2026-08-26T05:35:54Z)
• Latent-space Attacks for Refusal Evasion in Language Models [14.290157825353846]
  我々は,リフレクションをリフレクションから分離するよう訓練された線形プローブに対する遅延空間回避攻撃として再放送した。 我々は15の命令調整、マルチモーダル、推論モデルに対して、最先端の攻撃成功率を達成する。
  論文  参考訳（メタデータ） (2026-05-20T20:10:27Z)
• Think Before Refusal : Triggering Safety Reflection in LLMs to Mitigate False Refusal Behavior [59.20260988638777]
  本研究は, 応答発生前の安全反射の促進により, 虚偽の拒絶行動が軽減されることを実証する。 15種類の事前訓練モデルを対象としたアブレーション実験において, 安全性を考慮した微調整モデルでは, 誤検知の挙動が著しく低下することがわかった。
  論文  参考訳（メタデータ） (2025-03-22T23:35:49Z)
• A Generative Approach to LLM Harmfulness Mitigation with Red Flag Tokens [26.119521867045616]
  モデルの語彙を特別な赤いフラグトークンで拡張することを提案する。 有害なコンテンツが生成または差し迫ったときに、このトークンを挿入するようにモデルをトレーニングします。 このアプローチは,既存の安全技術と補完するものだ。
  論文  参考訳（メタデータ） (2025-02-22T21:48:48Z)
• QUEEN: Query Unlearning against Model Extraction [22.434812818540966]
  モデル抽出攻撃は、ディープラーニングモデルのセキュリティとプライバシに対して、無視できない脅威となる。 本稿では,QUEEN(QUEry unlEarNing)を提案する。
  論文  参考訳（メタデータ） (2024-07-01T13:01:41Z)
• Isolation and Induction: Training Robust Deep Neural Networks against Model Stealing Attacks [51.51023951695014]
  既存のモデル盗難防衛は、被害者の後部確率に偽りの摂動を加え、攻撃者を誤解させる。 本稿では,モデルステルス防衛のための新規かつ効果的なトレーニングフレームワークである分離誘導(InI)を提案する。 モデルの精度を損なうモデル予測に摂動を加えるのとは対照的に、我々はモデルを訓練して、盗むクエリに対して非形式的なアウトプットを生成する。
  論文  参考訳（メタデータ） (2023-08-02T05:54:01Z)
• Preventing Verbatim Memorization in Language Models Gives a False Sense of Privacy [91.98116450958331]
  我々は、動詞の暗記の定義があまりに制限的であり、より微妙な暗記の形式を捉えることができないと論じる。 具体的には、全ての動詞の暗記を完全に防止する効率的な防御を設計し、実装する。 我々は、潜在的な代替定義について議論し、なぜ記憶の定義がニューラルネットワークモデルにとって難しいが決定的なオープンな問題であるのかを論じる。
  論文  参考訳（メタデータ） (2022-10-31T17:57:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。