論文の概要: Model-Agnostic Lifelong LLM Safety via Externalized Attack-Defense Co-Evolution

• arxiv url: http://arxiv.org/abs/2605.13411v1
• Date: Wed, 13 May 2026 12:07:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-14 23:30:28.031042
• Title: Model-Agnostic Lifelong LLM Safety via Externalized Attack-Defense Co-Evolution
• Title（参考訳）: 外部攻撃拡散共進化によるモデル非依存寿命LDMの安全性
• Authors: Xiaozhe Zhang, Chaozhuo Li, Hui Liu, Shaocheng Yan, Bingyu Yan, Qiwei Ye, Haoliang Li,
• Abstract要約: EvoSafetyは、永続的で検査可能で再利用可能な外部構造を中心に構築された安全フレームワークである。 レッドチームでは、EvoSafetyは攻撃ポリシーに敵のスキルライブラリを装備し、継続的な脆弱性調査を可能にする。 防衛学習のために、EvoSafetyは、モデル固有の安全性の微調整を、メモリ検索を付加した軽量な補助防衛モデルに置き換える。
• 参考スコア（独自算出の注目度）: 43.00984815993804
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models remain vulnerable to adversarial prompts that elicit harmful outputs. Existing safety paradigms typically couple red-teaming and post-training in a closed, policy-centric loop, causing attack discovery to suffer from rapid saturation and limiting the exposure of novel failure modes, while leaving defenses inefficient, rigid, and difficult to transfer across victim models. To this end, we propose EvoSafety, an LLM safety framework built around persistent, inspectable, and reusable external structures. For red teaming, EvoSafety equips the attack policy with an adversarial skill library, enabling continued vulnerability probing through simple library expansion after saturation, while supporting the evolution of adversarial vectors. For defense learning, EvoSafety replaces model-specific safety fine-tuning with a lightweight auxiliary defense model augmented with memory retrieval. This enables efficient, transferable, and model-agnostic safety improvements, while allowing robustness to be enhanced solely through memory updates. With a single training procedure, the defense policy can operate in both Steer and Guard modes: the former activates the victim model's intrinsic defense mechanisms, while the latter directly filters harmful inputs. Extensive experiments demonstrate the superiority of EvoSafety: in Guard mode, it achieves a 99.61% defense success rate, outperforming Qwen3Guard-8B by 14.13% with only 37.5% of its parameters, while preserving reasoning performance on benign queries. Warning: This paper contains potentially harmful text.
• Abstract（参考訳）: 大規模な言語モデルは、有害なアウトプットを誘発する敵のプロンプトに弱いままである。 既存の安全パラダイムは、通常、閉じたポリシー中心のループでレッドチームとポストトレーニングを結合し、攻撃発見が急激な飽和と、新しい障害モードの露出を制限することを引き起こし、防御は非効率で堅固で、被害者のモデル間での移動が困難である。 この目的のために、永続的で、検査可能で、再利用可能な外部構造を中心に構築されたLLM安全フレームワークであるEvoSafetyを提案する。 レッドチームでは、EvoSafetyは敵のスキルライブラリとアタックポリシーを装備し、飽和後の単純なライブラリ拡張による継続的な脆弱性探索を可能にするとともに、敵のベクトルの進化をサポートする。 防衛学習のために、EvoSafetyは、モデル固有の安全性の微調整を、メモリ検索を付加した軽量な補助防衛モデルに置き換える。 これにより、効率よく、転送可能で、モデルに依存しない安全性が向上し、メモリ更新のみで堅牢性を高めることができる。 単一の訓練手順で、防衛方針はステアモードとガードモードの両方で動作可能で、前者は犠牲者モデルの固有の防御機構を起動し、後者は有害な入力を直接フィルタリングする。 ガードモードでは、99.61%の防衛成功率を達成し、Qwen3Guard-8Bをわずか37.5%で14.13%上回った。 警告: この論文には潜在的に有害なテキストが含まれている。

関連論文リスト

• RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
  視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。 しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。 提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
  論文  参考訳（メタデータ） (2025-12-24T15:01:26Z)
• SAID: Empowering Large Language Models with Self-Activating Internal Defense [23.654016424365906]
  我々は,新たな非訓練型防衛パラダイム,自走型内国防衛(SAID)を導入する。 SAIDは、防衛タスクを外部修正から内部機能アクティベーションにリフレームする。 それは、有害な出力を減らすために最先端の防御を著しく上回っている。
  論文  参考訳（メタデータ） (2025-10-23T02:07:54Z)
• SVDefense: Effective Defense against Gradient Inversion Attacks via Singular Value Decomposition [2.770477290556769]
  Federated Learning(FL)は、生データを共有せずに協調的なモデルトレーニングを可能にするが、勾配反転攻撃(GIA)に弱い。 SVD(Truncated Singular Value Decomposition)を利用して勾配更新を難読化するGIAに対する新しい防御フレームワークであるSVDefenseを提案する。 SVDefenseは様々なリソース制約の組込みプラットフォームにデプロイするのに実用的です。
  論文  参考訳（メタデータ） (2025-10-01T03:25:41Z)
• SafeSteer: Adaptive Subspace Steering for Efficient Jailbreak Defense in Vision-Language Models [25.027627636905475]
  軽量な推論時ステアリングフレームワークであるSafeSteerを提案する。 SafeSteerは攻撃成功率を60%以上削減し,通常のタスクの精度を1～2%向上することを示す。
  論文  参考訳（メタデータ） (2025-09-24T12:46:41Z)
• Refuse Whenever You Feel Unsafe: Improving Safety in LLMs via Decoupled Refusal Training [67.30423823744506]
  我々は,LLMに対して,いかなる応答位置においても有害なプロンプトへのコンプライアンスを拒否する権限を付与する,新しいアプローチであるDecoupled Refusal Training(DeRTa)を導入する。 DeRTaは,(1)安全応答の開始に有害な応答のセグメントを付加することにより,安全でないコンテンツの認識と回避をモデルに訓練する,(2)有害応答シーケンスを通して潜在的障害から安全拒絶へ移行する能力をモデルに装備する強化遷移最適化(RTO)という,2つの新しいコンポーネントを組み込んでいる。
  論文  参考訳（メタデータ） (2024-07-12T09:36:33Z)
• BEEAR: Embedding-based Adversarial Removal of Safety Backdoors in Instruction-tuned Language Models [57.5404308854535]
  大型言語モデル(LLM)における安全バックドア攻撃は、正常な相互作用中の検出を回避しながら、安全でない振る舞いをステルス的に引き起こすことができる。 モデル埋め込み空間において,バックドアトリガーが比較的均一なドリフトを引き起こすという知見を活かした緩和手法であるBEEARを提案する。 両レベル最適化手法は、不要な振る舞いを誘発する普遍的な埋め込み摂動を特定し、モデルパラメータを調整し、これらの摂動に対する安全な振舞いを強化する。
  論文  参考訳（メタデータ） (2024-06-24T19:29:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。