Fugu-MT 論文翻訳(概要): EvoDefense: Co-Evolving Black-Box Defense with Large Language Models

論文の概要: EvoDefense: Co-Evolving Black-Box Defense with Large Language Models

arxiv url: http://arxiv.org/abs/2605.31140v1
Date: Fri, 29 May 2026 10:49:44 GMT
ステータス: 翻訳完了
システム内更新日: 2026-06-01 20:56:50.551818
Title: EvoDefense: Co-Evolving Black-Box Defense with Large Language Models
Title（参考訳）: EvoDefense: 大規模言語モデルによるブラックボックス防衛の共進化
Abstract要約: 大規模言語モデル(LLM)は、特にブラックボックス設定において、多様な攻撃に対して非常に脆弱である。体験誘導型ブラックボックス防衛パラダイムであるEvoDefenseを紹介する。 EvoDefenseの中核は連続的な攻撃防御進化ループであり、攻撃発生器とガードモデルが攻撃戦略と防御方針を反復的に洗練する。
参考スコア（独自算出の注目度）: 27.42052058592965
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Large Language Models (LLMs) remain highly vulnerable to diverse attacks, particularly in black-box settings where the internals of target models are inaccessible. Existing black-box defenses typically rely on pre-defined filtering heuristics, which often fail to generalize to unseen attack types and target model architectures. We introduce EvoDefense, an experience-guided co-evolving black-box defense paradigm. EvoDefense employs a guard LLM to detect malicious queries and an experience memory module to accumulate defense knowledge from previous interactions. At the core of EvoDefense is a continuous attack-defense evolution loop, where an attack generator and the guard model iteratively refine their attack strategies and defense policies through experience-guided optimization. This design enables EvoDefense to generalize across unseen attacks and target models without retraining. Experiments on HarmBench, AdvBench, and AlpacaEval show that EvoDefense achieves consistently strong defense performance across seven popular models and five representative LLM attacks, while preserving competitive general capabilities. On HarmBench, EvoDefense reduces the attack success rate (ASR) of AutoDAN-turbo on Gemini-3-flash and LLaMA-3-8B-Instruct from 29.4% and 43.4% to 8.4% and 6.2%, respectively.
Abstract（参考訳）: 大規模言語モデル(LLM)は、特にターゲットモデルの内部がアクセスできないブラックボックス設定において、多様な攻撃に対して非常に脆弱なままである。既存のブラックボックスの防御は、通常、事前に定義されたフィルタリングヒューリスティックに依存しており、しばしば目に見えない攻撃タイプやターゲットモデルアーキテクチャへの一般化に失敗する。体験誘導型ブラックボックス防衛パラダイムであるEvoDefenseを紹介する。 EvoDefenseは、悪意のあるクエリを検知するガードLLMと、以前のインタラクションから防御知識を蓄積するエクスペリエンスメモリモジュールを使用している。 EvoDefenseの中核は連続的な攻撃防御進化ループであり、攻撃生成器とガードモデルが経験誘導最適化を通じて攻撃戦略と防御方針を反復的に洗練する。この設計により、EvoDefenseは、再トレーニングすることなく、目に見えない攻撃やターゲットモデルにまたがって一般化することができる。 HarmBench、AdvBench、AlpacaEvalの実験では、EvoDefenseは競争力のある汎用能力を保ちながら、7つの人気モデルと5つのLLM攻撃で一貫して強力な防御性能を達成している。 HarmBenchでは、EvoDefenseはGemini-3-flashのAutoDAN-turboの攻撃成功率(ASR)を29.4%、LLaMA-3-8B-Instructの43.4%から8.4%と6.2%に下げている。

関連論文リスト

Fully Unleashing the Multimodal Attacker: Meta-Adaptive Jailbreaking of Vision-Language Models [25.860894697929737]
本稿では,攻撃の繰り返しを統括する攻撃戦略プロンプト(ASP)と攻撃の有効性を決定する攻撃モデル重み付けの2つの軸に沿って攻撃者自身を最適化するメタ適応型マルチモーダル・ジェイルブレーキング(MAMJ)を提案する。 MM-SafetyBenchでは、GPT-4o、Gemini-3-Pro-adaptive、Seed 2.0に対して81.0%、78.9%、82.3%のASRを達成した。
論文参考訳（メタデータ） (2026-08-27T15:23:22Z)
Model-Agnostic Lifelong LLM Safety via Externalized Attack-Defense Co-Evolution [43.00984815993804]
EvoSafetyは、永続的で検査可能で再利用可能な外部構造を中心に構築された安全フレームワークである。レッドチームでは、EvoSafetyは攻撃ポリシーに敵のスキルライブラリを装備し、継続的な脆弱性調査を可能にする。防衛学習のために、EvoSafetyは、モデル固有の安全性の微調整を、メモリ検索を付加した軽量な補助防衛モデルに置き換える。
論文参考訳（メタデータ） (2026-05-13T12:07:05Z)
Multi-Faceted Attack: Exposing Cross-Model Vulnerabilities in Defense-Equipped Vision-Language Models [54.61181161508336]
MFA(Multi-Faceted Attack)は、防衛装備型ビジョンランゲージモデル(VLM)の一般的な安全性上の脆弱性を明らかにするフレームワークである。 MFAの中核となるコンポーネントはアテンション・トランスファー・アタック(ATA)であり、競合する目的を持ったメタタスク内に有害な命令を隠す。 MFAは58.5%の成功率を獲得し、既存の手法を一貫して上回っている。
論文参考訳（メタデータ） (2025-11-20T07:12:54Z)
The Attacker Moves Second: Stronger Adaptive Attacks Bypass Defenses Against Llm Jailbreaks and Prompt Injections [74.60337113759313]
現在のジェイルブレイクとプロンプトインジェクションに対する防御は、通常、有害な攻撃文字列の静的セットに対して評価される。我々は,この評価プロセスに欠陥があることを論じる。代わりに,攻撃戦略を明示的に修正したアダプティブアタッカーに対する防御を,防衛設計に対抗して評価すべきである。
論文参考訳（メタデータ） (2025-10-10T05:51:04Z)
MARS: A Malignity-Aware Backdoor Defense in Federated Learning [51.77354308287098]
最近提案されたSOTA攻撃(3DFed)は、ディフェンダーがバックドアモデルを受け入れたかどうかを判断するためにインジケータ機構を使用する。本稿では,各ニューロンの有害な範囲を示すためにバックドアエネルギーを利用するMARS(Maignity-Aware backdooR defenSe)を提案する。実験により、MARSはSOTAのバックドア攻撃に対して防御でき、既存の防御を著しく上回っていることが示された。
論文参考訳（メタデータ） (2025-09-21T14:50:02Z)
Privacy-preserving Universal Adversarial Defense for Black-box Models [20.968518031455503]
本稿では,対象モデルのパラメータやアーキテクチャへのアクセスを必要としない,汎用的なブラックボックス防御手法であるDUCDを紹介する。このアプローチでは、データをクエリすることでターゲットモデルをクエリし、データのプライバシを保持しながら、ホワイトボックスサロゲートを生成します。複数の画像分類データセットの実験では、DUCDは既存のブラックボックスディフェンスよりも優れており、ホワイトボックスディフェンスの精度と一致している。
論文参考訳（メタデータ） (2024-08-20T08:40:39Z)
Versatile Defense Against Adversarial Attacks on Image Recognition [2.9980620769521513]
現実の環境での敵の攻撃に対する防御は、アンチウイルスソフトの動作方法と比較することができる。画像から画像への翻訳をベースとした防御手法が実現可能であると考えられる。訓練されたモデルは、分類精度をほぼゼロから平均86%に改善した。
論文参考訳（メタデータ） (2024-03-13T01:48:01Z)
BadCLIP: Dual-Embedding Guided Backdoor Attack on Multimodal Contrastive Learning [85.2564206440109]
本報告では,防衛後においてもバックドア攻撃が有効であり続けるという現実的なシナリオにおける脅威を明らかにする。バックドア検出や細調整防御のモデル化に抵抗性のあるemphtoolnsアタックを導入する。
論文参考訳（メタデータ） (2023-11-20T02:21:49Z)
Stateful Defenses for Machine Learning Models Are Not Yet Secure Against Black-box Attacks [28.93464970650329]
我々は、ステートフルディフェンスモデル(SDM)が、新しいタイプの適応ブラックボックス攻撃に対して非常に脆弱であることを示す。我々はOracle-Guided Adaptive Rejection Smpling (OARS)と呼ばれる新しい適応ブラックボックス攻撃戦略を提案する。本研究では,6つの共通ブラックボックス攻撃を強化する戦略を,現行のSDMに対して効果的に適用する方法を示す。
論文参考訳（メタデータ） (2023-03-11T02:10:21Z)
MultiRobustBench: Benchmarking Robustness Against Multiple Attacks [86.70417016955459]
機械学習(ML)モデルに対するマルチアタックを検討するための,最初の統一フレームワークを提案する。我々のフレームワークは、テストタイムの敵について異なるレベルの学習者の知識をモデル化することができる。 9種類の攻撃に対して16種類の防御モデルの有効性を評価した。
論文参考訳（メタデータ） (2023-02-21T20:26:39Z)
Fighting Gradients with Gradients: Dynamic Defenses against Adversarial Attacks [72.59081183040682]
我々は,防御エントロピー最小化(dent)により,テスト中にモデルと入力に適応する動的防御を提案する。 dentは、CIFAR-10/100およびImageNetに対する、敵に訓練された防御と名指しで訓練されたモデルの堅牢性を改善する。
論文参考訳（メタデータ） (2021-05-18T17:55:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。