論文の概要: RedDarwin: Evolving Jailbreak Skills against Frontier LLMs

• arxiv url: http://arxiv.org/abs/2610.23726v1
• Date: Wed, 14 Oct 2026 08:26:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:08.024818
• Title: RedDarwin: Evolving Jailbreak Skills against Frontier LLMs
• Title（参考訳）: RedDarwin:Frontier LLMに対するジェイルブレイクスキルの進化
• Abstract要約: RedDarwinは、Jailbreakの進化の単位をプロンプトと固定攻撃から実行可能な攻撃スキルに移行するエージェントフレームワークである。 レッドダーウィンは65の進化したスキルを生産し、47回の攻撃のうち44回を改良し、AdvBenchにおける平均攻撃成功率(ASR)を18.8%から47.3%に引き上げた。
• 参考スコア（独自算出の注目度）: 30.626376353994274
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Red teaming must continually adapt as frontier LLM safeguards evolve, yet existing approaches largely search for adversarial prompts or optimize within fixed attack procedures. We observe that even when an attack becomes ineffective, its underlying mechanisms can remain useful and can be revised or recombined to construct stronger attacks. Based on this insight, we introduce RedDarwin, an agentic framework that shifts the unit of jailbreak evolution from prompts and fixed attacks to executable attack skills. RedDarwin consists of 47 reusable base skills and autonomously revises, composes, executes, and selects them using target-model feedback, allowing successful discoveries to become building blocks for subsequent evolution. RedDarwin produces 65 evolved skills, improving 44 of 47 base attacks and increasing their mean attack success rate (ASR) on AdvBench from 18.8% to 47.3%. These evolved skills consistently outperform baselines on the held-out StrongREJECT and frontier LLMs unseen during evolution; with only 10 target-model queries, RedDarwin achieves 100% ASR on GPT-5.6-Sol, 92% on Claude-Sonnet-5, and 80% on Gemini-3.8-Flash. Analysis of the evolution trajectories further shows that strong attacks often emerge from novel combinations of reusable mechanisms rather than from individually dominant ones. We believe this paradigm can accelerate adaptive red teaming and inform stronger safeguards, creating complementary value for both safety evaluation and defense.
• Abstract（参考訳）: レッド・チームリングはフロンティアのLLMセーフガードが進化するにつれて継続的に適応しなければならないが、既存のアプローチは主に敵のプロンプトを探索し、固定された攻撃手順で最適化する。 攻撃が効果的でない場合でも、その基盤となるメカニズムは有用であり、より強力な攻撃を構築するために修正や再結合が可能であることを観察する。 この知見に基づいて、私たちは、Jailbreakの進化の単位をプロンプトや固定攻撃から実行可能な攻撃スキルにシフトするエージェントフレームワークであるRedDarwinを紹介します。 RedDarwinは47の再利用可能なベーススキルで構成され、自動修正、構成、実行、ターゲットモデルフィードバックを使ってそれらを選択することで、その後の進化のためのビルディングブロックとなる。 RedDarwinは65の進化したスキルを生産し、47の攻撃のうち44が改善され、AdvBenchにおける平均攻撃成功率(ASR)が18.8%から47.3%に増加した。 ターゲットモデルクエリはわずか10で、GPT-5.6-Solでは100%、Claude-Sonnet-5では92%、Gemini-3.8-Flashでは80%である。 進化軌道の解析により、強い攻撃は、個々の支配的なものからではなく、新しい再利用可能なメカニズムの組み合わせから生じることが示されている。 このパラダイムは、適応的なレッドチーム化を加速し、より強力な安全保護を通知し、安全評価と防衛の両方に補完的な価値を生み出すことができると信じている。

関連論文リスト

• ReSI: Recursive Safety Improvement toward Resistant and Resilient AI [79.72081502522337]
  再帰的自己改善(Recursive self-improvement)、つまり、AIシステムが自身の能力を改善することへの参加は、理論的な見通しから実践へと移行し始めている。 本稿では,この手法を自動研究によって実装するフレームワークであるReSIを紹介する。 各ラウンドにおいて、ReSIは、現在のターゲットモデルの脆弱性を特定し、トレーニングレシピを開発し、最大の安全性向上でアップデートを促進するために、さまざまな赤チーム方式を適用している。
  論文  参考訳（メタデータ） (2026-10-08T16:17:21Z)
• CoER: Defending against Adaptive Indirect Prompt Injection via Adversarial Co-Evolution and Refinement [19.128257554975104]
  言語モデルエージェントは、ツール使用中に間接的プロンプトインジェクション(IPI)に対して脆弱である。 検証器を用いた共進化・改良フレームワークであるCoERを提案する。 主要な7ドメイン評価では、CoERは全体的な攻撃成功を38.5%から0.2%に削減した。
  論文  参考訳（メタデータ） (2026-09-07T14:09:11Z)
• When Experience Becomes Instruction: Trajectory Poisoning in Self-Evolving Agent Skill Systems [9.77811063571131]
  SES (Self-evolving skill) システムは、信頼できない経験を信頼できない指導にすることを可能にした。 本稿では,この促進プロセスに対するトラジェクティブ・ポジショニング・アタックであるPoisonedEvolutionを紹介する。 スキルヴィジブルなブラックボックス攻撃者は、目標とするスキルを検査し、有界な証拠を提供することができるが、プライベートプールや進化ロジックを観察したり、スキルバンクを編集することはできない。
  論文  参考訳（メタデータ） (2026-08-06T03:32:43Z)
• DARWIN: Evolving Jailbreak Adversary and Guardrail for LLM Safety Evaluation and Protection [39.80800694486431]
  DARWIN-Attackは、ジェイルブレイクをオープンエンド進化プロセスとして定式化する進化的攻撃防御フレームワークである。 DarWIN-Guardは、DARWIN-Attackが生み出した新たな敵のサンプルから反復的に学習するオンライン逆行訓練パラダイムである。 DarWIN-Guardは12の安全ベンチマークで平均91.6%の安全でないリコールを達成し、YuFeng-XGuardやNemotron Guardといった強力なガードレールを上回った。
  論文  参考訳（メタデータ） (2026-07-22T07:08:59Z)
• EvoDefense: Co-Evolving Black-Box Defense with Large Language Models [27.42052058592965]
  大規模言語モデル(LLM)は、特にブラックボックス設定において、多様な攻撃に対して非常に脆弱である。 体験誘導型ブラックボックス防衛パラダイムであるEvoDefenseを紹介する。 EvoDefenseの中核は連続的な攻撃防御進化ループであり、攻撃発生器とガードモデルが攻撃戦略と防御方針を反復的に洗練する。
  論文  参考訳（メタデータ） (2026-05-29T10:49:44Z)
• Active Attacks: Red-teaming LLMs via Adaptive Environments [71.55110023234376]
  大規模言語モデル(LLM)に対する多様な攻撃プロンプトを生成するという課題に対処する。 我々は、犠牲者が進化するにつれて攻撃に適応する新しいRLベースのレッドチームアルゴリズムであるtextitActive Attacksを導入する。
  論文  参考訳（メタデータ） (2025-09-26T06:27:00Z)
• Chasing Moving Targets with Online Self-Play Reinforcement Learning for Safer Language Models [64.47869632167284]
  従来の言語モデル(LM)の安全性アライメントは、リアクティブで非結合な手順に依存している。 このシーケンシャルなアプローチはミスマッチを生み出し、攻撃者は時代遅れの防御に過度に適合する一方、守備側は出現する脅威に常に遅れをとどめている。 我々は,攻撃者と防御エージェントが継続的なインタラクションを通じて共進化するオンラインセルフプレイ強化学習アルゴリズムであるSelf-RedTeamを提案する。
  論文  参考訳（メタデータ） (2025-06-09T06:35:12Z)
• Capability-Based Scaling Laws for LLM Red-Teaming [71.89259138609965]
  従来のプロンプト・エンジニアリングのアプローチは、レッド・チーム化が弱々しく強い問題となると、効果が低下する可能性がある。 我々は,LLMをベースとしたアタッカー・ターゲットペア500以上を,人間のレッドチームの模倣したジェイルブレイク攻撃を用いて評価した。 我々は、攻撃目標能力のギャップに基づいて、固定目標に対する攻撃成功を予測するジェイルブレイクスケーリング法を導出する。
  論文  参考訳（メタデータ） (2025-05-26T16:05:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。