論文の概要: ACEA: An Adversarial Co-Evolution Arena for Head-to-Head Red-Team and Blue-Team LLM Testing

• arxiv url: http://arxiv.org/abs/2609.08256v1
• Date: Tue, 08 Sep 2026 04:57:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.584041
• Title: ACEA: An Adversarial Co-Evolution Arena for Head-to-Head Red-Team and Blue-Team LLM Testing
• Title（参考訳）: ACEA: ヘッドツーヘッドのRed-TeamとBlue-Team LLMテストのための共進化アリーナ
• Abstract要約: ACEA (Adrial Co-versa Arena) は、プラグ可能な赤チームアダプタとプラグ可能な青チームアダプタを共有ターゲットLLMに接続するプラットフォームである。 任意の赤または青のプロジェクトは最小限のHTTPプロトコルに接続し、ACEA Standard Adapter Protocol (ASAP) と呼ぶ。 本稿では、ACEAの設計と、赤と青のチームが真っ先に得点するメトリクスについて説明する。
• 参考スコア（独自算出の注目度）: 1.3891530345631953
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Automated red-team attacks and blue-team defenses for large language models (LLMs) are advancing quickly. However, attackers and defenders are built and tested in isolation, and the resulting scores are hard to trust. To tackle this, we present ACEA (Adversarial Co-Evolution Arena), a platform that connects a pluggable red-team adapter and a pluggable blue-team adapter to a shared target LLM and scores their attack and defense rates with an LLM judge. ACEA contributes four components. First, a pluggable, model-agnostic arena. Any red or blue project connects over a minimal HTTP protocol, which we call the ACEA Standard Adapter Protocol (ASAP). It can be written in any language, and a project that exposes nothing but the protocol is a full participant. Second, an evaluation methodology built for adversarial rounds. Seeding the target with canonical secrets gives verifiable ground truth that separates real leakage from hallucination. We also send each attack to the target even when the defense blocks it, which measures the attack's raw potency independently of whether it was stopped. Together these yield a per-round decomposition of attack strength and defense effectiveness. Third, a real-time, game-style visualization with a detailed end-of-battle report that localizes each failure. The evaluation thus becomes an actionable signal for improving a red or blue project. Fourth, an optional in-context improvement loop that turns each round's outcome into advisory hints for the next. An adapter can then adapt across rounds without keeping state, provided it reads the hints. We describe the design of ACEA and the metrics through which red and blue teams are scored head to head.
• Abstract（参考訳）: 大規模言語モデル(LLM)に対する自動赤チーム攻撃と青チーム防御が急速に進んでいる。 しかし、アタッカーとディフェンダーは独立して構築され、テストされ、その結果のスコアは信頼できない。 この課題に対処するために、ACEA(Adversarial Co-Evolution Arena)は、プラグ可能な赤チームアダプタとプラグ可能な青チームアダプタを共有ターゲットLLMに接続し、LLMの判定器で攻撃と防御率をスコアするプラットフォームである。 ACEAは4つのコンポーネントを提供している。 まず、プラガブルでモデルに依存しないアリーナ。 赤または青のプロジェクトは、最小限のHTTPプロトコルに接続します。 それはどんな言語でも書けるし、プロトコル以外の何も公開しないプロジェクトは、完全な参加者である。 第2に、対向ラウンドのための評価手法を構築する。 標的を正統的な秘密で見ることは、本当の漏れを幻覚から切り離す検証可能な真実を与える。 また,攻撃をブロックした場合でも,攻撃が停止したかどうかに関わらず,攻撃の生効力を計測する攻撃を標的に送信する。 これらを合わせて、攻撃強度と防御効果を丸ごと分解する。 第三に、リアルタイムのゲームスタイルの可視化と、各障害をローカライズする詳細な終末レポートだ。 これにより、評価は赤または青のプロジェクトを改善するための実行可能な信号となる。 4つ目は、任意のコンテキスト内改善ループで、各ラウンドの結果を次のラウンドのアドバイザリヒントにします。 アダプタは、ヒントを読み取ると、状態を維持することなくラウンド間で適応することができる。 本稿では、ACEAの設計と、赤と青のチームが真っ先に得点するメトリクスについて説明する。

関連論文リスト

• CHASE: Adversarial Red-Blue Teaming for Improving LLM Safety using Reinforcement Learning [11.739543857396775]
  ブラックボックス攻撃者と安全に配慮したディフェンダーを共同開発するチームリングフレームワークであるCHASEを紹介する。 CHASEカットはStrongREJECTスコアを43.2%削減し、良心的なプロンプトで0%の偽りを拒否する。 見出し結果の他に、CHASEはテンプレートのないRL探索が、機械的に異なる攻撃ファミリー間で転送される潜在攻撃プリミティブを回復することを示している。
  論文  参考訳（メタデータ） (2026-06-04T00:06:13Z)
• Boundary Point Jailbreaking of Black-Box LLMs [22.806138486774202]
  我々は,新しい自動ジェイルブレイク攻撃のクラスである境界点ジェイルブレイク(BPJ)を紹介した。 BPJは完全にブラックボックスで、クエリ毎にたった1ビットの情報のみを使用する。 BPJは、憲法違反に対する普遍的ジェイルブレイクの開発に成功した最初の完全自動攻撃アルゴリズムであると考えています。
  論文  参考訳（メタデータ） (2026-02-16T18:29:09Z)
• Safety Alignment of LMs via Non-cooperative Games [51.83432183158595]
  現在のアプローチは、逐次的な敵の訓練に頼り、敵のプロンプトを生成し、それらを防御するために微調整されたLMを生成する。 我々は,アタッカーLMとディフェンダーLMの非ゼロサムゲームとしての安全性アライメントを共同でトレーニングする,異なるパラダイムを導入する。 提案手法では、ポイントワイズスコアではなくペアワイズ比較から導出される優先型報酬信号を用いて、より堅牢な監視と、報酬ハッキングの軽減を実現する。
  論文  参考訳（メタデータ） (2025-12-23T22:13:14Z)
• Red Pill and Blue Pill: Controllable Website Fingerprinting Defense via Dynamic Backdoor Learning [93.44927301021688]
  Webサイト指紋(WF)攻撃は、訪問するWebページを特定するために、ユーザーのコミュニケーションを秘密裏に監視する。 既存のWFディフェンスは、ユニークなトラフィックパターンを乱すことで攻撃者の精度を低下させようとする。 バックドア学習に基づく新しい防衛視点である制御可能なWebサイトフィンガープリントディフェンス(CWFD)を紹介した。
  論文  参考訳（メタデータ） (2024-12-16T06:12:56Z)
• RED QUEEN: Safeguarding Large Language Models against Concealed Multi-Turn Jailbreaking [28.95203269961824]
  我々は,害の防止という目的の下に悪意のある意図を隠蔽し,マルチターンシナリオを構築する新しいジェイルブレイク手法RED QUEEN ATTACKを提案する。 我々の実験によると、全てのLLMはRED QUEEN ATTACKに対して脆弱であり、GPT-4oで87.62%、Llama3-70Bで75.4%に達する。 安全を優先するために, RED QUEEN GUARDと呼ばれる簡単な緩和戦略を導入する。
  論文  参考訳（メタデータ） (2024-09-26T01:24:17Z)
• DALA: A Distribution-Aware LoRA-Based Adversarial Attack against Language Models [64.79319733514266]
  敵攻撃は入力データに微妙な摂動をもたらす可能性がある。 最近の攻撃方法は比較的高い攻撃成功率(ASR)を達成することができる。 そこで本研究では,分散ロラをベースとしたDALA(Adversarial Attack)手法を提案する。
  論文  参考訳（メタデータ） (2023-11-14T23:43:47Z)
• AutoDAN: Interpretable Gradient-Based Adversarial Attacks on Large Language Models [55.748851471119906]
  LLM(Large Language Models)の安全性の整合性は、手動のジェイルブレイク攻撃や(自動)敵攻撃によって損なわれる可能性がある。 最近の研究は、これらの攻撃に対する防御が可能であることを示唆している。敵攻撃は無限だが読めないジベリッシュプロンプトを生成し、難易度に基づくフィルタによって検出できる。 両攻撃の強度をマージする,解釈可能な勾配に基づく対向攻撃であるAutoDANを導入する。
  論文  参考訳（メタデータ） (2023-10-23T17:46:07Z)
• Evolving Diverse Red-team Language Models in Multi-round Multi-agent Games [11.873513881458747]
  Redチームは、Large Language Model(LLM)を攻撃して脆弱性を特定できる。 現在の取り組みは、単一ラウンドのプロンプト設計と、固定ブルーチームに対する一方的なレッドチームの最適化に大きく依存しています。 ここでは、レッドチームとブルーチーム間のマルチラウンド攻撃的および防御的相互作用を分析するために、動的レッドチームゲーム(RTG)を紹介します。
  論文  参考訳（メタデータ） (2023-09-30T09:35:50Z)
• Planning for Attacker Entrapment in Adversarial Settings [16.085007590604327]
  本研究では,攻撃者の知識を使わずに攻撃者が操作できる環境で作業している攻撃者に対する防衛戦略を生成する枠組みを提案する。 この問題の定式化により、より単純な無限地平線割引MDPとして捉えることができ、MDPの最適方針は、攻撃者の行動に対するディフェンダーの戦略を与える。
  論文  参考訳（メタデータ） (2023-03-01T21:08:27Z)
• Object-fabrication Targeted Attack for Object Detection [54.10697546734503]
  物体検出の敵攻撃は 標的攻撃と未標的攻撃を含む。 新たなオブジェクトファブリケーションターゲット攻撃モードは、特定のターゲットラベルを持つ追加の偽オブジェクトをファブリケートする検出器を誤解させる可能性がある。
  論文  参考訳（メタデータ） (2022-12-13T08:42:39Z)
• RayS: A Ray Searching Method for Hard-label Adversarial Attack [99.72117609513589]
  我々は、レイサーチ攻撃(RayS)を提案し、これはハードラベル攻撃の有効性と効率を大幅に改善する。 モデルの正当性チェックとしても使用できる。
  論文  参考訳（メタデータ） (2020-06-23T07:01:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。