論文の概要: Peer Pressure: Execution-Verified Co-Evolution of Attacker and Defender Populations for Code Security

• arxiv url: http://arxiv.org/abs/2610.24896v1
• Date: Sat, 17 Oct 2026 22:36:09 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 22:13:22.788133
• Title: Peer Pressure: Execution-Verified Co-Evolution of Attacker and Defender Populations for Code Security
• Title（参考訳）: Peer Pressure: コードセキュリティのためのアタッカーとディフェンダーの共進化の実行検証
• Abstract要約: LLMのコードエージェントは、ほとんど監視せずにコードを出荷する傾向にあるが、静的な脆弱性データセットでトレーニングされたディフェンダーは、敵の適応に遅れる。 代わりに攻撃者とディフェンダーを共同で訓練し、実行がすべての報酬を決定するようにします。 PRPO の 7B diff レビュアーは、64.8% の精度で、未学習の3つの言語で4つの見知らぬアプリケーションに適用できる。
• 参考スコア（独自算出の注目度）: 14.26691889668959
• License:
• Abstract: LLM code agents increasingly ship code with little oversight, yet defenders trained on static vulnerability datasets fall behind adapting adversaries. We co-train attacker and defender instead, and let execution decide every reward: an attacker (Red) edits a real repository and earns nothing unless its patch applies, builds, passes the tests, completes its development task and reproduces a real exploit in an isolated container, whose path also labels the entry point, the critical operation and the trace between them. Peer-Relative Policy Optimization (PRPO) makes both sides populations of LoRA adapters over one frozen base and credits each against same-role peers that faced an identical condition, placing the population inside the policy-gradient baseline rather than the opponent pool, with a tournament preserving diversity. Matching cancels the condition's difficulty: at equal coverage it is worth 2.3 points of balanced accuracy over a baseline computed on other conditions, and it matches a within-policy control at half the verifier spend. PRPO's 7B diff reviewer reaches 64.8% balanced accuracy on four unseen applications in three untrained languages, 5.5 points above supervised security fine-tuning and 4.4 above a frozen frontier reviewer (Claude Opus 4.8), which it leads by 15.8 on the application it trains on. Its 9B repository agent recovers 23 of 172 held-out VulnGym advisories, against 10 after supervised fine-tuning and 7 for the same backbone untrained under the same scaffold, and locates 17 of 43 reachable entry points against 13 for mini-swe-agent with GLM-5.2. Run unchanged on jailbreak defense, the same algorithm matches or exceeds WildGuard's static F1 at equal corpus and model size. Under a judge distinct from its training oracle it cuts attack success from 36.0% to 4.6%, against WildGuard's 8.9%.
• Abstract（参考訳）: LLMのコードエージェントは、ほとんど監視せずにコードを出荷する傾向にあるが、静的な脆弱性データセットでトレーニングされたディフェンダーは、敵の適応に遅れる。 攻撃者(赤)は実際のリポジトリを編集し、パッチを適用し、テストを実行し、テストを実行し、開発タスクを完了し、独立したコンテナで実際のエクスプロイトを再現し、そのパスはエントリポイント、クリティカルオペレーション、トレースをラベル付けします。 Peer-Relative Policy Optimization (PRPO) は、ロラアダプターの両側の人口を1つの凍結したベースに分け、それぞれ同じ条件に直面する同一のルートのピアに対して信用を与え、その人口を相手プールではなく政策の緩やかなベースラインの中に配置し、多様性を保ちながらトーナメントを開催する。 整合性は条件の難しさをキャンセルし、同じ範囲では、他の条件で計算されたベースラインよりも2.3ポイントのバランスの取れた正確さを持つ。 PRPOの7B diffレビュアーは、3つの訓練されていない言語で4つの未確認アプリケーションに対して64.8%の精度に達し、5.5ポイントはセキュリティの微調整を監督し、4.4ポイントは凍結されたフロンティアレビュアー(Claude Opus 4.8)より上である。 9Bレポジトリエージェントは、同じ足場の下で訓練されていない同じバックボーンに対して監督された微調整と7の後に、VulnGymアドバイザリーのうち172の23を10に対して回収し、GLM-5.2でミニスイートエイトに対して43の到達可能なエントリーポイントのうち17を13に配置する。 同じアルゴリズムがジェイルブレイク防御で実行され、同じコーパスとモデルサイズでWildGuardの静的F1に一致または超える。 訓練神託とは別の裁判官の下では、ワイルドガードの8.9%に対して、攻撃の成功を36.0%から4.6%に減らしている。

関連論文リスト

• VERA: Verifiable Feasibility Representations with Counterfactual Credit for Constrained Multi-Agent Control [9.501098247724594]
  集中学習型分散実行フレームワークであるVERAを紹介する。 信用代入から可能性推定を分離する。 VERAは55.33%+/-3.60%の成功、0.45%+/-0.81%のカバレッジ違反がある。
  論文  参考訳（メタデータ） (2026-09-30T03:37:29Z)
• Reward Hacking Challenges Oversight of Autonomous Research Agents [104.38175629103235]
  自律的な研究エージェントは実験を設計し、結果を評価し、レポートを書き、科学的結果とそれを支持する証拠の両方を制御できる。 これは、意図した目標を達成することなく、報酬基準を満たす、報酬ハックのリスクを生み出す。 そこで本研究では,ハッキングが許可された場合,その方法がいかに効果的かつ検出可能か,LCMレビューパネルが意思決定と理由を返却した場合にどのように適応するか,などについて検討する。
  論文  参考訳（メタデータ） (2026-09-23T17:54:01Z)
• CoER: Defending against Adaptive Indirect Prompt Injection via Adversarial Co-Evolution and Refinement [19.128257554975104]
  言語モデルエージェントは、ツール使用中に間接的プロンプトインジェクション(IPI)に対して脆弱である。 検証器を用いた共進化・改良フレームワークであるCoERを提案する。 主要な7ドメイン評価では、CoERは全体的な攻撃成功を38.5%から0.2%に削減した。
  論文  参考訳（メタデータ） (2026-09-07T14:09:11Z)
• AlcaTRAz - Anchored Tree-Rule Defense Against Jailbreaks [0.08699280339422538]
  大規模言語モデル(LLM)は、慎重に構築されたプロンプトを通じて安全アライメントをバイパスするジェイルブレイク攻撃に対して脆弱である。 本稿では,AlcaTRAzを提案する。AlcaTRAzは,入力テキストのみで動作するルールツリーに基づく,プロンプトレベルの防御手法である。 提案手法は,33のオープンウェイトモデル,22のジェイルブレイク攻撃タイプ,および短い単ターンベニグナーのベンチマークで評価した。
  論文  参考訳（メタデータ） (2026-09-03T11:30:08Z)
• MOSAIC-Bench: Measuring Compositional Vulnerability Induction in Coding Agents [2.1942030377331245]
  コーディングエージェントは、しばしばプロンプト毎の安全性レビューをパスするが、それらのタスクが通常のエンジニアリングチケットに分解されると、悪用可能なコードを出荷する。 199個の3段階攻撃チェーンのベンチマークであるMOSAIC-Benchを紹介する。 9つのプロダクションコーディングエージェントが53～86%の終末ASRで無害なチケットを構成しており、全ステージで2回しか拒否しないことを示す。
  論文  参考訳（メタデータ） (2026-05-05T16:38:23Z)
• Claw-Eval: Toward Trustworthy Evaluation of Autonomous Agents [66.97968363332465]
  エージェントベンチマークの3つのギャップに対処するエンドツーエンド評価スイートであるClaw-Evalを紹介した。 Claw-Evalは3つのグループにまたがる9つのカテゴリにまたがる300の人間検証タスクで構成されている。 すべてのエージェントアクションは、3つの独立したエビデンスチャネルを通じて記録される。
  論文  参考訳（メタデータ） (2026-04-07T17:43:18Z)
• Your Agent, Their Asset: A Real-World Safety Analysis of OpenClaw [87.97230960702274]
  本稿では,OpenClawの安全性評価について紹介する。 エージェントの永続状態を3次元に統一するCIK分類法を導入する。 評価では、ライブOpenClawインスタンス上の12のアタックシナリオをカバーしています。
  論文  参考訳（メタデータ） (2026-04-06T15:27:05Z)
• TRYLOCK: Defense-in-Depth Against LLM Jailbreaks via Layered Preference and Representation Engineering [0.0]
  提案するTRYLOCKは,推論スタックをまたいだ4つのメカニズムを組み合わせた,最初のディフェンス・イン・ディースアーキテクチャである。 Mistral-7B-Instructが249プロンプト攻撃セットに対して評価された場合、TRYLOCKは88.0%の相対的なASR減少を達成する。
  論文  参考訳（メタデータ） (2026-01-06T03:02:20Z)
• WildGuard: Open One-Stop Moderation Tools for Safety Risks, Jailbreaks, and Refusals of LLMs [54.10865585773691]
  LLM安全性のためのオープンで軽量なモデレーションツールであるWildGuardを紹介します。 WildGuardは、ユーザプロンプトにおける悪意のある意図の特定、モデルレスポンスの安全性リスクの検出、モデル拒絶率の決定という3つの目標を達成する。
  論文  参考訳（メタデータ） (2024-06-26T16:58:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。