論文の概要: Scalable Weak-to-Strong Verifier Hardening for Agent Environments

• arxiv url: http://arxiv.org/abs/2610.15924v1
• Date: Sun, 11 Oct 2026 21:10:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.271539
• Title: Scalable Weak-to-Strong Verifier Hardening for Agent Environments
• Title（参考訳）: エージェント環境に対する拡張性弱-ストロング検証器の硬化
• Abstract要約: 弱い検証器硬化に対するスケーラブルで完全自動的なアプローチを導入する。 まず、エージェントが直接修正できない独立したバリデーションサンドボックスをセットアップし、次にハッカー修正ループを使用して残りのバリデーション脆弱性を発見して修復する。 当社のHacker-fixerループの以前のバージョンは、公式のTerminal Benchリポジトリによって、その環境におけるエクスプロイトの監査方法として採用されました。
• 参考スコア（独自算出の注目度）: 30.10170718209991
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Agent environments are essential for large language model (LLM) development. They use programmatic verifiers to turn complex outcomes into rewards. Verifiers can be attacked into awarding full credit to cheating agents without completing the intended task, causing inaccurate evaluation and misalignment in training. As agent environments scale in numbers and difficulty, so must the repairing of exploitable verifiers. To this end, we ask whether today's model with scaled compute can automatically harden agent environments to prevent potentially stronger future models from reward hacking. We introduce a scalable, fully automatic approach to weak-to-strong verifier hardening. It first sets up an isolated verifier sandbox that agents cannot directly modify, then uses a hacker-fixer loop to find and repair remaining verifier vulnerabilities. We apply this loop to Terminal Bench, KernelBench, and SETA, substantially reducing attack success across these agent environments. The iterative design scales with the hardening budget, producing progressively stronger defenses as the number of loop iterations increases and outperforming the static, non-iterative baseline. An earlier version of our hacker-fixer loop has been adopted by the official Terminal Bench repository as a way to audit exploits in its environments. Project page: https://verifier-hardening.github.io/.
• Abstract（参考訳）: エージェント環境は、大規模言語モデル(LLM)開発に不可欠である。 彼らは複雑な結果を報酬に変えるためにプログラム検証を使用する。 検証者は、意図したタスクを完了させることなく、不正行為のエージェントに完全な信用を与えるよう攻撃され、不正確な評価とトレーニングの不正な調整を引き起こす。 エージェント環境は数と難易度でスケールするので、悪用可能な検証器の修理も必要である。 この目的のために、現在のスケールされた計算モデルがエージェント環境を自動的に強化し、潜在的に強力な将来モデルによる報酬ハックを防ぐことができるかどうかを問う。 弱い検証器硬化に対するスケーラブルで完全自動的なアプローチを導入する。 まず、エージェントが直接修正できない独立したバリデーションサンドボックスをセットアップし、次にハッカー修正ループを使用して残りのバリデーション脆弱性を発見して修復する。 このループを Terminal Bench, KernelBench, SETA に適用し,これらのエージェント環境における攻撃効果を大幅に低減する。 繰り返し設計は、ハードニング予算でスケールし、ループイテレーションの数が増加し、静的で非定性的なベースラインを上回るにつれて、徐々に強力な防御を生み出します。 当社のHacker-fixerループの以前のバージョンは、公式のTerminal Benchリポジトリによって、その環境におけるエクスプロイトの監査方法として採用されました。 プロジェクトページ: https://verifier-hardening.github.io/.com

関連論文リスト

• EviRepair: Evidence-Driven Agents for Reliable Vulnerability Repair [55.22600943144124]
  リポジトリレベルの脆弱性修復のためのエビデンス駆動型マルチエージェントフレームワークであるEviRepairを提案する。 EviRepairは、エージェントが協力して証拠を収集できるようにすることによって、修復プロセスにエビデンスレビューを導入する。 PatchEvalとSecBenchベンチマークの実験は、EviRepairが既存のエージェントベースのベースラインを一貫して上回ることを示した。
  論文  参考訳（メタデータ） (2026-10-09T12:22:43Z)
• Red-Teaming Auto Mode: Improving Blocking Classifiers Against Malign Coding Agents [2.821981058413775]
  運用システムは、実行前にそれを拒否できるブロッキングモニタを使用して、提案されたアクションをレビューする。 コーディングエージェントがレールから外れないようにするために、プロダクションシステムは、提案されたアクションをブロックモニターでレビューし、実行前にそれを拒否する。 高いレベルの攻撃戦略を指導すると、敵エージェントはいくつかの異なるメカニズムで成功できることがわかった。
  論文  参考訳（メタデータ） (2026-09-17T02:14:53Z)
• Reflections on Trusting Trust, Revisited: Contaminating Self-Modifying AI Coding Agents with Poisoned Benchmarks [22.272681549351983]
  我々は,Darwin Gdel Machine,Self-Improving Coding Agent,Hyperagentsの3つの自己修正型コーディングエージェントを攻撃した。 我々は、ベンチマーク中毒攻撃を可能にするのに十分な脆弱性、ベンチマーク、モデル、エージェントの足場の特性を蒸留する。 自己修正型コーディングエージェントは、このような攻撃に対してより回復力のあるように設計されなければならない、と我々は主張する。
  論文  参考訳（メタデータ） (2026-09-15T20:32:53Z)
• Agent Hacks Agent: Autoresearch for Production-Agent Red-Teaming [8.592488240217625]
  本研究では, 1 つのエージェント研究環境を用いて, 生産用 LLM エージェントの自動リピートについて検討した。 脆弱性仮説を提案し、ファルシファイアを構築し、有効な攻撃をインスタンス化し、サンドボックス化されたハーネスで実行し、検証された結果をVulnerability Concept Graph(VCG)にプロモートする。 直接および間接的な攻撃をカバーする3つのシナリオに関するClude CodeとCodexの裏側で、発見された概念は、モデルとエージェント間で再利用可能な脆弱性コアを明らかにしている。
  論文  参考訳（メタデータ） (2026-07-13T15:31:04Z)
• KAT-Coder-V2.5 Technical Report [61.907486544595336]
  KAT-Coder-V2.5は、実際の実行可能リポジトリ内で自律的に動作するよう訓練されたコーディング中心のエージェントモデルである。 マルチ言語リポジトリをサンドボックス環境に再構築し、フェイル・ツー・パスとパス・ツー・パスの検証を大規模に行う。 我々はさらに、ハーネスランダム化による強化学習、信頼性の強化されたサンドボックス、非対称なアクター-クリティックPPO、およびハイチ指向の報酬フレームワークをスケールする。
  論文  参考訳（メタデータ） (2026-07-06T08:14:02Z)
• ClayBuddy: A Framework, Evaluation, & Mitigation of Coding Agent Failures [1.0742675209112622]
  障害モードは、不特定性、能力エラー、エージェントハーネスエラーの3つのメカニズムから派生したものとして研究する。 我々はClayBuddyを提案する。ClayBuddyはユーザの好みを形作るハーネスで、モデルのインセッションで修正してこれらのエラーを軽減できる。
  論文  参考訳（メタデータ） (2026-06-13T18:29:53Z)
• AgentHijack: Benchmarking Computer Use Agent Robustness to Common Environment Corruptions [78.49000936275773]
  我々は、一般的な汚職下でのコンピュータ利用エージェントの堅牢性を評価するために設計されたベンチマークであるAgentHijackを紹介する。 MLLMをベースとした各種デスクトップタスクを評価し, 汚職の小さな事例であっても, 大幅な性能劣化が生じることを確認した。 本稿では,動作の要約と環境チェックに責任を負う見物人として,アクションジェネレータと接地機能を統合したフレームワークであるAgent Hijack-Agentを提案する。
  論文  参考訳（メタデータ） (2026-05-25T11:09:22Z)
• Do Androids Dream of Breaking the Game? Systematically Auditing AI Agent Benchmarks with BenchJack [51.54835866517547]
  BenchJackは、コーディングエージェントがベンチマークを監査し、報酬をハックする可能性のあるエクスプロイトを識別するシステムである。 BenchJackを、ソフトウェアエンジニアリング、Webナビゲーション、デスクトップコンピューティング、端末操作にまたがる10の人気のあるエージェントベンチマークに適用する。 BenchJackは、単一のタスクを解決することなく、ほとんどのベンチマークでほぼ完璧なスコアを達成する報奨ハックのエクスプロイトを合成する。
  論文  参考訳（メタデータ） (2026-05-12T19:22:45Z)
• Dynamic analysis enhances issue resolution [53.50448142467294]
  DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。 テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。 Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
  論文  参考訳（メタデータ） (2026-03-23T14:48:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。