論文の概要: Do Androids Dream of Breaking the Game? Systematically Auditing AI Agent Benchmarks with BenchJack
- arxiv url: http://arxiv.org/abs/2605.12673v1
- Date: Tue, 12 May 2026 19:22:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-14 23:30:27.63952
- Title: Do Androids Dream of Breaking the Game? Systematically Auditing AI Agent Benchmarks with BenchJack
- Title（参考訳）: Androidはゲームの破壊を夢見ているのか? ベンチジャックでAIエージェントのベンチマークをシステム的に監査する
- Authors: Hao Wang, Hanchen Li, Qiuyang Mang, Alvin Cheung, Koushik Sen, Dawn Song,
- Abstract要約: BenchJackは、コーディングエージェントがベンチマークを監査し、報酬をハックする可能性のあるエクスプロイトを識別するシステムである。
BenchJackを、ソフトウェアエンジニアリング、Webナビゲーション、デスクトップコンピューティング、端末操作にまたがる10の人気のあるエージェントベンチマークに適用する。
BenchJackは、単一のタスクを解決することなく、ほとんどのベンチマークでほぼ完璧なスコアを達成する報奨ハックのエクスプロイトを合成する。
- 参考スコア（独自算出の注目度）: 51.54835866517547
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Agent benchmarks have become the de facto measure of frontier AI competence, guiding model selection, investment, and deployment. However, reward hacking, where agents maximize a score without performing the intended task, emerges spontaneously in frontier models without overfitting. We argue that benchmarks must be secure by design. From past incidents of reward hacks, we derive a taxonomy of eight recurring flaw patterns and compile them into the Agent-Eval Checklist for benchmark designers. We condense the insights into BenchJack, an automated red-teaming system that drives coding agents to audit benchmarks and identify possible reward-hacking exploits in a clairvoyant manner. Moreover, we extend BenchJack to an iterative generative-adversarial pipeline that discovers new flaws and patches them iteratively to improve benchmark robustness. We apply BenchJack to 10 popular agent benchmarks spanning software engineering, web navigation, desktop computing, and terminal operations. BenchJack synthesizes reward-hacking exploits that achieve near-perfect scores on most of the benchmarks without solving a single task, surfacing 219 distinct flaws across the eight classes. Moreover, BenchJack's extended pipeline reduces the hackable-task ratio from near 100% to under 10% on four benchmarks without fatal design flaws, fully patching WebArena and OSWorld within three iterations. Our results show that evaluation pipelines have not internalized an adversarial mindset, and that proactive auditing could help close the security gap for the fast-paced benchmarking space.
- Abstract（参考訳）: エージェントベンチマークは、モデル選択、投資、デプロイメントを導く、フロンティアAI能力の事実上の尺度になっています。
しかし、エージェントが意図したタスクを実行せずにスコアを最大化する報酬ハッキングは、過度に適合することなく、フロンティアモデルで自然に現れる。
ベンチマークは設計によって安全でなければならない、と私たちは主張する。
過去の報酬ハックのインシデントから、8つの繰り返し発生する欠陥パターンの分類を導き、それらをベンチマークデザイナのためのエージェント-Evalチェックリストにコンパイルする。
BenchJackは、自動化された再チームのシステムで、コーディングエージェントがベンチマークを監査し、見栄えのよい方法で報酬のハック可能なエクスプロイトを識別する。
さらに、ベンチマークの堅牢性を改善するために、BenchJackを新しい欠陥を発見し、それらを反復的にパッチする反復生成・逆行パイプラインに拡張する。
BenchJackを、ソフトウェアエンジニアリング、Webナビゲーション、デスクトップコンピューティング、端末操作にまたがる10の人気のあるエージェントベンチマークに適用する。
BenchJackは、ほとんどのベンチマークにおいて、ひとつのタスクを解決せずにほぼ完璧なスコアを達成する報奨ハックのエクスプロイトを合成し、8つのクラスで219の異なる欠陥を克服する。
さらに、BenchJackの拡張パイプラインは、致命的な設計上の欠陥のない4つのベンチマークで、ハック可能なタスク比を100%から10%以下に減らし、3イテレーションでWebArenaとOSWorldを完全にパッチする。
以上の結果から,評価パイプラインは敵の考え方を内包していないことが示唆され,迅速なベンチマークスペースのセキュリティギャップを埋める上で,積極的な監査が有効であることが示唆された。
関連論文リスト
- ExploitGym: Can AI Agents Turn Security Vulnerabilities into Real Attacks? [92.21756459993695]
低レベルのプログラム推論を必要とするため、爆発は難しい作業です。
その重要性と診断価値にもかかわらず、搾取は未評価のままである。
ExploitGymは、AIエージェントのエクスプロイト能力に関する大規模で多様な、現実的なベンチマークである。
論文 参考訳（メタデータ） (2026-05-11T18:00:14Z) - Reward Hacking Benchmark: Measuring Exploits in LLM Agents with Tool Use [0.016201337438609787]
ツールアクセスを備えた強化学習(RL)訓練された言語モデルエージェントは、コーディングアシスタント、研究ツール、自律システムにますます多くデプロイされている。
本稿では,Reward Hacking Benchmark (RHB)について紹介する。
OpenAI, Anthropic, Google, DeepSeekの13のフロンティアモデルを評価した。
論文 参考訳（メタデータ） (2026-05-03T07:10:42Z) - BenchGuard: Who Guards the Benchmarks? Automated Auditing of LLM Agent Benchmarks [26.58983143152204]
BenchGuardはタスク指向、実行ベースのエージェントベンチマークのための最初の自動監査フレームワークである。
それは、ScienceAgentBenchの12の著者確認問題と、BIXBench Verified-50サブセットのエキスパート特定問題の83.3%を特定している。
USD 15の50の複雑なバイオインフォマティクスタスクの完全な監査により、自動ベンチマーク監査は人間によるレビューの実践的で価値のある補完となる。
論文 参考訳（メタデータ） (2026-04-27T19:51:25Z) - ClawBench: Can AI Agents Complete Everyday Online Tasks? [50.958690494341106]
ClawBenchは153のシンプルなタスクの評価フレームワークで、人々が人生や仕事で定期的に達成する必要がある。
ClawBenchは本番Webサイトで動作し、実世界のWebインタラクションの完全な複雑さ、動的な性質、課題を保存する。
軽量なインターセプション層は、最終的なリクエストのみをキャプチャしてブロックし、現実世界の副作用なしに安全な評価を保証する。
論文 参考訳（メタデータ） (2026-04-09T17:57:13Z) - SlopCodeBench: Benchmarking How Coding Agents Degrade Over Long-Horizon Iterative Tasks [55.76734816061826]
我々は20の問題と93のチェックポイントからなる言語に依存しないベンチマークであるSlopCodeBenchを紹介する。
我々は、冗長性、重複コードの割合、構造的侵食という2つの軌道レベルの品質信号を追跡する。
11モデルにまたがるエンドツーエンドの問題を解決するエージェントは存在しない。
論文 参考訳（メタデータ） (2026-03-25T19:26:44Z) - OS-Themis: A Scalable Critic Framework for Generalist GUI Rewards [44.03496012544118]
OS-Themisはスケーラブルで正確なマルチエージェント批判フレームワークである。
軌跡を検証可能なマイルストーンに分解し、意思決定のための重要な証拠を分離する。
最終判決を下す前に、エビデンスチェーンを厳格に監査するために、レビューメカニズムを採用している。
AndroidWorldの実験では、OS-ThemisはオンラインRLトレーニングをサポートする際に10.3%改善されている。
論文 参考訳（メタデータ） (2026-03-19T17:47:47Z) - An Effective and Cost-Efficient Agentic Framework for Ethereum Smart Contract Auditing [8.735899453872966]
Heimdallrは,4つのコアイノベーションを通じてハードルを克服するために設計された,自動監査エージェントだ。
重要なビジネスロジックを保持しながら、コンテキストオーバーヘッドを最小限にします。
複雑な脆弱性を検出し、機能的なエクスプロイトを自動的にチェーンする。
論文 参考訳（メタデータ） (2026-01-25T13:28:37Z) - ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack [52.17935054046577]
本稿では、間接的インジェクション攻撃に対する安全性アライメントを改善するためのモデルレベルのソリューションであるReasAlignを提案する。
ReasAlignには、ユーザクエリの分析、競合する命令の検出、ユーザの意図したタスクの継続性を維持するための構造化された推論ステップが組み込まれている。
論文 参考訳（メタデータ） (2026-01-15T08:23:38Z) - Indirect Prompt Injections: Are Firewalls All You Need, or Stronger Benchmarks? [58.48689960350828]
エージェントインタフェースにおけるシンプルでモジュール的で,モデルに依存しないディフェンスが,高ユーティリティで完全なセキュリティを実現することを示す。
ツール入力ファイアウォール(最小限のファイアウォール)とツール出力ファイアウォール(サニタイザ)の2つのファイアウォールをベースとしたディフェンスを採用している。
論文 参考訳（メタデータ） (2025-10-06T18:09:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。