論文の概要: When Passing Tests Hides Vulnerabilities: An Empirical Study of Silent Failures in Agentic Systems
- arxiv url: http://arxiv.org/abs/2609.10548v1
- Date: Thu, 25 Jun 2026 10:37:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.49065
- Title: When Passing Tests Hides Vulnerabilities: An Empirical Study of Silent Failures in Agentic Systems
- Title（参考訳）: テストに合格すると脆弱性が隠される:エージェントシステムにおける無声障害の実証的研究
- Abstract要約: サイレント障害の3つの主要なカテゴリは、許可、導入、不適切である。
10のきめ細かい障害コードはこれらの3つのカテゴリに分類され、どのようにエージェントがセキュリティ制御を省略するかを示している。
同様の安全でないソリューションは、さまざまなフレームワークにまたがって現れ、モデル、プロンプト、タスクレベルの影響を共有できる可能性が示唆された。
- 参考スコア（独自算出の注目度）: 4.495819148271923
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLM-based agents for automated code repair have received significant attention in recent years from both research and software engineering practice perspectives. However, limited attention has been paid to patches that pass syntactic and functional verification but still retain or introduce security vulnerabilities. The aim of this research is to systematically identify and categorize such silent failures in LLM-based agentic code repair. We conducted an empirical study using 1,030 valid execution traces produced by seven agent frameworks with GPT-4o-mini across two security-focused datasets, SecurityEval and CVEfixes. Through three iterations of qualitative coding and manual verification, 170 confirmed silent failures were identified. The key results are: (i) Three main categories of silent failures were identified: Omission, Introduction, and Inadequacy. Omission accounts for 48.2% of the confirmed failures, Introduction for 30.6%, and Inadequacy for 21.2%. (ii) Ten fine-grained failure codes were classified under these three categories, showing how agents omit required security controls, apply incomplete defenses, or introduce new vulnerabilities during repair. (iii) Current test-passing evaluation and LLM-based reviewer roles were insufficient to expose or intercept these failures in the confirmed cases. (iv) Similar insecure solutions appeared across different frameworks, suggesting possible shared model-, prompt-, or task-level influences, while single-agent and multi-agent systems showed different failure profiles. The results of this study will assist researchers and practitioners in improving the evaluation of LLM-based agentic code repair and developing targeted verification methods that go beyond functional correctness and cover all generated artifacts.
- Abstract（参考訳）: 自動コード修復のためのLLMベースのエージェントは、近年、研究とソフトウェア工学の両方の観点から大きな注目を集めている。
しかしながら、構文的および機能的検証をパスするが、セキュリティ上の脆弱性を保持したり、導入したりするパッチには、限定的な注意が払われている。
本研究の目的は,LSMに基づくエージェントコード修復において,そのようなサイレント障害を系統的に同定し,分類することである。
セキュリティに重点を置く2つのデータセットであるSecurityEvalとCVEfixesにまたがって,GPT-4o-miniを持つ7つのエージェントフレームワークによって生成される1,030の有効な実行トレースを用いて実証的研究を行った。
定性的なコーディングと手動検証の3つのイテレーションを通じて、170のサイレント障害が確認された。
主な結果は次のとおりである。
一 閉鎖、導入、不適切という三つの主要なサイレント障害のカテゴリーが特定された。
失業率は確認された失敗の48.2%、導入30.6%、不適切21.2%である。
(二)これらの3つのカテゴリに分類され、エージェントがセキュリティ制御を省略し、不完全な防御を施したり、修理中に新たな脆弱性を導入したりした。
3 検査パスの評価とLCMに基づく審査員の役割は、確認された事例においてこれらの失敗を暴露又は傍受するには不十分であった。
(iv) 類似した安全でないソリューションは、異なるフレームワークにまたがって現れ、モデルレベル、プロンプトレベル、タスクレベルの影響を共有できるが、単一エージェントおよびマルチエージェントシステムは異なる障害プロファイルを示した。
本研究は,LLMに基づくエージェントコード修復の評価の改善と,機能的正当性を超えて生成したすべてのアーティファクトをカバーした対象検証手法の開発を支援するものである。
関連論文リスト
- A Quasi-Experimental Developer Study of Security Training in LLM-Assisted Web Application Development [9.493071661387596]
実験では,事前学習と訓練後比較を併用した混合設計と,対象間の専門的要因を探索的に比較した。
主要参加者レベルエンドポイントは重度重み付き検証弱度スコアであった。
訓練後の条件は、正確なウィルコクソンの署名ランク試験で有意な対の減少を示した。
論文 参考訳（メタデータ） (2026-04-20T03:34:29Z) - Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。
内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
論文 参考訳（メタデータ） (2026-03-13T20:44:15Z) - TestExplora: Benchmarking LLMs for Proactive Bug Discovery via Repository-Level Test Generation [19.43198506241428]
提案するTestExploraは,大規模言語モデルを積極的なテスタとして評価するためのベンチマークである。
TestExploraには482リポジトリから2,389のタスクが含まれており、すべての欠陥関連信号を隠している。
現状のモデルでは、F2P(Fail-to-Pass)の最大率は16.06%である。
論文 参考訳（メタデータ） (2026-02-11T03:22:51Z) - SecureAgentBench: Benchmarking Secure Code Generation under Realistic Vulnerability Scenarios [17.276786247873613]
SecureAgentBenchは、セキュアなコード生成において、コードエージェントの機能を厳格に評価するために設計された105のコーディングタスクのベンチマークである。
その結果、(i)現在のエージェントがセキュアなコードを生成するのに苦労していることが示され、最高のパフォーマンスのエージェントであるDeepSeek-V3.1がサポートしているSWE-agentも15.2%の正安のソリューションしか達成していない。
論文 参考訳（メタデータ） (2025-09-26T09:18:57Z) - VulAgent: Hypothesis-Validation based Multi-Agent Vulnerability Detection [55.957275374847484]
VulAgentは仮説検証に基づくマルチエージェント脆弱性検出フレームワークである。
セマンティクスに敏感なマルチビュー検出パイプラインを実装しており、それぞれが特定の分析の観点から一致している。
平均して、VulAgentは全体的な精度を6.6%改善し、脆弱性のある固定されたコードペアの正確な識別率を最大450%向上させ、偽陽性率を約36%削減する。
論文 参考訳（メタデータ） (2025-09-15T02:25:38Z) - VulnRepairEval: An Exploit-Based Evaluation Framework for Assessing Large Language Model Vulnerability Repair Capabilities [41.85494398578654]
VulnRepairEvalは、関数型Proof-of-Conceptエクスプロイトに固定された評価フレームワークである。
我々のフレームワークは、再現可能な微分評価を可能にする包括的でコンテナ化された評価パイプラインを提供する。
論文 参考訳（メタデータ） (2025-09-03T14:06:10Z) - On the need to perform comprehensive evaluations of automated program repair benchmarks: Sorald case study [4.968268396950843]
自動プログラム修復(APR)ツールは、静的解析プロファイラによって検出された違反に自動的に対処することで、コード品質を改善することを目的としている。
これまでの研究では、APRツールは違反をクリアする能力のためにのみ評価される傾向があった。
本研究では,最先端のAPRツールであるSoraldを概念実証として評価する。
論文 参考訳（メタデータ） (2025-08-21T00:12:14Z) - Which Agent Causes Task Failures and When? On Automated Failure Attribution of LLM Multi-Agent Systems [50.29939179830491]
LLMマルチエージェントシステムにおける障害帰属は、まだ調査が過小評価されており、労働集約的である。
本稿では,3つの自動故障帰属手法の開発と評価を行い,その欠点と欠点を要約する。
最良の方法は、障害に応答するエージェントを特定する際に53.5%の精度を達成するが、故障の特定には14.2%しか役に立たない。
論文 参考訳（メタデータ） (2025-04-30T23:09:44Z) - Exploring Automatic Cryptographic API Misuse Detection in the Era of LLMs [60.32717556756674]
本稿では,暗号誤用の検出において,大規模言語モデルを評価するための体系的評価フレームワークを提案する。
11,940個のLCM生成レポートを詳細に分析したところ、LSMに固有の不安定性は、報告の半数以上が偽陽性になる可能性があることがわかった。
最適化されたアプローチは、従来の手法を超え、確立されたベンチマークでこれまで知られていなかった誤用を明らかにすることで、90%近い顕著な検出率を達成する。
論文 参考訳（メタデータ） (2024-07-23T15:31:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。