論文の概要: Where Did the Repair First Go Wrong? Localizing the Origins of Silent Failures in Agentic Vulnerability Repair

• arxiv url: http://arxiv.org/abs/2610.06163v1
• Date: Mon, 05 Oct 2026 11:31:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-09 18:14:53.003319
• Title: Where Did the Repair First Go Wrong? Localizing the Origins of Silent Failures in Agentic Vulnerability Repair
• Title（参考訳）: 修復初号機はどこで誤作動したのか : 薬剤性脆弱性修復における無声障害の発生源の特定
• Abstract要約: SAGE(Security Awareness Gap Evaluation)は、トレースベースの障害帰属手法である。 我々は,SecurityEvalとCVEfixesの6つのエージェントフレームワークと6つのベースモデルによって生成される3,684個の修復トレースから得られた95個のサイレント障害を評価した。
• 参考スコア（独自算出の注目度）: 4.495819148271923
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Localizing where an LLM-based agent first fails to uphold security during a repair can show which stage of its workflow needs an additional safeguard. This is difficult for silent failures, which are patches that pass syntactic and functional checks but still contain a security vulnerability. Because such patches give no observable failure signal, existing failure attribution methods, which rely on observed task failures and labelled failure steps, are less suited to them. We propose Security Awareness Gap Evaluation (SAGE), a trace-based method that combines an assessment of the security reasoning recorded at each turn with the reconstructed code history to identify the earliest turn at which a repair diverges from the task's security intent. We evaluate SAGE on 95 confirmed silent failures drawn from 3,684 repair traces produced by six agent frameworks and six base models on SecurityEval and CVEfixes. SAGE assigned an origin in 93 cases. Most origins were an unaddressed security requirement or an inadequate defence choice, and only five coincided with the code change itself. When the agent introduced the vulnerable code, the origin preceded the write in 14 of 19 cases. Repeated scoring and a second judge reproduced the origin type more consistently than the exact turn, and agreement was lowest for traces that kept only the final file.
• Abstract（参考訳）: LLMベースのエージェントが最初にセキュリティを維持できない場所をローカライズすることは、ワークフローのどのステージに追加の保護が必要であるかを示すことができる。 これは、構文チェックや機能チェックをパスするがセキュリティ上の脆弱性を含むパッチであるサイレント障害では難しい。 このようなパッチは観測可能な障害信号を与えないため、観測されたタスクの失敗とラベル付けされた障害ステップに依存する既存の障害属性メソッドは、それらにはあまり適していない。 本稿では,各ターンに記録されたセキュリティ推論の評価と再構成コード履歴を組み合わせたトレースベース手法であるSecurity Awareness Gap Evaluation (SAGE)を提案する。 SAGEは,SecurityEvalおよびCVEfixes上の6つのエージェントフレームワークと6つのベースモデルによって生成される3,684個の修復トレースから得られた95個のサイレント障害を評価した。 SAGEは93のケースで起源を割り振った。 ほとんどの起源は、未修正のセキュリティ要件か、不十分な防御選択であり、コードの変更自体と一致するのは5つだけだった。 エージェントが脆弱性のあるコードを導入したとき、19件中14件の書き込みに先立って発生した。 繰り返しスコアと第2判事は、元の型を正確なターンよりも一貫して再現し、最終ファイルのみを保持するトレースに対して、合意は最低であった。

関連論文リスト

• PACE: Provenance-Aware Capability Enforcement for Tool-Using LLM Agents [27.303145899045074]
  本稿では、PACE(Provenance-Aware Capability Enforcement)を紹介し、実行直前にすべてのツールコールを仲介する。 PACEは、提案されたブロックの後に認証された呼び出しを復元したり、宣言された修復を適用することができる。 スケールの縮小された適応探索は、0/30の不正なターゲットで防御に成功している。
  論文  参考訳（メタデータ） (2026-10-01T09:18:05Z)
• Maintaining Benchmarks Against Increasingly Capable Agents: Detection and Remediation of Unearned Passes [15.12761261423003]
  エージェントベンチマークは、モデルの選択とトレーニングをガイドする。しかしながら、エージェントは意図した能力を示すことなくタスクをパスすることができる。 エージェントが改善するにつれて、かつて無害と思われたベンチマークサーフェスは悪用され、ベンチマークの検証が進行中のメンテナンス問題となる。 本稿では,パストラジェクトリを監査し,証明された報酬ハッキングとバリデーションの弱点を識別するプロセス検証フレームワークを導入し,修復に有効な表面をローカライズする。
  論文  参考訳（メタデータ） (2026-09-28T04:07:52Z)
• Silent Failures in Agentic Security Evaluation: A Validated Harness for Tool-Call Mediation Under Indirect Prompt Injection [0.0]
  特権ツールを起動するLLMエージェントは間接的プロンプトインジェクション(IPI)に脆弱である 4つの欠陥クラス - サイレントペイロードの非配信、引数ではなくツールアイデンティティによるアタック成功、モデル非能力と混同された偽リジェクション率、監査証跡の欠如 - を識別する。 我々は、欠陥と修正された定義の下で同じ実行トレースを再描画することで、歪みを定量化する。
  論文  参考訳（メタデータ） (2026-09-26T14:53:42Z)
• Vulnerability Localization Benchmark: Measuring Agentic Security Analysis at Repository Scale [54.83971397981572]
  言語モデルエージェントは、ソフトウェアリポジトリ全体を通してますます運用される。 サイバーセキュリティ評価は、関連するコードを見つけることよりも、脆弱性を検出、再生、または修復できるかどうかを測定する。 脆弱性のローカライゼーションについて検討する。弱点クラスと不慣れなリポジトリが与えられた場合、その弱点に関連する実装ファイルを特定する。
  論文  参考訳（メタデータ） (2026-09-14T17:44:51Z)
• When Passing Tests Hides Vulnerabilities: An Empirical Study of Silent Failures in Agentic Systems [4.495819148271923]
  サイレント障害の3つの主要なカテゴリは、許可、導入、不適切である。 10のきめ細かい障害コードはこれらの3つのカテゴリに分類され、どのようにエージェントがセキュリティ制御を省略するかを示している。 同様の安全でないソリューションは、さまざまなフレームワークにまたがって現れ、モデル、プロンプト、タスクレベルの影響を共有できる可能性が示唆された。
  論文  参考訳（メタデータ） (2026-06-25T10:37:21Z)
• ContraFix: Agentic Vulnerability Repair via Differential Runtime Evidence and Skill Reuse [10.503895811137095]
  大規模言語モデル(LLM)エージェントは、自動脆弱性修復にますます利用されている。 最近の実証的な結果は、これらのエージェントがいまだに現実世界の脆弱性と戦っていることを示している。 ContraFixは、再利用可能な修復スキルとランタイムエビデンスを結合するエージェントフレームワークである。
  論文  参考訳（メタデータ） (2026-05-17T13:48:25Z)
• On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
  既存の安全アライメント信号は、主に応答レベルまたは政治外である。 FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。 FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
  論文  参考訳（メタデータ） (2026-05-12T09:56:28Z)
• Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
  安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。 敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。 最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
  論文  参考訳（メタデータ） (2026-04-14T06:48:33Z)
• SecPI: Secure Code Generation with Reasoning Models via Security Reasoning Internalization [50.71047638695205]
  RLM(Reasoning Language Model)は、プログラミングにおいてますます使われている言語モデルである。 しかし、最先端のRLMでさえ、生成されたコードに重大なセキュリティ脆弱性を頻繁に導入する。 我々は、構造化されたセキュリティ推論を内部化するためのRTMを教える微調整パイプラインであるSecPIを提案する。
  論文  参考訳（メタデータ） (2026-04-04T04:29:11Z)
• Safety Recovery in Reasoning Models Is Only a Few Early Steering Steps Away [97.11976870616273]
  本稿では,安全回復を目的ではなく満足度の高い制約として扱う軽量な推論時防衛法を提案する。 6つのオープンソースMLRMと4つのjailbreakベンチマークで評価した結果、SafeThinkは攻撃成功率を30～60%削減しました。
  論文  参考訳（メタデータ） (2026-02-11T18:09:17Z)
• VulAgent: Hypothesis-Validation based Multi-Agent Vulnerability Detection [55.957275374847484]
  VulAgentは仮説検証に基づくマルチエージェント脆弱性検出フレームワークである。 セマンティクスに敏感なマルチビュー検出パイプラインを実装しており、それぞれが特定の分析の観点から一致している。 平均して、VulAgentは全体的な精度を6.6%改善し、脆弱性のある固定されたコードペアの正確な識別率を最大450%向上させ、偽陽性率を約36%削減する。
  論文  参考訳（メタデータ） (2025-09-15T02:25:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。