論文の概要: Cheap to Hypothesize, Costly to Verify: The Defense Surface of Agentic Vulnerability Discovery

• arxiv url: http://arxiv.org/abs/2609.35909v2
• Date: Wed, 30 Sep 2026 16:04:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:26.094364
• Title: Cheap to Hypothesize, Costly to Verify: The Defense Surface of Agentic Vulnerability Discovery
• Title（参考訳）: エージェントの脆弱性発見の防衛面を仮説化、検証する費用がかかる
• Abstract要約: 自律的脆弱性発見は仮説検証の非対称性を示す。 限られた資源予算の下では、自律的な発見はリソース境界の選択的検証プロセスとなる。 私たちはRedHerringを紹介します。これは、実際の脆弱性から検証の労力を逸脱させる、確実に安全なデコイを挿入します。
• 参考スコア（独自算出の注目度）: 18.565668934922765
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Autonomous LLM agents turn vulnerability discovery into a repository-scale search: they generate many vulnerability hypotheses but can verify only a subset under a finite budget. We show that autonomous vulnerability discovery exhibits a hypothesis-verification asymmetry, where verifying a candidate hypothesis through reachability analysis, execution, and proof-of-concept construction is substantially more expensive than forming it. Under a finite resource budget, this makes autonomous discovery a resource-bounded selective-verification process, further exposing verification effort as a unique defense surface. We present RedHerring, which inserts certifiably safe decoys that divert verification effort from real vulnerabilities. Each decoy combines a CVE-derived vulnerability chain that attracts verification with a false bridge that keeps its dangerous sink unreachable. A private certificate lets the defender verify this property efficiently, while establishing the same fact from the released repository requires solving a computationally hard problem. RedHerring further adapts each decoy to the target repository so that it reads as ordinary program logic. Across 33 OSS-Fuzz projects, 70 evaluation instances, and five models under matched budgets, RedHerring reduces real vulnerabilities discovered by 38.7-60.4%. Trajectory analysis shows that agents spend 30.6-51.5% of completion tokens and an estimated 32.5-49.9% of runtime verifying decoys, showing that RedHerring redirects a substantial fraction of the fixed search budget toward decoys. When explicitly informed that decoys may be present, the agent adapts its search strategy, yet RedHerring still reduces vulnerabilities discovered by 37.2% relative to an informed Baseline, showing that its effectiveness does not depend on decoy secrecy.
• Abstract（参考訳）: 自律的なLLMエージェントは、脆弱性発見をリポジトリスケールのサーチに変換する。多くの脆弱性仮説を生成するが、有限の予算の下でサブセットのみを検証することができる。 自律的脆弱性発見は仮説検証の非対称性を示し, 到達可能性分析, 実行, 概念実証による仮説の検証は, 構成よりもはるかに高価であることを示す。 限られた資源予算の下では、自律的な発見はリソース境界の選択的検証プロセスとなり、検証の努力をユニークな防御面として明らかにする。 私たちはRedHerringを紹介します。これは、実際の脆弱性から検証の労力を逸脱させる、確実に安全なデコイを挿入します。 それぞれのデコイは、CVE由来の脆弱性チェーンと、危険なシンクを到達不能に保つ偽のブリッジを組み合わせている。 プライベート証明書は、ディフェンダーがこのプロパティを効率的に検証し、リリースしたリポジトリから同じ事実を確立するには、計算的に難しい問題を解決する必要がある。 RedHerringはさらに、各デコイをターゲットリポジトリに適応させ、通常のプログラムロジックとして読み込む。 33のOSS-Fuzzプロジェクト、70の評価インスタンス、5つのモデルが一致した予算の下で、RedHerringは38.7-60.4%で発見された実際の脆弱性を減らす。 軌道分析によると、エージェントは30.6-51.5%の完了トークンと32.5-49.9%のランタイム検証デコイを使い、RedHerringは固定された検索予算のかなりの部分をデコイにリダイレクトしている。 デコイの存在を明示的に通知すると、エージェントはその検索戦略に適応するが、RedHerringは情報付きベースラインと比較して37.2%の脆弱性を減らし、その効果がデコイの秘密に頼らないことを示す。

関連論文リスト

• Vulnerability Localization Benchmark: Measuring Agentic Security Analysis at Repository Scale [54.83971397981572]
  言語モデルエージェントは、ソフトウェアリポジトリ全体を通してますます運用される。 サイバーセキュリティ評価は、関連するコードを見つけることよりも、脆弱性を検出、再生、または修復できるかどうかを測定する。 脆弱性のローカライゼーションについて検討する。弱点クラスと不慣れなリポジトリが与えられた場合、その弱点に関連する実装ファイルを特定する。
  論文  参考訳（メタデータ） (2026-09-14T17:44:51Z)
• AgentSnare: Learning to Delay, Divert, and Defuse Autonomous Penetration Agents [29.81912218748482]
  大型言語モデル(LLM)エージェントは、観察-動作ループを介して浸透試験を自動化する。 現在の防御は、攻撃前に環境に植えられた静的で孤立したアーティファクトに大きく依存している。 AgentSnareはデコイ環境を動的に展開し、侵入エージェントを実際のターゲットから遠ざけていく。
  論文  参考訳（メタデータ） (2026-07-29T14:56:31Z)
• WMAttack: Automated Attack Search for Adversarial Evaluation of World-Model Agents [53.84430233754606]
  WMAttackは、世界モデルエージェントの敵意評価のための自動攻撃探索フレームワークである。 WMAttackは攻撃構成に対する有限予算探索としてロバストネス評価を定式化する。 WMAttackは評価ベースラインよりも強力な攻撃を継続的に発見することを示す。
  論文  参考訳（メタデータ） (2026-05-22T04:31:09Z)
• Proteus: A Self-Evolving Red Team for Agent Skill Ecosystems [0.0]
  エージェントスキルは実行可能な振る舞いとコンテキスト設定ドキュメンテーションの両方を公開する。 現実的な攻撃者は、監査と実行時のフィードバックを使って、繰り返しスキルを書き直すことができる。 Proteusは形式化された5軸スキルアタックスペースを検索する。
  論文  参考訳（メタデータ） (2026-05-12T10:05:54Z)
• Not All Tokens Are Created Equal: Query-Efficient Jailbreak Fuzzing for LLMs [21.149128115340996]
  大規模言語モデル(LLM)は広くデプロイされているが、ポリシー違反の出力を誘発するジェイルブレイクプロンプトに対して脆弱である。 本稿では,トークン対応のジェイルブレイクファジィフレームワークであるTriageFuzzを提案する。
  論文  参考訳（メタデータ） (2026-03-24T14:33:36Z)
• VulAgent: Hypothesis-Validation based Multi-Agent Vulnerability Detection [55.957275374847484]
  VulAgentは仮説検証に基づくマルチエージェント脆弱性検出フレームワークである。 セマンティクスに敏感なマルチビュー検出パイプラインを実装しており、それぞれが特定の分析の観点から一致している。 平均して、VulAgentは全体的な精度を6.6%改善し、脆弱性のある固定されたコードペアの正確な識別率を最大450%向上させ、偽陽性率を約36%削減する。
  論文  参考訳（メタデータ） (2025-09-15T02:25:38Z)
• Towards Copyright Protection for Knowledge Bases of Retrieval-augmented Language Models via Reasoning [58.57194301645823]
  大規模言語モデル(LLM)は、現実のパーソナライズされたアプリケーションにますます統合されている。 RAGで使用される知識基盤の貴重かつしばしばプロプライエタリな性質は、敵による不正使用のリスクをもたらす。 これらの知識基盤を保護するための透かし技術として一般化できる既存の方法は、一般的に毒やバックドア攻撃を含む。 我々は、無害な」知識基盤の著作権保護の名称を提案する。
  論文  参考訳（メタデータ） (2025-02-10T09:15:56Z)
• Retrieval Augmented Generation Integrated Large Language Models in Smart Contract Vulnerability Detection [0.0]
  分散ファイナンス(DeFi)には、スマートコントラクトの脆弱性による大きな損失が伴っている。 攻撃が頻発するにつれて、監査サービスの必要性と需要が高まっている。 本研究では,大規模言語モデル(LLM)とRAG(Retrieval-Augmented Generation)を統合することにより,既存のフレームワークを構築する。
  論文  参考訳（メタデータ） (2024-07-20T10:46:42Z)
• Certifiers Make Neural Networks Vulnerable to Availability Attacks [70.69104148250614]
  私たちは初めて、逆転戦略が敵によって意図的に引き起こされる可能性があることを示します。 いくつかの入力や摂動のために自然に発生する障害に加えて、敵は故意にフォールバックを誘発するために訓練時間攻撃を使用することができる。 我々は2つの新しいアベイラビリティーアタックを設計し、これらの脅威の実用的妥当性を示す。
  論文  参考訳（メタデータ） (2021-08-25T15:49:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。