論文の概要: Where AI Vulnerability Discovery Harnesses Go Quiet: Structural False Negatives and Hidden Vulnerabilities

• arxiv url: http://arxiv.org/abs/2610.29379v1
• Date: Wed, 21 Oct 2026 08:05:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.285468
• Title: Where AI Vulnerability Discovery Harnesses Go Quiet: Structural False Negatives and Hidden Vulnerabilities
• Title（参考訳）: AIの脆弱性発見の限界 - 構造上の偽の否定と隠れた脆弱性
• Abstract要約: LLMベースの脆弱性発見ハーネスは、モデルを取り巻くハーネスの構築方法のため、真の、到達可能な脆弱性を見逃す可能性がある。 これらの落とし穴は、エンジニアリングの選択とエラーから生じます。 これらの落とし穴を理解することは 修復や開示を行う ハーネスの作り方を示します 避けるのが困難です
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLM-based vulnerability discovery harnesses can miss real, reachable vulnerabilities because of how the harness around the model is built. Steps that select code, filter it, and store and merge findings can drop a vulnerability before or after the model runs, independently of the model's capability, and the report usually gives no sign that this happened. These drops come from engineering choices, and errors. They leave vulnerabilities undetected, and an attacker who knows the harness's rules can also use them to hide a vulnerability on purpose. Understanding these drops shows how to build harnesses that fix or disclose them and are harder to evade. Starting from the two harnesses we maintain, Knostic's OpenAnt and raptor, and then examining 10 additional open-source harnesses, we mapped 13 points where such drops occur and organized them into a taxonomy. Using each harness's own code, we show a single file that six harnesses dropped before their model saw its code, five of them without notice. We propose engineering failure patterns mapped to these drops, and relate them to Ptacek and Newsham's work on intrusion detection evasion. The paper also covers content-steered verdicts and prompt injection, and gives design principles and tests for harnesses that report accurately what they analyzed. The reliability findings likely apply to other LLM harnesses, beyond vulnerability research and application security, and the evasion findings apply wherever an attacker can write or influence the code being checked. We also argue that harnesses built to be descriptive can, in effect, be prescriptive. Rules written to describe typical code and typical model replies end up deciding what is analyzed, and anything that does not conform is treated as absent or as "no vulnerability."
• Abstract（参考訳）: LLMベースの脆弱性発見ハーネスは、モデルを取り巻くハーネスの構築方法のため、真の、到達可能な脆弱性を見逃す可能性がある。 コードを選択し、フィルタリングし、発見を保存し、マージするステップは、モデルの実行前後に、モデルの能力によらず脆弱性を落としてしまう可能性がある。 これらの落とし穴は、エンジニアリングの選択とエラーから生じます。 脆弱性は検出されず、ハーネスのルールを知っている攻撃者は、意図的に脆弱性を隠すためにも使用できる。 これらの落とし穴を理解することは、修正や開示を行うハーネスを構築する方法を示し、回避するのが困難である。 メンテナンスする2つのハーネス、KnosticのOpenAntとラプターから始めて、さらに10のオープンソースハーネスを調べて、そのようなドロップが発生する13のポイントをマッピングし、それらを分類学に分類しました。 それぞれのハーネスのコードを使用して、モデルがコードを見る前に6つのハーネスがドロップした1つのファイルを示します。 本稿では,これらの落下にマッピングされた工学的故障パターンを提案し,これらをPtacekとNewshamの侵入検出回避に関する研究に関連づける。 また、コンテントステアリングされた評定やインジェクションのインジェクションについても取り上げ、分析対象を正確に報告するハーネスの設計原則とテストを提供する。 信頼性の発見は、脆弱性調査やアプリケーションセキュリティ以外の他のLLMハーネスにも当てはまり、回避の発見は、攻撃者がチェック対象のコードを書いたり、影響したりできる場所に適用できる。 私たちはまた、記述的であるように構築されたハーネスは、事実上、規範的であると主張する。 典型的なコードと典型的なモデル応答を記述するために書かれたルールは、分析対象を決定する結果となり、適合しないものは、すべて欠落または"脆弱性なし"として扱われる。

関連論文リスト

• Activation Probes Surface Code-Security Signals that the Model's Output Misses [0.0]
  AIコーディングエージェントが生産コードのシェアを拡大する。 人間のセキュリティレビューは、コードが生成される度にスケールしない。 それらのアクティベーションを読むと、同じレビュアーに見逃すセキュリティシグナルが回復するかどうかを尋ねる。
  論文  参考訳（メタデータ） (2026-08-10T14:22:46Z)
• From Prompts to Contracts: Harness Engineering for Auditable Enterprise LLM Agents [0.24554686192257424]
  製品化は、ソースバウンダリ、エンティティルーティング、回答コントラクト、再現可能なトレースの要件を追加します。 本稿では,このパターンをトレース可能な監査可能なLLMエージェントアーキテクチャに再構成するハーネスエンジニアリング手法を提案する。 韓国の5つの企業グループの公開データスライスでインスタンス化し、3つの研究課題を評価する。
  論文  参考訳（メタデータ） (2026-07-09T01:08:33Z)
• The Hitchhiker's Guide to Program Analysis, Part III: Mostly Harmless LLMs [16.471977061248747]
  Evident(エビデント)は、LCM支援とプログラム行動推論を分離するバグ解析システムである。 既存の2つの静的検出器からの200個の実Androidカーネルドライバ警告に対してEvidentを評価する。
  論文  参考訳（メタデータ） (2026-06-13T05:26:08Z)
• Meta-Harness: End-to-End Optimization of Model Harnesses [52.31507076660471]
  本稿では,大規模言語モデル(LLM)アプリケーションのためのコード検索を行う外部ループシステムであるMeta-Harnessを紹介する。 オンラインテキスト分類では、Meta-Harnessは4倍少ないコンテキストトークンを使用しながら、最先端のコンテキスト管理システムを7.7ポイント改善する。 検索強化数学推論では、200 IMOレベルの問題の精度を5つの保留モデルの平均4.7ポイント向上する。
  論文  参考訳（メタデータ） (2026-03-30T05:33:50Z)
• LLMs Can Unlearn Refusal with Only 1,000 Benign Samples [23.047329180544775]
  この研究は、大規模言語モデルの安全性アライメントにおいて、未解明の脆弱性を明らかにした。 既存のLLMは、多くの場合、固定されたプレフィックスセットから始まる、拒否を伴う安全でないクエリに応答する。 そこで本研究では,この手法を利用した新しいテキスト読解アンラーニング手法を提案する。
  論文  参考訳（メタデータ） (2026-01-27T05:59:56Z)
• Strategic Dishonesty Can Undermine AI Safety Evaluations of Frontier LLMs [95.06033929366203]
  大規模言語モデル(LLM)開発者は、モデルが誠実で、有用で、無害であることを目標としている。 我々は,フロンティアLSMが,他の選択肢が利用可能であっても,新たな戦略として不便さを優先して開発可能であることを示す。 偽装する確率の明確な原因は見つからないが、より有能なモデルがこの戦略を実行するのに優れていることを示す。
  論文  参考訳（メタデータ） (2025-09-22T17:30:56Z)
• AI-Driven Cybersecurity Threat Detection: Building Resilient Defense Systems Using Predictive Analytics [0.7273611076094216]
  本研究では、人工知能が米国のサイバー脅威の特定と緩和にどのように役立つかを検討する。 侵入検知、マルウェア分類、フィッシング検出、およびインサイダー脅威分析について調べる。
  論文  参考訳（メタデータ） (2025-08-02T16:03:35Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。