論文の概要: Natural Code Transformation Confuses Agents in Vulnerability Analysis
- arxiv url: http://arxiv.org/abs/2610.14350v2
- Date: Wed, 14 Oct 2026 13:20:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.036924
- Title: Natural Code Transformation Confuses Agents in Vulnerability Analysis
- Title（参考訳）: 脆弱性解析においてエージェントを混乱させる自然言語変換
- Abstract要約: 我々はエージェントが、同じ機能と同じ脆弱性を持つ実世界のコードコミットに対して、劇的に異なる結果をもたらすことを示す。
私たちは、現実世界のコードコミットから繰り返し発生する開発パターンをマイニングすることで、自然なトランスフォーメーションのコーパスを構築します。
以上の結果から,単一形態のトランスフォーメーションであっても,フロンティアエージェントを効果的に「混乱させる」ことが可能であることが示唆された。
- 参考スコア（独自算出の注目度）: 16.64767344643059
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Having demonstrated a strong potential for automating vulnerability discovery, AI agents can also be used to attack software systems at scale. Today's software systems need mechanisms to level the playing field by slowing down potential attacks, giving them time to patch vulnerabilities and strengthen software. Along this line, our study of agent trajectories in vulnerability analysis shows a surprising finding: agents produce dramatically different results across real-world code commits that carry the same functionality and the same vulnerability. This phenomenon appears consistently in multiple code domains and vulnerability categories. It motivates us to study natural and functionality-preserving code transformations derived from real-world software development, and their potential as a defense against attacker agents. We build a corpus of natural transformations by mining recurring development patterns from real-world code commits, and apply them to evaluate impact on agentic vulnerability analysis. Our results show that even a single form of transformation can effectively "confuse" frontier agents, e.g., Codex with GPT-6 Sol, reducing successes in vulnerability discovery. We also study different agent failures, whether transformations can be composed to provide stronger protection, and adaptive attackers who seek to reverse them. Overall, our study of natural code transformation significantly expands the research space of using code transformations to defend against malicious agents.
- Abstract（参考訳）: 脆弱性発見を自動化する強力な可能性を実証したAIエージェントは、大規模にソフトウェアシステムを攻撃するためにも使用できる。
今日のソフトウェアシステムは、潜在的な攻撃を遅くし、脆弱性にパッチを当ててソフトウェアを強化する時間を与えて、プレイフィールドを平準化するためのメカニズムが必要です。
この線に沿って、脆弱性分析におけるエージェントトラジェクトリの研究は、驚くべき発見である:エージェントは同じ機能と同じ脆弱性を持つ実世界のコードコミット間で、エージェントが劇的に異なる結果を生成する。
この現象は、複数のコードドメインと脆弱性カテゴリに一貫して現れます。
現実世界のソフトウェア開発から派生した、自然と機能を保存するコード変換と、攻撃者に対する防御手段としての可能性を研究する動機になります。
我々は、現実世界のコードコミットから繰り返し発生する開発パターンをマイニングして、自然なトランスフォーメーションのコーパスを構築し、エージェント的脆弱性分析への影響を評価する。
その結果,単一形態のトランスフォーメーションであっても,例えば Codex with GPT-6 Sol などのフロンティアエージェントを効果的に "混乱" させることで,脆弱性発見の成功を低減できることがわかった。
また、より強力な保護を提供するために変換を構成することができるのか、逆転しようとするアダプティブアタッカーなのか、異なるエージェント障害についても検討する。
全体として、自然なコード変換の研究は、悪意のあるエージェントに対する防御にコード変換を使用する研究領域を大きく広げます。
関連論文リスト
- Self-Reflection Fine-Tuning: Enhancing Agent Security against Prompt Injection Attacks from Failure Experience [83.9792313419956]
Self-Reflection Fine-Tuning(SRFT)は、エージェントが自身の障害経験から学習することで堅牢性を向上させるためのトレーニングフレームワークである。
我々はこのフレームワークをLlama-3.1-8B-InstructとQwen3-8B上に構築したSR-Agentでインスタンス化し、静的および適応的なプロンプトインジェクションベンチマークで評価する。
論文 参考訳（メタデータ） (2026-10-03T03:45:44Z) - Self-Evolving Coding Agents [11.43197414613246]
自己進化型コーディングエージェントは、リポジトリを検査し、ツールを実行し、テストを実行し、障害をデバッグし、パッチを生成することができる。
まず、自己進化型プログラミングエージェントを定義し、それらを従来のコーディングエージェントや一般的な自己進化型エージェントと区別する。
実行可能なフィードバック、リポジトリレベルのコンテキスト、コーディングトラジェクトリは、ソフトウェアエンジニアリングをエージェントの自己進化のための自然なドメインとして、ユニークな役割を与えます。
論文 参考訳（メタデータ） (2026-08-04T09:43:46Z) - AgentLens: Interpretable Safety Steering via Mechanistic Subspaces for Multi-Turn Coding Agent [53.82005364479556]
大規模言語モデル(LLM)に基づく符号化エージェントは、驚くべき自律性を示す。
既存の安全機構は主に外部ガードレールに依存している。
我々は,ランタイムの安全性検出と表現レベルの緩和を行う,ホワイトボックスの防御フレームワークであるAgentLensを提案する。
論文 参考訳（メタデータ） (2026-06-21T21:13:55Z) - ExploitGym: Can AI Agents Turn Security Vulnerabilities into Real Attacks? [92.21756459993695]
低レベルのプログラム推論を必要とするため、爆発は難しい作業です。
その重要性と診断価値にもかかわらず、搾取は未評価のままである。
ExploitGymは、AIエージェントのエクスプロイト能力に関する大規模で多様な、現実的なベンチマークである。
論文 参考訳（メタデータ） (2026-05-11T18:00:14Z) - A Multi-Agent Framework for Automated Exploit Generation with Constraint-Guided Comprehension and Reflection [30.539826266048014]
Vulnsageは自動エクスプロイト生成のためのマルチエージェントフレームワークである。
explosionjsのような最先端のツールよりも34.64%のエクスプロイトを生成する。
Vulnsageは、現実世界のシナリオで146のゼロデイ脆弱性を発見し、検証した。
論文 参考訳（メタデータ） (2026-04-06T19:47:17Z) - Analyzing Code Injection Attacks on LLM-based Multi-Agent Systems in Software Development [11.76638109321532]
本稿では,ソフトウェア工学プロセスの実装フェーズのためのマルチエージェントシステムのアーキテクチャを提案する。
このようなシステムは、非常に正確にコードを生成することができるが、コードインジェクションを含む攻撃に弱いことを実証する。
論文 参考訳（メタデータ） (2025-12-26T01:08:43Z) - Exploring the Security Threats of Retriever Backdoors in Retrieval-Augmented Code Generation [17.62321354201344]
Retrieval-Augmented Code Generation (RACG)は、ソフトウェア開発のための大規模言語モデルを強化するために、ますます採用されている。
本稿では,レトリバーコンポーネントを標的としたバックドアアタック(バックドアアタック)という,致命的かつステルス的な脅威を初めて体系的に調査する。
論文 参考訳（メタデータ） (2025-12-25T13:53:46Z) - RedCodeAgent: Automatic Red-teaming Agent against Diverse Code Agents [70.24175620901538]
コードエージェントは、強力なコード生成機能とコードインタプリタとの統合により、広く採用されている。
現在の静的安全性ベンチマークとレッドチームツールは、出現する現実世界のリスクシナリオを特定するのに不十分である。
我々はRedCodeAgentを提案する。RedCodeAgentは、多様なコードエージェントの脆弱性を体系的に発見するように設計された、最初の自動リピートエージェントである。
論文 参考訳（メタデータ） (2025-10-02T22:59:06Z) - Breaking Agents: Compromising Autonomous LLM Agents Through Malfunction Amplification [35.16099878559559]
大規模言語モデル(LLM)は大きな発展を遂げ、現実世界のアプリケーションにデプロイされている。
エージェントが繰り返しまたは無関係なアクションを実行することを誤解させることで誤動作を引き起こす新しいタイプの攻撃を導入する。
実験の結果、これらの攻撃は複数のシナリオで80%以上の障害率を誘導できることがわかった。
論文 参考訳（メタデータ） (2024-07-30T14:35:31Z) - Dissecting Adversarial Robustness of Multimodal LM Agents [70.2077308846307]
我々は、VisualWebArena上に現実的な脅威モデルを用いて、200の敵タスクと評価スクリプトを手動で作成する。
我々は,クロボックスフロンティアLMを用いた最新のエージェントを,リフレクションやツリーサーチを行うエージェントを含む,壊すことに成功している。
AREを使用して、新しいコンポーネントの追加に伴うロバスト性の変化を厳格に評価しています。
論文 参考訳（メタデータ） (2024-06-18T17:32:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。