論文の概要: Package Hallucination Attacks on Coding Agents through Prompt Injection in Rule Files

• arxiv url: http://arxiv.org/abs/2610.09264v1
• Date: Wed, 07 Oct 2026 00:59:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.655772
• Title: Package Hallucination Attacks on Coding Agents through Prompt Injection in Rule Files
• Title（参考訳）: ルールファイル中のプロンプト注入による符号化エージェントのパッケージ幻覚攻撃
• Abstract要約: パッケージ幻覚攻撃では、悪意のあるプロンプトを不正なルールファイルに注入し、正規の依存関係を攻撃者が管理するパッケージに置き換えるために、コーディングエージェントを誘導する。 軌道レベルのフィードバックとLLM誘導突然変異を用いて反復的にインジェクションプロンプトを書き換える進化的最適化フレームワークであるPackHalluを提案する。 われわれは,コーディングエージェントがパッケージ幻覚攻撃に対して脆弱であることを示し,自律型コーディングシステムにおけるより強力なセキュリティ保護の必要性を強調した。
• 参考スコア（独自算出の注目度）: 35.20623196752191
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Modern agentic coding frameworks increasingly rely on community-shared rule files (e.g., AGENTS.md or .cursorrules) to guide autonomous code generation, yet the security risks of this pipeline remain underexplored. To bridge this gap, we introduce the package hallucination attack, where an attacker injects malicious prompts into benign rule files to induce coding agents to replace legitimate dependencies with attacker-controlled packages. To obtain effective malicious prompts injected into rule files, we propose PackHallu, an evolutionary optimization framework that iteratively rewrites these injected prompts using trajectory-level feedback and LLM-guided mutations. Evaluations across multiple benchmarks, LLMs, and agent frameworks show that PackHallu achieves high attack success rates and strong transferability across diverse models and agent combinations. Our findings demonstrate that coding agents are vulnerable to package hallucination attacks, highlighting the urgent need for stronger security safeguards in autonomous coding systems.
• Abstract（参考訳）: 現代のエージェントプログラミングフレームワークは、自律的なコード生成を導くために、コミュニティが共有するルールファイル( AgentS.md や .cursorrules など)にますます依存しているが、このパイプラインのセキュリティリスクは過小評価されている。 このギャップを埋めるために、我々はパッケージ幻覚攻撃を導入し、攻撃者が悪質なプロンプトを悪質なルールファイルに注入し、正規の依存関係を攻撃者が管理するパッケージに置き換えるためにコーディングエージェントを誘導する。 ルールファイルに挿入された効果的な悪意のあるプロンプトを得るために,軌道レベルのフィードバックとLLM誘導突然変異を用いてこれらのプロンプトを反復的に書き換える進化的最適化フレームワークであるPackHalluを提案する。 複数のベンチマーク、LLM、エージェントフレームワークによる評価によると、PackHalluは、さまざまなモデルとエージェントの組み合わせで高い攻撃成功率と強力な転送性を達成する。 われわれは,コーディングエージェントがパッケージ幻覚攻撃に対して脆弱であることを示し,自律型コーディングシステムにおけるより強力なセキュリティ保護の必要性を強調した。

関連論文リスト

• Self-Reflection Fine-Tuning: Enhancing Agent Security against Prompt Injection Attacks from Failure Experience [83.9792313419956]
  Self-Reflection Fine-Tuning(SRFT)は、エージェントが自身の障害経験から学習することで堅牢性を向上させるためのトレーニングフレームワークである。 我々はこのフレームワークをLlama-3.1-8B-InstructとQwen3-8B上に構築したSR-Agentでインスタンス化し、静的および適応的なプロンプトインジェクションベンチマークで評価する。
  論文  参考訳（メタデータ） (2026-10-03T03:45:44Z)
• IssueTrojanBench: Benchmarking AI Coding Agents Against Malicious Issue Requests [6.180456551480933]
  本稿では、最先端AI符号化エージェントに対する悪意ある問題要求の体系的評価について述べる。 我々の結果は、非デプロイの現代のコーディングエージェントの重大な脆弱性を明らかにします。 我々の発見は、AIコーディングエージェントを保護するために、より強力なエージェントとモデルレベルの安全メカニズムが緊急に必要であることを示している。
  論文  参考訳（メタデータ） (2026-07-22T22:20:02Z)
• Trust Me, Import This: Dependency Steering Attacks via Malicious Agent Skills [25.627983175254958]
  本稿では、悪意あるSkillがコーディングエージェントを攻撃者制御パッケージにバイアスする攻撃パラダイムであるDependency Steeringを紹介する。 この結果から,永続的なエージェント命令がソフトウェアのサプライチェーンアタックサーフェスを形成することが明らかとなった。
  論文  参考訳（メタデータ） (2026-05-10T15:13:38Z)
• SafeHarbor: Hierarchical Memory-Augmented Guardrail for LLM Agent Safety [10.846727385398589]
  悪意のあるアクターは、Large Language Model (LLM)エージェントを操作して、有害なコンテンツを生成するツールを実行することができる。 textscSafeHarborは、LLMエージェントの正確な決定境界を確立するために設計された新しいフレームワークである。 textscSafeHarborは曖昧な良質なタスクと明示的な悪意のある攻撃の両方で最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2026-05-07T05:50:45Z)
• The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search [58.8834056209347]
  大規模言語モデル(LLM)は、有害な出力を誘導するために安全ガードレールをバイパスするジェイルブレイク攻撃に弱いままである。 CKA-Agent(Correlated Knowledge Attack Agent)は、ターゲットモデルの知識基盤の適応的木構造探索としてジェイルブレイクを再構成する動的フレームワークである。
  論文  参考訳（メタデータ） (2025-12-01T07:05:23Z)
• AgentVigil: Generic Black-Box Red-teaming for Indirect Prompt Injection against LLM Agents [54.29555239363013]
  本稿では,間接的なインジェクション脆弱性を自動的に検出し,悪用するための汎用的なブラックボックスファジリングフレームワークであるAgentVigilを提案する。 我々はAgentVigilをAgentDojoとVWA-advの2つの公開ベンチマークで評価し、o3-miniとGPT-4oに基づくエージェントに対して71%と70%の成功率を達成した。 攻撃を現実世界の環境に適用し、悪質なサイトを含む任意のURLに誘導するエージェントをうまく誘導する。
  論文  参考訳（メタデータ） (2025-05-09T07:40:17Z)
• Automating Prompt Leakage Attacks on Large Language Models Using Agentic Approach [9.483655213280738]
  本稿では,大規模言語モデル(LLM)の安全性を評価するための新しいアプローチを提案する。 我々は、プロンプトリークをLLMデプロイメントの安全性にとって重要な脅威と定義する。 我々は,協調エージェントが目的のLLMを探索・活用し,そのプロンプトを抽出するマルチエージェントシステムを実装した。
  論文  参考訳（メタデータ） (2025-02-18T08:17:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。