論文の概要: Beyond Predefined Sinks: Security-Aware Dependency Analysis for LLM Agents

• arxiv url: http://arxiv.org/abs/2610.03014v1
• Date: Fri, 02 Oct 2026 08:48:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.288155
• Title: Beyond Predefined Sinks: Security-Aware Dependency Analysis for LLM Agents
• Title（参考訳）: 事前定義されたシンクを超えて: LLMエージェントのセキュリティに配慮した依存性分析
• Abstract要約: 本稿では,セキュリティに敏感な各操作に対して,候補中心のSecurity-Aware Agent Dependency Graphを構築するための静的解析フレームワークを提案する。 AgentSecGraphは、エージェントの関連性、ソースと依存性のエビデンス、信頼境界コンテキスト、ガードエビデンス、外部影響セマンティクスによるオペレーションのアイデンティティを強化する。
• 参考スコア（独自算出の注目度）: 0.712511675782289
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language model (LLM)-based agents increasingly connect model-generated decisions to security-sensitive software capabilities such as command execution, filesystem access, network communication, browser control, and external tools. Existing analyses often use predefined sensitive operations as anchors, but operation identity alone is insufficient to determine security implications. We present AgentSecGraph, a security-aware static analysis framework that constructs a candidate-centered Security-Aware Agent Dependency Graph (Security-ADG) for each security-sensitive operation. It augments operation identity with agent relevance, source and dependency evidence, trust-boundary context, guard evidence, and external-effect semantics. We further introduce AgentSecBench, a corpus of 67 real-world LLM-agent repositories spanning 11 ecosystems and 37,542 source files. The current analyzer identifies 23,866 static security-sensitive operation candidates across 65 repositories and emits one Security-ADG artifact per candidate. Corpus-wide analysis recovers source-to-operation dependency evidence for 9,821 candidates (41.15%) and potential guard evidence for 3,075 (12.88%), completing in 50.8 minutes. Using a separate reproduction-backed evaluation layer, we establish 22 security-sensitive behaviors across 13 repositories: one confirmed vulnerability, one pending disclosure candidate, and 20 guarded behaviors. In nine held-out cases, Security-ADG preserves 91.1% of the reference context and all five observed guards, compared with 20.0% for a sink-only view and 40.0% for a simplified ADG. These results show that security-aware dependency and contextual evidence enable distinctions that cannot be recovered from sensitive-operation identity alone.
• Abstract（参考訳）: 大規模言語モデル(LLM)ベースのエージェントは、コマンド実行、ファイルシステムアクセス、ネットワーク通信、ブラウザ制御、外部ツールなど、モデル生成決定をセキュリティに敏感なソフトウェア機能に接続する傾向にある。 既存の分析では、事前に定義された機密操作をアンカーとして使用することが多いが、セキュリティ上の影響を判断するには、操作の同一性だけでは不十分である。 我々は,セキュリティに敏感な各操作に対して,候補中心のSecurity-Aware Agent Dependency Graph(Security-ADG)を構築するセキュリティ対応静的解析フレームワークであるAgentSecGraphを提案する。 エージェントの関連性、ソースと依存性のエビデンス、信頼境界コンテキスト、ガードエビデンス、外部効果セマンティクスによる操作の同一性を強化する。 我々はさらに、11のエコシステムと37,542のソースファイルにまたがる67の現実のLLM-agentリポジトリのコーパスであるAgentSecBenchを紹介した。 現在のアナライザは65のリポジトリにわたって23,866の静的セキュリティに敏感なオペレーション候補を特定し、候補毎に1つのSecurity-ADGアーティファクトを出力する。 企業全体の分析では、9,821人の候補者(41.15%)と3,075人(12.88%)の潜在的な監視証拠を50.8分で回収している。 個別の再生支援評価層を用いて,13のリポジトリに22のセキュリティに敏感な動作(脆弱性が1つ確認され,開示候補が1つ,保護された動作が20個)を確立する。 9つのホールトアウトケースでは、Security-ADGは参照コンテキストの91.1%と観測された5つのガードを保存しており、シンクオンリービューは20.0%、簡易ADGは40.0%である。 これらの結果から,セキュリティに配慮した依存性と文脈的証拠により,機密操作のアイデンティティのみから回復できない区別が可能であることが示唆された。

関連論文リスト

• Vulnerability Localization Benchmark: Measuring Agentic Security Analysis at Repository Scale [54.83971397981572]
  言語モデルエージェントは、ソフトウェアリポジトリ全体を通してますます運用される。 サイバーセキュリティ評価は、関連するコードを見つけることよりも、脆弱性を検出、再生、または修復できるかどうかを測定する。 脆弱性のローカライゼーションについて検討する。弱点クラスと不慣れなリポジトリが与えられた場合、その弱点に関連する実装ファイルを特定する。
  論文  参考訳（メタデータ） (2026-09-14T17:44:51Z)
• MemSentry: A Framework for Detecting Persistent Memory Poisoning in Agentic AI [0.0]
  提案する永続メモリ書き込みをインターセプトし,決定論的アクセプション,レビュー,あるいはQuantine決定を生成するフレームワークであるMemSentryを提示する。 MemSentryは、ソース信頼、セマンティックリスク、コンポーネント依存DAGに対する攻撃半径、アクセスリスク、署名されたセキュリティ状態デルタを共同で検討することで、各書き込みを評価する。 SBERT+LRは91.7%の精度と0.908のマクロF1スコアで最高性能を達成し、4つの手法はすべて外部の隔離クラスの脅威を100%検出した。
  論文  参考訳（メタデータ） (2026-09-08T13:40:13Z)
• EvoSafeHarness: Evolving Model- and Domain-Specific Harnesses for Securing Agents [74.54929751174289]
  EvoSafeHarnessは、ターゲットドメイン内の凍結モデルのためのデプロイ可能なハーネスを合成する、安全固有の最適化フレームワークである。 これは平均攻撃成功率を3.3ポイントのユーティリティコストで45.6%から10.0%に下げる。 また、Agent-SafetyBenchでは、すべての犠牲者に対してベストスコアを獲得している。
  論文  参考訳（メタデータ） (2026-09-05T05:56:41Z)
• Trust but Verify? Uncovering the Security Debt of Autonomous Coding Agents [3.30025498453752]
  本稿では,エージェント生成プルリクエストのセキュリティコードの臭いを特徴付けるためにAIDevデータセットを用いた大規模実証研究を提案する。 エージェント生成PRの38.9%には少なくとも1つのセキュリティ臭が含まれており、サプライチェーンの整合性の問題が検出されたセキュリティ臭の82.3%を占めている。 人間の協力者はこれらのエージェント支援システムに67.6%の真に漏洩した秘密を導入する責任がある。
  論文  参考訳（メタデータ） (2026-07-14T06:59:41Z)
• SeClaw: Spec-Driven Security Task Synthesis for Evaluating Autonomous Agents [87.26967184869198]
  SeClawは、仕様駆動のセキュリティタスク合成と、自律エージェントの実行ベースのセキュリティ評価を組み合わせたフレームワークである。 ベンチマークは、リソース、ユーザタスク、環境、本質的なエージェントの振る舞いから生じるリスクをカバーしている。
  論文  参考訳（メタデータ） (2026-06-01T14:23:42Z)
• SecPI: Secure Code Generation with Reasoning Models via Security Reasoning Internalization [50.71047638695205]
  RLM(Reasoning Language Model)は、プログラミングにおいてますます使われている言語モデルである。 しかし、最先端のRLMでさえ、生成されたコードに重大なセキュリティ脆弱性を頻繁に導入する。 我々は、構造化されたセキュリティ推論を内部化するためのRTMを教える微調整パイプラインであるSecPIを提案する。
  論文  参考訳（メタデータ） (2026-04-04T04:29:11Z)
• ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack [52.17935054046577]
  本稿では、間接的インジェクション攻撃に対する安全性アライメントを改善するためのモデルレベルのソリューションであるReasAlignを提案する。 ReasAlignには、ユーザクエリの分析、競合する命令の検出、ユーザの意図したタスクの継続性を維持するための構造化された推論ステップが組み込まれている。
  論文  参考訳（メタデータ） (2026-01-15T08:23:38Z)
• When Developer Aid Becomes Security Debt: A Systematic Analysis of Insecure Behaviors in LLM Coding Agents [1.7587442088965226]
  LLMベースのコーディングエージェントは、急速にソフトウェア開発にデプロイされているが、その安全性への影響はよく分かっていない。 我々は,5つの最先端モデルにわたる12,000以上のアクションを解析し,自律型符号化エージェントの最初の系統的安全性評価を行った。 我々は,4つの主要な脆弱性を識別する高精度検出システムを開発した。
  論文  参考訳（メタデータ） (2025-07-12T16:11:07Z)
• OpenAgentSafety: A Comprehensive Framework for Evaluating Real-World AI Agent Safety [58.201189860217724]
  OpenAgentSafetyは,8つの危機リスクカテゴリにまたがるエージェントの動作を評価する包括的なフレームワークである。 従来の作業とは異なり、我々のフレームワークは、Webブラウザ、コード実行環境、ファイルシステム、bashシェル、メッセージングプラットフォームなど、実際のツールと対話するエージェントを評価します。 ルールベースの分析とLSM-as-judgeアセスメントを組み合わせることで、過度な行動と微妙な不安全行動の両方を検出する。
  論文  参考訳（メタデータ） (2025-07-08T16:18:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。