論文の概要: Characterizing Security Effects of OSS Vulnerabilities in Agent Systems
- arxiv url: http://arxiv.org/abs/2610.05036v1
- Date: Sun, 04 Oct 2026 08:06:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-11 06:52:13.903692
- Title: Characterizing Security Effects of OSS Vulnerabilities in Agent Systems
- Title（参考訳）: エージェントシステムにおけるOSS脆弱性のセキュリティ効果のキャラクタリゼーション
- Abstract要約: ソフトウェアエージェントは、ツールの実行や外部システムとのインタラクションにおいて、ますますオープンソースコンポーネントに依存している。
したがって、これらの依存関係のセキュリティ欠陥は、それらが発生するソフトウェアプロセスよりも影響を受けます。
我々は、OSSの既知の脆弱性がエージェントの一部として実行されたときにどのように振る舞うかを検討する。
- 参考スコア（独自算出の注目度）: 18.144906443865736
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Software agents increasingly depend on open-source components when executing tools and interacting with external systems. Security flaws in these dependencies may therefore influence more than the software process in which they occur: their consequences can be carried through tool outputs, agent state, and information subsequently exposed to the model. Determining whether such a consequence is actually realized in a particular execution, and where its influence stops within the agent system, remains challenging. We investigate how known OSS vulnerabilities behave when exercised as part of agent workflows. Our study reveals recurring patterns in the way security-relevant consequences emerge and propagate across runtime layers. Building on these observations, we use vulnerability-aware semantic information, differential executions of vulnerable and corrected software, and runtime provenance spanning multiple layers to determine whether a vulnerability produces an observable security effect and to identify the furthest layer at which that effect remains manifested. Our evaluation shows that this approach can accurately distinguish realized vulnerability effects and determine their manifestation boundaries across a diverse collection of vulnerability scenarios. We additionally apply the analysis to documented workflows in a real-world agent framework and uncover multiple security effects originating from known vulnerabilities in its OSS dependencies. These results highlight the importance of reasoning about vulnerable dependencies in terms of their execution-level consequences rather than vulnerability presence alone.
- Abstract（参考訳）: ソフトウェアエージェントは、ツールの実行や外部システムとのインタラクションにおいて、ますますオープンソースコンポーネントに依存している。
これらの依存関係のセキュリティ上の欠陥は、それらが生じるソフトウェアプロセスよりも影響が大きい可能性がある。
そのような結果が特定の実行で実際に実現されているか、そしてエージェントシステム内でその影響が止まるかを決定することは、依然として困難である。
我々は、エージェントワークフローの一部として実行されたOSSの脆弱性がどのように振る舞うかを調査する。
我々の研究では、セキュリティ関連の結果がランタイム層に出現し、伝播する過程において、繰り返しパターンが明らかになっている。
これらの観測に基づいて、脆弱性を認識したセマンティック情報、脆弱性と修正されたソフトウェアの差分実行、および複数のレイヤにまたがる実行時の証明を用いて、脆弱性が観測可能なセキュリティ効果を生み出すかどうかを判断し、その影響が現われ続ける最深層を特定する。
評価の結果, 本手法は, 現実の脆弱性効果を正確に識別し, 多様な脆弱性シナリオの集合にまたがる発現境界を決定することができることがわかった。
さらに、実世界のエージェントフレームワークでドキュメント化されたワークフローに解析を適用し、OSS依存の既知の脆弱性から生じる複数のセキュリティ効果を明らかにする。
これらの結果は、脆弱性の存在のみではなく、実行レベルの結果の観点から、脆弱な依存関係に関する推論の重要性を強調している。
関連論文リスト
- Identifying Security Platform Product Abuse with Machine Learning [23.104408608267054]
製品の乱用は、業界全体で、個々に稀だが、成長している問題である。
脅威のあるアクターは、LOTL(living-off-the-land)攻撃を利用して、煩雑で頻繁に検出されるマルウェアの使用を避けることができる。
製品虐待のカバレッジは35%増加し、毎月のアラートは30%減少し、悪意あるアクターの行動の変化への適応性が向上した。
論文 参考訳（メタデータ） (2026-09-18T04:23:58Z) - CLEAR: Causal Context-Based Agentic Reasoning for Vulnerability Detection [3.2238600872149275]
Causal Context-based Agentic Reasoning (CLEAR)は、因果知識グラフと統合された新しいマルチエージェント脆弱性検出フレームワークである。
コレクター、クレーム、批判、裁判官を含む4つの専門エージェントは、検索された因果コンテキストを通じて脆弱性仮説を協調的に検証する。
CLEARはPair-Correct (P-C)のパフォーマンスを130.7%改善し、最先端のアプローチよりも71.56%向上した。
論文 参考訳（メタデータ） (2026-08-04T05:03:11Z) - SafeFlow: Semantic Information-Flow Control for Blocking Malicious Propagation in Multi-Agent Systems [9.486092743924472]
SafeFlowは、セマンティックな情報フロー問題として悪意あるクロスエージェントの伝搬を形式化するマルチエージェントシステムのための防御フレームワークである。
プロンプトインジェクション、Jailbreakベースの安全でないツール使用、リスクの高いコード実行、有害なWebエージェント動作の4つのベンチマークで評価された。
論文 参考訳（メタデータ） (2026-07-28T03:55:47Z) - Who Pays the Price? Stakeholder-Centric Prompt Injection Benchmarking for Real-world Web Agents [93.19140872946842]
大規模言語モデル(LLM)によって駆動されるWebエージェントは、現実の環境にますますデプロイされる。
これにより、一見良質なコンテンツがエージェントの振る舞いを操作する敵の命令を埋め込む、プロンプト・インジェクション・アタックに対して脆弱になる。
実世界のWebエージェントシステムにおいて,損害を体系的に分類し,属性付けするベンチマークである textbfsysname を導入する。
論文 参考訳（メタデータ） (2026-06-11T14:12:43Z) - Dynamic Risk Assessment by Bayesian Attack Graphs and Process Mining [4.030443498795535]
本稿では,悪意あるネットワークトラフィックを特徴付けるプロセスマイニング手法を適用し,脆弱性を積極的に悪用する可能性に関する証拠を導出する。
提案手法は,脆弱性が有効に悪用されているかどうかを効果的に検出し,システム妥協の可能性を評価できることを示す。
論文 参考訳（メタデータ） (2026-04-20T10:51:50Z) - The Why Behind the Action: Unveiling Internal Drivers via Agentic Attribution [63.61358761489141]
LLM(Large Language Model)ベースのエージェントは、カスタマーサービス、Webナビゲーション、ソフトウェアエンジニアリングといった現実世界のアプリケーションで広く使われている。
本稿では,タスク結果に関係なく,エージェントの動作を駆動する内部要因を識別する,テキスト汎用エージェント属性のための新しいフレームワークを提案する。
標準ツールの使用やメモリ誘起バイアスのような微妙な信頼性リスクなど、さまざまなエージェントシナリオでフレームワークを検証する。
論文 参考訳（メタデータ） (2026-01-21T15:22:21Z) - CaMeLs Can Use Computers Too: System-level Security for Computer Use Agents [60.98294016925157]
AIエージェントは、悪意のあるコンテンツがエージェントの行動をハイジャックして認証情報を盗んだり、金銭的損失を引き起こすような、インジェクション攻撃に弱い。
CUAのためのシングルショットプランニングでは、信頼できるプランナーが、潜在的に悪意のあるコンテンツを観察する前に、条件付きブランチで完全な実行グラフを生成する。
このアーキテクチャ分離は命令インジェクションを効果的に防止するが、ブランチステアリング攻撃を防ぐには追加の対策が必要であることを示す。
論文 参考訳（メタデータ） (2026-01-14T23:06:35Z) - The Impact of SBOM Generators on Vulnerability Assessment in Python: A Comparison and a Novel Approach [56.4040698609393]
Software Bill of Materials (SBOM) は、ソフトウェア構成における透明性と妥当性を高めるツールとして推奨されている。
現在のSBOM生成ツールは、コンポーネントや依存関係を識別する際の不正確さに悩まされることが多い。
提案するPIP-sbomは,その欠点に対処する新しいピップインスパイアされたソリューションである。
論文 参考訳（メタデータ） (2024-09-10T10:12:37Z) - Trust, but Verify: Evaluating Developer Behavior in Mitigating Security Vulnerabilities in Open-Source Software Projects [0.11999555634662631]
本研究では,オープンソースソフトウェア(OSS)プロジェクトの依存関係の脆弱性について検討する。
古い依存関係やメンテナンスされていない依存関係に共通する問題を特定しました。
その結果, 直接的な依存関係の削減と, 強力なセキュリティ記録を持つ高度に確立されたライブラリの優先順位付けが, ソフトウェアセキュリティの状況を改善する効果的な戦略であることが示唆された。
論文 参考訳（メタデータ） (2024-08-26T13:46:48Z) - Safety Margins for Reinforcement Learning [53.10194953873209]
安全マージンを生成するためにプロキシ臨界度メトリクスをどのように活用するかを示す。
Atari 環境での APE-X と A3C からの学習方針に対するアプローチを評価する。
論文 参考訳（メタデータ） (2023-07-25T16:49:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。