論文の概要: From Requirements to Attack Trees: Grounded LLM Agents for Design-Time Security Review
- arxiv url: http://arxiv.org/abs/2610.03820v1
- Date: Fri, 02 Oct 2026 03:52:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 05:02:13.837582
- Title: From Requirements to Attack Trees: Grounded LLM Agents for Design-Time Security Review
- Title（参考訳）: 要求から攻撃木へ:設計時セキュリティレビューのための接地LDMエージェント
- Abstract要約: 設計レベルのセキュリティの弱点は、要求、信頼の前提、コントロールの欠如、実装開始前のデータフローから生じます。
本稿では,製品要件文書やアーキテクチャ図から設計時セキュリティ分析を行うマルチエージェントLLMフレームワークを提案する。
- 参考スコア（独自算出の注目度）: 0.2155083987188202
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Design-level security weaknesses can arise from requirements, trust assumptions, missing controls, and data flows before implementation begins. Existing security practices often identify these issues after code is written. We present a multi-agent LLM framework for design-time security analysis from product requirement documents and architecture diagrams. The proposed framework parses architecture diagrams into graph representations, generates misuse and failure cases, constructs attack trees, checks governance and compliance gaps, recommends mitigations, assigns enterprise security-domain tags, and produces a candidate revised architecture recommendation for expert review. The framework does not retrieve from Common Weakness Enumeration (CWE) databases at inference time. Instead, it analyzes system behavior, trust boundaries, component interactions, and data-flow assumptions. Misuse cases act as intermediate representations that link findings to system components and attack paths, while a validation and refinement loop filters unsupported findings and improves grounding, traceability, and actionability. We evaluate the framework on a Microsoft reference-labeled threat-modeling example, labeled synthetic PRD--architecture pairs, and two open-ended systems: Berty and Gas Town. The reference-labeled case supports threat-recovery and actionability analysis, while the open-ended cases evaluate validity, noise, traceability, actionability, redundancy, and attack-tree quality. Results show that architecture-informed, misuse-driven reasoning improves review quality compared with single-shot and ablation baselines. Keywords: LLM Multi-Agent Systems, Design-Time Security, Threat Modeling, Vulnerability Discovery, Architecture Diagrams, Security Analysis, Misuse Case Derivation, Attack Trees, Iterative Reasoning, Security Governance.
- Abstract（参考訳）: 設計レベルのセキュリティの弱点は、要求、信頼の前提、コントロールの欠如、実装開始前のデータフローから生じます。
既存のセキュリティプラクティスは、コードが書かれた後、これらの問題を識別することが多い。
本稿では,製品要件文書やアーキテクチャ図から設計時セキュリティ分析を行うマルチエージェントLLMフレームワークを提案する。
提案するフレームワークは、アーキテクチャ図をグラフ表現に解析し、誤用と障害のケースを生成し、アタックツリーを構築し、ガバナンスとコンプライアンスのギャップをチェックし、緩和を推奨し、エンタープライズセキュリティドメインタグを割り当て、専門家のレビューのために改訂されたアーキテクチャ推奨を生成する。
フレームワークは、推論時にCommon Weakness Enumeration (CWE)データベースから取得しない。
代わりに、システムの振る舞い、信頼境界、コンポーネントの相互作用、データフローの仮定を分析します。
誤用ケースは、発見をシステムコンポーネントと攻撃パスにリンクする中間表現として機能し、検証と改善ループフィルタは、発見を裏付け、グラウンド化、トレーサビリティ、実行可能性を改善する。
我々は、Microsoftの参照ラベル付き脅威モデリングの例で、合成RD-アーキテクチャペアと、BertyとGas Townの2つのオープンエンドシステムについて、このフレームワークを評価した。
基準ラベル付きケースは、脅威回復と行動可能性の分析をサポートし、オープンエンドケースは、妥当性、ノイズ、トレーサビリティ、行動可能性、冗長性、攻撃木品質を評価する。
その結果, アーキテクチャインフォームドな誤用による推論は, シングルショットやアブレーションベースラインに比べてレビュー品質が向上することがわかった。
キーワード: LLM Multi-Agent Systems, Design-Time Security, Threat Modeling, Vulnerability Discovery, Architecture Diagrams, Security Analysis, Misuse Case Derivation, Attack Trees, Iterative Reasoning, Security Governance。
関連論文リスト
- Trustworthy Agentic AI: Failure Modes, Mitigation Strategies, and a Lifecycle Framework for Autonomous LLM Systems [4.134513558120981]
大きな言語モデル上に構築されたエージェントAIシステムは、複数のステップを計画し、外部ツールを使用し、メモリに情報を保持し、他のエージェントと調整することができる。
これらの機能は静的言語モデルよりも有用であるが、新たなセキュリティと運用上のリスクも導入している。
この記事では、5つの相互接続された次元にわたるエージェントAIの信頼性についてレビューする。
論文 参考訳（メタデータ） (2026-09-19T02:47:37Z) - AI Slop and Hallucinations in Vulnerability Assessment: A Survey on Reasoning Failures and Trustworthy Mitigation [48.55515767840701]
AIスロープ(AI slop)は、アーティファクト、幻覚的脆弱性、可視だが正しくないパッチ、セマンティックに再パッケージされたバグレポートである。
本稿では,実証的証拠を調査し,統一メカニズムを特定し,信頼に値するトリアージへの道筋をたどる。
論文 参考訳（メタデータ） (2026-08-26T11:48:38Z) - PhyAgentOS: A Self-Evolving Operating System for Embodied Agents with Decoupled Cognitive Planning and Physical Execution [49.776611937968]
我々は、スケジューリング、検証、メモリ、ベンチマーク、安全性をシステムレベルのサービスとして提供するPhyAgentOSを紹介します。
セッション中心のセッションは、スケジューリング、互換性、監督された実行、エビデンス収集、受け入れの最小単位として、アクションではなくセッションを扱う。
SessionVerifierは、実行終了とセマンティックタスク完了を、成功、失敗、または再計画のエビデンスに基づいて判断する。
ベンチマークはデプロイメントセッションと検証パスを再利用するので、結果は実際の実行に遡る。
論文 参考訳（メタデータ） (2026-07-18T04:46:53Z) - Large Language Models in Misinformation Ecosystems: Misuse, Defense, and Vulnerability [65.56750741053266]
大規模言語モデル(LLM)は、誤情報をコンテンツ中心の問題からより広範なエコシステムレベルのセキュリティ課題に転換した。
本稿では,これらのリスクと防御を統一する役割層フレームワークを提案する。
この役割はLLMを攻撃者、ディフェンダー、検証システムの脆弱なコンポーネントとして特徴づけ、層次元はコンテンツ、社会的コンテキスト、エビデンス環境、検証をカバーしている。
論文 参考訳（メタデータ） (2026-07-11T17:04:17Z) - An Organization-Scoped LLM Agent Runtime Architecture for Regulated Cybersecurity Operations [0.3013679260442808]
規制されたサイバーセキュリティは、組織レベルの範囲を強制するランタイム基板を欠いている。
最近の大規模言語モデル(LLM)エージェントシステムは、孤立したサイバーセキュリティタスクに対して強い結果を報告している。
本稿では,金融サイバーセキュリティのための組織スコープ型エージェントランタイムアーキテクチャを提案する。
論文 参考訳（メタデータ） (2026-05-28T21:51:38Z) - Provably Secure Agent Guardrail [89.79561918065122]
既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。
本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
論文 参考訳（メタデータ） (2026-05-28T02:12:41Z) - ESAA-Security: An Event-Sourced, Verifiable Architecture for Agent-Assisted Security Audits of AI-Generated Code [0.0]
本稿では,ソフトウェアリポジトリのエージェント支援セキュリティ監査のためのドメイン固有フレームワークであるESAA-Securityを提案する。
このフレームワークは構造化されたチェック結果、脆弱性の在庫、深刻度分類、リスク、修正ガイダンス、エグゼクティブサマリー、最終的なマークダウン/JSON監査レポートを生成する。
論文 参考訳（メタデータ） (2026-03-06T15:15:26Z) - ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack [52.17935054046577]
本稿では、間接的インジェクション攻撃に対する安全性アライメントを改善するためのモデルレベルのソリューションであるReasAlignを提案する。
ReasAlignには、ユーザクエリの分析、競合する命令の検出、ユーザの意図したタスクの継続性を維持するための構造化された推論ステップが組み込まれている。
論文 参考訳（メタデータ） (2026-01-15T08:23:38Z) - Automated Post-Incident Policy Gap Analysis via Threat-Informed Evidence Mapping using Large Language Models [0.0]
本稿では,Large Language Models (LLMs) が,システム証拠を自律的に分析し,セキュリティポリシーのギャップを識別することによって,事故後のレビューを強化することができるかどうかを検討する。
我々は、ログデータを取り込み、観察された振る舞いをMITRE ATT&CKフレームワークにマップし、妥当性とコンプライアンスに関する組織的セキュリティポリシーを評価する脅威に富んだエージェント型フレームワークを提案する。
論文 参考訳（メタデータ） (2026-01-04T01:39:20Z) - AI Bill of Materials and Beyond: Systematizing Security Assurance through the AI Risk Scanning (AIRS) Framework [31.261980405052938]
人工知能(AI)システムの保証は、ソフトウェアサプライチェーンセキュリティ、敵機械学習、ガバナンスドキュメントに分散している。
本稿では,AI保証の運用を目的とした脅威モデルに基づくエビデンス発生フレームワークであるAI Risk Scanning(AIRS)フレームワークを紹介する。
論文 参考訳（メタデータ） (2025-11-16T16:10:38Z) - DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。
この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。
本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
論文 参考訳（メタデータ） (2025-06-13T05:01:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。