論文の概要: MATRA: Modeling the Attack Surface of Agentic AI Systems -- OpenClaw Case Study
- arxiv url: http://arxiv.org/abs/2605.10763v1
- Date: Mon, 11 May 2026 15:58:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:50.960829
- Title: MATRA: Modeling the Attack Surface of Agentic AI Systems -- OpenClaw Case Study
- Title（参考訳）: MATRA:エージェントAIシステムの攻撃面をモデル化する -- OpenClawケーススタディ
- Authors: Tim Van hamme, Thomas Vissers, Javier Carnerero-Cano, Mario Fritz, Emil C. Lupu, Lieven Desmet, Dinil Mon Divakaran,
- Abstract要約: 我々はエージェントAIシステムのための実用的脅威モデリングフレームワークMATRAを提案する。
ネットワークサンドボックスや最小限のアクセスアクセスといったアーキテクチャ制御が,インジェクションの爆発半径を制限してリスクを低減する方法を示す。
- 参考スコア（独自算出の注目度）: 33.739271128194204
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLMs are increasingly deployed as autonomous agents with access to tools, databases, and external services, yet practitioners (across different sectors) lack systematic methods to assess how known threat classes translate into concrete risks within a specific agentic deployment. We present MATRA, a pragmatic threat modeling framework for agentic AI systems that adapts established risk assessment methodology to systematically assess how known LLM threats translate into deployment-specific risks. MATRA begins with an asset-based impact assessment and utilizes attack trees to determine the likelihood of these impacts occurring within the system architecture. We demonstrate MATRA on a personal AI agent deployment using OpenClaw, quantifying how architectural controls such as network sandboxing and least-privilege access reduce risk by limiting the blast radius of successful injections.
- Abstract（参考訳）: LLMは、ツール、データベース、外部サービスへのアクセスを持つ自律的なエージェントとしてますますデプロイされていますが、既知の脅威クラスが特定のエージェントデプロイメント内で具体的なリスクにどのように変換されるかを評価するための体系的な方法が(さまざまな分野にわたって)欠如しています。
エージェントAIシステムのための実用的脅威モデリングフレームワークであるMATRAは、確立されたリスク評価手法を適用し、既知のLSM脅威がデプロイメント固有のリスクにどのように変換されるかを体系的に評価する。
MATRAはアセットベースのインパクトアセスメントから始まり、アタックツリーを使用してシステムアーキテクチャ内で発生する影響の可能性を決定する。
我々は、OpenClawを用いたパーソナルAIエージェントのデプロイメントにおいて、MATRAを実証し、ネットワークサンドボックスや極小アクセスといったアーキテクチャ制御が、成功したインジェクションの爆発半径を制限することによってリスクを低減するかを定量的に示す。
関連論文リスト
- Where Do LLM-based Systems Break? A System-Level Security Framework for Risk Assessment and Treatment [0.5801044612920815]
大規模言語モデル(LLM)は、安全クリティカルシステムにますます統合されている。
本研究は,LLMシステムのための目標駆動型リスクアセスメントフレームワークを紹介する。
医療ケーススタディを通じてその枠組みを実証する。
論文 参考訳（メタデータ） (2026-03-08T04:30:27Z) - Frontier AI Risk Management Framework in Practice: A Risk Analysis Technical Report v1.5 [61.787178868669265]
この技術レポートは、サイバー犯罪、説得と操作、戦略上の詐欺、制御されていないAIR&D、自己複製の5つの重要な側面について、更新されきめ細かな評価を提示する。
この作業は、現在のAIフロンティアのリスクに対する理解を反映し、これらの課題を軽減するための集団行動を促します。
論文 参考訳（メタデータ） (2026-02-16T04:30:06Z) - Just Ask: Curious Code Agents Reveal System Prompts in Frontier LLMs [65.6660735371212]
textbftextscJustAskは,インタラクションのみで効果的な抽出戦略を自律的に発見するフレームワークである。
これは、アッパー信頼境界に基づく戦略選択と、原子プローブと高レベルのオーケストレーションにまたがる階層的なスキル空間を用いて、オンライン探索問題として抽出を定式化する。
この結果から,現代のエージェントシステムにおいて,システムプロンプトは致命的ではあるがほぼ無防備な攻撃面であることがわかった。
論文 参考訳（メタデータ） (2026-01-29T03:53:25Z) - Toward Quantitative Modeling of Cybersecurity Risks Due to AI Misuse [50.87630846876635]
我々は9つの詳細なサイバーリスクモデルを開発する。
各モデルはMITRE ATT&CKフレームワークを使用して攻撃をステップに分解する。
個々の見積もりはモンテカルロシミュレーションによって集約される。
論文 参考訳（メタデータ） (2025-12-09T17:54:17Z) - A Methodology for Quantitative AI Risk Modeling [32.594929429306774]
本稿では、シナリオ構築と定量的リスク推定を統合する手法を導入することにより、AIリスク管理のリスクモデリングコンポーネントを進化させる。
我々の手法は、サイバー犯罪、生物兵器開発、有害な操作、制御の喪失など、主要なシステム的AIリスクに適用できるように設計されている。
論文 参考訳（メタデータ） (2025-12-09T17:34:59Z) - SafeMobile: Chain-level Jailbreak Detection and Automated Evaluation for Multimodal Mobile Agents [58.21223208538351]
本研究は,モバイルマルチモーダルエージェントを取り巻くセキュリティ問題について考察する。
行動シーケンス情報を組み込んだリスク識別機構の構築を試みる。
また、大規模言語モデルに基づく自動アセスメントスキームも設計している。
論文 参考訳（メタデータ） (2025-07-01T15:10:00Z) - Unveiling the Misuse Potential of Base Large Language Models via In-Context Learning [61.2224355547598]
大規模言語モデル(LLM)のオープンソース化は、アプリケーション開発、イノベーション、科学的進歩を加速させる。
我々の調査は、この信念に対する重大な監視を露呈している。
我々の研究は、慎重に設計されたデモを配置することにより、ベースLSMが悪意のある命令を効果的に解釈し実行できることを実証する。
論文 参考訳（メタデータ） (2024-04-16T13:22:54Z) - Mapping LLM Security Landscapes: A Comprehensive Stakeholder Risk Assessment Proposal [0.0]
本稿では,従来のシステムにおけるリスク評価手法のようなツールを用いたリスク評価プロセスを提案する。
我々は、潜在的な脅威要因を特定し、脆弱性要因に対して依存するシステムコンポーネントをマッピングするためのシナリオ分析を行う。
3つの主要株主グループに対する脅威もマップ化しています。
論文 参考訳（メタデータ） (2024-03-20T05:17:22Z) - Asset-centric Threat Modeling for AI-based Systems [7.696807063718328]
本稿では、AI関連資産、脅威、対策、残留リスクの定量化のためのアプローチおよびツールであるThreatFinderAIを提案する。
このアプローチの実用性を評価するため、参加者はAIベースのヘルスケアプラットフォームのサイバーセキュリティ専門家によって開発された脅威モデルを再現するよう命じられた。
全体として、ソリューションのユーザビリティはよく認識され、脅威の識別とリスクの議論を効果的にサポートする。
論文 参考訳（メタデータ） (2024-03-11T08:40:01Z) - Adversarial Machine Learning Threat Analysis in Open Radio Access
Networks [37.23982660941893]
Open Radio Access Network (O-RAN) は、新しい、オープンで適応的でインテリジェントなRANアーキテクチャである。
本稿では,O-RANに対する体系的対向機械学習脅威分析を提案する。
論文 参考訳（メタデータ） (2022-01-16T17:01:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。