論文の概要: STRIDE-AI: A Threat Modeling Framework for Generative AI Security Assessment

• arxiv url: http://arxiv.org/abs/2605.17163v1
• Date: Sat, 16 May 2026 21:27:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 17:57:47.716614
• Title: STRIDE-AI: A Threat Modeling Framework for Generative AI Security Assessment
• Title（参考訳）: STRIDE-AI - ジェネレーティブAIセキュリティアセスメントのための脅威モデリングフレームワーク
• Authors: Tsafac Nkombong Regine Cyrille, Franziska Schwarz,
• Abstract要約: 我々は,高レベルリスク標準(NIST AI RMF)と技術的脆弱性のギャップを埋めるフレームワークであるtextitSTRIDE-AIを提案する。 このフレームワークは6フェーズのアセスメントライフサイクルを定義し、AIシステムのための古典的STRIDEの脅威モデリング適応を導入し、目的とするWebツールを通じて運用する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Traditional cybersecurity methodologies target deterministic systems and fail to address the probabilistic nature of AI, leaving systems vulnerable to attack vectors such as model inversion, data poisoning, and prompt injection. Recent industry reports indicate that a majority of organizations deploying AI lack a dedicated security strategy, with adversarial attacks increasing rapidly year-over-year. We present \textit{STRIDE-AI}, a framework that bridges the gap between high-level risk standards (NIST AI RMF) and technical vulnerability taxonomies (OWASP LLM Top 10). The framework defines a six-phase assessment lifecycle, introduces a threat modeling adaptation of classical STRIDE for AI systems, and is operationalized through a purpose-built web tool. We provide an initial validation of the approach through a black-box assessment of a deployed LLM chatbot, which successfully reduced the attack success rate from 80\% to 15\% in our sandbox case study.
• Abstract（参考訳）: 従来のサイバーセキュリティ手法は決定論的システムをターゲットにしており、AIの確率論的性質に対処できず、システムはモデル反転、データ中毒、即時注入のようなベクター攻撃に脆弱である。 最近の業界レポートでは、AIをデプロイする組織の大半は、対人攻撃が対前年比で急速に増加するという、専用のセキュリティ戦略を欠いていることが示されている。 我々は、ハイレベルリスク標準(NIST AI RMF)と技術的脆弱性分類(OWASP LLM Top 10)のギャップを埋めるフレームワークである「textit{STRIDE-AI}」を提示する。 このフレームワークは6フェーズのアセスメントライフサイクルを定義し、AIシステムのための古典的STRIDEの脅威モデリング適応を導入し、目的とするWebツールを通じて運用する。 LLMチャットボットのブラックボックス評価によるアプローチの初期検証を行い、サンドボックスケーススタディにおける攻撃成功率を80%から15倍に下げることに成功した。

関連論文リスト

• AVISE: Framework for Evaluating the Security of AI Systems [0.0]
  我々は、AIシステムやモデルのセキュリティの脆弱性を特定し評価するためのオープンソースのモジュラーフレームワークを紹介します。 我々は、言語モデルにおけるジェイルブレイク脆弱性を発見するための自動セキュリティ評価テスト(SET)を開発した。 我々は、最近リリースされた9つの言語モデルについて、SETを用いて評価し、これらすべてが、Red Queen攻撃に対して様々な程度に脆弱であることが判明した。
  論文  参考訳（メタデータ） (2026-04-22T17:58:17Z)
• Frontier AI Risk Management Framework in Practice: A Risk Analysis Technical Report v1.5 [61.787178868669265]
  この技術レポートは、サイバー犯罪、説得と操作、戦略上の詐欺、制御されていないAIR&D、自己複製の5つの重要な側面について、更新されきめ細かな評価を提示する。 この作業は、現在のAIフロンティアのリスクに対する理解を反映し、これらの課題を軽減するための集団行動を促します。
  論文  参考訳（メタデータ） (2026-02-16T04:30:06Z)
• Toward Quantitative Modeling of Cybersecurity Risks Due to AI Misuse [50.87630846876635]
  我々は9つの詳細なサイバーリスクモデルを開発する。 各モデルはMITRE ATT&CKフレームワークを使用して攻撃をステップに分解する。 個々の見積もりはモンテカルロシミュレーションによって集約される。
  論文  参考訳（メタデータ） (2025-12-09T17:54:17Z)
• ASTRIDE: A Security Threat Modeling Platform for Agentic-AI Applications [4.5053527030708285]
  ASTRIDEはAIエージェントベースのシステム向けに開発された自動脅威モデリングプラットフォームである。 脅威モデリングを自動化するため、ASTRIDEは細調整された視覚言語モデルのコンソーシアムとOpenAI-gpt-oss推論LLMを組み合わせた。 我々の評価は、ASTRIDEが次世代インテリジェントシステムに対して正確でスケーラブルで説明可能な脅威モデリングを提供することを示す。
  論文  参考訳（メタデータ） (2025-12-04T13:32:40Z)
• ANNIE: Be Careful of Your Robots [48.89876809734855]
  エンボディドAIシステムに対する敵の安全攻撃に関する最初の体系的研究について述べる。 すべての安全カテゴリーで攻撃の成功率は50%を超えている。 結果は、実証済みのAIシステムにおいて、これまで未調査だったが、非常に連続的な攻撃面を露呈する。
  論文  参考訳（メタデータ） (2025-09-03T15:00:28Z)
• OCCULT: Evaluating Large Language Models for Offensive Cyber Operation Capabilities [0.0]
  我々は、実世界の攻撃的サイバー操作の実現とスケーリングに向けたAIの進歩を評価するための新しいアプローチを実証する。 我々は、サイバーセキュリティの専門家が厳格かつ反復可能な測定に貢献できる軽量な運用評価フレームワークであるOCCULTについて詳述する。 私たちは、現実的なサイバー脅威をスケールするためにAIが使用されるリスクが、最近著しく進歩していることに気付きました。
  論文  参考訳（メタデータ） (2025-02-18T19:33:14Z)
• EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
  EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。 高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。 しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。 本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
  論文  参考訳（メタデータ） (2024-08-08T13:19:37Z)
• Threat Modelling and Risk Analysis for Large Language Model (LLM)-Powered Applications [0.0]
  大規模言語モデル(LLM)は、高度な自然言語処理機能を提供することによって、様々なアプリケーションに革命をもたらした。 本稿では,LSMを利用したアプリケーションに適した脅威モデリングとリスク分析について検討する。
  論文  参考訳（メタデータ） (2024-06-16T16:43:58Z)
• MF-CLIP: Leveraging CLIP as Surrogate Models for No-box Adversarial Attacks [65.86360607693457]
  敵に事前の知識がないノンボックス攻撃は、実際的な関連性にもかかわらず、比較的過小評価されている。 本研究は,大規模ビジョン・ランゲージ・モデル(VLM)をノンボックス・アタックの実行のための代理モデルとして活用するための体系的な研究である。 理論的および実証的な分析により,バニラCLIPを直接サロゲートモデルとして適用するための識別能力の不足に起因するno-boxアタックの実行に重要な制限があることが判明した。 MF-CLIP(MF-CLIP: MF-CLIP)はCLIPのサロゲートモデルとしての有効性を高める新しいフレームワークである。
  論文  参考訳（メタデータ） (2023-07-13T08:10:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。