論文の概要: SAMD: A Tool for Identifying False Data Injection Scenarios in AI/ML-enabled Medical Devices

• arxiv url: http://arxiv.org/abs/2605.29210v1
• Date: Thu, 28 May 2026 00:44:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-30 02:45:55.57402
• Title: SAMD: A Tool for Identifying False Data Injection Scenarios in AI/ML-enabled Medical Devices
• Title（参考訳）: SAMD:AI/ML対応医療機器における偽データ注入シナリオの特定ツール
• Authors: Mohammadreza Hallajiyan, Xueren Ge, Athish Pranav Dharmalingam, Gargi Mitra, Shahrear Iqbal, Homa Alemzadeh, Karthik Pattabiraman,
• Abstract要約: 本稿では,AI/ML対応医療機器上でのセキュリティのためのシステム理論プロセス分析(STPA-Sec)を実行する自動化ツールであるSAMDを紹介する。 SAMDは医療システムを制御構造としてモデル化し、全てのシステムコンポーネントをMLエンジンに偽データを注入するための潜在的ポイントとして扱う。 FDAによる5つの医療機器のケーススタディを通じてSAMDの有効性を実証する。
• 参考スコア（独自算出の注目度）: 10.241336145166775
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The growing integration of artificial intelligence (AI) and machine learning (ML) in medical systems requires effective measures to address emerging security risks. One such risk is that of adversaries introducing false data through vulnerable system components during inference, causing misdiagnosis and wrong treatments. These risks are challenging to anticipate and address in the design phase, as the system assembly partially occurs during actual use by end users. To address this concern, we introduce SAMD, an automated tool for performing System Theoretic Process Analysis for Security (STPA-Sec) on AI/ML-enabled medical devices during the design phase. SAMD models the medical system as a control structure, treating all system components as potential points for injecting false data into the ML engine. It leverages state-of-the-art vulnerability databases and Large Language Models (LLMs) to automate vulnerability discovery and generate a list of potential attack scenarios. We demonstrate SAMD's effectiveness through case studies on five FDA-cleared medical devices, showcasing its ability to identify vulnerable points and potential attack paths. We find that SAMD has 100% precision in identifying target device technologies in the case studies' documents, retrieves the known vulnerabilities linked to them (with 63.2% precision), and generates highly relevant attack scenarios on the ML model, including detailed steps that an adversary might take (with 95.3% accuracy, and the highest time taken being 191.64s).
• Abstract（参考訳）: 医療システムにおける人工知能(AI)と機械学習(ML)の統合の増大には、新たなセキュリティリスクに対処するための効果的な対策が必要である。 そのようなリスクの1つは、推論中に脆弱なシステムコンポーネントを通じて偽データを導入し、誤診断と誤った治療を引き起こす、というものである。 これらのリスクは、エンドユーザーによる実際の使用中にシステムアセンブリが部分的に発生するため、設計フェーズにおける予測と対処が困難である。 この問題に対処するために、設計フェーズ中にAI/ML対応医療機器上でシステム理論プロセス分析(STPA-Sec)を実行する自動化ツールであるSAMDを紹介する。 SAMDは医療システムを制御構造としてモデル化し、全てのシステムコンポーネントをMLエンジンに偽データを注入するための潜在的ポイントとして扱う。 最先端の脆弱性データベースと大規模言語モデル(LLM)を活用して、脆弱性発見の自動化と潜在的な攻撃シナリオのリストを生成する。 FDAによる5つの医療機器のケーススタディを通じてSAMDの有効性を実証し、脆弱な点と潜在的な攻撃経路を特定する能力を示す。 SAMDは、ケーススタディの文書中のターゲットデバイス技術を特定するのに100%の精度を持ち、それらに関連する既知の脆弱性(63.2%の精度で)を検索し、敵が取る可能性のある詳細なステップ(95.3%の精度、最高時間は191.64秒)を含む、非常に関連性の高い攻撃シナリオをMLモデル上で生成する。

関連論文リスト

• Understanding AI Methods for Intrusion Detection and Cryptographic Leakage [42.8384136157456]
  機械学習技術が悪意あるネットワーク活動を検知し、暗号実装における潜在的な情報漏洩を特定する方法について評価する。 この結果から,安定したネットワーク環境下でのAIモデルによるほぼ完璧な検出精度が得られた。 また、学習したモデルがサイドチャネルリークと整合したパターンを識別し、AIが実装レベルの脆弱性を明らかにするのに役立つことを示唆した。
  論文  参考訳（メタデータ） (2026-03-26T18:42:57Z)
• Data Poisoning Vulnerabilities Across Healthcare AI Architectures: A Security Threat Analysis [39.89241412792336]
  我々は,畳み込みニューラルネットワークに対するアーキテクチャ攻撃,大規模言語モデル,強化学習エージェントの4つのカテゴリの8つの攻撃シナリオを分析した。 以上の結果から,100～500サンプルしかアクセスできないアタッカーは,データセットのサイズに関わらず,医療AIを侵害する可能性が示唆された。 我々は、必要な敵検定、アンサンブルに基づく検出、プライバシー保護セキュリティ機構、AIセキュリティ標準に関する国際調整を含む多層防御を推奨する。
  論文  参考訳（メタデータ） (2025-11-14T07:16:16Z)
• AI Agentic Vulnerability Injection And Transformation with Optimized Reasoning [2.918225266151982]
  AVIATORはAIによる最初の脆弱性注入ワークフローである。 高忠実で多様な大規模な脆弱性データセット生成のために、現実的でカテゴリ固有の脆弱性を自動的に注入する。 セマンティック分析、LoRAベースのファインチューニングとRetrieval-Augmented Generationで強化されたインジェクション合成、静的解析とLLMベースの識別器によるインジェクション後の検証を組み合わせる。
  論文  参考訳（メタデータ） (2025-08-28T14:59:39Z)
• Systems-Theoretic and Data-Driven Security Analysis in ML-enabled Medical Devices [6.197430230611422]
  我々は、AI/ML対応医療機器の脅威状況を理解するために、デバイスリコールや有害事象、既知の脆弱性に関する公開データを解析する。 我々の研究は、メーカーがAI/ML対応医療機器の中核となる設計原則としてサイバーセキュリティを組み込むことを可能にすることを目的としています。
  論文  参考訳（メタデータ） (2025-06-18T00:05:48Z)
• On the Vulnerability of LLM/VLM-Controlled Robotics [54.57914943017522]
  大規模言語モデル(LLM)と視覚言語モデル(VLM)を統合するロボットシステムの脆弱性を,入力モダリティの感度によって強調する。 LLM/VLM制御型2つのロボットシステムにおいて,単純な入力摂動がタスク実行の成功率を22.2%,14.6%減少させることを示す。
  論文  参考訳（メタデータ） (2024-02-15T22:01:45Z)
• Harnessing the Speed and Accuracy of Machine Learning to Advance Cybersecurity [0.0]
  従来のシグネチャベースのマルウェア検出方法は、複雑な脅威を検出するのに制限がある。 近年、機械学習はマルウェアを効果的に検出する有望なソリューションとして出現している。 MLアルゴリズムは、大規模なデータセットを分析し、人間が識別するのが困難なパターンを特定することができる。
  論文  参考訳（メタデータ） (2023-02-24T02:42:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。