論文の概要: Towards Secure MLOps: Surveying Attacks, Mitigation Strategies, and Research Challenges

• arxiv url: http://arxiv.org/abs/2506.02032v1
• Date: Fri, 30 May 2025 17:45:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-04 21:47:34.793212
• Title: Towards Secure MLOps: Surveying Attacks, Mitigation Strategies, and Research Challenges
• Title（参考訳）: セキュアMLOpsを目指す - 攻撃調査,緩和戦略,研究課題
• Authors: Raj Patel, Himanshu Tripathi, Jasper Stone, Noorbakhsh Amiri Golilarz, Sudip Mittal, Shahram Rahimi, Vini Chaudhary,
• Abstract要約: 我々は,MLOpsエコシステムのさまざまなフェーズにわたる攻撃を評価するために,MITRE ATLAS(Adrial Threat Landscape for Artificial-Intelligence Systems)フレームワークの体系的応用を提案する。 次に、MLOpsエコシステムの対応するフェーズに明示的にマッピングされた攻撃手法の構造的分類を示す。 これに続いて、これらの攻撃カテゴリに沿った緩和戦略の分類が行われ、MLOpsエコシステムのセキュリティを強化するための実行可能なアーリーステージディフェンスが提供される。
• 参考スコア（独自算出の注目度）: 4.6592774515395465
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: The rapid adoption of machine learning (ML) technologies has driven organizations across diverse sectors to seek efficient and reliable methods to accelerate model development-to-deployment. Machine Learning Operations (MLOps) has emerged as an integrative approach addressing these requirements by unifying relevant roles and streamlining ML workflows. As the MLOps market continues to grow, securing these pipelines has become increasingly critical. However, the unified nature of MLOps ecosystem introduces vulnerabilities, making them susceptible to adversarial attacks where a single misconfiguration can lead to compromised credentials, severe financial losses, damaged public trust, and the poisoning of training data. Our paper presents a systematic application of the MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems) framework, a comprehensive and continuously updated catalog of AI-focused attacks, to systematically assess attacks across different phases of the MLOps ecosystem. We begin by examining the preparatory phases during which adversaries acquire the essential intelligence required to initiate their attacks. We then present a structured taxonomy of attack techniques explicitly mapped to corresponding phases of the MLOps ecosystem, supported by examples drawn from red-teaming exercises and real-world incidents. This is followed by a taxonomy of mitigation strategies aligned with these attack categories, offering actionable early-stage defenses to strengthen the security of MLOps ecosystem. Given the rapid evolution and adoption of MLOps, we further highlight key research gaps that require immediate attention. Our work emphasizes the importance of implementing robust security protocols from the outset, empowering practitioners to safeguard MLOps ecosystem against evolving cyber attacks.
• Abstract（参考訳）: 機械学習(ML)技術が急速に普及したことで、さまざまな分野の組織が、モデル開発からデプロイまでを加速するための効率的で信頼性の高い方法を模索するようになった。 機械学習オペレーション(MLOps)は、関連する役割を統一し、MLワークフローを合理化することによって、これらの要件に対処する統合的なアプローチとして登場した。 MLOps市場が成長を続けるにつれ、これらのパイプラインの確保はますます重要になっている。 しかし、MLOpsエコシステムの統一された性質は脆弱性を導入し、単一の設定ミスが資格情報の侵害、深刻な財政的損失、公的信頼の破損、トレーニングデータの汚染につながるような敵の攻撃に影響を受けやすい。 本稿では,MLOpsエコシステムのさまざまなフェーズにわたる攻撃を体系的に評価するために,AIによる攻撃の総合的かつ継続的に更新されたカタログであるMITRE ATLAS(Adversarial Threat Landscape for Artificial-Intelligence Systems)フレームワークの体系的応用を提案する。 まず、敵が攻撃を開始するために必要な情報を取得する準備段階について検討する。 次に,MLOpsエコシステムの対応するフェーズに明示的にマッピングされた攻撃手法の構造的分類について述べる。 これに続いて、これらの攻撃カテゴリに沿った緩和戦略の分類が行われ、MLOpsエコシステムのセキュリティを強化するための実行可能なアーリーステージディフェンスが提供される。 MLOpsの急速な進化と採用を考えると、すぐに注意を要する重要な研究ギャップをさらに強調します。 私たちの研究は、当初から堅牢なセキュリティプロトコルを実装することの重要性を強調しています。

関連論文リスト

• A Large Language Model-Supported Threat Modeling Framework for Transportation Cyber-Physical Systems [11.872361272221244]
  TraCR-TMF(Transportation Cybersecurity and Resiliency Threat Modeling Framework)は、大規模言語モデル(LLM)ベースのフレームワークで、専門家の介入を最小限に抑える。 MITRE ATT&CKマトリックスを利用することで、脅威、潜在的な攻撃手法、および対応する対策を特定する。 TraCR-TMFはまた、カスタマイズされたLLMを使用して脆弱性を分析することで、攻撃経路を重要な資産にマップする。
  論文  参考訳（メタデータ） (2025-06-01T04:33:34Z)
• Attack and defense techniques in large language models: A survey and new perspectives [5.600972861188751]
  大規模言語モデル(LLM)は多くの自然言語処理タスクの中心となっているが、その脆弱性はセキュリティと倫理的課題を呈している。 この体系的な調査は、LLMにおける攻撃と防御技術の進化の展望を探求する。
  論文  参考訳（メタデータ） (2025-05-02T03:37:52Z)
• Robust Intrusion Detection System with Explainable Artificial Intelligence [0.0]
  逆入力は、標準インターフェイスを通じて機械学習(ML)モデルを利用することができる。 敵の訓練のような従来の防御は、計算的な用語で費用がかかるため、しばしばリアルタイム検出の提供に失敗する。 eXplainable Artificial Intelligence (XAI) を用いた敵攻撃の検出と緩和のための新しい戦略を提案する。
  論文  参考訳（メタデータ） (2025-03-07T10:31:59Z)
• A Survey of Model Extraction Attacks and Defenses in Distributed Computing Environments [55.60375624503877]
  モデル抽出攻撃(MEA)は、敵がモデルを盗み、知的財産と訓練データを公開することによって、現代の機械学習システムを脅かす。 この調査は、クラウド、エッジ、フェデレーションのユニークな特性がどのように攻撃ベクトルや防御要件を形作るのかを、緊急に理解する必要に起因している。 本研究は, 自動運転車, 医療, 金融サービスといった重要な分野において, 環境要因がセキュリティ戦略にどう影響するかを実証し, 攻撃手法と防衛機構の進化を系統的に検討する。
  論文  参考訳（メタデータ） (2025-02-22T03:46:50Z)
• Exploring the Adversarial Vulnerabilities of Vision-Language-Action Models in Robotics [68.36528819227641]
  本稿では,VLAに基づくロボットシステムのロバスト性を体系的に評価する。 本研究では,ロボット行動の不安定化に空間的基盤を活用する2つの未目標攻撃目標と,ロボット軌道を操作する目標攻撃目標を導入する。 我々は、カメラの視野に小さなカラフルなパッチを配置し、デジタルと物理の両方の環境で効果的に攻撃を実行する逆パッチ生成アプローチを設計する。
  論文  参考訳（メタデータ） (2024-11-18T01:52:20Z)
• A Survey of Attacks on Large Vision-Language Models: Resources, Advances, and Future Trends [78.3201480023907]
  LVLM(Large Vision-Language Models)は、多モーダルな理解と推論タスクにまたがる顕著な能力を示す。 LVLMの脆弱性は比較的過小評価されており、日々の使用において潜在的なセキュリティリスクを生じさせる。 本稿では,既存のLVLM攻撃の様々な形態について概説する。
  論文  参考訳（メタデータ） (2024-07-10T06:57:58Z)
• The Malware as a Service ecosystem [5.973995274784383]
  この研究は、MaaSが従来のサイバーセキュリティ防衛にもたらす重大な課題を強調している。 防衛戦略のパラダイムシフト、動的分析、行動検出、AIと機械学習技術の統合を提唱する声もある。 最終的な目標は、コモディティ化されたマルウェアの脅威の拡散に対抗するための、より効果的な戦略の開発を支援することである。
  論文  参考訳（メタデータ） (2024-05-07T08:25:12Z)
• Beyond Boundaries: A Comprehensive Survey of Transferable Attacks on AI Systems [8.584570228761503]
  転送可能な攻撃は、セキュリティ、プライバシー、システム完全性に深刻なリスクをもたらす。 この調査は、7つの主要なカテゴリにわたる転送可能な攻撃に関する、最初の包括的なレビューを提供する。 本稿では,AIシステムへのトランスファー可能な攻撃の基盤となるメカニズムと実践的意味について検討する。
  論文  参考訳（メタデータ） (2023-11-20T14:29:45Z)
• Attacks in Adversarial Machine Learning: A Systematic Survey from the Life-cycle Perspective [69.25513235556635]
  敵対的機械学習(英: Adversarial Machine Learning、AML)は、機械学習の逆行現象を研究する。 機械学習システムの異なる段階で発生するこの敵対現象を探求するために、いくつかのパラダイムが最近開発された。 既存の攻撃パラダイムをカバーするための統一的な数学的枠組みを提案する。
  論文  参考訳（メタデータ） (2023-02-19T02:12:21Z)
• Towards Automated Classification of Attackers' TTPs by combining NLP with ML Techniques [77.34726150561087]
  我々は,NLP(Natural Language Processing)と,研究におけるセキュリティ情報抽出に使用される機械学習技術の評価と比較を行った。 本研究では,攻撃者の戦術や手法に従って非構造化テキストを自動的に分類するデータ処理パイプラインを提案する。
  論文  参考訳（メタデータ） (2022-07-18T09:59:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。