論文の概要: A Framework for Evaluating the Cybersecurity Risk of Real World, Machine
Learning Production Systems
- arxiv url: http://arxiv.org/abs/2107.01806v1
- Date: Mon, 5 Jul 2021 05:58:11 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-06 14:43:57.900014
- Title: A Framework for Evaluating the Cybersecurity Risk of Real World, Machine
Learning Production Systems
- Title(参考訳): 実世界のサイバーセキュリティリスク評価のためのフレームワーク,機械学習生産システム
- Authors: Ron Bitton, Nadav Maman, Inderjeet Singh, Satoru Momiyama, Yuval
Elovici, Asaf Shabtai
- Abstract要約: 我々はML生産システムにサイバー攻撃を組み込むMulVAL攻撃グラフ生成および分析フレームワークの拡張を開発する。
提案された拡張を使用することで、セキュリティ実践者はMLコンポーネントを含む環境にアタックグラフ分析手法を適用することができる。
- 参考スコア(独自算出の注目度): 41.470634460215564
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Although cyberattacks on machine learning (ML) production systems can be
destructive, many industry practitioners are ill equipped, lacking tactical and
strategic tools that would allow them to analyze, detect, protect against, and
respond to cyberattacks targeting their ML-based systems. In this paper, we
take a significant step toward securing ML production systems by integrating
these systems and their vulnerabilities into cybersecurity risk assessment
frameworks. Specifically, we performed a comprehensive threat analysis of ML
production systems and developed an extension to the MulVAL attack graph
generation and analysis framework to incorporate cyberattacks on ML production
systems. Using the proposed extension, security practitioners can apply attack
graph analysis methods in environments that include ML components, thus
providing security experts with a practical tool for evaluating the impact and
quantifying the risk of a cyberattack targeting an ML production system.
- Abstract(参考訳): 機械学習(ML)生産システムに対するサイバー攻撃は破壊的だが、多くの業界実践者は、MLベースのシステムをターゲットにしたサイバー攻撃を分析、検出、防御、対応できる戦術的および戦略的なツールを欠いている。
本稿では,これらのシステムとその脆弱性をサイバーセキュリティリスク評価フレームワークに統合することにより,ML生産システムの確保に向けて重要な一歩を踏み出した。
具体的には、ML生産システムの総合的な脅威分析を行い、ML生産システムにサイバー攻撃を組み込むためのMulVAL攻撃グラフ生成および分析フレームワークの拡張を開発した。
提案した拡張を使って、セキュリティ実践者はMLコンポーネントを含む環境にアタックグラフ分析手法を適用し、セキュリティ専門家にML生産システムを対象としたサイバー攻撃のリスクを評価し定量化する実用的なツールを提供する。
関連論文リスト
- On the Safety Concerns of Deploying LLMs/VLMs in Robotics: Highlighting
the Risks and Vulnerabilities [50.31806287390321]
ロボットの動作を操作または誤操作することは容易であり、安全上の危険をもたらす。
我々のデータは、即時攻撃で21.2%、知覚攻撃で30.2%の平均的なパフォーマンス劣化を示す。
論文 参考訳(メタデータ) (2024-02-15T22:01:45Z) - A Cybersecurity Risk Analysis Framework for Systems with Artificial
Intelligence Components [0.0]
欧州連合人工知能法、NIST人工知能リスク管理フレームワーク、および関連する規範の導入は、人工知能コンポーネントを持つシステムを評価するために、新しいリスク分析アプローチをよりよく理解し実装することを要求する。
本稿では,このようなシステムの評価を支援するサイバーセキュリティリスク分析フレームワークを提案する。
論文 参考訳(メタデータ) (2024-01-03T09:06:39Z) - Leveraging Traceability to Integrate Safety Analysis Artifacts into the
Software Development Process [51.42800587382228]
安全保証ケース(SAC)は、システムの進化中に維持することが困難である。
本稿では,ソフトウェアトレーサビリティを活用して,関連するシステムアーチファクトを安全解析モデルに接続する手法を提案する。
安全ステークホルダーがシステム変更が安全性に与える影響を分析するのに役立つように、システム変更の合理性を設計する。
論文 参考訳(メタデータ) (2023-07-14T16:03:27Z) - System Safety Engineering for Social and Ethical ML Risks: A Case Study [0.5249805590164902]
政府、産業、アカデミックはML駆動システムにおける害を特定し緩和する努力をしてきた。
既存のアプローチは概ね不整合であり、アドホックであり、有効性は不明である。
特に、この分析が社会的および倫理的リスクを識別し、それらを緩和するための具体的な設計レベルの制御を開発するためにどのように拡張できるかに焦点を当てる。
論文 参考訳(メタデータ) (2022-11-08T22:58:58Z) - Adversarial Machine Learning Threat Analysis in Open Radio Access
Networks [37.23982660941893]
Open Radio Access Network (O-RAN) は、新しい、オープンで適応的でインテリジェントなRANアーキテクチャである。
本稿では,O-RANに対する体系的対向機械学習脅威分析を提案する。
論文 参考訳(メタデータ) (2022-01-16T17:01:38Z) - Multi Agent System for Machine Learning Under Uncertainty in Cyber
Physical Manufacturing System [78.60415450507706]
近年の予測機械学習の進歩は、製造における様々なユースケースに応用されている。
ほとんどの研究は、それに関連する不確実性に対処することなく予測精度を最大化することに焦点を当てた。
本稿では,機械学習における不確実性の原因を特定し,不確実性下での機械学習システムの成功基準を確立する。
論文 参考訳(メタデータ) (2021-07-28T10:28:05Z) - Practical Machine Learning Safety: A Survey and Primer [81.73857913779534]
自動運転車のような安全クリティカルなアプリケーションにおける機械学習アルゴリズムのオープンワールド展開は、さまざまなML脆弱性に対処する必要がある。
一般化エラーを低減し、ドメイン適応を実現し、外乱例や敵攻撃を検出するための新しいモデルと訓練技術。
我々の組織は、MLアルゴリズムの信頼性を異なる側面から向上するために、最先端のML技術を安全戦略にマッピングする。
論文 参考訳(メタデータ) (2021-06-09T05:56:42Z) - Robust Machine Learning Systems: Challenges, Current Trends,
Perspectives, and the Road Ahead [24.60052335548398]
機械学習(ML)技術は、スマートサイバーフィジカルシステム(CPS)とIoT(Internet-of-Things)によって急速に採用されています。
ハードウェアとソフトウェアの両方のレベルで、さまざまなセキュリティと信頼性の脅威に脆弱であり、その正確性を損ないます。
本稿では、現代のMLシステムの顕著な脆弱性を要約し、これらの脆弱性に対する防御と緩和技術の成功を強調する。
論文 参考訳(メタデータ) (2021-01-04T20:06:56Z) - Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。
我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。
我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
論文 参考訳(メタデータ) (2020-10-19T13:09:31Z) - Security and Machine Learning in the Real World [33.40597438876848]
私たちは、大規模にデプロイされた機械学習ソフトウェア製品のセキュリティを評価し、システムのセキュリティビューを含む会話を広げるために、私たちの経験に基づいています。
本稿では,機械学習モジュールをデプロイする実践者がシステムを保護するために使用できる,短期的な緩和提案のリストを提案する。
論文 参考訳(メタデータ) (2020-07-13T16:57:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。