論文の概要: A Framework for Evaluating the Cybersecurity Risk of Real World, Machine
Learning Production Systems
- arxiv url: http://arxiv.org/abs/2107.01806v1
- Date: Mon, 5 Jul 2021 05:58:11 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-06 14:43:57.900014
- Title: A Framework for Evaluating the Cybersecurity Risk of Real World, Machine
Learning Production Systems
- Title(参考訳): 実世界のサイバーセキュリティリスク評価のためのフレームワーク,機械学習生産システム
- Authors: Ron Bitton, Nadav Maman, Inderjeet Singh, Satoru Momiyama, Yuval
Elovici, Asaf Shabtai
- Abstract要約: 我々はML生産システムにサイバー攻撃を組み込むMulVAL攻撃グラフ生成および分析フレームワークの拡張を開発する。
提案された拡張を使用することで、セキュリティ実践者はMLコンポーネントを含む環境にアタックグラフ分析手法を適用することができる。
- 参考スコア(独自算出の注目度): 41.470634460215564
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Although cyberattacks on machine learning (ML) production systems can be
destructive, many industry practitioners are ill equipped, lacking tactical and
strategic tools that would allow them to analyze, detect, protect against, and
respond to cyberattacks targeting their ML-based systems. In this paper, we
take a significant step toward securing ML production systems by integrating
these systems and their vulnerabilities into cybersecurity risk assessment
frameworks. Specifically, we performed a comprehensive threat analysis of ML
production systems and developed an extension to the MulVAL attack graph
generation and analysis framework to incorporate cyberattacks on ML production
systems. Using the proposed extension, security practitioners can apply attack
graph analysis methods in environments that include ML components, thus
providing security experts with a practical tool for evaluating the impact and
quantifying the risk of a cyberattack targeting an ML production system.
- Abstract(参考訳): 機械学習(ML)生産システムに対するサイバー攻撃は破壊的だが、多くの業界実践者は、MLベースのシステムをターゲットにしたサイバー攻撃を分析、検出、防御、対応できる戦術的および戦略的なツールを欠いている。
本稿では,これらのシステムとその脆弱性をサイバーセキュリティリスク評価フレームワークに統合することにより,ML生産システムの確保に向けて重要な一歩を踏み出した。
具体的には、ML生産システムの総合的な脅威分析を行い、ML生産システムにサイバー攻撃を組み込むためのMulVAL攻撃グラフ生成および分析フレームワークの拡張を開発した。
提案した拡張を使って、セキュリティ実践者はMLコンポーネントを含む環境にアタックグラフ分析手法を適用し、セキュリティ専門家にML生産システムを対象としたサイバー攻撃のリスクを評価し定量化する実用的なツールを提供する。
関連論文リスト
- Threat Modelling and Risk Analysis for Large Language Model (LLM)-Powered Applications [0.0]
大規模言語モデル(LLM)は、高度な自然言語処理機能を提供することによって、様々なアプリケーションに革命をもたらした。
本稿では,LSMを利用したアプリケーションに適した脅威モデリングとリスク分析について検討する。
論文 参考訳(メタデータ) (2024-06-16T16:43:58Z) - Generative AI and Large Language Models for Cyber Security: All Insights You Need [0.06597195879147556]
本稿では,ジェネレーティブAIとLarge Language Models(LLMs)によるサイバーセキュリティの将来を概観する。
ハードウェア設計のセキュリティ、侵入検知、ソフトウェアエンジニアリング、設計検証、サイバー脅威インテリジェンス、マルウェア検出、フィッシング検出など、さまざまな領域にわたるLCMアプリケーションを探索する。
GPT-4, GPT-3.5, Mixtral-8x7B, BERT, Falcon2, LLaMA などのモデルの発展に焦点を当て, LLM の進化とその現状について概説する。
論文 参考訳(メタデータ) (2024-05-21T13:02:27Z) - Mapping LLM Security Landscapes: A Comprehensive Stakeholder Risk Assessment Proposal [0.0]
本稿では,従来のシステムにおけるリスク評価手法のようなツールを用いたリスク評価プロセスを提案する。
我々は、潜在的な脅威要因を特定し、脆弱性要因に対して依存するシステムコンポーネントをマッピングするためのシナリオ分析を行う。
3つの主要株主グループに対する脅威もマップ化しています。
論文 参考訳(メタデータ) (2024-03-20T05:17:22Z) - Highlighting the Safety Concerns of Deploying LLMs/VLMs in Robotics [54.57914943017522]
本稿では,大規模言語モデル (LLMs) と視覚言語モデル (VLMs) をロボティクスアプリケーションに統合する際のロバスト性と安全性に関する重要な課題を強調する。
論文 参考訳(メタデータ) (2024-02-15T22:01:45Z) - Vulnerability of Machine Learning Approaches Applied in IoT-based Smart Grid: A Review [51.31851488650698]
機械学習(ML)は、IoT(Internet-of-Things)ベースのスマートグリッドでの使用頻度が高まっている。
電力信号に注入された逆方向の歪みは システムの正常な制御と操作に大きな影響を及ぼす
安全クリティカルパワーシステムに適用されたMLsgAPPの脆弱性評価を行うことが不可欠である。
論文 参考訳(メタデータ) (2023-08-30T03:29:26Z) - Leveraging Traceability to Integrate Safety Analysis Artifacts into the
Software Development Process [51.42800587382228]
安全保証ケース(SAC)は、システムの進化中に維持することが困難である。
本稿では,ソフトウェアトレーサビリティを活用して,関連するシステムアーチファクトを安全解析モデルに接続する手法を提案する。
安全ステークホルダーがシステム変更が安全性に与える影響を分析するのに役立つように、システム変更の合理性を設計する。
論文 参考訳(メタデータ) (2023-07-14T16:03:27Z) - Multi Agent System for Machine Learning Under Uncertainty in Cyber
Physical Manufacturing System [78.60415450507706]
近年の予測機械学習の進歩は、製造における様々なユースケースに応用されている。
ほとんどの研究は、それに関連する不確実性に対処することなく予測精度を最大化することに焦点を当てた。
本稿では,機械学習における不確実性の原因を特定し,不確実性下での機械学習システムの成功基準を確立する。
論文 参考訳(メタデータ) (2021-07-28T10:28:05Z) - Robust Machine Learning Systems: Challenges, Current Trends,
Perspectives, and the Road Ahead [24.60052335548398]
機械学習(ML)技術は、スマートサイバーフィジカルシステム(CPS)とIoT(Internet-of-Things)によって急速に採用されています。
ハードウェアとソフトウェアの両方のレベルで、さまざまなセキュリティと信頼性の脅威に脆弱であり、その正確性を損ないます。
本稿では、現代のMLシステムの顕著な脆弱性を要約し、これらの脆弱性に対する防御と緩和技術の成功を強調する。
論文 参考訳(メタデータ) (2021-01-04T20:06:56Z) - Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。
我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。
我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
論文 参考訳(メタデータ) (2020-10-19T13:09:31Z) - Security and Machine Learning in the Real World [33.40597438876848]
私たちは、大規模にデプロイされた機械学習ソフトウェア製品のセキュリティを評価し、システムのセキュリティビューを含む会話を広げるために、私たちの経験に基づいています。
本稿では,機械学習モジュールをデプロイする実践者がシステムを保護するために使用できる,短期的な緩和提案のリストを提案する。
論文 参考訳(メタデータ) (2020-07-13T16:57:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。