論文の概要: How to Certify Machine Learning Based Safety-critical Systems? A
Systematic Literature Review
- arxiv url: http://arxiv.org/abs/2107.12045v1
- Date: Mon, 26 Jul 2021 09:03:22 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-27 15:49:51.306742
- Title: How to Certify Machine Learning Based Safety-critical Systems? A
Systematic Literature Review
- Title（参考訳）: 機械学習に基づく安全クリティカルシステムの認証方法
体系的な文献レビュー
- Authors: Florian Tambon, Gabriel Laberge, Le An, Amin Nikanjam, Paulina Stevia
Nouwou Mindom, Yann Pequignot, Foutse Khomh, Giulio Antoniol, Ettore Merlo
and Fran\c{c}ois Laviolette
- Abstract要約: 本稿では,MLに基づく安全クリティカルシステムの認証に関する課題を明らかにすることを目的とする。
総じて、ML認定の主な柱と考えられるトピックをカバーする229の論文を特定した。
- 参考スコア（独自算出の注目度）: 7.704424642395104
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Context: Machine Learning (ML) has been at the heart of many innovations over
the past years. However, including it in so-called 'safety-critical' systems
such as automotive or aeronautic has proven to be very challenging, since the
shift in paradigm that ML brings completely changes traditional certification
approaches.
Objective: This paper aims to elucidate challenges related to the
certification of ML-based safety-critical systems, as well as the solutions
that are proposed in the literature to tackle them, answering the question 'How
to Certify Machine Learning Based Safety-critical Systems?'.
Method: We conduct a Systematic Literature Review (SLR) of research papers
published between 2015 to 2020, covering topics related to the certification of
ML systems. In total, we identified 229 papers covering topics considered to be
the main pillars of ML certification: Robustness, Uncertainty, Explainability,
Verification, Safe Reinforcement Learning, and Direct Certification. We
analyzed the main trends and problems of each sub-field and provided summaries
of the papers extracted.
Results: The SLR results highlighted the enthusiasm of the community for this
subject, as well as the lack of diversity in terms of datasets and type of
models. It also emphasized the need to further develop connections between
academia and industries to deepen the domain study. Finally, it also
illustrated the necessity to build connections between the above mention main
pillars that are for now mainly studied separately.
Conclusion: We highlighted current efforts deployed to enable the
certification of ML based software systems, and discuss some future research
directions.
- Abstract（参考訳）: コンテキスト: 機械学習(ML)はここ数年、多くのイノベーションの中心にありました。
しかし、自動車や航空などのいわゆる「安全クリティカル」システムに組み込むことは、MLが従来の認証アプローチを完全に変えるというパラダイムの変化から、非常に難しいことが証明されている。
目的:本稿は,MLベースの安全クリティカルシステムの認証に関する課題と,それらに取り組むための文献で提案されている解決策を解明することを目的として,「機械学習ベースの安全クリティカルシステムをどのように認定するか」という問いに答える。
方法:2015年から2020年の間に発行された研究論文の体系的文献レビュー(SLR)を行い,MLシステムの認証に関する話題を取り上げる。
総じて、ML認定の主な柱とされるトピックをカバーする229の論文、ロバストネス、不確実性、説明可能性、検証、安全な強化学習、直接認定を特定した。
各サブフィールドの主な傾向と問題を分析し,抽出した論文の要約を提供した。
結果: SLRの結果は,このテーマに対するコミュニティの熱意と,データセットやモデルの種類による多様性の欠如を浮き彫りにした。
また、学術と産業界との結びつきをさらに深めていくことの必要性を強調した。
最後に、現在では主に別々に研究されている、上記の主柱間の接続を構築する必要性も示した。
結論:mlベースのソフトウェアシステムの認証を可能にするためにデプロイされた現在の取り組みを強調し、今後の研究の方向性について論じる。
関連論文リスト
- Recent Advances on Machine Learning for Computational Fluid Dynamics: A Survey [51.87875066383221]
本稿では、基本概念、従来の手法、ベンチマークデータセットを紹介し、CFDを改善する上で機械学習が果たす様々な役割について検討する。
我々は,空気力学,燃焼,大気・海洋科学,生物流体,プラズマ,記号回帰,秩序の低減など,CFDにおけるMLの現実的な応用を強調した。
シミュレーションの精度を向上し、計算時間を短縮し、流体力学のより複雑な解析を可能にすることにより、MLはCFD研究を大きく変革する可能性があるという結論を導いた。
論文 参考訳（メタデータ） (2024-08-22T07:33:11Z) - Runway Sign Classifier: A DAL C Certifiable Machine Learning System [4.012351415340318]
本稿では,空港標識の検出・分類にディープニューラルネットワーク(DNN)を用いた航空機システムの事例研究を行う。
DAL Cを実現するために、冗長かつ異種な2つのDNNを含む確立されたアーキテクチャ緩和手法を用いる。
この研究は、MLベースのシステムの認定課題が、中程度臨界航空機アプリケーションにどのように対処できるかを説明することを目的としている。
論文 参考訳（メタデータ） (2023-10-10T10:26:30Z) - Resilience of Deep Learning applications: a systematic literature review of analysis and hardening techniques [3.265458968159693]
このレビューは、2019年1月から2024年3月までに発行された220の科学論文に基づいている。
著者らは、研究の類似点と特異点を解釈し、強調するために分類フレームワークを採用している。
論文 参考訳（メタデータ） (2023-09-27T19:22:19Z) - Vulnerability of Machine Learning Approaches Applied in IoT-based Smart Grid: A Review [51.31851488650698]
機械学習(ML)は、IoT(Internet-of-Things)ベースのスマートグリッドでの使用頻度が高まっている。
電力信号に注入された逆方向の歪みは システムの正常な制御と操作に大きな影響を及ぼす
安全クリティカルパワーシステムに適用されたMLsgAPPの脆弱性評価を行うことが不可欠である。
論文 参考訳（メタデータ） (2023-08-30T03:29:26Z) - A Survey on Large Language Models for Recommendation [77.91673633328148]
大規模言語モデル(LLM)は自然言語処理(NLP)の分野で強力なツールとして登場した。
本調査では,これらのモデルを2つの主要なパラダイム(DLLM4Rec)とジェネレーティブLSM4Rec(GLLM4Rec)に分類する。
論文 参考訳（メタデータ） (2023-05-31T13:51:26Z) - Threat Assessment in Machine Learning based Systems [12.031113181911627]
我々は機械学習に基づくシステムに対して報告された脅威を実証研究する。
この研究は、MITREのATLASデータベース、AIインシデントデータベース、および文学からの89の現実世界のML攻撃シナリオに基づいている。
その結果,畳み込みニューラルネットワークは攻撃シナリオの中でも最も標的となるモデルの一つであることがわかった。
論文 参考訳（メタデータ） (2022-06-30T20:19:50Z) - SoK: Machine Learning Governance [16.36671448193025]
このような利益とリスクのバランスをとるため、MLガバナンスの概念を開発します。
私たちは、MLシステムの障害の原因となるプリンシパルを保持するためにアイデンティティを使用します。
私たちは、モデルオーナーがシステムのライフサイクルを管理することができる技術の必要性を強調します。
論文 参考訳（メタデータ） (2021-09-20T17:56:22Z) - Inspect, Understand, Overcome: A Survey of Practical Methods for AI
Safety [54.478842696269304]
安全クリティカルなアプリケーションにディープニューラルネットワーク(DNN)を使用することは、多数のモデル固有の欠点のために困難です。
近年,これらの安全対策を目的とした最先端技術動物園が出現している。
本稿は、機械学習の専門家と安全エンジニアの両方に対処する。
論文 参考訳（メタデータ） (2021-04-29T09:54:54Z) - White Paper Machine Learning in Certified Systems [70.24215483154184]
DEEL Project set-up the ML Certification 3 Workgroup (WG) set-up by the Institut de Recherche Technologique Saint Exup'ery de Toulouse (IRT)
論文 参考訳（メタデータ） (2021-03-18T21:14:30Z) - Towards a Robust and Trustworthy Machine Learning System Development [0.09236074230806578]
最新のML信頼性と技術に関する最近の調査をセキュリティエンジニアリングの視点から紹介します。
次に、ML実践者のための標準的かつ視覚化された方法で知識の体を表すメタモデルを記述することによって、調査の前後に研究を進めます。
本稿では,堅牢で信頼性の高いMLシステムの開発を進めるための今後の研究方向性を提案する。
論文 参考訳（メタデータ） (2021-01-08T14:43:58Z) - Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。
我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。
我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
論文 参考訳（メタデータ） (2020-10-19T13:09:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。