論文の概要: STPA for Learning-Enabled Systems: A Survey and A New Practice
- arxiv url: http://arxiv.org/abs/2302.10588v2
- Date: Mon, 17 Jul 2023 15:56:59 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-24 13:04:58.119669
- Title: STPA for Learning-Enabled Systems: A Survey and A New Practice
- Title(参考訳): 学習可能なシステムのためのSTPA:調査と新しい実践
- Authors: Yi Qi, Yi Dong, Siddartha Khastgir, Paul Jennings, Xingyu Zhao,
Xiaowei Huang
- Abstract要約: システム理論プロセス分析(System Theoretic Process Analysis、STPA)は、輸送、エネルギー、防衛を含む多くの産業セクターで使用されているハザード分析の体系的なアプローチである。
安全クリティカルシステムにおける機械学習(ML)の利用傾向は、学習可能システム(LES)へのSTPAの拡張の必要性につながっている。
我々は,31論文の体系的な調査を行い,これらを5つの視点から要約する(関心,研究対象,修正,デリバティブ,プロセスのモデル化)。
私たちはDeepSTPAを紹介します。DeepSTPAは、現状から欠落している2つの側面から、DeepSTPAを強化します。
- 参考スコア(独自算出の注目度): 12.665507596261266
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Systems Theoretic Process Analysis (STPA) is a systematic approach for hazard
analysis that has been used across many industrial sectors including
transportation, energy, and defense. The unstoppable trend of using Machine
Learning (ML) in safety-critical systems has led to the pressing need of
extending STPA to Learning-Enabled Systems (LESs). Although works have been
carried out on various example LESs, without a systematic review, it is unclear
how effective and generalisable the extended STPA methods are, and whether
further improvements can be made. To this end, we present a systematic survey
of 31 papers, summarising them from five perspectives (attributes of concern,
objects under study, modifications, derivatives and processes being modelled).
Furthermore, we identify room for improvement and accordingly introduce
DeepSTPA, which enhances STPA from two aspects that are missing from the
state-of-the-practice: (i) Control loop structures are explicitly extended to
identify hazards from the data-driven development process spanning the ML
lifecycle; (ii) Fine-grained functionalities are modelled at the layer-wise
levels of ML models to detect root causes. We demonstrate and compare DeepSTPA
and STPA through a case study on an autonomous emergency braking system.
- Abstract(参考訳): システム理論プロセス分析(System Theoretic Process Analysis、STPA)は、輸送、エネルギー、防衛を含む多くの産業セクターで使用されているハザード分析の体系的なアプローチである。
安全クリティカルなシステムで機械学習(ML)を使用することは、STPAをLearning-Enabled Systems(LES)に拡張する必要性が高まっている。
様々な例での作業は少ないが、体系的なレビューなしには、拡張されたstpaメソッドがどの程度効果的で一般化可能で、さらなる改善が可能かは不明である。
そこで本研究では,31の論文を体系的に調査し,5つの視点(関心,研究対象,修正対象,微分,モデル化されるプロセス)から要約する。
さらに,改善の余地を特定し,現状から欠落している2つの側面からstpaを強化するdeepstpaを導入する。
(i)MLライフサイクルにまたがるデータ駆動開発プロセスからハザードを特定するために、制御ループ構造を明示的に拡張する。
(II)根本原因を検出するため,MLモデルの層レベルで細粒度関数をモデル化する。
自律型緊急ブレーキシステムのケーススタディを通じて,deepstpaとstpaの比較を行った。
関連論文リスト
- Analyzing Adversarial Inputs in Deep Reinforcement Learning [53.3760591018817]
本稿では, 正当性検証のレンズを用いて, 逆入力の特性を包括的に解析する。
このような摂動に対する感受性に基づいてモデルを分類するために、新しい計量である逆数率(Adversarial Rate)を導入する。
本分析は, 直交入力が所定のDRLシステムの安全性にどのように影響するかを実証的に示す。
論文 参考訳(メタデータ) (2024-02-07T21:58:40Z) - Robustness and Generalization Performance of Deep Learning Models on
Cyber-Physical Systems: A Comparative Study [71.84852429039881]
調査は、センサーの故障やノイズなど、様々な摂動を扱うモデルの能力に焦点を当てている。
我々は,これらのモデルの一般化と伝達学習能力を,アウト・オブ・ディストリビューション(OOD)サンプルに公開することによって検証する。
論文 参考訳(メタデータ) (2023-06-13T12:43:59Z) - Evaluating Model-free Reinforcement Learning toward Safety-critical
Tasks [70.76757529955577]
本稿では、国家安全RLの観点から、この領域における先行研究を再考する。
安全最適化と安全予測を組み合わせた共同手法であるUnrolling Safety Layer (USL)を提案する。
この領域のさらなる研究を容易にするため、我々は関連するアルゴリズムを統一パイプラインで再現し、SafeRL-Kitに組み込む。
論文 参考訳(メタデータ) (2022-12-12T06:30:17Z) - Survey on Deep Fuzzy Systems in regression applications: a view on
interpretability [1.2158275183241178]
回帰問題は、ディープラーニング(DL)技術によってますます受け入れられてきた。
これらのモデルの解釈可能性にアクセスすることは、センシティブな領域の問題に対処する上で重要な要素である。
本稿では,DLとFLSを組み合わせた既存手法の現状について検討する。
論文 参考訳(メタデータ) (2022-09-09T10:40:31Z) - A Review of Machine Learning Methods Applied to Structural Dynamics and
Vibroacoustic [0.0]
Vibroacoustic(SD&V)の主要な3つのアプリケーションが機械学習(ML)を活用している。
構造的健康モニタリングでは、ML検出と予後が安全な操作とメンテナンススケジュールの最適化につながる。
システムの識別と制御設計は、アクティブノイズ制御およびアクティブ振動制御におけるML技術によって活用される。
いわゆるMLベースのサロゲートモデルは、コストのかかるシミュレーションに代わる高速な代替手段を提供し、堅牢で最適化された製品設計を可能にする。
論文 参考訳(メタデータ) (2022-04-13T13:16:21Z) - Learning Physical Concepts in Cyber-Physical Systems: A Case Study [72.74318982275052]
本稿では,時系列データにおける物理概念の学習方法に関する研究の現状について概説する。
また,3タンクシステムの例を用いて,最先端技術から最も重要な手法を分析した。
論文 参考訳(メタデータ) (2021-11-28T14:24:52Z) - Safe-Critical Modular Deep Reinforcement Learning with Temporal Logic
through Gaussian Processes and Control Barrier Functions [3.5897534810405403]
強化学習(Reinforcement Learning, RL)は,現実のアプリケーションに対して限られた成功を収める,有望なアプローチである。
本稿では,複数の側面からなる学習型制御フレームワークを提案する。
ECBFをベースとしたモジュラーディープRLアルゴリズムは,ほぼ完全な成功率を達成し,高い確率で安全性を保護することを示す。
論文 参考訳(メタデータ) (2021-09-07T00:51:12Z) - Practical Machine Learning Safety: A Survey and Primer [81.73857913779534]
自動運転車のような安全クリティカルなアプリケーションにおける機械学習アルゴリズムのオープンワールド展開は、さまざまなML脆弱性に対処する必要がある。
一般化エラーを低減し、ドメイン適応を実現し、外乱例や敵攻撃を検出するための新しいモデルと訓練技術。
我々の組織は、MLアルゴリズムの信頼性を異なる側面から向上するために、最先端のML技術を安全戦略にマッピングする。
論文 参考訳(メタデータ) (2021-06-09T05:56:42Z) - Active Learning for Nonlinear System Identification with Guarantees [102.43355665393067]
状態遷移が既知の状態-作用対の特徴埋め込みに線形に依存する非線形力学系のクラスについて検討する。
そこで本稿では, トラジェクティブ・プランニング, トラジェクティブ・トラッキング, システムの再推定という3つのステップを繰り返すことで, この問題を解決するためのアクティブ・ラーニング・アプローチを提案する。
本手法は, 非線形力学系を標準線形回帰の統計速度と同様, パラメトリック速度で推定する。
論文 参考訳(メタデータ) (2020-06-18T04:54:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。