論文の概要: STPA for Learning-Enabled Systems: A Survey and A New Practice
- arxiv url: http://arxiv.org/abs/2302.10588v2
- Date: Mon, 17 Jul 2023 15:56:59 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-24 13:04:58.119669
- Title: STPA for Learning-Enabled Systems: A Survey and A New Practice
- Title（参考訳）: 学習可能なシステムのためのSTPA:調査と新しい実践
- Authors: Yi Qi, Yi Dong, Siddartha Khastgir, Paul Jennings, Xingyu Zhao,
Xiaowei Huang
- Abstract要約: システム理論プロセス分析(System Theoretic Process Analysis、STPA)は、輸送、エネルギー、防衛を含む多くの産業セクターで使用されているハザード分析の体系的なアプローチである。
安全クリティカルシステムにおける機械学習(ML)の利用傾向は、学習可能システム(LES)へのSTPAの拡張の必要性につながっている。
我々は,31論文の体系的な調査を行い,これらを5つの視点から要約する(関心,研究対象,修正,デリバティブ,プロセスのモデル化)。
私たちはDeepSTPAを紹介します。DeepSTPAは、現状から欠落している2つの側面から、DeepSTPAを強化します。
- 参考スコア（独自算出の注目度）: 12.665507596261266
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Systems Theoretic Process Analysis (STPA) is a systematic approach for hazard
analysis that has been used across many industrial sectors including
transportation, energy, and defense. The unstoppable trend of using Machine
Learning (ML) in safety-critical systems has led to the pressing need of
extending STPA to Learning-Enabled Systems (LESs). Although works have been
carried out on various example LESs, without a systematic review, it is unclear
how effective and generalisable the extended STPA methods are, and whether
further improvements can be made. To this end, we present a systematic survey
of 31 papers, summarising them from five perspectives (attributes of concern,
objects under study, modifications, derivatives and processes being modelled).
Furthermore, we identify room for improvement and accordingly introduce
DeepSTPA, which enhances STPA from two aspects that are missing from the
state-of-the-practice: (i) Control loop structures are explicitly extended to
identify hazards from the data-driven development process spanning the ML
lifecycle; (ii) Fine-grained functionalities are modelled at the layer-wise
levels of ML models to detect root causes. We demonstrate and compare DeepSTPA
and STPA through a case study on an autonomous emergency braking system.
- Abstract（参考訳）: システム理論プロセス分析(System Theoretic Process Analysis、STPA)は、輸送、エネルギー、防衛を含む多くの産業セクターで使用されているハザード分析の体系的なアプローチである。
安全クリティカルなシステムで機械学習(ML)を使用することは、STPAをLearning-Enabled Systems(LES)に拡張する必要性が高まっている。
様々な例での作業は少ないが、体系的なレビューなしには、拡張されたstpaメソッドがどの程度効果的で一般化可能で、さらなる改善が可能かは不明である。
そこで本研究では,31の論文を体系的に調査し,5つの視点(関心,研究対象,修正対象,微分,モデル化されるプロセス)から要約する。
さらに,改善の余地を特定し,現状から欠落している2つの側面からstpaを強化するdeepstpaを導入する。
(i)MLライフサイクルにまたがるデータ駆動開発プロセスからハザードを特定するために、制御ループ構造を明示的に拡張する。
(II)根本原因を検出するため,MLモデルの層レベルで細粒度関数をモデル化する。
自律型緊急ブレーキシステムのケーススタディを通じて,deepstpaとstpaの比較を行った。
関連論文リスト
- From Silos to Systems: Process-Oriented Hazard Analysis for AI Systems [2.226040060318401]
システム理論プロセス分析(STPA)をAIの操作と開発プロセスの解析に応用する。
我々は、機械学習アルゴリズムに依存したシステムと、3つのケーススタディに焦点をあてる。
私たちは、AIシステムに適したいくつかの適応があるにもかかわらず、anAを実行するための重要な概念とステップが容易に適用できることに気付きました。
論文 参考訳（メタデータ） (2024-10-29T20:43:18Z) - Unlearning with Control: Assessing Real-world Utility for Large Language Model Unlearning [97.2995389188179]
最近の研究は、勾配上昇(GA)を通した大規模言語モデル(LLM)の未学習にアプローチし始めている。
その単純さと効率性にもかかわらず、我々はGAベースの手法が過剰な未学習の傾向に直面することを示唆している。
過剰な未学習の度合いを制御できるいくつかの制御手法を提案する。
論文 参考訳（メタデータ） (2024-06-13T14:41:00Z) - Towards a Framework for Deep Learning Certification in Safety-Critical Applications Using Inherently Safe Design and Run-Time Error Detection [0.0]
航空や他の安全上重要な分野における現実世界の問題について検討し,認定モデルの要件について検討する。
我々は、(i)本質的に安全な設計と(ii)実行時のエラー検出に基づいて、ディープラーニング認定に向けた新しいフレームワークを構築した。
論文 参考訳（メタデータ） (2024-03-12T11:38:45Z) - Analyzing Adversarial Inputs in Deep Reinforcement Learning [53.3760591018817]
本稿では, 正当性検証のレンズを用いて, 逆入力の特性を包括的に解析する。
このような摂動に対する感受性に基づいてモデルを分類するために、新しい計量である逆数率(Adversarial Rate)を導入する。
本分析は, 直交入力が所定のDRLシステムの安全性にどのように影響するかを実証的に示す。
論文 参考訳（メタデータ） (2024-02-07T21:58:40Z) - Robustness and Generalization Performance of Deep Learning Models on
Cyber-Physical Systems: A Comparative Study [71.84852429039881]
調査は、センサーの故障やノイズなど、様々な摂動を扱うモデルの能力に焦点を当てている。
我々は,これらのモデルの一般化と伝達学習能力を,アウト・オブ・ディストリビューション(OOD)サンプルに公開することによって検証する。
論文 参考訳（メタデータ） (2023-06-13T12:43:59Z) - Evaluating Model-free Reinforcement Learning toward Safety-critical
Tasks [70.76757529955577]
本稿では、国家安全RLの観点から、この領域における先行研究を再考する。
安全最適化と安全予測を組み合わせた共同手法であるUnrolling Safety Layer (USL)を提案する。
この領域のさらなる研究を容易にするため、我々は関連するアルゴリズムを統一パイプラインで再現し、SafeRL-Kitに組み込む。
論文 参考訳（メタデータ） (2022-12-12T06:30:17Z) - A Review of Machine Learning Methods Applied to Structural Dynamics and
Vibroacoustic [0.0]
Vibroacoustic(SD&V)の主要な3つのアプリケーションが機械学習(ML)を活用している。
構造的健康モニタリングでは、ML検出と予後が安全な操作とメンテナンススケジュールの最適化につながる。
システムの識別と制御設計は、アクティブノイズ制御およびアクティブ振動制御におけるML技術によって活用される。
いわゆるMLベースのサロゲートモデルは、コストのかかるシミュレーションに代わる高速な代替手段を提供し、堅牢で最適化された製品設計を可能にする。
論文 参考訳（メタデータ） (2022-04-13T13:16:21Z) - Learning Physical Concepts in Cyber-Physical Systems: A Case Study [72.74318982275052]
本稿では,時系列データにおける物理概念の学習方法に関する研究の現状について概説する。
また,3タンクシステムの例を用いて,最先端技術から最も重要な手法を分析した。
論文 参考訳（メタデータ） (2021-11-28T14:24:52Z) - Safe-Critical Modular Deep Reinforcement Learning with Temporal Logic
through Gaussian Processes and Control Barrier Functions [3.5897534810405403]
強化学習(Reinforcement Learning, RL)は,現実のアプリケーションに対して限られた成功を収める,有望なアプローチである。
本稿では,複数の側面からなる学習型制御フレームワークを提案する。
ECBFをベースとしたモジュラーディープRLアルゴリズムは,ほぼ完全な成功率を達成し,高い確率で安全性を保護することを示す。
論文 参考訳（メタデータ） (2021-09-07T00:51:12Z) - Active Learning for Nonlinear System Identification with Guarantees [102.43355665393067]
状態遷移が既知の状態-作用対の特徴埋め込みに線形に依存する非線形力学系のクラスについて検討する。
そこで本稿では, トラジェクティブ・プランニング, トラジェクティブ・トラッキング, システムの再推定という3つのステップを繰り返すことで, この問題を解決するためのアクティブ・ラーニング・アプローチを提案する。
本手法は, 非線形力学系を標準線形回帰の統計速度と同様, パラメトリック速度で推定する。
論文 参考訳（メタデータ） (2020-06-18T04:54:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。