論文の概要: Assurance Monitoring of Cyber-Physical Systems with Machine Learning Components

• arxiv url: http://arxiv.org/abs/2001.05014v2
• Date: Fri, 17 Apr 2020 22:59:01 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-11 12:06:40.846168
• Title: Assurance Monitoring of Cyber-Physical Systems with Machine Learning Components
• Title（参考訳）: 機械学習コンポーネントを用いたサイバー物理システムの保証監視
• Authors: Dimitrios Boursinos, Xenofon Koutsoukos
• Abstract要約: 我々は,サイバー物理システムの保証監視にコンフォメーション予測フレームワークを使用する方法について検討する。 リアルタイムに高次元入力を処理するために,学習モデルの埋め込み表現を用いて非整合性スコアを計算する。 整合性予測を活用することで、この手法は十分に校正された信頼性を提供し、限定された小さなエラー率を保証する監視を可能にする。
• 参考スコア（独自算出の注目度）: 2.1320960069210484
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Machine learning components such as deep neural networks are used extensively in Cyber-Physical Systems (CPS). However, they may introduce new types of hazards that can have disastrous consequences and need to be addressed for engineering trustworthy systems. Although deep neural networks offer advanced capabilities, they must be complemented by engineering methods and practices that allow effective integration in CPS. In this paper, we investigate how to use the conformal prediction framework for assurance monitoring of CPS with machine learning components. In order to handle high-dimensional inputs in real-time, we compute nonconformity scores using embedding representations of the learned models. By leveraging conformal prediction, the approach provides well-calibrated confidence and can allow monitoring that ensures a bounded small error rate while limiting the number of inputs for which an accurate prediction cannot be made. Empirical evaluation results using the German Traffic Sign Recognition Benchmark and a robot navigation dataset demonstrate that the error rates are well-calibrated while the number of alarms is small. The method is computationally efficient, and therefore, the approach is promising for assurance monitoring of CPS.
• Abstract（参考訳）: ディープニューラルネットワークのような機械学習コンポーネントは、サイバー物理システム(CPS)で広く使われている。 しかし、彼らは新たなタイプのハザードを導入し、悲惨な結果をもたらす可能性があり、エンジニアリングの信頼できるシステムのために対処する必要がある。 ディープニューラルネットワークは高度な機能を提供するが、CPSに効果的な統合を可能にするエンジニアリング手法とプラクティスによって補完されなければならない。 本稿では,機械学習コンポーネントを用いたCPSの保証監視に共形予測フレームワークを用いる方法について検討する。 リアルタイムに高次元入力を処理するために,学習モデルの埋め込み表現を用いて非定型スコアを計算する。 共形予測を利用することで、精度の高い信頼性を提供し、正確な予測ができない入力数を制限するとともに、境界付き小さなエラー率を保証する監視を可能にする。 ドイツ交通信号認識ベンチマークとロボットナビゲーションデータセットを用いた実証評価の結果,アラーム数が少ない間にエラー率が良好に校正されていることが示された。 本手法は計算効率が高く,CPSの保証監視に有効である。

関連論文リスト

• Analyzing Adversarial Inputs in Deep Reinforcement Learning [53.3760591018817]
  本稿では, 正当性検証のレンズを用いて, 逆入力の特性を包括的に解析する。 このような摂動に対する感受性に基づいてモデルを分類するために、新しい計量である逆数率(Adversarial Rate)を導入する。 本分析は, 直交入力が所定のDRLシステムの安全性にどのように影響するかを実証的に示す。
  論文  参考訳（メタデータ） (2024-02-07T21:58:40Z)
• PAC-Based Formal Verification for Out-of-Distribution Data Detection [4.406331747636832]
  本研究は、VAEの符号化プロセスを用いて、OOD検出に基づくほぼ正しい(PAC)保証を行う。 ユーザ定義の信頼性で不慣れなインスタンスに検出エラーをバインドするために使用される。
  論文  参考訳（メタデータ） (2023-04-04T07:33:02Z)
• Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
  CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。 次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。 これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
  論文  参考訳（メタデータ） (2022-08-23T05:02:09Z)
• Design Methodology for Deep Out-of-Distribution Detectors in Real-Time Cyber-Physical Systems [5.233831361879669]
  アウト・オブ・ディストリビューション(OOD)検出器はMLモデルと並行して動作し、フラグ入力は望ましくない結果をもたらす可能性がある。 本研究は,組込みアプリケーションの精度および応答時間要求を満たすため,深部OOD検出器をチューニングするための設計手法を提案する。
  論文  参考訳（メタデータ） (2022-07-29T14:06:27Z)
• Assurance Monitoring of Learning Enabled Cyber-Physical Systems Using Inductive Conformal Prediction based on Distance Learning [2.66512000865131]
  本稿では,学習可能なサイバー物理システムの保証監視手法を提案する。 リアルタイムの保証監視を可能にするため,高次元入力を低次元埋め込み表現に変換するために距離学習を用いる。 壁面認識,話者認識,交通信号認識の3つの移動ロボットを用いて,そのアプローチを実証する。
  論文  参考訳（メタデータ） (2021-10-07T00:21:45Z)
• Multi Agent System for Machine Learning Under Uncertainty in Cyber Physical Manufacturing System [78.60415450507706]
  近年の予測機械学習の進歩は、製造における様々なユースケースに応用されている。 ほとんどの研究は、それに関連する不確実性に対処することなく予測精度を最大化することに焦点を当てた。 本稿では,機械学習における不確実性の原因を特定し,不確実性下での機械学習システムの成功基準を確立する。
  論文  参考訳（メタデータ） (2021-07-28T10:28:05Z)
• Federated Learning with Unreliable Clients: Performance Analysis and Mechanism Design [76.29738151117583]
  Federated Learning(FL)は、分散クライアント間で効果的な機械学習モデルをトレーニングするための有望なツールとなっている。 しかし、低品質のモデルは信頼性の低いクライアントによってアグリゲータサーバにアップロードすることができ、劣化やトレーニングの崩壊につながる。 クライアントの信頼できない振る舞いをモデル化し、このようなセキュリティリスクを軽減するための防御メカニズムを提案する。
  論文  参考訳（メタデータ） (2021-05-10T08:02:27Z)
• Increasing the Confidence of Deep Neural Networks by Coverage Analysis [71.57324258813674]
  本稿では、異なる安全でない入力に対してモデルを強化するために、カバレッジパラダイムに基づく軽量な監視アーキテクチャを提案する。 実験結果から,提案手法は強力な対向例とアウト・オブ・ディストリビューション・インプットの両方を検出するのに有効であることが示唆された。
  論文  参考訳（メタデータ） (2021-01-28T16:38:26Z)
• Bayesian Optimization with Machine Learning Algorithms Towards Anomaly Detection [66.05992706105224]
  本稿では,ベイズ最適化手法を用いた効果的な異常検出フレームワークを提案する。 ISCX 2012データセットを用いて検討したアルゴリズムの性能を評価する。 実験結果から, 精度, 精度, 低コストアラームレート, リコールの観点から, 提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2020-08-05T19:29:35Z)
• Trusted Confidence Bounds for Learning Enabled Cyber-Physical Systems [2.1320960069210484]
  インダクティブ・コンフォーマル予測(ICP)に基づく信頼度境界の計算手法を提案する。 我々はTriplet Networkアーキテクチャをトレーニングし、トレーニングデータセットにおけるテスト例とサンプルの類似性を推定するために使用できる入力データの表現を学習する。 次に、これらの表現を用いて、三重項で使用されるニューラルネットワークアーキテクチャに基づく分類器からセット予測の信頼性を推定する。
  論文  参考訳（メタデータ） (2020-03-11T04:31:10Z)
• Real-time Out-of-distribution Detection in Learning-Enabled Cyber-Physical Systems [1.4213973379473654]
  サイバー物理システムは、現実世界の不確実性と可変性を処理できる機械学習コンポーネントを使用することで恩恵を受ける。 しかし、ディープニューラルネットワークは、システムの安全性に影響を及ぼす可能性のある、新しいタイプのハザードを導入している。 アウト・オブ・ディストリビューションデータは大きなエラーを引き起こし、安全性を損なう可能性がある。
  論文  参考訳（メタデータ） (2020-01-28T17:51:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。