論文の概要: Assurance Monitoring of Learning Enabled Cyber-Physical Systems Using
Inductive Conformal Prediction based on Distance Learning
- arxiv url: http://arxiv.org/abs/2110.03120v1
- Date: Thu, 7 Oct 2021 00:21:45 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-09 08:00:54.753860
- Title: Assurance Monitoring of Learning Enabled Cyber-Physical Systems Using
Inductive Conformal Prediction based on Distance Learning
- Title（参考訳）: 距離学習に基づく帰納的等角予測を用いたサイバー物理システムの学習保証モニタリング
- Authors: Dimitrios Boursinos and Xenofon Koutsoukos
- Abstract要約: 本稿では,学習可能なサイバー物理システムの保証監視手法を提案する。
リアルタイムの保証監視を可能にするため,高次元入力を低次元埋め込み表現に変換するために距離学習を用いる。
壁面認識,話者認識,交通信号認識の3つの移動ロボットを用いて,そのアプローチを実証する。
- 参考スコア（独自算出の注目度）: 2.66512000865131
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine learning components such as deep neural networks are used extensively
in Cyber-Physical Systems (CPS). However, such components may introduce new
types of hazards that can have disastrous consequences and need to be addressed
for engineering trustworthy systems. Although deep neural networks offer
advanced capabilities, they must be complemented by engineering methods and
practices that allow effective integration in CPS. In this paper, we proposed
an approach for assurance monitoring of learning-enabled CPS based on the
conformal prediction framework. In order to allow real-time assurance
monitoring, the approach employs distance learning to transform
high-dimensional inputs into lower size embedding representations. By
leveraging conformal prediction, the approach provides well-calibrated
confidence and ensures a bounded small error rate while limiting the number of
inputs for which an accurate prediction cannot be made. We demonstrate the
approach using three data sets of mobile robot following a wall, speaker
recognition, and traffic sign recognition. The experimental results demonstrate
that the error rates are well-calibrated while the number of alarms is very
small. Further, the method is computationally efficient and allows real-time
assurance monitoring of CPS.
- Abstract（参考訳）: ディープニューラルネットワークのような機械学習コンポーネントは、サイバー物理システム(CPS)で広く使われている。
しかし、そのようなコンポーネントは、破壊的な結果をもたらし、エンジニアリングの信頼できるシステムのために対処する必要がある新しいタイプのハザードをもたらす可能性がある。
ディープニューラルネットワークは高度な機能を提供するが、CPSに効果的な統合を可能にするエンジニアリング手法とプラクティスによって補完されなければならない。
本稿では,共形予測フレームワークに基づく学習可能なCPSの保証監視手法を提案する。
リアルタイムの保証監視を可能にするため,高次元入力を低次元埋め込み表現に変換するために距離学習を用いる。
共形予測を活用することにより、精度の高い信頼性を提供し、正確な予測ができない入力数を制限するとともに、境界付き小さなエラー率を保証する。
壁面認識,話者認識,交通信号認識の3つの移動ロボットを用いて,そのアプローチを実証する。
実験結果から,アラームの数は極めて少ないが,誤差率は良好であることがわかった。
さらに、計算効率が高く、CPSのリアルタイム保証監視を可能にする。
関連論文リスト
- Analyzing Adversarial Inputs in Deep Reinforcement Learning [53.3760591018817]
本稿では, 正当性検証のレンズを用いて, 逆入力の特性を包括的に解析する。
このような摂動に対する感受性に基づいてモデルを分類するために、新しい計量である逆数率(Adversarial Rate)を導入する。
本分析は, 直交入力が所定のDRLシステムの安全性にどのように影響するかを実証的に示す。
論文 参考訳（メタデータ） (2024-02-07T21:58:40Z) - Testing learning-enabled cyber-physical systems with Large-Language Models: A Formal Approach [32.15663640443728]
機械学習(ML)をサイバー物理システム(CPS)に統合することは大きな利益をもたらす。
既存の検証と検証技術は、しばしばこれらの新しいパラダイムには不十分である。
本稿では, 基礎確率テストからより厳密なアプローチへ移行し, 正式な保証を実現するためのロードマップを提案する。
論文 参考訳（メタデータ） (2023-11-13T14:56:14Z) - PAC-Based Formal Verification for Out-of-Distribution Data Detection [4.406331747636832]
本研究は、VAEの符号化プロセスを用いて、OOD検出に基づくほぼ正しい(PAC)保証を行う。
ユーザ定義の信頼性で不慣れなインスタンスに検出エラーをバインドするために使用される。
論文 参考訳（メタデータ） (2023-04-04T07:33:02Z) - Certified Interpretability Robustness for Class Activation Mapping [77.58769591550225]
本稿では,解釈可能性マップのためのCORGI(Certifiable prOvable Robustness Guarantees)を提案する。
CORGIは入力画像を取り込み、そのCAM解釈可能性マップのロバスト性に対する証明可能な下限を与えるアルゴリズムである。
交通標識データを用いたケーススタディによるCORGIの有効性を示す。
論文 参考訳（メタデータ） (2023-01-26T18:58:11Z) - Interpretable Self-Aware Neural Networks for Robust Trajectory
Prediction [50.79827516897913]
本稿では,意味概念間で不確実性を分散する軌道予測のための解釈可能なパラダイムを提案する。
実世界の自動運転データに対する我々のアプローチを検証し、最先端のベースラインよりも優れた性能を示す。
論文 参考訳（メタデータ） (2022-11-16T06:28:20Z) - Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。
次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。
これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
論文 参考訳（メタデータ） (2022-08-23T05:02:09Z) - Multi Agent System for Machine Learning Under Uncertainty in Cyber
Physical Manufacturing System [78.60415450507706]
近年の予測機械学習の進歩は、製造における様々なユースケースに応用されている。
ほとんどの研究は、それに関連する不確実性に対処することなく予測精度を最大化することに焦点を当てた。
本稿では,機械学習における不確実性の原因を特定し,不確実性下での機械学習システムの成功基準を確立する。
論文 参考訳（メタデータ） (2021-07-28T10:28:05Z) - Increasing the Confidence of Deep Neural Networks by Coverage Analysis [71.57324258813674]
本稿では、異なる安全でない入力に対してモデルを強化するために、カバレッジパラダイムに基づく軽量な監視アーキテクチャを提案する。
実験結果から,提案手法は強力な対向例とアウト・オブ・ディストリビューション・インプットの両方を検出するのに有効であることが示唆された。
論文 参考訳（メタデータ） (2021-01-28T16:38:26Z) - Trusted Confidence Bounds for Learning Enabled Cyber-Physical Systems [2.1320960069210484]
インダクティブ・コンフォーマル予測(ICP)に基づく信頼度境界の計算手法を提案する。
我々はTriplet Networkアーキテクチャをトレーニングし、トレーニングデータセットにおけるテスト例とサンプルの類似性を推定するために使用できる入力データの表現を学習する。
次に、これらの表現を用いて、三重項で使用されるニューラルネットワークアーキテクチャに基づく分類器からセット予測の信頼性を推定する。
論文 参考訳（メタデータ） (2020-03-11T04:31:10Z) - Real-time Out-of-distribution Detection in Learning-Enabled
Cyber-Physical Systems [1.4213973379473654]
サイバー物理システムは、現実世界の不確実性と可変性を処理できる機械学習コンポーネントを使用することで恩恵を受ける。
しかし、ディープニューラルネットワークは、システムの安全性に影響を及ぼす可能性のある、新しいタイプのハザードを導入している。
アウト・オブ・ディストリビューションデータは大きなエラーを引き起こし、安全性を損なう可能性がある。
論文 参考訳（メタデータ） (2020-01-28T17:51:07Z) - Assurance Monitoring of Cyber-Physical Systems with Machine Learning
Components [2.1320960069210484]
我々は,サイバー物理システムの保証監視にコンフォメーション予測フレームワークを使用する方法について検討する。
リアルタイムに高次元入力を処理するために,学習モデルの埋め込み表現を用いて非整合性スコアを計算する。
整合性予測を活用することで、この手法は十分に校正された信頼性を提供し、限定された小さなエラー率を保証する監視を可能にする。
論文 参考訳（メタデータ） (2020-01-14T19:34:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。