論文の概要: Safety Monitoring for Learning-Enabled Cyber-Physical Systems in Out-of-Distribution Scenarios

• arxiv url: http://arxiv.org/abs/2504.13478v1
• Date: Fri, 18 Apr 2025 05:42:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-28 19:02:18.077934
• Title: Safety Monitoring for Learning-Enabled Cyber-Physical Systems in Out-of-Distribution Scenarios
• Title（参考訳）: アウト・オブ・ディストリビューションシナリオにおける学習型サイバー物理システムの安全性モニタリング
• Authors: Vivian Lin, Ramneet Kaur, Yahan Yang, Souradeep Dutta, Yiannis Kantaros, Anirban Roy, Susmit Jha, Oleg Sokolsky, Insup Lee,
• Abstract要約: OODデータに対して堅牢な方法で安全性を直接監視することを提案する。 我々の安全モニターは適応型コンフォーマル予測と漸進学習を組み合わせた新しい組み合わせも使用しています。
• 参考スコア（独自算出の注目度）: 17.629563106665557
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The safety of learning-enabled cyber-physical systems is compromised by the well-known vulnerabilities of deep neural networks to out-of-distribution (OOD) inputs. Existing literature has sought to monitor the safety of such systems by detecting OOD data. However, such approaches have limited utility, as the presence of an OOD input does not necessarily imply the violation of a desired safety property. We instead propose to directly monitor safety in a manner that is itself robust to OOD data. To this end, we predict violations of signal temporal logic safety specifications based on predicted future trajectories. Our safety monitor additionally uses a novel combination of adaptive conformal prediction and incremental learning. The former obtains probabilistic prediction guarantees even on OOD data, and the latter prevents overly conservative predictions. We evaluate the efficacy of the proposed approach in two case studies on safety monitoring: 1) predicting collisions of an F1Tenth car with static obstacles, and 2) predicting collisions of a race car with multiple dynamic obstacles. We find that adaptive conformal prediction obtains theoretical guarantees where other uncertainty quantification methods fail to do so. Additionally, combining adaptive conformal prediction and incremental learning for safety monitoring achieves high recall and timeliness while reducing loss in precision. We achieve these results even in OOD settings and outperform alternative methods.
• Abstract（参考訳）: 学習可能なサイバー物理システムの安全性は、ディープニューラルネットワークからアウト・オブ・ディストリビューション(OOD)入力へのよく知られた脆弱性によって損なわれている。 既存の文献は、OODデータを検出して、そのようなシステムの安全性を監視しようと試みている。 しかし、OOD入力の存在は必ずしも所望の安全財産の侵害を意味するとは限らないため、そのようなアプローチは実用性に限界がある。 OODデータに対して堅牢な方法で安全性を直接監視することを提案する。 この目的のために、予測された将来の軌跡に基づいて、信号時相論理の安全性仕様違反を予測する。 我々の安全モニターは適応型コンフォーマル予測と漸進学習を組み合わせた新しい組み合わせも使用しています。 前者はOODデータにおいても確率的予測が保証され、後者は過度に保守的な予測を防ぐ。 安全モニタリングの2つのケーススタディにおいて,提案手法の有効性を評価する。 1)静的障害物を有するF110号車の衝突予測 2)複数の動的障害物を有するレースカーの衝突予測 適応共形予測は、他の不確実な定量化方法ができない理論的保証を得る。 さらに、アダプティブコンフォーマル予測とインクリメンタルラーニングを組み合わせた安全監視は、精度の低下を低減しつつ、高いリコールとタイムラインを実現する。 OODの設定や代替手法よりも優れています。

関連論文リスト

• Quantitative Predictive Monitoring and Control for Safe Human-Machine Interaction [16.465501381705774]
  安全でない人間と機械の相互作用は破滅的な失敗を引き起こす。 本研究では,人間の相互作用の不確実性を考慮した将来状態の予測手法を提案する。 提案手法は,1型糖尿病管理と半自律運転の2つのケーススタディに適用する。
  論文  参考訳（メタデータ） (2024-12-17T22:46:39Z)
• System Safety Monitoring of Learned Components Using Temporal Metric Forecasting [8.76735390039138]
  学習可能な自律システムにおいて、学習したコンポーネントの安全性監視は、その出力がシステムの安全性違反に結びつかないことを保証するために不可欠である。 本稿では,確率的時系列予測に基づく安全監視手法を提案する。 安全度と違反予測精度を実証的に評価し、4つの最先端モデルの推論遅延とリソース使用率について検討した。
  論文  参考訳（メタデータ） (2024-05-21T23:48:26Z)
• Free Lunch for Generating Effective Outlier Supervision [46.37464572099351]
  本稿では, ほぼ現実的な外乱監視を実現するための超効率的な手法を提案する。 提案したtextttBayesAug は,従来の方式に比べて偽陽性率を 12.50% 以上削減する。
  論文  参考訳（メタデータ） (2023-01-17T01:46:45Z)
• Meta-Learning Priors for Safe Bayesian Optimization [72.8349503901712]
  メタ学習アルゴリズムであるF-PACOHを構築し,データ不足の設定において確実な定量化を実現する。 コアコントリビューションとして、安全に適合した事前をデータ駆動で選択するための新しいフレームワークを開発する。 ベンチマーク関数と高精度動作系において,我々のメタ学習先行が安全なBOアプローチの収束を加速することを示す。
  論文  参考訳（メタデータ） (2022-10-03T08:38:38Z)
• Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
  CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。 次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。 これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
  論文  参考訳（メタデータ） (2022-08-23T05:02:09Z)
• ProBF: Learning Probabilistic Safety Certificates with Barrier Functions [31.203344483485843]
  制御バリア関数は、地平系力学にアクセスできれば安全を保証できる便利なツールである。 実際には、システムダイナミクスに関する不正確な知識があるため、安全でない振る舞いにつながる可能性があります。 本手法の有効性をSegwayとQuadrotorのシミュレーション実験により示す。
  論文  参考訳（メタデータ） (2021-12-22T20:18:18Z)
• Assurance Monitoring of Learning Enabled Cyber-Physical Systems Using Inductive Conformal Prediction based on Distance Learning [2.66512000865131]
  本稿では,学習可能なサイバー物理システムの保証監視手法を提案する。 リアルタイムの保証監視を可能にするため,高次元入力を低次元埋め込み表現に変換するために距離学習を用いる。 壁面認識,話者認識,交通信号認識の3つの移動ロボットを用いて,そのアプローチを実証する。
  論文  参考訳（メタデータ） (2021-10-07T00:21:45Z)
• Sample-Efficient Safety Assurances using Conformal Prediction [57.92013073974406]
  早期警戒システムは、安全でない状況が差し迫ったときに警告を提供することができる。 安全性を確実に向上させるためには、これらの警告システムは証明可能な偽陰性率を持つべきである。 本稿では,共形予測と呼ばれる統計的推論手法とロボット・環境力学シミュレータを組み合わせたフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-09-28T23:00:30Z)
• Neural Predictive Monitoring under Partial Observability [4.1316328854247155]
  本稿では,部分観測可能性(PO)に拘わらず,正確かつ信頼性の高い到達可能性予測を生成する学習ベース予測手法を提案する。 提案手法は,精度の高い到達可能性予測とエラー検出を行い,また,カバー範囲が保証された厳密な予測領域を実現する。
  論文  参考訳（メタデータ） (2021-08-16T15:08:20Z)
• Provably Robust Detection of Out-of-distribution Data (almost) for free [124.14121487542613]
  ディープニューラルネットワークは、アウト・オブ・ディストリビューション(OOD)データに対する高い過度な予測を生成することが知られている。 本稿では,認証可能なOOD検出器を標準分類器と組み合わせてOOD認識分類器を提案する。 このようにして、我々は2つの世界のベストを達成している。OOD検出は、分布内に近いOODサンプルであっても、予測精度を損なうことなく、非操作型OODデータに対する最先端のOOD検出性能に近接する。
  論文  参考訳（メタデータ） (2021-06-08T11:40:49Z)
• Learning Uncertainty For Safety-Oriented Semantic Segmentation In Autonomous Driving [77.39239190539871]
  自律運転における安全クリティカル画像セグメンテーションを実現するために、不確実性推定をどのように活用できるかを示す。 相似性関数によって測定された不一致予測に基づく新しい不確実性尺度を導入する。 本研究では,提案手法が競合手法よりも推論時間において計算集約性が低いことを示す。
  論文  参考訳（メタデータ） (2021-05-28T09:23:05Z)
• Trust but Verify: Assigning Prediction Credibility by Counterfactual Constrained Learning [123.3472310767721]
  予測信頼性尺度は統計学と機械学習において基本的なものである。 これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。 この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
  論文  参考訳（メタデータ） (2020-11-24T19:52:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。