論文の概要: Detecting and Mitigating System-Level Anomalies of Vision-Based Controllers
- arxiv url: http://arxiv.org/abs/2309.13475v3
- Date: Tue, 9 Apr 2024 01:26:58 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-10 20:16:36.496382
- Title: Detecting and Mitigating System-Level Anomalies of Vision-Based Controllers
- Title（参考訳）: ビジョンベースコントローラのシステムレベル異常の検出と緩和
- Authors: Aryaman Gupta, Kaustav Chakraborty, Somil Bansal,
- Abstract要約: ビジョンベースのコントローラは、新規またはアウト・オブ・ディストリビューションの入力に直面したとき、誤った予測を行うことができる。
本研究では,そのような閉ループ,システムレベルの障害を検知・緩和する実行時異常モニタを提案する。
本提案手法は, 視覚に基づくタクシー制御システムを用いた自律型航空機タクシーシステムにおいて, 提案手法の有効性を検証したものである。
- 参考スコア（独自算出の注目度）: 7.095058159492494
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Autonomous systems, such as self-driving cars and drones, have made significant strides in recent years by leveraging visual inputs and machine learning for decision-making and control. Despite their impressive performance, these vision-based controllers can make erroneous predictions when faced with novel or out-of-distribution inputs. Such errors can cascade to catastrophic system failures and compromise system safety. In this work, we introduce a run-time anomaly monitor to detect and mitigate such closed-loop, system-level failures. Specifically, we leverage a reachability-based framework to stress-test the vision-based controller offline and mine its system-level failures. This data is then used to train a classifier that is leveraged online to flag inputs that might cause system breakdowns. The anomaly detector highlights issues that transcend individual modules and pertain to the safety of the overall system. We also design a fallback controller that robustly handles these detected anomalies to preserve system safety. We validate the proposed approach on an autonomous aircraft taxiing system that uses a vision-based controller for taxiing. Our results show the efficacy of the proposed approach in identifying and handling system-level anomalies, outperforming methods such as prediction error-based detection, and ensembling, thereby enhancing the overall safety and robustness of autonomous systems.
- Abstract（参考訳）: 自動運転車やドローンのような自律システムは、近年、意思決定と制御に視覚入力と機械学習を活用することで大きな進歩を遂げている。
目を見張る性能にもかかわらず、これらの視覚ベースのコントローラーは、新規またはアウト・オブ・ディストリビューションの入力に直面したとき、誤った予測を行うことができる。
このようなエラーは、壊滅的なシステム障害を発生させ、システムの安全性を損なう可能性がある。
本研究では,そのような閉ループ,システムレベルの障害を検知・緩和する実行時異常モニタを提案する。
具体的には、リーチビリティベースのフレームワークを活用して、視覚ベースのコントローラをオフラインでテストし、システムレベルの障害をマイニングします。
このデータは、オンラインで活用される分類器をトレーニングするために使用され、入力にフラグを付け、システムの故障を引き起こす可能性がある。
異常検知器は、個々のモジュールを超越し、システム全体の安全性に関わる問題を強調する。
また、検知された異常を確実に処理し、システムの安全性を維持するフォールバックコントローラを設計する。
本提案手法は, 視覚に基づくタクシー制御システムを用いた自律型航空機タクシーシステムにおいて, 提案手法の有効性を検証したものである。
提案手法は,システムレベルの異常を識別・処理し,予測誤差に基づく検出やアンサンブルなどの性能を向上し,自律システム全体の安全性とロバスト性を向上する。
関連論文リスト
- Enhancing Functional Safety in Automotive AMS Circuits through Unsupervised Machine Learning [9.100418852199082]
AMS回路における早期異常検出のための教師なし機械学習に基づく新しいフレームワークを提案する。
提案手法では、様々な回路位置や個々のコンポーネントに異常を注入して、多種多様な総合的な異常データセットを作成する。
これらの異常条件下でのシステムの挙動をモニタリングすることにより、異常の伝播とその影響を異なる抽象レベルで捉える。
論文 参考訳（メタデータ） (2024-04-02T04:33:03Z) - Interactive System-wise Anomaly Detection [66.3766756452743]
異常検出は様々なアプリケーションにおいて基本的な役割を果たす。
既存のメソッドでは、インスタンスがデータとして容易に観察できないシステムであるシナリオを扱うのが難しい。
システム埋め込みを学習するエンコーダデコーダモジュールを含むエンドツーエンドアプローチを開発する。
論文 参考訳（メタデータ） (2023-04-21T02:20:24Z) - In-Distribution Barrier Functions: Self-Supervised Policy Filters that
Avoid Out-of-Distribution States [84.24300005271185]
本稿では,任意の参照ポリシーをラップした制御フィルタを提案する。
本手法は、トップダウンとエゴセントリックの両方のビュー設定を含むシミュレーション環境における2つの異なるビズモータ制御タスクに有効である。
論文 参考訳（メタデータ） (2023-01-27T22:28:19Z) - Discovering Closed-Loop Failures of Vision-Based Controllers via Reachability Analysis [7.679478106628509]
機械学習によるイメージベースコントローラは、ロボットシステムが環境からの視覚的フィードバックに基づいてインテリジェントなアクションを取ることを可能にする。
既存の手法では、シミュレーションベースのテスト(またはファルシフィケーション)を利用して、視覚ベースのコントローラの故障を見つける。
本研究では,ハミルトン・ヤコビ(HJ)の到達可能性問題として,閉ループ型視覚障害の発見を論じる。
論文 参考訳（メタデータ） (2022-11-04T20:22:58Z) - Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。
次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。
これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
論文 参考訳（メタデータ） (2022-08-23T05:02:09Z) - Monitoring of Perception Systems: Deterministic, Probabilistic, and
Learning-based Fault Detection and Identification [21.25149064251918]
認識システムにおけるランタイム障害検出と識別の問題を形式化する。
診断グラフを用いて故障検出と識別を行う,決定論的,確率的,学習ベースのアルゴリズムのセットを提供する。
本稿では,LGSVLオープンソース自律運転シミュレータにおいて,複数の現実的な故障モードを再現する実験的な評価を行った。
論文 参考訳（メタデータ） (2022-05-22T19:08:45Z) - Learning Robust Output Control Barrier Functions from Safe Expert Demonstrations [50.37808220291108]
本稿では,専門家によるデモンストレーションの部分的な観察から,安全な出力フィードバック制御法を考察する。
まず,安全性を保証する手段として,ロバスト出力制御バリア関数(ROCBF)を提案する。
次に、安全なシステム動作を示す専門家による実証からROCBFを学習するための最適化問題を定式化する。
論文 参考訳（メタデータ） (2021-11-18T23:21:00Z) - No Need to Know Physics: Resilience of Process-based Model-free Anomaly
Detection for Industrial Control Systems [95.54151664013011]
本稿では,システムの物理的特性に反する逆スプーフ信号を生成するための新しい枠組みを提案する。
トップセキュリティカンファレンスで公表された4つの異常検知器を分析した。
論文 参考訳（メタデータ） (2020-12-07T11:02:44Z) - Monitoring and Diagnosability of Perception Systems [21.25149064251918]
本稿では,認識システムにおける実行時モニタリングと故障検出と識別のための数学的モデルを提案する。
本稿では,LGSVL自動運転シミュレータとApollo Auto自動運転ソフトウェアスタックを用いた実写シミュレーションにおいて,PerSySと呼ばれるモニタリングシステムを実演する。
論文 参考訳（メタデータ） (2020-11-11T23:03:14Z) - Towards robust sensing for Autonomous Vehicles: An adversarial
perspective [82.83630604517249]
結果として得られる決定が摂動に対して堅牢であることは、最も重要なことです。
敵対的摂動は、意図的に環境や感覚測定の修正を施したものである。
より安全なシステムの構築とデプロイには,センサーシステムの脆弱性を慎重に評価する必要がある。
論文 参考訳（メタデータ） (2020-07-14T05:25:15Z) - Monitoring and Diagnosability of Perception Systems [21.25149064251918]
知覚は、ロボット工学や自動運転車などの自律システムの高統合的応用において重要な要素である。
知覚システムの重要さにもかかわらず、システムレベルのモニタリングには正式なアプローチは存在しない。
本稿では,認識システムの実行時モニタリングと故障検出のための数学的モデルを提案する。
論文 参考訳（メタデータ） (2020-05-24T18:09:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。