論文の概要: Discovering Closed-Loop Failures of Vision-Based Controllers via Reachability Analysis

• arxiv url: http://arxiv.org/abs/2211.02736v1
• Date: Fri, 4 Nov 2022 20:22:58 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-08 15:16:44.437788
• Title: Discovering Closed-Loop Failures of Vision-Based Controllers via Reachability Analysis
• Title（参考訳）: 可視性解析による視覚制御系の閉ループ故障の発見
• Authors: Kaustav Chakraborty and Somil Bansal
• Abstract要約: 機械学習によるイメージベースコントローラは、ロボットシステムが環境からの視覚的フィードバックに基づいてインテリジェントなアクションを取ることを可能にする。 既存の手法では、シミュレーションベースのテスト(またはファルシフィケーション)を利用して、視覚ベースのコントローラの故障を見つける。 本研究では,ハミルトン・ヤコビ(HJ)の到達可能性問題として,閉ループ型視覚障害の発見を論じる。
• 参考スコア（独自算出の注目度）: 4.523089386111081
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning driven image-based controllers allow robotic systems to take intelligent actions based on the visual feedback from their environment. Understanding when these controllers might lead to system safety violations is important for their integration in safety-critical applications and engineering corrective safety measures for the system. Existing methods leverage simulation-based testing (or falsification) to find the failures of vision-based controllers, i.e., the visual inputs that lead to closed-loop safety violations. However, these techniques do not scale well to the scenarios involving high-dimensional and complex visual inputs, such as RGB images. In this work, we cast the problem of finding closed-loop vision failures as a Hamilton-Jacobi (HJ) reachability problem. Our approach blends simulation-based analysis with HJ reachability methods to compute an approximation of the backward reachable tube (BRT) of the system, i.e., the set of unsafe states for the system under vision-based controllers. Utilizing the BRT, we can tractably and systematically find the system states and corresponding visual inputs that lead to closed-loop failures. These visual inputs can be subsequently analyzed to find the input characteristics that might have caused the failure. Besides its scalability to high-dimensional visual inputs, an explicit computation of BRT allows the proposed approach to capture non-trivial system failures that are difficult to expose via random simulations. We demonstrate our framework on two case studies involving an RGB image-based neural network controller for (a) autonomous indoor navigation, and (b) autonomous aircraft taxiing.
• Abstract（参考訳）: 機械学習駆動のイメージベースのコントローラーは、ロボットシステムが環境からの視覚フィードバックに基づいてインテリジェントなアクションを取ることができる。 これらのコントローラがシステム安全違反につながる可能性を理解することは、システムにとって安全クリティカルなアプリケーションとエンジニアリング修正安全対策を統合する上で重要である。 既存の手法では、シミュレーションベースのテスト(またはファルシフィケーション)を利用して、視覚ベースのコントローラの故障、すなわちクローズドループの安全違反につながる視覚入力を見つける。 しかし、これらの手法は、RGB画像のような高次元および複雑な視覚入力を含むシナリオには適していない。 本研究では,ハミルトン・ヤコビ(HJ)の到達可能性問題として,閉ループ型視覚障害の発見を論じる。 提案手法は,シミュレーションに基づく解析とHJリーチビリティ手法を融合して,システムの後方到達管(BRT)の近似,すなわち視覚制御系におけるシステムの安全でない状態の集合を計算する。 BRTを利用することで、システム状態とそれに対応する視覚的入力がクローズドループ障害につながることを、的確かつ体系的に見つけることができる。 これらの視覚入力はその後分析され、障害を引き起こした可能性のある入力特性を見つけることができる。 高次元視覚入力へのスケーラビリティに加えて、BRTの明示的な計算により、ランダムなシミュレーションによって露呈し難い非自明なシステム障害を捉えることができる。 我々は,RGB画像ベースニューラルネットワークコントローラを用いた2つのケーススタディを実演する。 (a)自律型屋内ナビゲーション、及び (b)自律型航空機タクシー

関連論文リスト

• Scalable Surrogate Verification of Image-based Neural Network Control Systems using Composition and Unrolling [9.633494094538017]
  本研究では,実世界に代わって条件付き生成逆数ネットワーク(cGAN)をイメージジェネレータとして訓練し,サロゲート検証手法を提案する。 我々は、cGANとニューラルネットワークコントローラとともにシステムのダイナミクスを構成することで、一段階のエラーを克服する。 単一ステップの合成を繰り返し、制御ループの複数のステップを大規模ニューラルネットワークに展開することで、マルチステップエラーを低減する。
  論文  参考訳（メタデータ） (2024-05-28T19:56:53Z)
• Floor extraction and door detection for visually impaired guidance [78.94595951597344]
  未知の環境で障害物のない経路を見つけることは、視覚障害者や自律ロボットにとって大きなナビゲーション問題である。 コンピュータビジョンシステムに基づく新しいデバイスは、障害のある人が安全な環境で未知の環境でナビゲートすることの難しさを克服するのに役立つ。 本研究では,視覚障害者のためのナビゲーションシステムの構築につながるセンサとアルゴリズムの組み合わせを提案する。
  論文  参考訳（メタデータ） (2024-01-30T14:38:43Z)
• Detecting and Mitigating System-Level Anomalies of Vision-Based Controllers [7.095058159492494]
  ビジョンベースのコントローラは、新規またはアウト・オブ・ディストリビューションの入力に直面したとき、誤った予測を行うことができる。 本研究では,そのような閉ループ,システムレベルの障害を検知・緩和する実行時異常モニタを提案する。 本提案手法は, 視覚に基づくタクシー制御システムを用いた自律型航空機タクシーシステムにおいて, 提案手法の有効性を検証したものである。
  論文  参考訳（メタデータ） (2023-09-23T20:33:38Z)
• In-Distribution Barrier Functions: Self-Supervised Policy Filters that Avoid Out-of-Distribution States [84.24300005271185]
  本稿では,任意の参照ポリシーをラップした制御フィルタを提案する。 本手法は、トップダウンとエゴセントリックの両方のビュー設定を含むシミュレーション環境における2つの異なるビズモータ制御タスクに有効である。
  論文  参考訳（メタデータ） (2023-01-27T22:28:19Z)
• Testing Rare Downstream Safety Violations via Upstream Adaptive Sampling of Perception Error Models [20.815131169609316]
  本稿では,センサベース検出システムにおける知覚誤差モデルと,状態依存適応的重要度サンプリングを組み合わせる。 RGB障害物検出器を備えた自律制動システムを用いた実験により, 精度の高い故障確率を算出できることが判明した。
  論文  参考訳（メタデータ） (2022-09-20T12:26:06Z)
• Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
  CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。 次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。 これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
  論文  参考訳（メタデータ） (2022-08-23T05:02:09Z)
• Monitoring of Perception Systems: Deterministic, Probabilistic, and Learning-based Fault Detection and Identification [21.25149064251918]
  認識システムにおけるランタイム障害検出と識別の問題を形式化する。 診断グラフを用いて故障検出と識別を行う,決定論的,確率的,学習ベースのアルゴリズムのセットを提供する。 本稿では,LGSVLオープンソース自律運転シミュレータにおいて,複数の現実的な故障モードを再現する実験的な評価を行った。
  論文  参考訳（メタデータ） (2022-05-22T19:08:45Z)
• Learning Robust Output Control Barrier Functions from Safe Expert Demonstrations [50.37808220291108]
  本稿では,専門家によるデモンストレーションの部分的な観察から,安全な出力フィードバック制御法を考察する。 まず,安全性を保証する手段として,ロバスト出力制御バリア関数(ROCBF)を提案する。 次に、安全なシステム動作を示す専門家による実証からROCBFを学習するための最適化問題を定式化する。
  論文  参考訳（メタデータ） (2021-11-18T23:21:00Z)
• Monitoring and Diagnosability of Perception Systems [21.25149064251918]
  本稿では,認識システムにおける実行時モニタリングと故障検出と識別のための数学的モデルを提案する。 本稿では,LGSVL自動運転シミュレータとApollo Auto自動運転ソフトウェアスタックを用いた実写シミュレーションにおいて,PerSySと呼ばれるモニタリングシステムを実演する。
  論文  参考訳（メタデータ） (2020-11-11T23:03:14Z)
• Learning Hybrid Control Barrier Functions from Data [66.37785052099423]
  ハイブリッドシステムの安全な制御法則を得るための体系的なツールが欠如していることから,データから確実に安全な制御法則を学習するための最適化ベースのフレームワークを提案する。 特に、システムダイナミクスが知られており、安全なシステム動作を示すデータが利用可能であるような設定を仮定する。
  論文  参考訳（メタデータ） (2020-11-08T23:55:02Z)
• Risk-Averse MPC via Visual-Inertial Input and Recurrent Networks for Online Collision Avoidance [95.86944752753564]
  本稿では,モデル予測制御(MPC)の定式化を拡張したオンライン経路計画アーキテクチャを提案する。 我々のアルゴリズムは、状態推定の共分散を推論するリカレントニューラルネットワーク(RNN)とオブジェクト検出パイプラインを組み合わせる。 本手法のロバスト性は, 複雑な四足歩行ロボットの力学で検証され, ほとんどのロボットプラットフォームに適用可能である。
  論文  参考訳（メタデータ） (2020-07-28T07:34:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。