論文の概要: Closed-Loop ACAS Xu NNCS is Unsafe: Quantized State Backreachability for Verification

• arxiv url: http://arxiv.org/abs/2201.06626v1
• Date: Mon, 17 Jan 2022 20:49:29 GMT
• ステータス: 処理完了
• システム内更新日: 2022-01-20 06:47:30.083191
• Title: Closed-Loop ACAS Xu NNCS is Unsafe: Quantized State Backreachability for Verification
• Title（参考訳）: クローズドループACAS Xu NNCSは安全でない:検証のための量子状態バックリーチ
• Authors: Stanley Bak and Hoang-Dung Tran
• Abstract要約: ACAS Xuは無人航空機の空対空衝突回避システムである。 我々はACAS Xuの閉ループ近似を検証する手法を開発した。
• 参考スコア（独自算出の注目度）: 3.936762984207792
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: ACAS Xu is an air-to-air collision avoidance system designed for unmanned aircraft that issues horizontal turn advisories to avoid an intruder aircraft. Due the use of a large lookup table in the design, a neural network compression of the policy was proposed. Analysis of this system has spurred a significant body of research in the formal methods community on neural network verification. While many powerful methods have been developed, most work focuses on open-loop properties of the networks, rather than the main point of the system -- collision avoidance -- which requires closed-loop analysis. In this work, we develop a technique to verify a closed-loop approximation of ACAS Xu using state quantization and backreachability. We use favorable assumptions for the analysis -- perfect sensor information, instant following of advisories, ideal aircraft maneuvers and an intruder that only flies straight. When the method fails to prove the system is safe, we refine the quantization parameters until generating counterexamples where the original (non-quantized) system also has collisions.
• Abstract（参考訳）: ACAS Xuは無人航空機向けに設計された空中対空衝突回避システムで、侵入機を避けるために水平旋回勧告を発行する。 設計に大規模なルックアップテーブルを使用するため、ポリシーのニューラルネットワーク圧縮が提案されている。 このシステムの解析は、ニューラルネットワークの検証に関する形式的手法コミュニティにおいて、重要な研究機関となった。 多くの強力な手法が開発されているが、ほとんどの研究はクローズドループ解析を必要とするシステムのメインポイントである衝突回避ではなく、ネットワークのオープンループ特性に焦点を当てている。 本研究では,状態量子化とバックリーチ性を用いてACAS Xuの閉ループ近似を検証する手法を開発した。 完璧なセンサー情報、アドバイザリーの即時追従、理想的な航空機操縦、まっすぐに飛ぶだけの侵入者といった分析には、望ましい仮定を用いています。 この手法が安全性を証明できなかった場合、元の(非量子化)システムが衝突する反例を生成するまで量子化パラメータを精査する。

関連論文リスト

• Data-Driven Distributionally Robust Safety Verification Using Barrier Certificates and Conditional Mean Embeddings [0.24578723416255752]
  問題を非現実的な仮定にシフトすることなく,スケーラブルな形式検証アルゴリズムを開発する。 問題を非現実的な仮定にシフトさせることなく,スケーラブルな形式検証アルゴリズムを開発するためには,バリア証明書の概念を用いる。 本稿では,2乗法最適化とガウス過程エンベロープを用いて効率よくプログラムを解く方法を示す。
  論文  参考訳（メタデータ） (2024-03-15T17:32:02Z)
• Ring-A-Bell! How Reliable are Concept Removal Methods for Diffusion Models? [52.238883592674696]
  Ring-A-Bellは、T2I拡散モデルのためのモデルに依存しないレッドチームツールである。 これは、不適切なコンテンツの生成に対応する拡散モデルに対する問題的プロンプトを特定する。 この結果から,安全プロンプトベンチマークの操作により,既存の安全メカニズムを回避できると考えられるプロンプトを変換できることが示唆された。
  論文  参考訳（メタデータ） (2023-10-16T02:11:20Z)
• Small Object Detection via Coarse-to-fine Proposal Generation and Imitation Learning [52.06176253457522]
  本稿では,粗粒度パイプラインと特徴模倣学習に基づく小型物体検出に適した2段階フレームワークを提案する。 CFINetは、大規模な小さなオブジェクト検出ベンチマークであるSODA-DとSODA-Aで最先端の性能を達成する。
  論文  参考訳（メタデータ） (2023-08-18T13:13:09Z)
• Ranking-Based Physics-Informed Line Failure Detection in Power Grids [66.0797334582536]
  ライン障害のリアルタイムかつ正確な検出は、極端な気象の影響を緩和し、緊急制御を活性化する最初のステップである。 電力収支方程式は、非線形性、極端な事象における発生の不確実性の増加、グリッドオブザーバビリティの欠如は、従来のデータ駆動障害検出手法の効率を損なう。 本稿では,グリッドトポロジ情報を利用した物理インフォームドライン故障検出器(FIELD)を提案する。
  論文  参考訳（メタデータ） (2022-08-31T18:19:25Z)
• Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
  CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。 次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。 これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
  論文  参考訳（メタデータ） (2022-08-23T05:02:09Z)
• Large-Scale Sequential Learning for Recommender and Engineering Systems [91.3755431537592]
  本稿では,現在の状況に適応してパーソナライズされたランキングを提供する自動アルゴリズムの設計に焦点を当てる。 前者はSAROSと呼ばれる新しいアルゴリズムを提案し,インタラクションの順序を学習するためのフィードバックの種類を考慮に入れている。 提案手法は, 電力網の故障検出に対する初期アプローチと比較して, 統計的に有意な結果を示す。
  論文  参考訳（メタデータ） (2022-05-13T21:09:41Z)
• Inter-Domain Fusion for Enhanced Intrusion Detection in Power Systems: An Evidence Theoretic and Meta-Heuristic Approach [0.0]
  ICSネットワークにおけるIDSによる不正な警告は、経済的および運用上の重大な損害をもたらす可能性がある。 本研究は,CPS電力系統における誤警報の事前分布を伴わずに不確実性に対処し,誤警報を低減する手法を提案する。
  論文  参考訳（メタデータ） (2021-11-20T00:05:39Z)
• Formal Verification of Stochastic Systems with ReLU Neural Network Controllers [22.68044012584378]
  reluニューラルネットワーク(nn)コントローラを備えたサイバーフィジカルシステムの形式的安全性検証の問題に対処する。 私たちの目標は、所定の自信を持って、システムが安全でない構成に達しない初期状態のセットを見つけることです。
  論文  参考訳（メタデータ） (2021-03-08T23:53:13Z)
• No Need to Know Physics: Resilience of Process-based Model-free Anomaly Detection for Industrial Control Systems [95.54151664013011]
  本稿では,システムの物理的特性に反する逆スプーフ信号を生成するための新しい枠組みを提案する。 トップセキュリティカンファレンスで公表された4つの異常検知器を分析した。
  論文  参考訳（メタデータ） (2020-12-07T11:02:44Z)
• Formal Analysis and Redesign of a Neural Network-Based Aircraft Taxiing System with VerifAI [5.920947681019465]
  VerifAIツールキットを用いた安全クリティカルな自律システムの厳密な設計に対する統一的なアプローチを示す。 VerifAIは、モデリング、ファルシフィケーション、MLコンポーネントの再トレーニングを含む、デザインプロセスにまたがるタスクのための統合ツールチェーンを提供する。 本研究は,ボーイング社が開発した無人航空機タクシー実験システムにおける産業ケーススタディにおいて,これらの応用のすべてを評価するものである。
  論文  参考訳（メタデータ） (2020-05-14T17:42:14Z)
• A Survey of Algorithms for Black-Box Safety Validation of Cyber-Physical Systems [30.638615396429536]
  安全クリティカルな人工知能の普及により、この研究は、CPSの最先端の安全検証技術の調査を提供する。 本稿では,最適化,経路計画,強化学習,重要サンプリングの分野におけるアルゴリズムについて論じる。 自動運転車や航空機衝突回避システムなど、安全クリティカルな応用の概要を概説する。
  論文  参考訳（メタデータ） (2020-05-06T17:31:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。