論文の概要: Reachability Analysis of Neural Feedback Loops

• arxiv url: http://arxiv.org/abs/2108.04140v1
• Date: Mon, 9 Aug 2021 16:11:57 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-10 17:37:29.946894
• Title: Reachability Analysis of Neural Feedback Loops
• Title（参考訳）: 神経フィードバックループの到達可能性解析
• Authors: Michael Everett, Golnaz Habibi, Chuangchuang Sun, Jonathan P. How
• Abstract要約: 本研究は, NNコントローラ付き閉ループシステム) の前方到達可能なフィードバックループの推定に焦点をあてる。 最近の研究は、これらの到達可能な集合に境界を与えるが、計算的に抽出可能なアプローチは過度に保守的な境界をもたらす。 この研究は、NNコントローラを用いた閉ループシステムの到達可能性解析のための凸最適化問題を定式化することによってギャップを埋める。
• 参考スコア（独自算出の注目度）: 34.94930611635459
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural Networks (NNs) can provide major empirical performance improvements for closed-loop systems, but they also introduce challenges in formally analyzing those systems' safety properties. In particular, this work focuses on estimating the forward reachable set of \textit{neural feedback loops} (closed-loop systems with NN controllers). Recent work provides bounds on these reachable sets, but the computationally tractable approaches yield overly conservative bounds (thus cannot be used to verify useful properties), and the methods that yield tighter bounds are too intensive for online computation. This work bridges the gap by formulating a convex optimization problem for the reachability analysis of closed-loop systems with NN controllers. While the solutions are less tight than previous (semidefinite program-based) methods, they are substantially faster to compute, and some of those computational time savings can be used to refine the bounds through new input set partitioning techniques, which is shown to dramatically reduce the tightness gap. The new framework is developed for systems with uncertainty (e.g., measurement and process noise) and nonlinearities (e.g., polynomial dynamics), and thus is shown to be applicable to real-world systems. To inform the design of an initial state set when only the target state set is known/specified, a novel algorithm for backward reachability analysis is also provided, which computes the set of states that are guaranteed to lead to the target set. The numerical experiments show that our approach (based on linear relaxations and partitioning) gives a $5\times$ reduction in conservatism in $150\times$ less computation time compared to the state-of-the-art. Furthermore, experiments on quadrotor, 270-state, and polynomial systems demonstrate the method's ability to handle uncertainty sources, high dimensionality, and nonlinear dynamics, respectively.
• Abstract（参考訳）: ニューラルネット(nns)はクローズドループシステムにおいて大きな経験的性能改善を提供するが、システムの安全性特性を形式的に分析する上での課題も導入している。 特に、この研究は、前方到達可能な 'textit{neural feedback loops} (NNコントローラ付きクローズドループシステム) のセットを推定することに焦点を当てている。 最近の研究は、これらの到達可能な集合の境界を提供するが、計算的に扱いやすいアプローチは(有用性を検証するために使用できない)過度に保守的な境界をもたらし、より厳密な境界を与える手法は、オンライン計算にはあまりにも集中的である。 この研究はnnコントローラを用いた閉ループシステムの到達可能性解析のための凸最適化問題を定式化することでギャップを埋める。 ソリューションは以前の(半定義のプログラムベース)メソッドよりもタイトではないが、計算は大幅に高速であり、これらの計算時間の節約によって、新たな入力セット分割技術によって境界を洗練することができる。 新しいフレームワークは不確実性(測定やプロセスノイズなど)と非線形性(多項式ダイナミクスなど)を持つシステム向けに開発され、実世界のシステムに適用可能であることが示されている。 目標状態セットのみを知/特定する場合に初期状態セットの設計を通知すると共に、目標状態に導くことが保証された状態セットを演算する後方到達性解析のための新しいアルゴリズムも提供される。 数値実験によれば、このアプローチは(線形緩和とパーティショニングに基づく)、150\times$のコンサバティズムを、最先端の計算時間と比較して、50\times$の計算時間で5\times$削減することを示している。 さらに, 四元数, 270状態, 多項式系の実験では, それぞれ不確実性源, 高次元, 非線形力学を扱う能力を示す。

関連論文リスト

• Large-Scale OD Matrix Estimation with A Deep Learning Method [70.78575952309023]
  提案手法は,ディープラーニングと数値最適化アルゴリズムを統合し,行列構造を推論し,数値最適化を導出する。 大規模合成データセットを用いて,提案手法の優れた一般化性能を実証するために実験を行った。
  論文  参考訳（メタデータ） (2023-10-09T14:30:06Z)
• Accelerated First-Order Optimization under Nonlinear Constraints [73.2273449996098]
  我々は、制約付き最適化のための一階アルゴリズムと非滑らかなシステムの間で、新しい一階アルゴリズムのクラスを設計する。 これらのアルゴリズムの重要な性質は、制約がスパース変数の代わりに速度で表されることである。
  論文  参考訳（メタデータ） (2023-02-01T08:50:48Z)
• Interval Reachability of Nonlinear Dynamical Systems with Neural Network Controllers [5.543220407902113]
  本稿では、ニューラルネットワークコントローラを用いた非線形連続時間力学系の厳密な検証のための区間解析に基づく計算効率の良いフレームワークを提案する。 混合単調理論に着想を得て,ニューラルネットワークの包摂関数と開ループシステムの分解関数を用いて,閉ループ力学をより大きなシステムに組み込む。 埋め込みシステムの単一軌跡を用いて、到達可能な集合の超矩形超近似を効率的に計算できることが示される。
  論文  参考訳（メタデータ） (2023-01-19T06:46:36Z)
• Backward Reachability Analysis of Neural Feedback Loops: Techniques for Linear and Nonlinear Systems [59.57462129637796]
  本稿では,ニューラルネットワークを用いた閉ループシステムの安全性検証のための後方到達性アプローチを提案する。 フィードバックループにおけるNNの存在は、その活性化関数の非線形性や、NNモデルは一般に可逆的ではないため、ユニークな問題セットを示す。 フィードフォワードNNで表される制御ポリシを持つ線形系と非線形系のBP過近似を計算するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-09-28T13:17:28Z)
• Backward Reachability Analysis for Neural Feedback Loops [40.989393438716476]
  本稿では,ニューラルネットワークを用いた閉ループシステムの安全性検証のための後方到達性アプローチを提案する。 フィードバックループにおけるNNの存在は、その活性化関数の非線形性や、NNモデルは一般に可逆的ではないため、ユニークな問題セットを示す。 本稿では,BP設定した推定値を所定の時間軸上で反復的に求めるアルゴリズムを提案し,計算コストを低くすることで,保守性を最大88%削減できることを示す。
  論文  参考訳（メタデータ） (2022-04-14T01:13:14Z)
• Online Limited Memory Neural-Linear Bandits with Likelihood Matching [53.18698496031658]
  本研究では,探索学習と表現学習の両方が重要な役割を果たす課題を解決するために,ニューラルネットワークの帯域について検討する。 破滅的な忘れ込みに対して耐性があり、完全にオンラインである可能性の高いマッチングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-02-07T14:19:07Z)
• Efficient Reachability Analysis of Closed-Loop Systems with Neural Network Controllers [39.27951763459939]
  本研究は,NNコントローラを用いた前方到達可能な閉ループシステムの推定に焦点をあてる。 最近の研究は到達可能な集合の境界を提供するが、計算効率の高いアプローチは過度に保守的な境界を提供する。 この作業は、NNコントローラによる閉ループシステムの到達可能性解析のための凸最適化問題を定式化することでギャップを埋める。
  論文  参考訳（メタデータ） (2021-01-05T22:30:39Z)
• Robustness Analysis of Neural Networks via Efficient Partitioning with Applications in Control Systems [45.35808135708894]
  ニューラルネットワーク(NN)は現在、不確実な環境で動作しなければならないシステムに定期的に実装されている。 本稿では、ロバストネス解析アルゴリズムのファミリを提供するために、伝播と分割のアプローチを統合する。 新しいパーティショニング技術は、現在の境界推定値と望ましい境界形状を認識している。
  論文  参考訳（メタデータ） (2020-10-01T16:51:36Z)
• Reach-SDP: Reachability Analysis of Closed-Loop Systems with Neural Network Controllers via Semidefinite Programming [19.51345816555571]
  本稿では,ニューラルネットワークを用いた線形時間変化システムの安全性検証のための新しいフォワードリーチビリティ解析手法を提案する。 半有限計画法を用いて、これらの近似到達可能な集合を計算できることが示される。 提案手法は,まずディープニューラルネットワークを用いて非線形モデル予測制御器を近似し,その解析ツールを用いて閉ループシステムの有限時間到達性と制約満足度を証明した。
  論文  参考訳（メタデータ） (2020-04-16T18:48:25Z)
• Lagrangian Decomposition for Neural Network Verification [148.0448557991349]
  ニューラルネットワーク検証の基本的なコンポーネントは、出力が取ることのできる値のバウンダリの計算である。 ラグランジアン分解に基づく新しい手法を提案する。 ランニングタイムのごく一部で、既成の解法に匹敵するバウンダリが得られることを示す。
  論文  参考訳（メタデータ） (2020-02-24T17:55:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。