論文の概要: Reachable Polyhedral Marching (RPM): A Safety Verification Algorithm for
Robotic Systems with Deep Neural Network Components
- arxiv url: http://arxiv.org/abs/2011.11609v2
- Date: Thu, 1 Apr 2021 04:17:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-22 02:56:12.878603
- Title: Reachable Polyhedral Marching (RPM): A Safety Verification Algorithm for
Robotic Systems with Deep Neural Network Components
- Title（参考訳）: Reachable Polyhedral Marching (RPM):Deep Neural Network Componentsを用いたロボットシステムの安全性検証アルゴリズム
- Authors: Joseph A. Vincent, Mac Schwager
- Abstract要約: 本稿では,線形整列ユニット(ReLU)アクティベーションを用いたディープニューラルネットワークの精度の高いリーチ可能集合の計算法を提案する。
我々のアルゴリズムは、複数の時間ステップで反復されたReLUネットワークに対して、前方および後方の両方の到達可能な集合を計算できる。
本稿では,ACAS Xu航空機アドバイザリーシステムの安全性検証に関するアルゴリズムを実証する。
- 参考スコア（独自算出の注目度）: 20.595032143044506
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present a method for computing exact reachable sets for deep neural
networks with rectified linear unit (ReLU) activation. Our method is
well-suited for use in rigorous safety analysis of robotic perception and
control systems with deep neural network components. Our algorithm can compute
both forward and backward reachable sets for a ReLU network iterated over
multiple time steps, as would be found in a perception-action loop in a robotic
system. Our algorithm is unique in that it builds the reachable sets by
incrementally enumerating polyhedral cells in the input space, rather than
iterating layer-by-layer through the network as in other methods. If an unsafe
cell is found, our algorithm can return this result without completing the full
reachability computation, thus giving an anytime property that accelerates
safety verification. In addition, our method requires less memory during
execution compared to existing methods where memory can be a limiting factor.
We demonstrate our algorithm on safety verification of the ACAS Xu aircraft
advisory system. We find unsafe actions many times faster than the fastest
existing method and certify no unsafe actions exist in about twice the time of
the existing method. We also compute forward and backward reachable sets for a
learned model of pendulum dynamics over a 50 time step horizon in 87s on a
laptop computer. Algorithm source code:
https://github.com/StanfordMSL/Neural-Network-Reach.
- Abstract（参考訳）: 本稿では,relu(recurtified linear unit)アクティベーションを用いたディープニューラルネットワークの正確な到達可能集合の計算法を提案する。
本手法は, 深層ニューラルネットワークを用いたロボット認識と制御システムの厳密な安全性解析に適している。
本アルゴリズムは,ロボットシステムの知覚・動作ループに見られるように,複数の時間ステップを反復したreluネットワークに対して,前方・後方到達可能セットを計算できる。
我々のアルゴリズムは、他の手法のようにレイヤ・バイ・レイヤを繰り返すのではなく、入力空間に多面体セルを漸進的に列挙することで到達可能な集合を構築するという点でユニークである。
もし安全でないセルが見つかると、我々のアルゴリズムは完全な到達性計算を完了せずにこの結果を返すことができるので、安全検証を加速する任意の特性を与えることができる。
さらに,本手法は,メモリが制限要因となる既存の方法と比較して,実行時のメモリ消費を少なくする。
本稿では,ACAS Xu航空機アドバイザリーシステムの安全性検証を行う。
安全でないアクションは、既存のメソッドの約2倍の速度で、安全でないアクションが存在しないことを証明します。
また,ペンデュラムダイナミクスの学習モデルに対して,87s における50 回のステップ水平線上での前方および後方到達可能な集合を計算した。
アルゴリズムのソースコード:https://github.com/StanfordMSL/Neural-Network-Reach。
関連論文リスト
- Attribution Patching Outperforms Automated Circuit Discovery [3.8695554579762814]
帰属パッチに基づく単純な手法が,既存の手法よりも優れていることを示す。
演算サブグラフにおける各エッジの重要性を推定するために、線形近似をアクティベーションパッチに適用する。
論文 参考訳（メタデータ） (2023-10-16T12:34:43Z) - A computationally lightweight safe learning algorithm [1.9295598343317182]
確率論的安全保証を提供するが,ナダラヤ・ワトソン推定器を利用する安全な学習アルゴリズムを提案する。
提案手法は,シミュレーションした7自由度ロボットマニピュレータ上で,理論的保証を行い,それらを安全な学習アルゴリズムに組み込んだ数値実験を行う。
論文 参考訳（メタデータ） (2023-09-07T12:21:22Z) - The Clock and the Pizza: Two Stories in Mechanistic Explanation of
Neural Networks [59.26515696183751]
ニューラルネットワークにおけるアルゴリズム発見は、時としてより複雑であることを示す。
単純な学習問題でさえ、驚くほど多様なソリューションを許容できることが示されています。
論文 参考訳（メタデータ） (2023-06-30T17:59:13Z) - The Cascaded Forward Algorithm for Neural Network Training [61.06444586991505]
本稿では,ニューラルネットワークのための新しい学習フレームワークであるCascaded Forward(CaFo)アルゴリズムを提案する。
FFとは異なり、我々のフレームワークは各カスケードブロックのラベル分布を直接出力する。
我々のフレームワークでは、各ブロックは独立して訓練できるので、並列加速度システムに容易に展開できる。
論文 参考訳（メタデータ） (2023-03-17T02:01:11Z) - Reachable Polyhedral Marching (RPM): An Exact Analysis Tool for
Deep-Learned Control Systems [20.595032143044506]
本稿では,直列線形ユニット(ReLU)をアクティベートしたディープニューラルネットワークの,前方および後方到達可能な正確な集合を計算するためのツールを提案する。
このツールを用いてアルゴリズムを開発し、フィードバックループ内のニューラルネットワークを持つ制御系に対する不変集合とアトラクション領域(ROA)を計算する。
論文 参考訳（メタデータ） (2022-10-15T17:15:53Z) - Revisiting Recursive Least Squares for Training Deep Neural Networks [10.44340837533087]
再帰最小二乗法(RLS)アルゴリズムは、その高速収束のため、かつては小規模ニューラルネットワークのトレーニングに広く用いられていた。
従来のRSSアルゴリズムは、計算複雑性が高く、事前条件が多すぎるため、ディープニューラルネットワーク(DNN)のトレーニングには適さない。
本稿では,フィードフォワードニューラルネットワーク,畳み込みニューラルネットワーク,リカレントニューラルネットワークの3つの新しいRSS最適化アルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-09-07T17:43:51Z) - Fast Falsification of Neural Networks using Property Directed Testing [0.1529342790344802]
本稿では,反例の探索を指示するニューラルネットワークの偽造アルゴリズムを提案する。
提案アルゴリズムは, 微分自由サンプリングに基づく最適化手法を用いる。
フェールシフィケーション手順は、他の検証ツールが安全でないと報告しているすべての安全でないインスタンスを検出する。
論文 参考訳（メタデータ） (2021-04-26T09:16:27Z) - Evolving Reinforcement Learning Algorithms [186.62294652057062]
メタラーニング強化学習アルゴリズムの手法を提案する。
学習アルゴリズムはドメインに依存しないため、トレーニング中に見えない新しい環境に一般化することができる。
従来の制御タスク、gridworld型タスク、atariゲームよりも優れた一般化性能を得る2つの学習アルゴリズムに注目した。
論文 参考訳（メタデータ） (2021-01-08T18:55:07Z) - Activation Relaxation: A Local Dynamical Approximation to
Backpropagation in the Brain [62.997667081978825]
活性化緩和(AR)は、バックプロパゲーション勾配を力学系の平衡点として構成することで動機付けられる。
我々のアルゴリズムは、正しいバックプロパゲーション勾配に迅速かつ堅牢に収束し、単一のタイプの計算単位しか必要とせず、任意の計算グラフで操作できる。
論文 参考訳（メタデータ） (2020-09-11T11:56:34Z) - AutoML-Zero: Evolving Machine Learning Algorithms From Scratch [76.83052807776276]
基本数学的操作をビルディングブロックとして使うだけで,完全な機械学習アルゴリズムを自動的に発見できることが示される。
汎用的な検索空間を通じて人間のバイアスを大幅に低減する新しいフレームワークを導入することでこれを実証する。
機械学習アルゴリズムをゼロから発見する上で、これらの予備的な成功は、この分野における有望な新しい方向性を示していると信じている。
論文 参考訳（メタデータ） (2020-03-06T19:00:04Z) - Lagrangian Decomposition for Neural Network Verification [148.0448557991349]
ニューラルネットワーク検証の基本的なコンポーネントは、出力が取ることのできる値のバウンダリの計算である。
ラグランジアン分解に基づく新しい手法を提案する。
ランニングタイムのごく一部で、既成の解法に匹敵するバウンダリが得られることを示す。
論文 参考訳（メタデータ） (2020-02-24T17:55:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。