論文の概要: A Hybrid Partitioning Strategy for Backward Reachability of Neural Feedback Loops

• arxiv url: http://arxiv.org/abs/2210.07918v1
• Date: Fri, 14 Oct 2022 16:04:43 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-17 18:26:06.276092
• Title: A Hybrid Partitioning Strategy for Backward Reachability of Neural Feedback Loops
• Title（参考訳）: ニューラルフィードバックループの後方到達性のためのハイブリッドパーティショニング戦略
• Authors: Nicholas Rober, Michael Everett, Songan Zhang, Jonathan P. How
• Abstract要約: 本稿では,ニューラルネットワークコントローラを用いたクローズドループシステムの安全性の検証を試みる。 我々は、状態空間の危険な領域を束縛する所定のターゲットセットに導く状態の集合であるBPOAsを逆射影(BP)で計算する。 本稿では、ターゲットセット分割(TSP)とバックリーチ可能なセット分割(BRSP)の両方を用いて、推定誤差の低い境界を克服するハイブリッドパーティショニング手法を提案する。
• 参考スコア（独自算出の注目度）: 38.99409918373527
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As neural networks become more integrated into the systems that we depend on for transportation, medicine, and security, it becomes increasingly important that we develop methods to analyze their behavior to ensure that they are safe to use within these contexts. The methods used in this paper seek to certify safety for closed-loop systems with neural network controllers, i.e., neural feedback loops, using backward reachability analysis. Namely, we calculate backprojection (BP) set over-approximations (BPOAs), i.e., sets of states that lead to a given target set that bounds dangerous regions of the state space. The system's safety can then be certified by checking its current state against the BPOAs. While over-approximating BPs is significantly faster than calculating exact BP sets, solving the relaxed problem leads to conservativeness. To combat conservativeness, partitioning strategies can be used to split the problem into a set of sub-problems, each less conservative than the unpartitioned problem. We introduce a hybrid partitioning method that uses both target set partitioning (TSP) and backreachable set partitioning (BRSP) to overcome a lower bound on estimation error that is present when using BRSP. Numerical results demonstrate a near order-of-magnitude reduction in estimation error compared to BRSP or TSP given the same computation time.
• Abstract（参考訳）: ニューラルネットワークが、我々が輸送、医療、セキュリティに頼っているシステムに統合されるにつれて、これらのコンテキスト内で安全に使用できるように、その振る舞いを分析する方法を開発することがますます重要になる。 本稿では,ニューラルネットワーク制御系,すなわち神経フィードバックループを用いたクローズドループシステムの安全性を,後方到達性解析を用いて検証する。 すなわち、状態空間の危険な領域を束縛する特定のターゲットセットに繋がる状態の集合である、バックプロジェクション(BP)セットオーバー近似(BPOAs)を計算する。 システムの安全性は、BPOAに対して現在の状態をチェックすることで証明することができる。 BPの過剰近似は正確なBP集合を計算するよりもかなり速いが、緩和された問題は保守性をもたらす。 保守性に対抗するために、分割戦略を用いて問題を一連のサブプロブレムに分割し、それぞれが未分割問題よりも保守的でない。 本稿では、ターゲットセット分割(TSP)とバックリーチ可能なセット分割(BRSP)の両方を用いて、BRSPを用いた場合に存在する推定誤差の低い境界を克服するハイブリッドパーティショニング手法を提案する。 数値計算の結果, BRSP や TSP と比較すると, 推定誤差のほぼ次数減少を示す。

関連論文リスト

• The Cascaded Forward Algorithm for Neural Network Training [61.06444586991505]
  本稿では,ニューラルネットワークのための新しい学習フレームワークであるCascaded Forward(CaFo)アルゴリズムを提案する。 FFとは異なり、我々のフレームワークは各カスケードブロックのラベル分布を直接出力する。 我々のフレームワークでは、各ブロックは独立して訓練できるので、並列加速度システムに容易に展開できる。
  論文  参考訳（メタデータ） (2023-03-17T02:01:11Z)
• DRIP: Domain Refinement Iteration with Polytopes for Backward Reachability Analysis of Neural Feedback Loops [12.706980346861986]
  本研究では,ニューラルネットワーク(NN)ポリシによって制御されるシステムに対して,衝突回避保証を提供するフレームワークとしての後方到達性について検討する。 NNは典型的には可逆ではないため、既存の手法ではNNを緩和する領域を前提としており、状態の集合を緩やかに過度に近似させる。 本稿では、緩和領域に洗練されたループを持つアルゴリズムDRIPを導入し、BP集合の境界をかなり厳しくする。
  論文  参考訳（メタデータ） (2022-12-09T03:06:58Z)
• Large-Scale Sequential Learning for Recommender and Engineering Systems [91.3755431537592]
  本稿では,現在の状況に適応してパーソナライズされたランキングを提供する自動アルゴリズムの設計に焦点を当てる。 前者はSAROSと呼ばれる新しいアルゴリズムを提案し,インタラクションの順序を学習するためのフィードバックの種類を考慮に入れている。 提案手法は, 電力網の故障検出に対する初期アプローチと比較して, 統計的に有意な結果を示す。
  論文  参考訳（メタデータ） (2022-05-13T21:09:41Z)
• Backward Reachability Analysis for Neural Feedback Loops [40.989393438716476]
  本稿では,ニューラルネットワークを用いた閉ループシステムの安全性検証のための後方到達性アプローチを提案する。 フィードバックループにおけるNNの存在は、その活性化関数の非線形性や、NNモデルは一般に可逆的ではないため、ユニークな問題セットを示す。 本稿では,BP設定した推定値を所定の時間軸上で反復的に求めるアルゴリズムを提案し,計算コストを低くすることで,保守性を最大88%削減できることを示す。
  論文  参考訳（メタデータ） (2022-04-14T01:13:14Z)
• On the Convergence of Certified Robust Training with Interval Bound Propagation [147.77638840942447]
  IBPトレーニングの収束に関する理論的解析を行った。 IBPトレーニングを用いてランダムに2層ReLUニューラルネットワークをロジスティック損失でトレーニングする場合、勾配降下はゼロロバストトレーニングエラーに線形収束可能であることを示す。
  論文  参考訳（メタデータ） (2022-03-16T21:49:13Z)
• Reachability Analysis of Neural Feedback Loops [34.94930611635459]
  本研究は, NNコントローラ付き閉ループシステム) の前方到達可能なフィードバックループの推定に焦点をあてる。 最近の研究は、これらの到達可能な集合に境界を与えるが、計算的に抽出可能なアプローチは過度に保守的な境界をもたらす。 この研究は、NNコントローラを用いた閉ループシステムの到達可能性解析のための凸最適化問題を定式化することによってギャップを埋める。
  論文  参考訳（メタデータ） (2021-08-09T16:11:57Z)
• Improved Branch and Bound for Neural Network Verification via Lagrangian Decomposition [161.09660864941603]
  ニューラルネットワークの入出力特性を公式に証明するためのブランチとバウンド(BaB)アルゴリズムのスケーラビリティを改善します。 活性化に基づく新しい分岐戦略とBaBフレームワークであるブランチとデュアルネットワーク境界(BaDNB)を提案する。 BaDNBは、従来の完全検証システムを大きなマージンで上回り、対数特性で平均検証時間を最大50倍に削減した。
  論文  参考訳（メタデータ） (2021-04-14T09:22:42Z)
• Towards Optimal Branching of Linear and Semidefinite Relaxations for Neural Network Robustness Certification [10.349616734896522]
  本研究では,ReLUニューラルネットワークの逆入力摂動に対する堅牢性を検証する。 入力不確実性集合を分割し,各部分の緩和を個別に解くために,分岐とバウンドのアプローチをとる。 提案手法は緩和誤差を低減し,ReLUアクティベーションの性質を活かしたパーティションを用いてLP緩和を行うことによって完全に誤差を除去することを示す。
  論文  参考訳（メタデータ） (2021-01-22T19:36:40Z)
• Efficient Reachability Analysis of Closed-Loop Systems with Neural Network Controllers [39.27951763459939]
  本研究は,NNコントローラを用いた前方到達可能な閉ループシステムの推定に焦点をあてる。 最近の研究は到達可能な集合の境界を提供するが、計算効率の高いアプローチは過度に保守的な境界を提供する。 この作業は、NNコントローラによる閉ループシステムの到達可能性解析のための凸最適化問題を定式化することでギャップを埋める。
  論文  参考訳（メタデータ） (2021-01-05T22:30:39Z)
• Fast and Complete: Enabling Complete Neural Network Verification with Rapid and Massively Parallel Incomplete Verifiers [112.23981192818721]
  BaB プロセス中に線形計画法 (LP) を置き換えるために, 逆モード線形緩和に基づく解析法 (LiRPA) を提案する。 LPとは異なり、LiRPAを適用すると、より弱い境界が得られ、分割時にサブドメインのコンフリクトをチェックすることもできない。 既存のLPベースのアプローチと比較して、桁違いのスピードアップを示す。
  論文  参考訳（メタデータ） (2020-11-27T16:42:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。