Fugu-MT 論文翻訳(概要): Open- and Closed-Loop Neural Network Verification using Polynomial Zonotopes

論文の概要: Open- and Closed-Loop Neural Network Verification using Polynomial Zonotopes

arxiv url: http://arxiv.org/abs/2207.02715v2
Date: Tue, 18 Apr 2023 02:58:42 GMT
ステータス: 処理完了
システム内更新日: 2023-04-19 18:52:07.483382
Title: Open- and Closed-Loop Neural Network Verification using Polynomial Zonotopes
Title（参考訳）: ポリノミアルゾノトープを用いた閉ループニューラルネットワークの検証
Authors: Niklas Kochdumper, Christian Schilling, Matthias Althoff, Stanley Bak
Abstract要約: 本稿では, 密接な非接触活性化関数を効率的に計算するための新しい手法を提案する。特に,各ニューロンの入力出力関係を近似を用いて評価する。その結果、他の手法よりも優れた性能が得られる。
参考スコア（独自算出の注目度）: 6.591194329459251
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We present a novel approach to efficiently compute tight non-convex enclosures of the image through neural networks with ReLU, sigmoid, or hyperbolic tangent activation functions. In particular, we abstract the input-output relation of each neuron by a polynomial approximation, which is evaluated in a set-based manner using polynomial zonotopes. While our approach can also can be beneficial for open-loop neural network verification, our main application is reachability analysis of neural network controlled systems, where polynomial zonotopes are able to capture the non-convexity caused by the neural network as well as the system dynamics. This results in a superior performance compared to other methods, as we demonstrate on various benchmarks.
Abstract（参考訳）: 本稿では,ReLU,シグモイド,双曲型タンジェント活性化関数を用いたニューラルネットワークを用いて,画像の厳密な非凸囲いを効率的に計算する手法を提案する。特に,各ニューロンの入力-出力関係を多項式近似により抽象化し,多項式ゾノトープを用いて設定された方法で評価する。我々のアプローチは、オープンループニューラルネットワークの検証にも有用であるが、我々の主な応用はニューラルネットワーク制御システムの到達可能性解析であり、多項式ゾノトープは、ニューラルネットワークによって引き起こされる非凸性やシステムダイナミクスを捉えることができる。この結果、様々なベンチマークで示すように、他の手法よりも優れたパフォーマンスが得られる。

関連論文リスト

Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
論文参考訳（メタデータ） (2024-03-18T18:01:01Z)
Manipulating Feature Visualizations with Gradient Slingshots [54.31109240020007]
本稿では,モデルの決定過程に大きな影響を及ぼすことなく,特徴可視化(FV)を操作する新しい手法を提案する。ニューラルネットワークモデルにおける本手法の有効性を評価し,任意の選択したニューロンの機能を隠蔽する能力を示す。
論文参考訳（メタデータ） (2024-01-11T18:57:17Z)
Globally Optimal Training of Neural Networks with Threshold Activation Functions [63.03759813952481]
しきい値アクティベートを伴うディープニューラルネットワークの重み劣化正規化学習問題について検討した。ネットワークの特定の層でデータセットを破砕できる場合に、簡易な凸最適化の定式化を導出する。
論文参考訳（メタデータ） (2023-03-06T18:59:13Z)
Permutation Equivariant Neural Functionals [92.0667671999604]
この研究は、他のニューラルネットワークの重みや勾配を処理できるニューラルネットワークの設計を研究する。隠れた層状ニューロンには固有の順序がないため, 深いフィードフォワードネットワークの重みに生じる置換対称性に着目する。実験の結果, 置換同変ニューラル関数は多種多様なタスクに対して有効であることがわかった。
論文参考訳（メタデータ） (2023-02-27T18:52:38Z)
Exploring the Approximation Capabilities of Multiplicative Neural Networks for Smooth Functions [9.936974568429173]
対象関数のクラスは、一般化帯域制限関数とソボレフ型球である。以上の結果から、乗法ニューラルネットワークは、これらの関数をはるかに少ない層とニューロンで近似できることを示した。これらの結果は、乗法ゲートが標準フィードフォワード層より優れ、ニューラルネットワーク設計を改善する可能性があることを示唆している。
論文参考訳（メタデータ） (2023-01-11T17:57:33Z)
On the Approximation and Complexity of Deep Neural Networks to Invariant Functions [0.0]
深部ニューラルネットワークの不変関数への近似と複雑性について検討する。様々なタイプのニューラルネットワークモデルにより、幅広い不変関数を近似できることを示す。我々は,高分解能信号のパラメータ推定と予測を理論的結論と結びつけることが可能なアプリケーションを提案する。
論文参考訳（メタデータ） (2022-10-27T09:19:19Z)
Zonotope Domains for Lagrangian Neural Network Verification [102.13346781220383]
我々は、ディープニューラルネットワークを多くの2層ニューラルネットワークの検証に分解する。我々の手法は線形プログラミングとラグランジアンに基づく検証技術の両方により改善された境界を与える。
論文参考訳（メタデータ） (2022-10-14T19:31:39Z)
Extrapolation and Spectral Bias of Neural Nets with Hadamard Product: a Polynomial Net Study [55.12108376616355]
NTKの研究は典型的なニューラルネットワークアーキテクチャに特化しているが、アダマール製品(NNs-Hp)を用いたニューラルネットワークには不完全である。本研究では,ニューラルネットワークの特別なクラスであるNNs-Hpに対する有限幅Kの定式化を導出する。我々は,カーネル回帰予測器と関連するNTKとの等価性を証明し,NTKの適用範囲を拡大する。
論文参考訳（メタデータ） (2022-09-16T06:36:06Z)
Validation of RELU nets with tropical polyhedra [7.087237546722617]
本稿では,熱帯ポリヘドラを用いてReLUフィードフォワードニューラルネットワークを抽象化する手法を提案する。本稿では、ReLUネットワークと熱帯有理関数の接続が、ReLUニューラルネットワークのレンジ解析にどのように役立つかを示す。
論文参考訳（メタデータ） (2021-07-30T06:22:59Z)
Deep Kronecker neural networks: A general framework for neural networks with adaptive activation functions [4.932130498861987]
我々は,適応的アクティベーション機能を持つニューラルネットワークの汎用フレームワークとして,新しいタイプのニューラルネットワークKronecker Neural Network(KNN)を提案する。適切な条件下では、KNNはフィードフォワードネットワークによる損失よりも早く損失を減少させる。
論文参考訳（メタデータ） (2021-05-20T04:54:57Z)
Towards a mathematical framework to inform Neural Network modelling via Polynomial Regression [0.0]
特定の条件が局所的に満たされた場合、ほぼ同一の予測が可能であることが示されている。生成したデータから学習すると,そのデータを局所的に近似的に生成する。
論文参考訳（メタデータ） (2021-02-07T17:56:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。