論文の概要: Scaling Polyhedral Neural Network Verification on GPUs
- arxiv url: http://arxiv.org/abs/2007.10868v2
- Date: Tue, 18 May 2021 10:14:05 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-08 13:05:07.308924
- Title: Scaling Polyhedral Neural Network Verification on GPUs
- Title(参考訳): GPU上の多面体ニューラルネットワークのスケーリング検証
- Authors: Christoph M\"uller, Fran\c{c}ois Serre, Gagandeep Singh, Markus
P\"uschel, Martin Vechev
- Abstract要約: 我々は、非常に大きなディープニューラルネットワークの堅牢性を証明するスケーラブルな検証器であるGPUPolyを紹介する。
我々のアルゴリズムは、基盤となる検証タスクの利用可能なGPU並列性と固有の疎性を活用する。
GPUPolyは、現実のニューラルネットワークの実践的検証に向けた、有望なステップである、と私たちは信じています。
- 参考スコア(独自算出の注目度): 1.78607099468769
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Certifying the robustness of neural networks against adversarial attacks is
essential to their reliable adoption in safety-critical systems such as
autonomous driving and medical diagnosis. Unfortunately, state-of-the-art
verifiers either do not scale to bigger networks or are too imprecise to prove
robustness, limiting their practical adoption. In this work, we introduce
GPUPoly, a scalable verifier that can prove the robustness of significantly
larger deep neural networks than previously possible. The key technical insight
behind GPUPoly is the design of custom, sound polyhedra algorithms for neural
network verification on a GPU. Our algorithms leverage the available GPU
parallelism and inherent sparsity of the underlying verification task. GPUPoly
scales to large networks: for example, it can prove the robustness of a 1M
neuron, 34-layer deep residual network in approximately 34.5 ms. We believe
GPUPoly is a promising step towards practical verification of real-world neural
networks.
- Abstract(参考訳): ニューラルネットワークの敵攻撃に対する堅牢性を証明することは、自律運転や診断などの安全クリティカルなシステムに確実に採用するために不可欠である。
残念なことに、最先端の検証者はより大きなネットワークにスケールしないか、堅牢性を証明するには不正確で、実践的な採用を制限している。
本稿では,従来よりもはるかに大きなディープニューラルネットワークのロバスト性を証明可能なスケーラブルな検証器であるGPUPolyを紹介する。
GPUPolyの背後にある重要な技術的洞察は、GPU上のニューラルネットワーク検証のためのカスタムのサウンドポリヘドラアルゴリズムの設計である。
我々のアルゴリズムは、基盤となる検証タスクの利用可能なGPU並列性と固有の疎性を活用する。
GPUPolyは大規模ネットワークにスケールする。例えば、約34.5msで1Mのニューロン、34層の深い残留ネットワークの堅牢性を証明することができる。我々は、GPUPolyが現実のニューラルネットワークの実用的な検証に向けた有望なステップであると考えている。
関連論文リスト
- Vehicle: Interfacing Neural Network Verifiers with Interactive Theorem
Provers [1.5749416770494706]
車両には、ニューラルネットワーク仕様を記述するための表現力のあるドメイン固有言語が備わっている。
同様のITPの形式化において、保守性とスケーラビリティに関する過去の問題を克服しています。
ニューラルネットワーク検証器であるMarabouをAgdaに接続し、ニューラルネットワークで操縦された車が道路を離れないことを正式に検証することで、その実用性を実証する。
論文 参考訳(メタデータ) (2022-02-10T18:09:23Z) - Instant Neural Graphics Primitives with a Multiresolution Hash Encoding [67.33850633281803]
品質を犠牲にすることなく、より小さなネットワークを使用できる汎用的な新しい入力符号化を提案する。
小さなニューラルネットワークは、勾配降下によって値が最適化された訓練可能な特徴ベクトルの多分解能ハッシュテーブルによって拡張される。
数桁の高速化を実現し、高品質なニューラルネットワークプリミティブを数秒でトレーニングすることができる。
論文 参考訳(メタデータ) (2022-01-16T07:22:47Z) - Scalable and Modular Robustness Analysis of Deep Neural Networks [2.1917938338938465]
本稿では,ネットワークをブロックに分割し,各ブロックについて解析を行うことにより,ニューラルネットワークのモジュラー解析を提案する。
我々は、最先端アナライザDeepPolyのCPU変換のコンテキストでメソッドをインスタンス化する。
実験結果から,提案手法はDeepPolyと同等の精度が得られるが,高速に動作し,計算資源の削減を図っている。
論文 参考訳(メタデータ) (2021-08-26T08:46:55Z) - Pixel Difference Networks for Efficient Edge Detection [71.03915957914532]
本稿では,Pixel Difference Network (PiDiNet) という軽量かつ効率的なエッジ検出アーキテクチャを提案する。
BSDS500、NYUD、Multicueのデータセットに関する大規模な実験が、その効果を示すために提供されている。
0.1M未満のパラメータを持つPiDiNetのより高速なバージョンは、200FPSのアーティファクトで同等のパフォーマンスを達成できる。
論文 参考訳(メタデータ) (2021-08-16T10:42:59Z) - Edge-Detect: Edge-centric Network Intrusion Detection using Deep Neural
Network [0.0]
エッジノードは、Internet-of-Thingsエンドポイント上の複数のサイバー攻撃を検出するために不可欠である。
DLM技術を用いてエッジノードに対するDoS攻撃を検知する,軽量で高速かつ高精度なEdge-Detectモデルを開発した。
論文 参考訳(メタデータ) (2021-02-03T04:24:34Z) - Enabling certification of verification-agnostic networks via
memory-efficient semidefinite programming [97.40955121478716]
本稿では,ネットワークアクティベーションの総数にのみ線形なメモリを必要とする一階二重SDPアルゴリズムを提案する。
L-inf の精度は 1% から 88% ,6% から 40% に改善した。
また,変分オートエンコーダの復号器に対する2次安定性仕様の厳密な検証を行った。
論文 参考訳(メタデータ) (2020-10-22T12:32:29Z) - EagerNet: Early Predictions of Neural Networks for Computationally
Efficient Intrusion Detection [2.223733768286313]
最小限のリソースでネットワーク攻撃を検出するアーキテクチャを提案する。
アーキテクチャはバイナリまたはマルチクラスの分類問題に対処でき、ネットワークの精度を予測速度と交換できる。
論文 参考訳(メタデータ) (2020-07-27T11:31:37Z) - ESPN: Extremely Sparse Pruned Networks [50.436905934791035]
簡単な反復マスク探索法により,非常に深いネットワークの最先端の圧縮を実現することができることを示す。
本アルゴリズムは,シングルショット・ネットワーク・プルーニング法とロッテ・ティケット方式のハイブリッド・アプローチを示す。
論文 参考訳(メタデータ) (2020-06-28T23:09:27Z) - Neural Architecture Design for GPU-Efficient Networks [27.07089149328155]
本稿では,GPU効率のよいネットワークを設計するための一般的な原理を提案する。
提案するフレームワークをベースとして,GPU効率の良いネットワーク群(genets)を簡潔に設計する。
ImageNetで$geq 81.3%の精度を達成する一方で、genetはGPUでEfficienNetより6.4ドル速い。
論文 参考訳(メタデータ) (2020-06-24T22:42:18Z) - Deep Polynomial Neural Networks [77.70761658507507]
$Pi$Netsは拡張に基づいた関数近似の新しいクラスである。
$Pi$Netsは、画像生成、顔検証、および3Dメッシュ表現学習という3つの困難なタスクで、最先端の結果を生成する。
論文 参考訳(メタデータ) (2020-06-20T16:23:32Z) - Firearm Detection and Segmentation Using an Ensemble of Semantic Neural
Networks [62.997667081978825]
本稿では,意味的畳み込みニューラルネットワークのアンサンブルに基づく兵器検出システムを提案する。
特定のタスクに特化した単純なニューラルネットワークのセットは、計算リソースを少なくし、並列にトレーニングすることができる。
個々のネットワークの出力の集約によって与えられるシステムの全体的な出力は、ユーザが偽陽性と偽陰性とをトレードオフするように調整することができる。
論文 参考訳(メタデータ) (2020-02-11T13:58:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。