論文の概要: Vertex-based reachability analysis for verifying ReLU deep neural networks

• arxiv url: http://arxiv.org/abs/2301.12001v1
• Date: Fri, 27 Jan 2023 21:46:03 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-31 19:51:54.722772
• Title: Vertex-based reachability analysis for verifying ReLU deep neural networks
• Title（参考訳）: ReLUディープニューラルネットワークの検証のための頂点ベースリーチビリティ解析
• Authors: Jo\~ao Zago, Eduardo Camponogara and Eric Antonelo
• Abstract要約: 本稿では,ReLUアクティベーションを用いたディープニューラルネットワーク検証のための3つの新しい到達性アルゴリズムを提案する。 ACAS Xu 問題に対する実験により,本研究で提案した Exact Polytope Network Mapping (EPNM) の到達性アルゴリズムが,文献の最先端結果を上回ることがわかった。
• 参考スコア（独自算出の注目度）: 3.5816079147181483
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural networks achieved high performance over different tasks, i.e. image identification, voice recognition and other applications. Despite their success, these models are still vulnerable regarding small perturbations, which can be used to craft the so-called adversarial examples. Different approaches have been proposed to circumvent their vulnerability, including formal verification systems, which employ a variety of techniques, including reachability, optimization and search procedures, to verify that the model satisfies some property. In this paper we propose three novel reachability algorithms for verifying deep neural networks with ReLU activations. The first and third algorithms compute an over-approximation for the reachable set, whereas the second one computes the exact reachable set. Differently from previously proposed approaches, our algorithms take as input a V-polytope. Our experiments on the ACAS Xu problem show that the Exact Polytope Network Mapping (EPNM) reachability algorithm proposed in this work surpass the state-of-the-art results from the literature, specially in relation to other reachability methods.
• Abstract（参考訳）: ニューラルネットワークは、画像識別、音声認識、その他のアプリケーションなど、さまざまなタスクに対して高いパフォーマンスを実現した。 その成功にもかかわらず、これらのモデルは、いわゆる敵対的な例を作るのに使用できる小さな摂動に関してまだ脆弱である。 モデルがいくつかの特性を満たすことを検証するために、到達性、最適化、探索手順を含む様々な手法を用いる形式的検証システムを含む、その脆弱性を回避するための様々なアプローチが提案されている。 本稿では,ReLUアクティベーションを用いたディープニューラルネットワーク検証のための3つの新しい到達性アルゴリズムを提案する。 第1および第3のアルゴリズムは到達可能集合に対する過剰近似を計算するが、第2のアルゴリズムは到達可能集合を正確に計算する。 前述したアプローチと異なり、アルゴリズムはvポリトープを入力とする。 ACAS Xu 問題に対する実験により,本研究で提案した Exact Polytope Network Mapping (EPNM) の到達性アルゴリズムは,文献,特に他の到達性手法と比較して,最先端の成果を上回ることがわかった。

関連論文リスト

• Two-Timescale Model Caching and Resource Allocation for Edge-Enabled AI-Generated Content Services [55.0337199834612]
  Generative AI(GenAI)は、カスタマイズされたパーソナライズされたAI生成コンテンツ(AIGC)サービスを可能にするトランスフォーメーション技術として登場した。 これらのサービスは数十億のパラメータを持つGenAIモデルの実行を必要とし、リソース制限の無線エッジに重大な障害を生じさせる。 我々は、AIGC品質とレイテンシメトリクスのトレードオフをバランスさせるために、AIGCサービスのジョイントモデルキャッシングとリソースアロケーションの定式化を導入する。
  論文  参考訳（メタデータ） (2024-11-03T07:01:13Z)
• Robust Training and Verification of Implicit Neural Networks: A Non-Euclidean Contractive Approach [64.23331120621118]
  本稿では,暗黙的ニューラルネットワークのトレーニングとロバスト性検証のための理論的および計算的枠組みを提案する。 組込みネットワークを導入し、組込みネットワークを用いて、元のネットワークの到達可能な集合の超近似として$ell_infty$-normボックスを提供することを示す。 MNISTデータセット上で暗黙的なニューラルネットワークをトレーニングするためにアルゴリズムを適用し、我々のモデルの堅牢性と、文献における既存のアプローチを通じてトレーニングされたモデルを比較する。
  論文  参考訳（メタデータ） (2022-08-08T03:13:24Z)
• On the Convergence of Distributed Stochastic Bilevel Optimization Algorithms over a Network [55.56019538079826]
  バイレベル最適化は、幅広い機械学習モデルに適用されている。 既存のアルゴリズムの多くは、分散データを扱うことができないように、シングルマシンの設定を制限している。 そこで我々は,勾配追跡通信機構と2つの異なる勾配に基づく分散二段階最適化アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2022-06-30T05:29:52Z)
• Evidential Turing Processes [11.021440340896786]
  我々は、明らかなディープラーニング、ニューラルプロセス、ニューラルチューリングマシンのオリジナルの組み合わせを紹介する。 本稿では,3つの画像分類ベンチマークと2つのニューラルネットアーキテクチャについて検討する。
  論文  参考訳（メタデータ） (2021-06-02T15:09:20Z)
• A Compact Deep Learning Model for Face Spoofing Detection [4.250231861415827]
  プレゼンテーションアタック検出(PAD)は研究コミュニティから大きな注目を集めている。 我々は、統一されたニューラルネットワークアーキテクチャにおいて、幅広い機能と深い機能の両方を融合することで、この問題に対処する。 この手順は、ROSE-Youtu、SiW、NUAA Imposterなどのさまざまなスプーフィングデータセットで行われます。
  論文  参考訳（メタデータ） (2021-01-12T21:20:09Z)
• Evolving Deep Convolutional Neural Networks for Hyperspectral Image Denoising [6.869192200282213]
  本稿では,HSIを効果的に識別する最適な畳み込みニューラルネットワーク(CNN)を自動構築する新しいアルゴリズムを提案する。 提案アルゴリズムの実験は、最先端の競合相手とよく設計され比較されている。
  論文  参考訳（メタデータ） (2020-08-15T03:04:11Z)
• Learning Robust Feature Representations for Scene Text Detection [0.0]
  本稿では、条件付きログを最大化するために、損失から導かれるネットワークアーキテクチャを提案する。 潜伏変数の層を複数の層に拡張することで、ネットワークは大規模に堅牢な機能を学ぶことができる。 実験では,提案アルゴリズムはリコール法と精度の両面で最先端の手法を著しく上回っている。
  論文  参考訳（メタデータ） (2020-05-26T01:06:47Z)
• Communication-Efficient Distributed Stochastic AUC Maximization with Deep Neural Networks [50.42141893913188]
  本稿では,ニューラルネットワークを用いた大規模AUCのための分散変数について検討する。 我々のモデルは通信ラウンドをはるかに少なくし、理論上はまだ多くの通信ラウンドを必要としています。 いくつかのデータセットに対する実験は、我々の理論の有効性を示し、我々の理論を裏付けるものである。
  論文  参考訳（メタデータ） (2020-05-05T18:08:23Z)
• Parallelization Techniques for Verifying Neural Networks [52.917845265248744]
  検証問題に基づくアルゴリズムを反復的に導入し、2つの分割戦略を探索する。 また、ニューラルネットワークの検証問題を単純化するために、ニューロンアクティベーションフェーズを利用する、高度に並列化可能な前処理アルゴリズムも導入する。
  論文  参考訳（メタデータ） (2020-04-17T20:21:47Z)
• Binary Neural Networks: A Survey [126.67799882857656]
  バイナリニューラルネットワークは、リソース制限されたデバイスにディープモデルをデプロイするための有望なテクニックとして機能する。 バイナライゼーションは必然的に深刻な情報損失を引き起こし、さらに悪いことに、その不連続性はディープネットワークの最適化に困難をもたらす。 本稿では,2項化を直接実施するネイティブソリューションと,量子化誤差の最小化,ネットワーク損失関数の改善,勾配誤差の低減といった手法を用いて,これらのアルゴリズムを探索する。
  論文  参考訳（メタデータ） (2020-03-31T16:47:20Z)
• Reachability Analysis for Feed-Forward Neural Networks using Face Lattices [10.838397735788245]
  本稿では,ニューラルネットワークの正確な到達可能な集合を入力集合に並列化する手法を提案する。 我々の手法は、出力セットが与えられた完全な入力セットを構築することができ、安全違反につながる任意の入力を追跡することができる。
  論文  参考訳（メタデータ） (2020-03-02T22:23:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。