論文の概要: Hierarchical Verification for Adversarial Robustness

• arxiv url: http://arxiv.org/abs/2007.11826v1
• Date: Thu, 23 Jul 2020 07:03:05 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-07 12:14:38.089678
• Title: Hierarchical Verification for Adversarial Robustness
• Title（参考訳）: 対人ロバストネスの階層的検証
• Authors: Cong Han Lim, Raquel Urtasun, Ersin Yumer
• Abstract要約: 正解点$ell_p$ロバスト性検証問題に対する新しいフレームワークを提案する。 LayerCertは、修正線形アクティベーション(ReLU)を用いたディープフィードフォワードネットワークの階層的幾何構造を利用する 提案手法は,GeoCertに比べて,解決すべき凸プログラムの数とサイズを確実に削減できることを示す。
• 参考スコア（独自算出の注目度）: 89.30150585592648
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We introduce a new framework for the exact point-wise $\ell_p$ robustness verification problem that exploits the layer-wise geometric structure of deep feed-forward networks with rectified linear activations (ReLU networks). The activation regions of the network partition the input space, and one can verify the $\ell_p$ robustness around a point by checking all the activation regions within the desired radius. The GeoCert algorithm (Jordan et al., NeurIPS 2019) treats this partition as a generic polyhedral complex in order to detect which region to check next. In contrast, our LayerCert framework considers the \emph{nested hyperplane arrangement} structure induced by the layers of the ReLU network and explores regions in a hierarchical manner. We show that, under certain conditions on the algorithm parameters, LayerCert provably reduces the number and size of the convex programs that one needs to solve compared to GeoCert. Furthermore, our LayerCert framework allows the incorporation of lower bounding routines based on convex relaxations to further improve performance. Experimental results demonstrate that LayerCert can significantly reduce both the number of convex programs solved and the running time over the state-of-the-art.
• Abstract（参考訳）: 直交線形アクティベーション(ReLU)を用いたディープフィードフォワードネットワークの層次幾何学的構造を利用した,正確な点次$\ell_p$ロバスト性検証のための新しいフレームワークを提案する。 ネットワークの活性化領域は入力空間を分割し、所望半径内の全ての活性化領域をチェックすることにより、点周辺の$\ell_p$ロバスト性を検証することができる。 GeoCertアルゴリズム(Jordan et al., NeurIPS 2019)はこの分割を一般的な多面体複合体として扱い、次にどの領域をチェックするかを検出する。 対照的に、LayerCertフレームワークはReLUネットワークの層によって誘導される \emph{nested hyperplane arrangement} 構造を考慮し、階層的に領域を探索する。 アルゴリズムパラメータの特定の条件下では、LayerCertはGeoCertと比較して解決すべき凸プログラムの数とサイズを確実に削減する。 さらに layercert フレームワークにより,凸緩和に基づく下限ルーチンの組み込みが可能となり,さらに性能が向上する。 実験の結果、LayerCertは解決された凸プログラムの数と最先端のランニング時間の両方を大幅に削減できることがわかった。

関連論文リスト

• Fast Point Cloud Geometry Compression with Context-based Residual Coding and INR-based Refinement [19.575833741231953]
  我々は、KNN法を用いて、原表面点の近傍を決定する。 条件付き確率モデルは局所幾何学に適応し、大きな速度減少をもたらす。 暗黙のニューラル表現を精製層に組み込むことで、デコーダは任意の密度で下面の点をサンプリングすることができる。
  論文  参考訳（メタデータ） (2024-08-06T05:24:06Z)
• Robust Stochastically-Descending Unrolled Networks [85.6993263983062]
  Deep Unrolling(ディープ・アンローリング)は、トレーニング可能なニューラルネットワークの層に切り捨てられた反復アルゴリズムをアンロールする、新たな学習最適化手法である。 アンロールネットワークの収束保証と一般化性は、いまだにオープンな理論上の問題であることを示す。 提案した制約の下で訓練されたアンロールアーキテクチャを2つの異なるアプリケーションで数値的に評価する。
  論文  参考訳（メタデータ） (2023-12-25T18:51:23Z)
• The Geometric Structure of Fully-Connected ReLU Layers [0.0]
  ニューラルネットワークにおいて,$d$次元の完全連結ReLU層の幾何学構造を定式化し,解釈する。 このようなネットワークによって生成される決定境界の幾何学的複雑さに関する結果を提供するとともに、アフィン変換を変調することで、そのようなネットワークは$d$の異なる決定境界しか生成できないことを示す。
  論文  参考訳（メタデータ） (2023-10-05T11:54:07Z)
• Adaptive Context Selection for Polyp Segmentation [99.9959901908053]
  本稿では,ローカルコンテキストアテンション(LCA)モジュール,グローバルコンテキストモジュール(GCM)モジュール,適応選択モジュール(ASM)モジュールで構成される適応コンテキスト選択に基づくエンコーダデコーダフレームワークを提案する。 LCAモジュールは、エンコーダ層からデコーダ層へローカルなコンテキスト機能を提供する。 GCMは、グローバルなコンテキストの特徴をさらに探求し、デコーダ層に送信することを目的としている。ASMは、チャンネルワイドアテンションを通じて、コンテキスト特徴の適応的選択と集約に使用される。
  論文  参考訳（メタデータ） (2023-01-12T04:06:44Z)
• Traversing the Local Polytopes of ReLU Neural Networks: A Unified Approach for Network Verification [6.71092092685492]
  ReLUアクティベーション機能を備えたニューラルネットワーク(NN)は、幅広いアプリケーションで成功している。 頑健さを検証し,解釈可能性を向上させるための従来の研究は,ReLU NNの断片線形関数形式を部分的に活用した。 本稿では,ReLU NNが入力空間で生成する独自のトポロジ構造について検討し,分割した局所ポリトープ間の隣接性を同定する。
  論文  参考訳（メタデータ） (2021-11-17T06:12:39Z)
• Sign-Agnostic CONet: Learning Implicit Surface Reconstructions by Sign-Agnostic Optimization of Convolutional Occupancy Networks [39.65056638604885]
  畳み込み型ネットワークの符号非依存最適化により暗黙的表面再構成を学習する。 この目標をシンプルで効果的な設計で効果的に達成できることを示す。
  論文  参考訳（メタデータ） (2021-05-08T03:35:32Z)
• Neural Architecture Search as Sparse Supernet [78.09905626281046]
  本稿では,単一パスと複数パスの探索から混合パスの自動探索へ,ニューラルネットワーク探索(NAS)の問題を拡大することを目的とする。 我々はNAS問題をスパース・スーパーネットとして,空間制約を混合した新しい連続アーキテクチャ表現を用いてモデル化する。 スパーススーパーネットは、コンパクトなノードセット上でスパース混合パスを自動的に達成する。
  論文  参考訳（メタデータ） (2020-07-31T14:51:52Z)
• The Hidden Convex Optimization Landscape of Two-Layer ReLU Neural Networks: an Exact Characterization of the Optimal Solutions [51.60996023961886]
  コーン制約のある凸最適化プログラムを解くことにより,グローバルな2層ReLUニューラルネットワークの探索が可能であることを示す。 我々の分析は新しく、全ての最適解を特徴づけ、最近、ニューラルネットワークのトレーニングを凸空間に持ち上げるために使われた双対性に基づく分析を活用できない。
  論文  参考訳（メタデータ） (2020-06-10T15:38:30Z)
• Local Propagation in Constraint-based Neural Network [77.37829055999238]
  ニューラルネットワークアーキテクチャの制約に基づく表現について検討する。 本稿では,いわゆるアーキテクチャ制約を満たすのに適した簡単な最適化手法について検討する。
  論文  参考訳（メタデータ） (2020-02-18T16:47:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。