Fugu-MT 論文翻訳(概要): Asymmetric Certified Robustness via Feature-Convex Neural Networks

論文の概要: Asymmetric Certified Robustness via Feature-Convex Neural Networks

arxiv url: http://arxiv.org/abs/2302.01961v1
Date: Fri, 3 Feb 2023 19:17:28 GMT
ステータス: 処理完了
システム内更新日: 2023-02-07 20:59:39.900874
Title: Asymmetric Certified Robustness via Feature-Convex Neural Networks
Title（参考訳）: 特徴凸ニューラルネットワークによる不斉認定ロバスト性
Authors: Samuel Pfrommer, Brendon G. Anderson, Julien Piet, Somayeh Sojoudi
Abstract要約: ICNNを敵ネットワークに一般化できることを示す。実験により、ネットワークはどの競争ベースラインよりもはるかに効率的であることが示されている。
参考スコア（独自算出の注目度）: 11.605936648692543
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Recent works have introduced input-convex neural networks (ICNNs) as learning models with advantageous training, inference, and generalization properties linked to their convex structure. In this paper, we propose a novel feature-convex neural network architecture as the composition of an ICNN with a Lipschitz feature map in order to achieve adversarial robustness. We consider the asymmetric binary classification setting with one "sensitive" class, and for this class we prove deterministic, closed-form, and easily-computable certified robust radii for arbitrary $\ell_p$-norms. We theoretically justify the use of these models by characterizing their decision region geometry, extending the universal approximation theorem for ICNN regression to the classification setting, and proving a lower bound on the probability that such models perfectly fit even unstructured uniformly distributed data in sufficiently high dimensions. Experiments on Malimg malware classification and subsets of MNIST, Fashion-MNIST, and CIFAR-10 datasets show that feature-convex classifiers attain state-of-the-art certified $\ell_1$-radii as well as substantial $\ell_2$- and $\ell_{\infty}$-radii while being far more computationally efficient than any competitive baseline.
Abstract（参考訳）: 最近の研究は、入力凸ニューラルネットワーク(ICNN)を、その凸構造に関連付けられた有利なトレーニング、推論、一般化特性を持つ学習モデルとして導入している。本稿では,リプシッツ特徴写像を用いたICNNの構成として,新たな特徴凸ニューラルネットワークアーキテクチャを提案する。このクラスでは、任意の$\ell_p$-norms に対して、決定論的、閉形式、容易に計算可能な証明されたロバスト radii が証明される。決定領域の幾何を特徴付けることによってこれらのモデルの使用を理論的に正当化し、ICNN回帰の普遍近似定理を分類設定に拡張し、そのようなモデルが十分に高次元の非構造化データにも完全に適合する確率の低い境界を証明した。 malimg マルウェアの分類と mnist, fashion-mnist, cifar-10 データセットのサブセットに関する実験により、機能凸分類器は、どの競合ベースラインよりも計算効率がはるかに高い一方で、高度な $\ell_1$-radii と、相当な $\ell_2$- および $\ell_{\infty}$-radii を達成できることが示されている。

関連論文リスト

Enhancing lattice kinetic schemes for fluid dynamics with Lattice-Equivariant Neural Networks [79.16635054977068]
我々はLattice-Equivariant Neural Networks (LENNs)と呼ばれる新しい同変ニューラルネットワークのクラスを提案する。我々の手法は、ニューラルネットワークに基づく代理モデルLattice Boltzmann衝突作用素の学習を目的とした、最近導入されたフレームワーク内で開発されている。本研究は,実世界のシミュレーションにおける機械学習強化Lattice Boltzmann CFDの実用化に向けて展開する。
論文参考訳（メタデータ） (2024-05-22T17:23:15Z)
Exploring Learned Representations of Neural Networks with Principal Component Analysis [1.0923877073891446]
ある層では、高い精度の分類には中間的特徴空間分散の20%しか必要としない。本研究は神経崩壊と相関し, 中間神経崩壊の関連現象の部分的証拠を提供する。
論文参考訳（メタデータ） (2023-09-27T00:18:25Z)
Distribution learning via neural differential equations: a nonparametric statistical perspective [1.4436965372953483]
この研究は、確率変換によって訓練されたODEモデルによる分布学習のための最初の一般統計収束解析を確立する。後者はクラス $mathcal F$ の$C1$-metric entropy で定量化できることを示す。次に、この一般フレームワークを$Ck$-smoothターゲット密度の設定に適用し、関連する2つの速度場クラスに対する最小最適収束率を$mathcal F$:$Ck$関数とニューラルネットワークに設定する。
論文参考訳（メタデータ） (2023-09-03T00:21:37Z)
Neural Collapse in Deep Linear Networks: From Balanced to Imbalanced Data [12.225207401994737]
大量のパラメータを持つ複雑な系は、収束するまでのトレーニングで同じ構造を持つことを示す。特に、最終層の特徴がクラス平均に崩壊することが観察されている。本結果は,最終層の特徴と分類器をベクトルからなる幾何学へ収束させることを示す。
論文参考訳（メタデータ） (2023-01-01T16:29:56Z)
Robust-by-Design Classification via Unitary-Gradient Neural Networks [66.17379946402859]
安全クリティカルシステムにおけるニューラルネットワークの使用には、敵攻撃が存在するため、安全で堅牢なモデルが必要である。任意の入力 x の最小逆摂動を知るか、または同値に、分類境界から x の距離は、分類ロバスト性を評価し、証明可能な予測を与える。 Unitary-Gradient Neural Networkと呼ばれる新しいネットワークアーキテクチャが紹介される。実験結果から,提案アーキテクチャは符号付き距離を近似し,単一の推論コストでxのオンライン分類が可能であることがわかった。
論文参考訳（メタデータ） (2022-09-09T13:34:51Z)
Robust Training and Verification of Implicit Neural Networks: A Non-Euclidean Contractive Approach [64.23331120621118]
本稿では,暗黙的ニューラルネットワークのトレーニングとロバスト性検証のための理論的および計算的枠組みを提案する。組込みネットワークを導入し、組込みネットワークを用いて、元のネットワークの到達可能な集合の超近似として$ell_infty$-normボックスを提供することを示す。 MNISTデータセット上で暗黙的なニューラルネットワークをトレーニングするためにアルゴリズムを適用し、我々のモデルの堅牢性と、文献における既存のアプローチを通じてトレーニングされたモデルを比較する。
論文参考訳（メタデータ） (2022-08-08T03:13:24Z)
Do We Really Need a Learnable Classifier at the End of Deep Neural Network? [118.18554882199676]
本研究では、ニューラルネットワークを学習して分類器をランダムにETFとして分類し、訓練中に固定する可能性について検討する。実験結果から,バランスの取れたデータセットの画像分類において,同様の性能が得られることがわかった。
論文参考訳（メタデータ） (2022-03-17T04:34:28Z)
Scalable Lipschitz Residual Networks with Convex Potential Flows [120.27516256281359]
残差ネットワーク勾配流における凸ポテンシャルを用いることで,1ドルのLipschitz変換が組み込まれていることを示す。 CIFAR-10の包括的な実験は、アーキテクチャのスケーラビリティと、証明可能な防御に$ell$のアプローチの利点を実証している。
論文参考訳（メタデータ） (2021-10-25T07:12:53Z)
Besov Function Approximation and Binary Classification on Low-Dimensional Manifolds Using Convolutional Residual Networks [42.43493635899849]
畳み込み残余ネットワーク(ConvResNet)の理論的保証を関数近似および二項分類の統計的推定の観点から確立する。その結果,ConvResNetsはデータセットの低次元構造に適応していることがわかった。
論文参考訳（メタデータ） (2021-09-07T02:58:11Z)
Provable Model-based Nonlinear Bandit and Reinforcement Learning: Shelve Optimism, Embrace Virtual Curvature [61.22680308681648]
決定論的報酬を有する1層ニューラルネットバンディットにおいても,グローバル収束は統計的に難解であることを示す。非線形バンディットとRLの両方に対して,オンラインモデル学習者による仮想アセンジ(Virtual Ascent with Online Model Learner)というモデルベースアルゴリズムを提案する。
論文参考訳（メタデータ） (2021-02-08T12:41:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。