論文の概要: The Cost of Relaxation: Evaluating the Error in Convex Neural Network Verification

• arxiv url: http://arxiv.org/abs/2604.18728v1
• Date: Mon, 20 Apr 2026 18:25:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-22 22:41:49.422481
• Title: The Cost of Relaxation: Evaluating the Error in Convex Neural Network Verification
• Title（参考訳）: 緩和コスト:凸ニューラルネットワーク検証における誤差の評価
• Authors: Merkouris Papamichail, Konstantinos Varsos, Giorgos Flouris, João Marques-Silva,
• Abstract要約: 元のネットワークと凸緩和の最悪の違いについて検討する。 完全に緩和された出力と元の出力の間の$ell_infty$-距離について解析的な上界と下界を提供する。 この結果は,MNIST,Fashion MNIST,ランダムネットワークの実験によって支持される。
• 参考スコア（独自算出の注目度）: 10.268619734362547
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Many neural network (NN) verification systems represent the network's input-output relation as a constraint program. Sound and complete, representations involve integer constraints, for simulating the activations. Recent works convexly relax the integer constraints, improving performance, at the cost of soundness. Convex relaxations consider outputs that are unreachable by the original network. We study the worst case divergence between the original network and its convex relaxations; both qualitatively and quantitatively. The relaxations' space forms a lattice, where the top element corresponds to a full relaxation, with every neuron linearized. The bottom element corresponds to the original network. We provide analytical upper and lower bounds for the $\ell_\infty$-distance between the fully relaxed and original outputs. This distance grows exponentially, w.r.t. the network's depth, and linearly w.r.t. the input's radius. The misclassification probability exhibits a step-like behavior, w.r.t. input radius. Our results are supported by experiments on MNIST, Fashion MNIST and random networks.
• Abstract（参考訳）: 多くのニューラルネットワーク(NN)検証システムは、ネットワークの入出力関係を制約プログラムとして表現している。 完全かつ健全な表現は、アクティベーションをシミュレートする整数制約を含む。 最近の研究は、整数の制約を凸的に緩和し、音質を犠牲にして性能を改善している。 凸緩和は、元のネットワークでは到達できない出力を考える。 本稿では,元のネットワークと凸緩和の最悪の違いについて,質的かつ定量的に検討する。 緩和空間は格子を形成し、トップ要素はすべてのニューロンが線型化された完全な緩和に対応する。 下位要素は元のネットワークに対応する。 完全に緩和された出力と元の出力の間の$\ell_\infty$-距離について解析的な上界と下界を提供する。 この距離は指数関数的に増大し、ネットワークの深さはw.r.t.、入力の半径はw.r.t.となる。 誤分類確率は、ステップのような振る舞い、w.r.t.入力半径を示す。 この結果は,MNIST,Fashion MNIST,ランダムネットワークの実験によって支持される。

関連論文リスト

• Most Convolutional Networks Suffer from Small Adversarial Perturbations [10.828616610785524]
  最近の研究は、CNNにおいて、入力から最適でない距離において、逆の例が見つかることを証明している。 入力次元が$d$のランダムCNNの逆例は、$ll$-distance of order $lVert x rVert /sqrtd$ from the input $x$。 また,このような逆方向の小さな摂動は,勾配降下の1ステップで観測できることも示している。
  論文  参考訳（メタデータ） (2026-02-03T11:42:55Z)
• LinSATNet: The Positive Linear Satisfiability Neural Networks [116.65291739666303]
  本稿では,ニューラルネットワークに人気の高い正の線形満足度を導入する方法について検討する。 本稿では,古典的なシンクホーンアルゴリズムを拡張し,複数の辺分布の集合を共同で符号化する,最初の微分可能満足層を提案する。
  論文  参考訳（メタデータ） (2024-07-18T22:05:21Z)
• Approximating Positive Homogeneous Functions with Scale Invariant Neural Networks [28.2446416597989]
  まず,数直線測定によるスパースベクトルの回復について考察する。 この結果から,低ランク行列回復や位相回復を含む,より広範な回復問題に拡張する。 我々の結果は、逆問題に対するニューラルネットワークが典型的に非常に大きなリプシッツ定数を持つことを示す以前の研究の矛盾のように見えることに光を当てた。
  論文  参考訳（メタデータ） (2023-08-05T10:17:04Z)
• On the Neural Tangent Kernel Analysis of Randomly Pruned Neural Networks [91.3755431537592]
  ニューラルネットワークのニューラルカーネル(NTK)に重みのランダムプルーニングが及ぼす影響について検討する。 特に、この研究は、完全に接続されたニューラルネットワークとそのランダムに切断されたバージョン間のNTKの等価性を確立する。
  論文  参考訳（メタデータ） (2022-03-27T15:22:19Z)
• Reachability In Simple Neural Networks [2.7195102129095003]
  NP-hardnessは、単純な仕様とニューラルネットワークの制限されたクラスをすでに保持していることを示す。 我々は、ニューラルネットワーク検証研究のこの方向の展開の可能性について、徹底的な議論と展望を行う。
  論文  参考訳（メタデータ） (2022-03-15T14:25:44Z)
• The Separation Capacity of Random Neural Networks [78.25060223808936]
  標準ガウス重みと一様分布バイアスを持つ十分に大きな2層ReLUネットワークは、この問題を高い確率で解くことができることを示す。 我々は、相互複雑性という新しい概念の観点から、データの関連構造を定量化する。
  論文  参考訳（メタデータ） (2021-07-31T10:25:26Z)
• The Rate of Convergence of Variation-Constrained Deep Neural Networks [35.393855471751756]
  変動制約のあるニューラルネットワークのクラスは、任意に小さな定数$delta$に対して、ほぼパラメトリックレート$n-1/2+delta$を達成することができることを示す。 その結果、滑らかな関数の近似に必要な神経機能空間は、しばしば知覚されるものほど大きくない可能性が示唆された。
  論文  参考訳（メタデータ） (2021-06-22T21:28:00Z)
• DeepSplit: Scalable Verification of Deep Neural Networks via Operator Splitting [70.62923754433461]
  入力摂動に対するディープニューラルネットワークの最悪の性能を分析することは、大規模な非最適化問題の解決につながる。 解析解を持つ小さなサブプロブレムに分割することで,問題の凸緩和を直接高精度に解ける新しい手法を提案する。
  論文  参考訳（メタデータ） (2021-06-16T20:43:49Z)
• Efficient Integer-Arithmetic-Only Convolutional Neural Networks [87.01739569518513]
  我々は従来のReLUを境界ReLUに置き換え、その減少は活性化量子化によるものであることを示す。 我々の整数ネットワークは、対応するFPNネットワークと同等の性能を発揮するが、メモリコストは1/4に過ぎず、最新のGPUでは2倍高速である。
  論文  参考訳（メタデータ） (2020-06-21T08:23:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。