論文の概要: Scalable Neural Network Verification with Branch-and-bound Inferred Cutting Planes

• arxiv url: http://arxiv.org/abs/2501.00200v1
• Date: Tue, 31 Dec 2024 00:43:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-05 17:14:34.938373
• Title: Scalable Neural Network Verification with Branch-and-bound Inferred Cutting Planes
• Title（参考訳）: 分岐・束縛型切削平面を用いたスケーラブルニューラルネットワークの検証
• Authors: Duo Zhou, Christopher Brix, Grani A Hanasusanto, Huan Zhang,
• Abstract要約: 我々はCOntraint Strengthening (BICCOS) を用いた分枝・分枝型推論切削を開発する。 BICCOSは、VNN-COMP 2024の勝者である$alpha,beta$-CROWNの検証ツールの一部である。
• 参考スコア（独自算出の注目度）: 9.061956085975519
• License:
• Abstract: Recently, cutting-plane methods such as GCP-CROWN have been explored to enhance neural network verifiers and made significant advances. However, GCP-CROWN currently relies on generic cutting planes (cuts) generated from external mixed integer programming (MIP) solvers. Due to the poor scalability of MIP solvers, large neural networks cannot benefit from these cutting planes. In this paper, we exploit the structure of the neural network verification problem to generate efficient and scalable cutting planes specific for this problem setting. We propose a novel approach, Branch-and-bound Inferred Cuts with COnstraint Strengthening (BICCOS), which leverages the logical relationships of neurons within verified subproblems in the branch-and-bound search tree, and we introduce cuts that preclude these relationships in other subproblems. We develop a mechanism that assigns influence scores to neurons in each path to allow the strengthening of these cuts. Furthermore, we design a multi-tree search technique to identify more cuts, effectively narrowing the search space and accelerating the BaB algorithm. Our results demonstrate that BICCOS can generate hundreds of useful cuts during the branch-and-bound process and consistently increase the number of verifiable instances compared to other state-of-the-art neural network verifiers on a wide range of benchmarks, including large networks that previous cutting plane methods could not scale to. BICCOS is part of the $\alpha,\beta$-CROWN verifier, the VNN-COMP 2024 winner. The code is available at http://github.com/Lemutisme/BICCOS .
• Abstract（参考訳）: 近年, GCP-CROWN などの切削面法がニューラルネットワーク検証の強化のために研究され, 大幅な進歩を遂げている。 しかし、GCP-CROWNは現在、外部混合整数プログラミング(MIP)解決器から生成される一般的な切断平面(カット)に依存している。 MIPソルバのスケーラビリティが低かったため、大きなニューラルネットワークはこれらの切断面の恩恵を受けられない。 本稿では、ニューラルネットワーク検証問題の構造を利用して、この問題設定に特有の効率的でスケーラブルな切削面を生成する。 分岐・分岐探索木における検証されたサブプロブレム内のニューロンの論理的関係を利用するBICCOS(Branch-and-bound Inferred Cuts with COnstraint Strengthening)を提案する。 そこで我々は,各経路のニューロンに影響スコアを割り当て,切断の強化を可能にする機構を開発した。 さらに,探索空間を効果的に狭め,BaBアルゴリズムを高速化するマルチツリー探索手法を設計する。 その結果、BICCOSはブランチ・アンド・バウンド・プロセス中に数百の有用なカットを生成でき、従来のカットプレーン手法ではスケールできないような大規模なネットワークを含む、幅広いベンチマークにおいて、最先端のニューラルネットワーク検証器と比較して検証可能なインスタンスの数を一貫して増加させることができることを示した。 BICCOSは、VNN-COMP 2024の勝者である$\alpha,\beta$-CROWNの検証ツールの一部である。 コードはhttp://github.com/Lemutisme/BICCOSで入手できる。

関連論文リスト

• Learning Cut Generating Functions for Integer Programming [1.1510009152620668]
  分岐とカットのアルゴリズムは、大規模な整数計画問題の解法である。 近年の進歩は、パラメータ化された族から最適な切断平面を選択するためのデータ駆動アプローチを採用している。 選択したCGFは,特定の分布に対するGMIカットよりも優れることを示す。
  論文  参考訳（メタデータ） (2024-05-22T20:56:34Z)
• General Cutting Planes for Bound-Propagation-Based Neural Network Verification [144.7290035694459]
  任意の切削平面制約を加えることができるような境界伝搬手順を一般化する。 MIPソルバは、境界プロパゲーションベースの検証器を強化するために高品質な切削面を生成することができる。 本手法は,oval20ベンチマークを完全解き,oval21ベンチマークの2倍のインスタンスを検証できる最初の検証器である。
  論文  参考訳（メタデータ） (2022-08-11T10:31:28Z)
• SAR Despeckling Using Overcomplete Convolutional Networks [53.99620005035804]
  スペックルはSAR画像を劣化させるため、リモートセンシングにおいて重要な問題である。 近年の研究では、畳み込みニューラルネットワーク(CNN)が古典的解法よりも優れていることが示されている。 本研究は、受容場を制限することで低レベルの特徴を学習することに集中するために、過剰なCNNアーキテクチャを用いる。 本稿では,合成および実SAR画像の非特定化手法と比較して,提案手法により非特定化性能が向上することを示す。
  論文  参考訳（メタデータ） (2022-05-31T15:55:37Z)
• An Abstraction-Refinement Approach to Verifying Convolutional Neural Networks [0.0]
  本稿では,畳み込みネットワークの検証を目的としたCnn-Absフレームワークを提案する。 Cnn-Abs のコアは、検証問題を単純化する抽象化・リファインメント技術である。 Cnn-Absは最先端の検証エンジンの性能を大幅に向上させ、ランタイムを平均15.7%削減することができる。
  論文  参考訳（メタデータ） (2022-01-06T08:57:43Z)
• Learning to Detect Critical Nodes in Sparse Graphs via Feature Importance Awareness [53.351863569314794]
  クリティカルノード問題(CNP)は、削除が残余ネットワークのペア接続性を最大に低下させるネットワークから臨界ノードの集合を見つけることを目的としている。 本研究は,ノード表現のための特徴重要度対応グラフアテンションネットワークを提案する。 ダブルディープQネットワークと組み合わせて、初めてCNPを解くエンドツーエンドのアルゴリズムを作成する。
  論文  参考訳（メタデータ） (2021-12-03T14:23:05Z)
• Second-Order Component Analysis for Fault Detection [0.0]
  高次ニューラルネットワークは、元のデータやノイズ、異常から重要な情報をオーバーフィッティングし、学習するリスクをもたらす可能性がある。 本稿では,2次成分分析(SCA)と呼ばれる新しい故障検出手法を提案する。
  論文  参考訳（メタデータ） (2021-03-12T14:25:37Z)
• An Uncertainty-Driven GCN Refinement Strategy for Organ Segmentation [53.425900196763756]
  本研究では,不確実性解析とグラフ畳み込みネットワークに基づくセグメンテーション改善手法を提案する。 半教師付きグラフ学習問題を定式化するために、特定の入力ボリュームにおける畳み込みネットワークの不確実性レベルを用いる。 本手法は膵臓で1%,脾臓で2%向上し,最先端のCRF改善法よりも優れていた。
  論文  参考訳（メタデータ） (2020-12-06T18:55:07Z)
• A Sequential Framework Towards an Exact SDP Verification of Neural Networks [14.191310794366075]
  ニューラルネットワークのロバスト性を研究するために,凸最適化に基づくいくつかの手法が文献で提案されている。 堅牢な認証アプローチの課題は、大きな緩和ギャップがあることです。 本研究では,このギャップをゼロに縮めるための逐次プログラミングフレームワークを開発することで,この問題に対処する。
  論文  参考訳（メタデータ） (2020-10-16T19:45:11Z)
• ESPN: Extremely Sparse Pruned Networks [50.436905934791035]
  簡単な反復マスク探索法により,非常に深いネットワークの最先端の圧縮を実現することができることを示す。 本アルゴリズムは,シングルショット・ネットワーク・プルーニング法とロッテ・ティケット方式のハイブリッド・アプローチを示す。
  論文  参考訳（メタデータ） (2020-06-28T23:09:27Z)
• DHP: Differentiable Meta Pruning via HyperNetworks [158.69345612783198]
  本稿では,ネットワークの自動プルーニングのためのハイパーネットによる識別可能なプルーニング手法を提案する。 遅延ベクトルは、バックボーンネットワーク内の畳み込み層の出力チャネルを制御し、レイヤのプルーニングのハンドルとして機能する。 画像分類、単一画像超解像、復調のための様々なネットワークで実験が行われた。
  論文  参考訳（メタデータ） (2020-03-30T17:59:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。