論文の概要: Verification of Neural Networks' Global Robustness

• arxiv url: http://arxiv.org/abs/2402.19322v2
• Date: Wed, 6 Mar 2024 14:12:56 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-07 11:58:12.709590
• Title: Verification of Neural Networks' Global Robustness
• Title（参考訳）: ニューラルネットワークのグローバルロバスト性検証
• Authors: Anan Kabaha, Dana Drachsler-Cohen
• Abstract要約: VHAGaRは、最小限の大域的ロバストな境界を求めるための任意の検証器である。 VHAGaRは、既存の大域的ロバスト性検証器よりも130.6倍高速であることを示す。
• 参考スコア（独自算出の注目度）: 1.889153094567799
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural networks are successful in various applications but are also susceptible to adversarial attacks. To show the safety of network classifiers, many verifiers have been introduced to reason about the local robustness of a given input to a given perturbation. While successful, local robustness cannot generalize to unseen inputs. Several works analyze global robustness properties, however, neither can provide a precise guarantee about the cases where a network classifier does not change its classification. In this work, we propose a new global robustness property for classifiers aiming at finding the minimal globally robust bound, which naturally extends the popular local robustness property for classifiers. We introduce VHAGaR, an anytime verifier for computing this bound. VHAGaR relies on three main ideas: encoding the problem as a mixed-integer programming and pruning the search space by identifying dependencies stemming from the perturbation or the network's computation and generalizing adversarial attacks to unknown inputs. We evaluate VHAGaR on several datasets and classifiers and show that, given a three hour timeout, the average gap between the lower and upper bound on the minimal globally robust bound computed by VHAGaR is 1.9, while the gap of an existing global robustness verifier is 154.7. Moreover, VHAGaR is 130.6x faster than this verifier. Our results further indicate that leveraging dependencies and adversarial attacks makes VHAGaR 78.6x faster.
• Abstract（参考訳）: ニューラルネットワークは様々なアプリケーションで成功しているが、逆境攻撃の影響を受けやすい。 ネットワーク分類器の安全性を示すために、与えられた摂動に対する入力の局所的ロバスト性を説明するために多くの検証器が導入された。 成功しても、局所ロバスト性は目に見えない入力に一般化できない。 いくつかの研究は、グローバルなロバスト性特性を分析するが、ネットワーク分類器がその分類を変更しない場合の正確な保証は得られない。 本研究では,分類器の局所的ロバスト性特性を自然に拡張する最小のグローバルロバスト境界を求めることを目的とした,分類器に対する新たなグローバルロバスト性特性を提案する。 我々は、この境界を計算するための任意の検証器であるVHAGaRを紹介する。 VHAGaRは、問題を混合整数プログラミングとして符号化し、摂動やネットワークの計算に起因した依存関係を特定し、未知の入力に敵攻撃を一般化することで、探索空間を刈り取るという3つの主要なアイデアに依存している。 我々は,VHAGaRを複数のデータセットと分類器で評価し,3時間のタイムアウトを条件に,VHAGaRが計算した最小大域的ロバスト境界上の下限と上限のギャップは1.9であり,既存の大域的ロバスト性検証器のギャップは154.7であることを示す。 さらに、vhagarはこの検証器より130.6x高速である。 以上の結果から,VHAGaR 78.6倍の高速化が期待できる。

関連論文リスト

• Certifying Global Robustness for Deep Neural Networks [3.8556106468003613]
  グローバルなディープニューラルネットワークは、すべての意味のある入力に対する摂動に抵抗する。 現在のロバストネス認証手法は、局所ロバストネスを強調し、スケールと一般化に苦慮している。 本稿では,ディープニューラルネットワークのグローバルロバスト性を評価・検証するための体系的かつ効率的な手法を提案する。
  論文  参考訳（メタデータ） (2024-05-31T00:46:04Z)
• Holographic Global Convolutional Networks for Long-Range Prediction Tasks in Malware Detection [50.7263393517558]
  ホログラフィック還元表現(HRR)の特性を利用したホログラフィックグローバル畳み込みネットワーク(HGConv)を導入する。 他のグローバルな畳み込み法とは異なり、我々の手法は複雑なカーネル計算や人工カーネル設計を必要としない。 提案手法は,Microsoft Malware Classification Challenge, Drebin, EMBERのマルウェアベンチマークで新たなSOTA結果を得た。
  論文  参考訳（メタデータ） (2024-03-23T15:49:13Z)
• GREAT Score: Global Robustness Evaluation of Adversarial Perturbation using Generative Models [60.48306899271866]
  GREATスコア(GREAT Score)と呼ばれる新しいフレームワークを提案する。 我々は,ロバストベンチにおける攻撃ベースモデルと比較し,高い相関性を示し,GREATスコアのコストを大幅に削減した。 GREAT Scoreは、プライバシーに敏感なブラックボックスモデルのリモート監査に使用することができる。
  論文  参考訳（メタデータ） (2023-04-19T14:58:27Z)
• Generalizability of Adversarial Robustness Under Distribution Shifts [57.767152566761304]
  本研究は, 実証的, 証明された敵対的堅牢性間の相互作用と, ドメインの一般化を両立させるための第一歩を踏み出した。 複数のドメインでロバストモデルをトレーニングし、その正確性とロバスト性を評価する。 本研究は, 現実の医療応用をカバーするために拡張され, 敵の増大は, クリーンデータ精度に最小限の影響を伴って, 強靭性の一般化を著しく促進する。
  論文  参考訳（メタデータ） (2022-09-29T18:25:48Z)
• Efficient Global Robustness Certification of Neural Networks via Interleaving Twin-Network Encoding [8.173681464694651]
  混合整数線形プログラミング(MILP)問題として、ReLUアクティベーション機能付きニューラルネットワークのグローバルロバスト性認証を定式化する。 我々のアプローチは、ニューラルネットワークの2つのコピーを並べて符号化する、新しいインターリービングツインネットワーク符号化スキームを含む。 クローズドループ制御の安全性検証のケーススタディを行い,本手法の重要性と実用性を実証した。
  論文  参考訳（メタデータ） (2022-03-26T19:23:37Z)
• Generalizing RNN-Transducer to Out-Domain Audio via Sparse Self-Attention Layers [7.025709586759655]
  リカレントニューラルネットワークトランスデューサ(RNN-T)は、有望なエンドツーエンド音声認識フレームワークである。 Conformerは、その畳み込み層と自己認識層を通じて、ローカル・グローバルコンテキスト情報を効果的にモデル化することができる。 Conformer RNN-Tのドメインミスマッチ問題は、まだ十分に研究されていない。
  論文  参考訳（メタデータ） (2021-08-22T08:06:15Z)
• Triggering Failures: Out-Of-Distribution detection by learning from local adversarial attacks in Semantic Segmentation [76.2621758731288]
  セグメンテーションにおけるアウト・オブ・ディストリビューション(OOD)オブジェクトの検出に取り組む。 私たちの主な貢献は、ObsNetと呼ばれる新しいOOD検出アーキテクチャであり、ローカル・アタック(LAA)に基づく専用トレーニングスキームと関連付けられています。 3つの異なるデータセットの文献の最近の10つの手法と比較して,速度と精度の両面で最高の性能が得られることを示す。
  論文  参考訳（メタデータ） (2021-08-03T17:09:56Z)
• Learning Security Classifiers with Verified Global Robustness Properties [33.49503521304698]
  近年,局所ロバスト性を持つ分類器の訓練法が提案されている。 局所ロバスト性は、ほとんどの入力に対する回避攻撃のクラスを確実に排除できるが、全ての入力は排除できない。 すべての入力に対して保持する大域的ロバスト性(英語版)を強制することが望ましいが、これは局所ロバスト性よりも強い。
  論文  参考訳（メタデータ） (2021-05-24T15:46:20Z)
• Exploring Robustness of Unsupervised Domain Adaptation in Semantic Segmentation [74.05906222376608]
  クリーンな画像とそれらの逆の例との一致を、出力空間における対照的な損失によって最大化する、逆向きの自己スーパービジョンUDA(ASSUDA)を提案する。 i) セマンティックセグメンテーションにおけるUDA手法のロバスト性は未解明のままであり, (ii) 一般的に自己スーパービジョン(回転やジグソーなど) は分類や認識などのイメージタスクに有効であるが, セグメンテーションタスクの識別的表現を学習する重要な監視信号の提供には失敗している。
  論文  参考訳（メタデータ） (2021-05-23T01:50:44Z)
• On the use of local structural properties for improving the efficiency of hierarchical community detection methods [77.34726150561087]
  本研究では,階層型コミュニティ検出の効率向上のために,局所構造ネットワーク特性をプロキシとして利用する方法について検討する。 また,ネットワークプルーニングの性能への影響を,階層的コミュニティ検出をより効率的にするための補助的手法として検証する。
  論文  参考訳（メタデータ） (2020-09-15T00:16:12Z)
• Global Robustness Verification Networks [33.52550848953545]
  3つのコンポーネントからなるグローバルロバストネス検証フレームワークを開発した。 実現可能なルールベースのバックプロパゲーションを可能にする新しいネットワークアーキテクチャ Sliding Door Network (SDN) 合成データと実データの両方にアプローチの有効性を示す。
  論文  参考訳（メタデータ） (2020-06-08T08:09:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。