論文の概要: Hardening DNNs against Transfer Attacks during Network Compression using Greedy Adversarial Pruning

• arxiv url: http://arxiv.org/abs/2206.07406v1
• Date: Wed, 15 Jun 2022 09:13:35 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-17 01:53:15.839982
• Title: Hardening DNNs against Transfer Attacks during Network Compression using Greedy Adversarial Pruning
• Title（参考訳）: Greedy Adversarial Pruning を用いたネットワーク圧縮時の転送攻撃に対するDNNの強化
• Authors: Jonah O'Brien Weiss, Tiago Alves, Sandip Kundu
• Abstract要約: いくつかの不規則なプルーニングスキームと8ビット量子化法により生成されたモデルの対角的ロバスト性について検討する。 このプルーニング法により,非圧縮モデルからの攻撃に対して耐性のあるモデルが得られることが判明した。
• 参考スコア（独自算出の注目度）: 0.1529342790344802
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The prevalence and success of Deep Neural Network (DNN) applications in recent years have motivated research on DNN compression, such as pruning and quantization. These techniques accelerate model inference, reduce power consumption, and reduce the size and complexity of the hardware necessary to run DNNs, all with little to no loss in accuracy. However, since DNNs are vulnerable to adversarial inputs, it is important to consider the relationship between compression and adversarial robustness. In this work, we investigate the adversarial robustness of models produced by several irregular pruning schemes and by 8-bit quantization. Additionally, while conventional pruning removes the least important parameters in a DNN, we investigate the effect of an unconventional pruning method: removing the most important model parameters based on the gradient on adversarial inputs. We call this method Greedy Adversarial Pruning (GAP) and we find that this pruning method results in models that are resistant to transfer attacks from their uncompressed counterparts.
• Abstract（参考訳）: 近年のディープニューラルネットワーク(DNN)応用の普及と成功は、プルーニングや量子化といったDNN圧縮の研究を動機付けている。 これらの技術はモデル推論を加速し、消費電力を削減し、DNNを実行するために必要なハードウェアのサイズと複雑さを小さくする。 しかし、DNNは敵の入力に弱いため、圧縮と敵の堅牢性の関係を考慮することが重要である。 本研究では,いくつかの不規則なプルーニングスキームと8ビット量子化によって生成されたモデルの逆ロバスト性について検討する。 さらに,従来のプルーニングはDNNにおいて最も重要でないパラメータを除去するが,非従来型プルーニング法の効果について検討する。 我々は,この手法をgreedy adversarial pruning(gap)と呼び,このpruning手法が非圧縮攻撃から攻撃を移すのに抵抗するモデルをもたらすことを見出した。

関連論文リスト

• A Geometrical Approach to Evaluate the Adversarial Robustness of Deep Neural Networks [52.09243852066406]
  対向収束時間スコア(ACTS)は、対向ロバストネス指標として収束時間を測定する。 我々は,大規模画像Netデータセットに対する異なる敵攻撃に対して,提案したACTSメトリックの有効性と一般化を検証する。
  論文  参考訳（メタデータ） (2023-10-10T09:39:38Z)
• Benchmarking Adversarial Robustness of Compressed Deep Learning Models [15.737988622271219]
  本研究は, 基本モデルの逆入力が刈り取ったバージョンに与える影響を理解することを目的とする。 以上の結果から, 汎用性, 圧縮性, 高速な推論時間は保たれるが, 対向ロバスト性はベースモデルに匹敵することがわかった。
  論文  参考訳（メタデータ） (2023-08-16T06:06:56Z)
• Robust and Lossless Fingerprinting of Deep Neural Networks via Pooled Membership Inference [17.881686153284267]
  ディープニューラルネットワーク(DNN)は、すでに多くのアプリケーション分野で大きな成功を収めており、私たちの社会に大きな変化をもたらしています。 DNNの知的財産権(IP)を侵害から保護する方法は、最も重要かつ非常に困難なトピックの1つである。 本稿では,DNNモデルのIPを保護するために,Emphpooled Memberation Inference (PMI) と呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-09-09T04:06:29Z)
• DiverGet: A Search-Based Software Testing Approach for Deep Neural Network Quantization Assessment [10.18462284491991]
  量子化は、最も応用されたディープニューラルネットワーク(DNN)圧縮戦略の1つである。 量子化評価のための検索ベースのテストフレームワークであるDiverGetを提案する。 ハイパースペクトルリモートセンシング画像に適用した最先端DNNにおけるDiverGetの性能評価を行った。
  論文  参考訳（メタデータ） (2022-07-13T15:27:51Z)
• Comparative Analysis of Interval Reachability for Robust Implicit and Feedforward Neural Networks [64.23331120621118]
  我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。 INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。 提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
  論文  参考訳（メタデータ） (2022-04-01T03:31:27Z)
• A Biased Graph Neural Network Sampler with Near-Optimal Regret [57.70126763759996]
  グラフニューラルネットワーク(GNN)は、グラフおよびリレーショナルデータにディープネットワークアーキテクチャを適用する手段として登場した。 本論文では,既存の作業に基づいて,GNN近傍サンプリングをマルチアームバンディット問題として扱う。 そこで本研究では,分散を低減し,不安定かつ非限定的な支払いを回避すべく設計されたバイアスをある程度導入した報酬関数を提案する。
  論文  参考訳（メタデータ） (2021-03-01T15:55:58Z)
• Non-Singular Adversarial Robustness of Neural Networks [58.731070632586594]
  小さな入力摂動に対する過敏性のため、アドリヤルロバスト性はニューラルネットワークにとって新たな課題となっている。 我々は,データ入力とモデル重みの共振レンズを用いて,ニューラルネットワークの非特異な対角性の概念を定式化する。
  論文  参考訳（メタデータ） (2021-02-23T20:59:30Z)
• An Integrated Approach to Produce Robust Models with High Efficiency [9.476463361600828]
  量子化と構造単純化はモバイルデバイスにディープニューラルネットワーク(DNN)を適用するための有望な方法である。 本研究では, 収束緩和量子化アルゴリズムであるBinary-Relax (BR) を, 頑健な逆学習モデルResNets Ensembleに適用することにより, 両特徴の獲得を試みる。 我々は、DNNが自然の精度を維持し、チャネルの間隔を改善するのに役立つトレードオフ損失関数を設計する。
  論文  参考訳（メタデータ） (2020-08-31T00:44:59Z)
• GraN: An Efficient Gradient-Norm Based Detector for Adversarial and Misclassified Examples [77.99182201815763]
  ディープニューラルネットワーク(DNN)は、敵対的な例やその他のデータ摂動に対して脆弱である。 GraNは、どのDNNにも容易に適応できる時間およびパラメータ効率の手法である。 GraNは多くの問題セットで最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2020-04-20T10:09:27Z)
• Adversarial Attack on Deep Product Quantization Network for Image Retrieval [74.85736968193879]
  近年,高速画像検索においてDPQN (Deep Product Quantization Network) が注目されている。 近年の研究では、ディープニューラルネットワーク(DNN)は、小さく、悪意のある設計の摂動によって入力に弱いことが示されている。 本稿では,製品量子化に基づく検索システムに対して,製品量子化逆生成(PQ-AG)を提案する。
  論文  参考訳（メタデータ） (2020-02-26T09:25:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。