論文の概要: No Data, No Optimization: A Lightweight Method To Disrupt Neural Networks With Sign-Flips

• arxiv url: http://arxiv.org/abs/2502.07408v1
• Date: Tue, 11 Feb 2025 09:40:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-12 14:10:31.646421
• Title: No Data, No Optimization: A Lightweight Method To Disrupt Neural Networks With Sign-Flips
• Title（参考訳）: データなし、最適化なし:手書きフリップでニューラルネットワークをディスラプトする軽量な方法
• Authors: Ido Galil, Moshe Kimhi, Ran El-Yaniv,
• Abstract要約: Deep Neural Lesion (DNL)は、重要なパラメータを特定し、大規模な精度低下を引き起こす、データフリーで軽量な方法である。 様々なコンピュータビジョンモデルとデータセットで有効性を検証する。
• 参考スコア（独自算出の注目度）: 17.136832159667204
• License:
• Abstract: Deep Neural Networks (DNNs) can be catastrophically disrupted by flipping only a handful of sign bits in their parameters. We introduce Deep Neural Lesion (DNL), a data-free, lightweight method that locates these critical parameters and triggers massive accuracy drops. We validate its efficacy on a wide variety of computer vision models and datasets. The method requires no training data or optimization and can be carried out via common exploits software, firmware or hardware based attack vectors. An enhanced variant that uses a single forward and backward pass further amplifies the damage beyond DNL's zero-pass approach. Flipping just two sign bits in ResNet50 on ImageNet reduces accuracy by 99.8\%. We also show that selectively protecting a small fraction of vulnerable sign bits provides a practical defense against such attacks.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、パラメータのほんの一握りの符号ビットを反転させることによって、破滅的に破壊される可能性がある。 データフリーで軽量な手法であるDeep Neural Lesion (DNL)を導入する。 様々なコンピュータビジョンモデルとデータセットで有効性を検証する。 この方法はトレーニングデータや最適化を必要とせず、共通のエクスプロイトソフトウェア、ファームウェア、ハードウェアベースのアタックベクターを通じて実行できる。 シングルフォワードとバックパスを使用する拡張型は、DNLのゼロパスアプローチを超えたダメージをさらに増幅する。 ImageNet上でResNet50に2ビットだけ書き込むと、精度は99.8\%低下する。 また、少数の脆弱な符号ビットを選択的に保護することは、そのような攻撃に対して実践的な防御を提供することを示す。

関連論文リスト

• Just How Flexible are Neural Networks in Practice? [89.80474583606242]
  ニューラルネットワークは、パラメータを持つ少なくとも多くのサンプルを含むトレーニングセットに適合できると広く信じられている。 しかし実際には、勾配や正規化子など、柔軟性を制限したトレーニング手順によるソリューションしか見つからない。
  論文  参考訳（メタデータ） (2024-06-17T12:24:45Z)
• VQUNet: Vector Quantization U-Net for Defending Adversarial Atacks by Regularizing Unwanted Noise [0.5755004576310334]
  本稿では,新たなノイズ低減手法であるベクトル量子化U-Net(VQUNet)を導入し,対向雑音を低減し,高忠実度でデータを再構成する。 VQUNetは、ノイズ低減とデータ再構成の両方のためのマルチスケール階層構造を通して、離散潜在表現学習を特徴とする。 これは、Fashion-MNISTとCIFAR10データセットの両方に対する様々な敵攻撃の下で、最先端のノイズ低減ベースの防衛手法より優れている。
  論文  参考訳（メタデータ） (2024-06-05T10:10:03Z)
• A Geometrical Approach to Evaluate the Adversarial Robustness of Deep Neural Networks [52.09243852066406]
  対向収束時間スコア(ACTS)は、対向ロバストネス指標として収束時間を測定する。 我々は,大規模画像Netデータセットに対する異なる敵攻撃に対して,提案したACTSメトリックの有効性と一般化を検証する。
  論文  参考訳（メタデータ） (2023-10-10T09:39:38Z)
• NeuralFuse: Learning to Recover the Accuracy of Access-Limited Neural Network Inference in Low-Voltage Regimes [50.00272243518593]
  ディープラーニング(Deep Neural Network, DNN)は、機械学習においてユビキタスになったが、そのエネルギー消費は問題の多いままである。 我々は低電圧状態におけるエネルギー精度のトレードオフを処理する新しいアドオンモジュールであるNeuralFuseを開発した。 1%のビットエラー率で、NeuralFuseはアクセスエネルギーを最大24%削減し、精度を最大57%向上させることができる。
  論文  参考訳（メタデータ） (2023-06-29T11:38:22Z)
• BDFA: A Blind Data Adversarial Bit-flip Attack on Deep Neural Networks [0.05249805590164901]
  Blind Data Adversarial Bit-flip Attack (BDFA)は、トレーニングデータやテストデータにアクセスせずにBFAを有効にする新しいテクニックである。 BDFAはResNet50の精度を75.96%から13.94%に大幅に下げることができた。
  論文  参考訳（メタデータ） (2021-12-07T03:53:38Z)
• RED++ : Data-Free Pruning of Deep Neural Networks via Input Splitting and Output Merging [36.027765880474526]
  Pruning Deep Neural Networks (DNN) は、推論ランタイムアクセラレーションの目標において、顕著な研究分野である。 本稿では,新しいデータフリープルーニングプロトコルRED++を紹介する。 ハッシュによる精度の保存に関する理論的および実証的な保証について検討する。
  論文  参考訳（メタデータ） (2021-09-30T09:31:11Z)
• Targeted Attack against Deep Neural Networks via Flipping Limited Weight Bits [55.740716446995805]
  我々は,悪質な目的で展開段階におけるモデルパラメータを修飾する新しい攻撃パラダイムについて検討する。 私たちのゴールは、特定のサンプルをサンプル修正なしでターゲットクラスに誤分類することです。 整数プログラミングにおける最新の手法を利用することで、このBIP問題を連続最適化問題として等価に再構成する。
  論文  参考訳（メタデータ） (2021-02-21T03:13:27Z)
• Information Obfuscation of Graph Neural Networks [96.8421624921384]
  本稿では,グラフ構造化データを用いた学習において,情報難読化による機密属性保護の問題について検討する。 本稿では,全変動量とワッサーシュタイン距離を交互に学習することで,事前決定された機密属性を局所的にフィルタリングするフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-09-28T17:55:04Z)
• DeepDyve: Dynamic Verification for Deep Neural Networks [16.20238078882485]
  DeepDyveでは、トレーニング済みのニューラルネットワークを使用している。 我々は,DeepDyveにおけるリスク/オーバヘッドトレードオフの最適化を実現するために,効率的かつ効率的なアーキテクチャとタスク探索手法を開発した。
  論文  参考訳（メタデータ） (2020-09-21T07:58:18Z)
• Cooling-Shrinking Attack: Blinding the Tracker with Imperceptible Noises [87.53808756910452]
  The method is proposed to deceive-of-the-the-art SiameseRPN-based tracker。 本手法は転送性に優れ,DaSiamRPN,DaSiamRPN-UpdateNet,DiMPなどの他のトップパフォーマンストラッカーを騙すことができる。
  論文  参考訳（メタデータ） (2020-03-21T07:13:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。