論文の概要: Properties that allow or prohibit transferability of adversarial attacks among quantized networks

• arxiv url: http://arxiv.org/abs/2405.09598v1
• Date: Wed, 15 May 2024 14:06:28 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-17 16:09:33.692226
• Title: Properties that allow or prohibit transferability of adversarial attacks among quantized networks
• Title（参考訳）: 量子化されたネットワーク間の敵攻撃の伝達性を許容または禁止する特性
• Authors: Abhishek Shrestha, Jürgen Großmann,
• Abstract要約: 組込みデバイスにおける深層学習の傾向が高まるにつれて、敵の例の伝達可能性特性の研究が重要となる。 我々は、量子化をネットワーク圧縮技術とみなし、転送ベース攻撃の性能を評価する。 量子化は転送可能性を減らすが、特定の攻撃型はそれを強化する能力を示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Deep Neural Networks (DNNs) are known to be vulnerable to adversarial examples. Further, these adversarial examples are found to be transferable from the source network in which they are crafted to a black-box target network. As the trend of using deep learning on embedded devices grows, it becomes relevant to study the transferability properties of adversarial examples among compressed networks. In this paper, we consider quantization as a network compression technique and evaluate the performance of transfer-based attacks when the source and target networks are quantized at different bitwidths. We explore how algorithm specific properties affect transferability by considering various adversarial example generation algorithms. Furthermore, we examine transferability in a more realistic scenario where the source and target networks may differ in bitwidth and other model-related properties like capacity and architecture. We find that although quantization reduces transferability, certain attack types demonstrate an ability to enhance it. Additionally, the average transferability of adversarial examples among quantized versions of a network can be used to estimate the transferability to quantized target networks with varying capacity and architecture.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、敵の例に弱いことが知られている。 さらに、これらの逆転例は、ブラックボックスターゲットネットワークに製作されるソースネットワークから転送可能であることが判明した。 組込みデバイスにおけるディープラーニングの利用傾向が高まるにつれて、圧縮されたネットワーク間の対向的な例の伝達可能性特性の研究が重要となる。 本稿では、量子化をネットワーク圧縮技術として考慮し、異なるビット幅でソースとターゲットネットワークを量子化する場合の転送ベースの攻撃性能を評価する。 種々の逆例生成アルゴリズムを用いて,アルゴリズム固有の特性が伝達可能性にどのように影響するかを考察する。 さらに、ビット幅と他のモデル関連特性(キャパシティやアーキテクチャなど)でソースとターゲットネットワークが異なる場合の、より現実的なシナリオにおける転送可能性について検討する。 量子化は転送可能性を減らすが、特定の攻撃型はそれを強化する能力を示す。 さらに、ネットワークの量子化バージョン間の敵例の平均転送可能性を利用して、キャパシティとアーキテクチャの異なる量子化対象ネットワークへの転送可能性を推定することができる。

関連論文リスト

• A Survey on Transferability of Adversarial Examples across Deep Neural Networks [53.04734042366312]
  逆の例では、機械学習モデルを操作して誤った予測を行うことができます。 敵の例の転送可能性により、ターゲットモデルの詳細な知識を回避できるブラックボックス攻撃が可能となる。 本研究は, 対角移動可能性の展望を考察した。
  論文  参考訳（メタデータ） (2023-10-26T17:45:26Z)
• Common Knowledge Learning for Generating Transferable Adversarial Examples [60.1287733223249]
  本稿では,代用(ソース)モデルにより敵のサンプルを生成するブラックボックス攻撃の重要タイプに着目した。 既存の手法では、ソースモデルとターゲットモデルが異なるタイプのDNNアーキテクチャのものである場合、不満足な逆転が生じる傾向にある。 本稿では,より優れたネットワーク重みを学習し,敵対的な例を生成するための共通知識学習(CKL)フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-07-01T09:07:12Z)
• Certified Invertibility in Neural Networks via Mixed-Integer Programming [16.64960701212292]
  ニューラルネットワークは敵の攻撃に弱いことが知られている。 ネットワークの決定に影響を与えない大きな、意味のある摂動が存在するかもしれない。 ニューラルネットワーク間の変換における可逆性検証に,我々の知見がどのように役立つかについて議論する。
  論文  参考訳（メタデータ） (2023-01-27T15:40:38Z)
• Adversarial Attack via Dual-Stage Network Erosion [7.28871533402894]
  ディープニューラルネットワークは敵の例に弱いため、微妙な摂動を加えることでディープモデルを騙すことができる。 本稿では, 既存モデルに2段階の特徴レベル摂動を適用し, 多様なモデルの集合を暗黙的に生成する手法を提案する。 我々は、非残留ネットワークと残留ネットワークの両方で包括的な実験を行い、最先端の計算手法と同様の計算コストで、より伝達可能な逆の例を得る。
  論文  参考訳（メタデータ） (2022-01-01T02:38:09Z)
• Entanglement Rate Optimization in Heterogeneous Quantum Communication Networks [79.8886946157912]
  量子通信ネットワークは、将来6G以降の通信ネットワークにおいて重要な構成要素となる可能性のある、有望な技術として登場しつつある。 近年の進歩は、実際の量子ハードウェアによる小規模および大規模量子通信ネットワークの展開に繋がった。 量子ネットワークにおいて、絡み合いは異なるノード間でのデータ転送を可能にする鍵となるリソースである。
  論文  参考訳（メタデータ） (2021-05-30T11:34:23Z)
• A Probabilistic Approach to Neural Network Pruning [20.001091112545065]
  FCNとCNNの2つのプルーニング技術(ランダムおよび等級ベース)の性能について理論的に検討する。 その結果、対象ネットワークから指定された任意の境界内に、表現力を持つプルーンドネットワークが存在することが判明した。
  論文  参考訳（メタデータ） (2021-05-20T23:19:43Z)
• Attribution Preservation in Network Compression for Reliable Network Interpretation [81.84564694303397]
  安全に敏感なアプリケーションに埋め込まれたニューラルネットワークは、エッジ計算のサイズを減らすために、後向きの分析とネットワーク圧縮に入力属性に依存する。 ネットワーク圧縮が生成した属性を変形させるため,これらの非関係な手法が相互に競合することを示す。 この現象は、従来のネットワーク圧縮手法が、属性の品質を無視しながら、ネットワークの予測のみを保存するという事実から生じる。
  論文  参考訳（メタデータ） (2020-10-28T16:02:31Z)
• TREND: Transferability based Robust ENsemble Design [6.663641564969944]
  本稿では, ネットワークアーキテクチャ, 入力, 重量, アクティベーションの量子化が, 対向サンプルの転送性に及ぼす影響について検討する。 本研究では,ソースとターゲット間の入力量子化によってトランスファービリティが著しく阻害されていることを示す。 我々は、これに対抗するために、新しい最先端のアンサンブル攻撃を提案する。
  論文  参考訳（メタデータ） (2020-08-04T13:38:14Z)
• On Robustness and Transferability of Convolutional Neural Networks [147.71743081671508]
  現代の深層畳み込みネットワーク(CNN)は、分散シフトの下で一般化しないとしてしばしば批判される。 現代画像分類CNNにおける分布外と転送性能の相互作用を初めて検討した。 トレーニングセットとモデルサイズを増大させることで、分散シフトロバスト性が著しく向上することがわかった。
  論文  参考訳（メタデータ） (2020-07-16T18:39:04Z)
• Transferable Perturbations of Deep Feature Distributions [102.94094966908916]
  本研究は,クラスワイドおよび層ワイドな特徴分布のモデリングと利用に基づく新たな敵攻撃を提案する。 我々は、未定義の画像ネットモデルに対して、最先端のブラックボックス転送に基づく攻撃結果を得る。
  論文  参考訳（メタデータ） (2020-04-27T00:32:25Z)
• Improved Gradient based Adversarial Attacks for Quantized Networks [15.686134908061995]
  量子化されたネットワークは、勾配が消える問題に悩まされ、頑健さの偽の感覚を示す。 トレーニングネットワークにおける信号伝搬の低下に起因する勾配の低減により,この問題を緩和するための簡単な温度スケーリング手法を導入する。
  論文  参考訳（メタデータ） (2020-03-30T14:34:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。