論文の概要: The Inherent Adversarial Robustness of Analog In-Memory Computing

• arxiv url: http://arxiv.org/abs/2411.07023v1
• Date: Mon, 11 Nov 2024 14:29:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-12 14:06:44.822201
• Title: The Inherent Adversarial Robustness of Analog In-Memory Computing
• Title（参考訳）: アナログインメモリコンピューティングの固有対向ロバスト性
• Authors: Corey Lammie, Julian Büchel, Athanasios Vasilopoulos, Manuel Le Gallo, Abu Sebastian,
• Abstract要約: Deep Neural Network(DNN)アルゴリズムの重要な課題は、敵の攻撃に対する脆弱性である。 本稿では,位相変化メモリ(PCM)デバイスを用いたAIMCチップ上での予測を実験的に検証する。 ハードウェア・イン・ザ・ループ攻撃を行う際には、さらなる堅牢性も観察される。
• 参考スコア（独自算出の注目度）: 2.435021773579434
• License:
• Abstract: A key challenge for Deep Neural Network (DNN) algorithms is their vulnerability to adversarial attacks. Inherently non-deterministic compute substrates, such as those based on Analog In-Memory Computing (AIMC), have been speculated to provide significant adversarial robustness when performing DNN inference. In this paper, we experimentally validate this conjecture for the first time on an AIMC chip based on Phase Change Memory (PCM) devices. We demonstrate higher adversarial robustness against different types of adversarial attacks when implementing an image classification network. Additional robustness is also observed when performing hardware-in-the-loop attacks, for which the attacker is assumed to have full access to the hardware. A careful study of the various noise sources indicate that a combination of stochastic noise sources (both recurrent and non-recurrent) are responsible for the adversarial robustness and that their type and magnitude disproportionately effects this property. Finally, it is demonstrated, via simulations, that when a much larger transformer network is used to implement a Natural Language Processing (NLP) task, additional robustness is still observed.
• Abstract（参考訳）: Deep Neural Network(DNN)アルゴリズムの重要な課題は、敵の攻撃に対する脆弱性である。 アナログ・インメモリ・コンピューティング(AIMC)のような非決定論的計算基板は、DNN推論の実行時にかなりの逆の堅牢性をもたらすと推測されている。 本稿では,位相変化メモリ(PCM)デバイスを用いたAIMCチップにおいて,この予測を初めて実験的に検証する。 画像分類網を実装する際に, 異なる種類の攻撃に対して高い対角性を示す。 また、ハードウェア・イン・ザ・ループ攻撃を行う際には、攻撃者がハードウェアに完全にアクセスできると仮定される、さらなる堅牢性も観察される。 様々なノイズ源の慎重な研究は、確率的ノイズ源(繰り返しと非繰り返しの両方)の組み合わせが対向的ロバスト性に寄与し、それらのタイプと大きさがこの特性に不均等に影響を及ぼすことを示している。 最後に、シミュレーションにより、さらに大きなトランスフォーマーネットワークを使用して自然言語処理(NLP)タスクを実装する場合、さらなるロバスト性が観察されることが示されている。

関連論文リスト

• A Geometrical Approach to Evaluate the Adversarial Robustness of Deep Neural Networks [52.09243852066406]
  対向収束時間スコア(ACTS)は、対向ロバストネス指標として収束時間を測定する。 我々は,大規模画像Netデータセットに対する異なる敵攻撃に対して,提案したACTSメトリックの有効性と一般化を検証する。
  論文  参考訳（メタデータ） (2023-10-10T09:39:38Z)
• From Environmental Sound Representation to Robustness of 2D CNN Models Against Adversarial Attacks [82.21746840893658]
  本稿では, 各種環境音響表現(スペクトログラム)が, 被害者残差畳み込みニューラルネットワークの認識性能と対角攻撃性に与える影響について検討する。 DWTスペクトログラムでトレーニングしたResNet-18モデルでは高い認識精度が得られたが、このモデルに対する攻撃は敵にとって比較的コストがかかる。
  論文  参考訳（メタデータ） (2022-04-14T15:14:08Z)
• On the Noise Stability and Robustness of Adversarially Trained Networks on NVM Crossbars [6.506883928959601]
  我々は,NVMクロスバー型アナログハードウェアの対角的トレーニングと本質的ロバスト性を融合して,ロバストなディープニューラルネットワーク(DNN)の設計について検討する。 この結果から, ハードウェアの非理想性と, 最適ロバスト性と性能のために$epsilon_train$を慎重に校正する必要があることが示唆された。
  論文  参考訳（メタデータ） (2021-09-19T04:59:39Z)
• Policy Smoothing for Provably Robust Reinforcement Learning [109.90239627115336]
  入力のノルム有界対向摂動に対する強化学習の証明可能な堅牢性について検討する。 我々は、スムーズなポリシーによって得られる全報酬が、入力の摂動のノルムバウンドな逆数の下で一定の閾値以下に収まらないことを保証した証明書を生成する。
  論文  参考訳（メタデータ） (2021-06-21T21:42:08Z)
• Evaluating the Robustness of Bayesian Neural Networks Against Different Types of Attacks [2.599882743586164]
  ベイズニューラルネットワークは, 決定論的ニューラルネットワークモデルに対して発生する敵攻撃に対して, はるかに高い堅牢性を達成することを示す。 後肢は、現在進行中の悪意ある活動の安全前駆体として機能する。 これは、安全クリティカルなドメイン内の意思決定パイプライン構築におけるレイヤの利用を推奨する。
  論文  参考訳（メタデータ） (2021-06-17T03:18:59Z)
• Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
  CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。 任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。 本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
  論文  参考訳（メタデータ） (2021-05-31T17:01:05Z)
• Non-Singular Adversarial Robustness of Neural Networks [58.731070632586594]
  小さな入力摂動に対する過敏性のため、アドリヤルロバスト性はニューラルネットワークにとって新たな課題となっている。 我々は,データ入力とモデル重みの共振レンズを用いて,ニューラルネットワークの非特異な対角性の概念を定式化する。
  論文  参考訳（メタデータ） (2021-02-23T20:59:30Z)
• Noise Sensitivity-Based Energy Efficient and Robust Adversary Detection in Neural Networks [3.125321230840342]
  逆の例は、愚かな分類器ネットワークに注意深く浸透した入力であり、一方で人間には変化がない。 本稿では,深層ニューラルネットワーク(DNN)を検出器サブネットワークで拡張する構造化手法を提案する。 本手法は,実例に対する最先端検出器のロバスト性が向上することを示す。
  論文  参考訳（メタデータ） (2021-01-05T14:31:53Z)
• Defence against adversarial attacks using classical and quantum-enhanced Boltzmann machines [64.62510681492994]
  生成モデルはデータセットの基盤となる分布を学習し、それらは本質的に小さな摂動に対してより堅牢である。 MNISTデータセット上のBoltzmannマシンによる攻撃に対して、5%から72%の改良が見られる。
  論文  参考訳（メタデータ） (2020-12-21T19:00:03Z)
• On the Intrinsic Robustness of NVM Crossbars Against Adversarial Attacks [6.592909460916497]
  アナログコンピューティングの非理想的動作は、敵攻撃の有効性を低下させることを示す。 攻撃者がアナログハードウェアに気づいていない非適応攻撃では、アナログコンピューティングは固有の頑健さの程度が異なることを観察する。
  論文  参考訳（メタデータ） (2020-08-27T09:36:50Z)
• QUANOS- Adversarial Noise Sensitivity Driven Hybrid Quantization of Neural Networks [3.2242513084255036]
  QUINOSは、逆雑音感度(ANS)に基づく層特異的ハイブリッド量子化を行うフレームワークである CIFAR10, CIFAR100データセットを用いた実験により, QUINOSは対向ロバスト性の観点から, 均一に量子化された8ビット精度のベースラインより優れていることが示された。
  論文  参考訳（メタデータ） (2020-04-22T15:56:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。