論文の概要: Adversarial Robustness in Deep Learning: Attacks on Fragile Neurons

• arxiv url: http://arxiv.org/abs/2201.12347v1
• Date: Mon, 31 Jan 2022 14:34:07 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-01 18:17:50.141133
• Title: Adversarial Robustness in Deep Learning: Attacks on Fragile Neurons
• Title（参考訳）: 深層学習における対人ロバスト性:軽度ニューロンに対する攻撃
• Authors: Chandresh Pravin, Ivan Martino, Giuseppe Nicosia, Varun Ojha
• Abstract要約: 第1畳み込み層の結節投棄を用いて, 深層学習アーキテクチャの脆弱で頑健なニューロンを同定した。 これらのニューロンは,ネットワーク上の敵攻撃の分布と相関する。
• 参考スコア（独自算出の注目度）: 0.6899744489931016
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We identify fragile and robust neurons of deep learning architectures using nodal dropouts of the first convolutional layer. Using an adversarial targeting algorithm, we correlate these neurons with the distribution of adversarial attacks on the network. Adversarial robustness of neural networks has gained significant attention in recent times and highlights intrinsic weaknesses of deep learning networks against carefully constructed distortion applied to input images. In this paper, we evaluate the robustness of state-of-the-art image classification models trained on the MNIST and CIFAR10 datasets against the fast gradient sign method attack, a simple yet effective method of deceiving neural networks. Our method identifies the specific neurons of a network that are most affected by the adversarial attack being applied. We, therefore, propose to make fragile neurons more robust against these attacks by compressing features within robust neurons and amplifying the fragile neurons proportionally.
• Abstract（参考訳）: 我々は,第1畳み込み層からのnodalドロップアウトを用いて,深層学習アーキテクチャの脆弱でロバストなニューロンを同定する。 敵標的アルゴリズムを用いて、これらのニューロンをネットワーク上の敵攻撃の分布と相関する。 近年,ニューラルネットワークの相対的ロバスト性は注目され,入力画像に適用される慎重に構築された歪みに対して,ディープラーニングネットワークの固有の弱点が強調されている。 本稿では,MNISTおよびCIFAR10データセットでトレーニングされた最先端画像分類モデルの高速勾配符号法攻撃に対する堅牢性を評価する。 本手法は,敵の攻撃に最も影響を受けるネットワークの特定のニューロンを同定する。 そこで本稿では, 強靭性ニューロンの特徴を圧縮し, 脆弱性ニューロンを比例的に増幅することにより, これらの攻撃に対して脆弱性ニューロンをより堅牢にすることを提案する。

関連論文リスト

• Seeking Next Layer Neurons' Attention for Error-Backpropagation-Like Training in a Multi-Agent Network Framework [6.446189857311325]
  本研究は, ニューロンの局所的な目的として, エラーのバックプロパゲーションと類似性を示すことを提案する。 本研究では,局所的な目的を最大化するために,自律神経系と自律神経系を組み合わせたニューラルネットワークについて検討する。 3つのデータセットの実験を通して、これらのマルチエージェントニューラルネットワークの学習能力を実証する。
  論文  参考訳（メタデータ） (2023-10-15T21:07:09Z)
• Investigating Human-Identifiable Features Hidden in Adversarial Perturbations [54.39726653562144]
  我々の研究では、最大5つの攻撃アルゴリズムを3つのデータセットにわたって探索する。 対人摂動における人間の識別可能な特徴を同定する。 画素レベルのアノテーションを用いて、そのような特徴を抽出し、ターゲットモデルに妥協する能力を実証する。
  論文  参考訳（メタデータ） (2023-09-28T22:31:29Z)
• Addressing caveats of neural persistence with deep graph persistence [54.424983583720675]
  神経の持続性に影響を与える主な要因は,ネットワークの重みのばらつきと大きな重みの空間集中である。 単一層ではなく,ニューラルネットワーク全体へのニューラルネットワークの持続性に基づくフィルタリングの拡張を提案する。 これにより、ネットワーク内の永続的なパスを暗黙的に取り込み、分散に関連する問題を緩和するディープグラフの永続性測定が得られます。
  論文  参考訳（メタデータ） (2023-07-20T13:34:11Z)
• Spike timing reshapes robustness against attacks in spiking neural networks [21.983346771962566]
  スパイキングニューラルネットワーク(SNN)は新しいタイプのニューラルネットワークモデルとして登場している。 我々は,SNNにおけるスパイクタイミングの役割を探求し,各種攻撃に対するシステムの堅牢性に着目した。 以上の結果から,SNNにおけるスパイクタイミング符号化の有用性は攻撃に対する堅牢性を向上させる可能性が示唆された。
  論文  参考訳（メタデータ） (2023-06-09T03:48:57Z)
• Visual Analytics of Neuron Vulnerability to Adversarial Attacks on Convolutional Neural Networks [28.081328051535618]
  畳み込みニューラルネットワーク(CNN)に対する敵対的攻撃は、高性能CNNを騙して誤った予測をする可能性がある。 我々の研究は、敵の攻撃を理解するための視覚分析手法を導入している。 視覚分析システムは、敵対的攻撃を解釈するための視覚的推論を組み込むように設計されている。
  論文  参考訳（メタデータ） (2023-03-06T01:01:56Z)
• Spiking neural network for nonlinear regression [68.8204255655161]
  スパイクニューラルネットワークは、メモリとエネルギー消費を大幅に削減する可能性を持っている。 彼らは、次世代のニューロモルフィックハードウェアによって活用できる時間的および神経的疎結合を導入する。 スパイキングニューラルネットワークを用いた回帰フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-10-06T13:04:45Z)
• Searching for the Essence of Adversarial Perturbations [73.96215665913797]
  本稿では,ニューラルネットワークの誤予測の原因となる,人間の認識可能な情報を含む対人摂動について述べる。 この人間の認識可能な情報の概念は、敵の摂動に関連する重要な特徴を説明できる。
  論文  参考訳（メタデータ） (2022-05-30T18:04:57Z)
• Improving Adversarial Transferability via Neuron Attribution-Based Attacks [35.02147088207232]
  本稿では,より正確なニューロン重要度推定を行う機能レベルアタック(NAA)を提案する。 我々は、オーバーヘッドを大幅に減らすために、ニューロンの属性の近似スキームを導出する。 実験により、最先端のベンチマークに対する我々のアプローチの優位性が確認された。
  論文  参考訳（メタデータ） (2022-03-31T13:47:30Z)
• Neural Architecture Dilation for Adversarial Robustness [56.18555072877193]
  畳み込みニューラルネットワークの欠点は、敵の攻撃に弱いことである。 本稿では, 良好な精度を有する背骨CNNの対角的堅牢性を向上させることを目的とする。 最小限の計算オーバーヘッドの下では、拡張アーキテクチャはバックボーンCNNの標準的な性能と親和性が期待できる。
  論文  参考訳（メタデータ） (2021-08-16T03:58:00Z)
• And/or trade-off in artificial neurons: impact on adversarial robustness [91.3755431537592]
  ネットワークに十分な数のOR様ニューロンが存在すると、分類の脆さと敵の攻撃に対する脆弱性が増加する。 そこで我々は,AND様ニューロンを定義し,ネットワーク内での割合を増大させる対策を提案する。 MNISTデータセットによる実験結果から,本手法はさらなる探索の方向として有望であることが示唆された。
  論文  参考訳（メタデータ） (2021-02-15T08:19:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。