論文の概要: Biologically Inspired Mechanisms for Adversarial Robustness

• arxiv url: http://arxiv.org/abs/2006.16427v1
• Date: Mon, 29 Jun 2020 23:07:34 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-15 13:17:40.061495
• Title: Biologically Inspired Mechanisms for Adversarial Robustness
• Title（参考訳）: 生物学的に誘発される対人ロバスト性機構
• Authors: Manish V. Reddy, Andrzej Banburski, Nishka Pant, Tomaso Poggio
• Abstract要約: 畳み込みニューラルネットワークは、合理的な計算と性能のコストで敵の摂動に強く耐えられていない。 本研究は,2つの生物学的に妥当なメカニズムが対向的堅牢性に果たす役割について検討する。
• 参考スコア（独自算出の注目度）: 10.814638303152527
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A convolutional neural network strongly robust to adversarial perturbations at reasonable computational and performance cost has not yet been demonstrated. The primate visual ventral stream seems to be robust to small perturbations in visual stimuli but the underlying mechanisms that give rise to this robust perception are not understood. In this work, we investigate the role of two biologically plausible mechanisms in adversarial robustness. We demonstrate that the non-uniform sampling performed by the primate retina and the presence of multiple receptive fields with a range of receptive field sizes at each eccentricity improve the robustness of neural networks to small adversarial perturbations. We verify that these two mechanisms do not suffer from gradient obfuscation and study their contribution to adversarial robustness through ablation studies.
• Abstract（参考訳）: 畳み込みニューラルネットワークは、合理的な計算と性能のコストで敵の摂動に強く耐えられていない。 霊長類の視覚腹側流は、視覚刺激の小さな摂動に対して頑健であるように見えるが、この頑健な知覚を引き起こすメカニズムは理解されていない。 本研究は,2つの生物学的に妥当なメカニズムが敵の強靭性に果たす役割について考察する。 霊長類網膜による非一様サンプリングと、各偏心度における受容野の大きさの異なる複数の受容野の存在は、ニューラルネットワークの頑健さを小さな対向摂動に改善させることを示した。 これら2つのメカニズムが勾配難読化に苦しめられていないことを確認し、アブレーション研究を通じて敵の頑健性への寄与を研究する。

関連論文リスト

• On Inherent Adversarial Robustness of Active Vision Systems [7.803487547944363]
  GFNetとFALconの2つのアクティブビジョン手法は、最先端の敵攻撃下での標準的な受動畳み込みネットワークに比べて(2-3)強靭性を実現していることを示す。 さらに重要なことは、異なる固定点からの推論を行うと、アクティブな視覚メソッドが悪意のある入力に対して脆弱になることを示す、図解的で解釈可能な可視化分析を提供することである。
  論文  参考訳（メタデータ） (2024-03-29T22:51:45Z)
• Quantum-Inspired Analysis of Neural Network Vulnerabilities: The Role of Conjugate Variables in System Attacks [54.565579874913816]
  ニューラルネットワークは、敵の攻撃として現れる小さな非ランダムな摂動に固有の脆弱性を示す。 この機構と量子物理学の不確実性原理の間に数学的に一致し、予想外の学際性に光を当てる。
  論文  参考訳（メタデータ） (2024-02-16T02:11:27Z)
• Exploring mechanisms of Neural Robustness: probing the bridge between geometry and spectrum [0.0]
  本研究では, 重み, ジャコビアン, スペクトル正規化による表現の滑らかさとスペクトルの関係について検討した。 本研究の目的は, 神経表現における幾何学的特徴, スペクトル特性, 頑健性, 表現性の間の相互作用を理解することである。
  論文  参考訳（メタデータ） (2024-02-05T12:06:00Z)
• Towards Robust Semantic Segmentation against Patch-based Attack via Attention Refinement [68.31147013783387]
  我々は,アテンション機構がパッチベースの敵攻撃に弱いことを観察した。 本稿では,意味的セグメンテーションモデルの堅牢性を改善するために,ロバスト注意機構(RAM)を提案する。
  論文  参考訳（メタデータ） (2024-01-03T13:58:35Z)
• Investigating Human-Identifiable Features Hidden in Adversarial Perturbations [54.39726653562144]
  我々の研究では、最大5つの攻撃アルゴリズムを3つのデータセットにわたって探索する。 対人摂動における人間の識別可能な特徴を同定する。 画素レベルのアノテーションを用いて、そのような特徴を抽出し、ターゲットモデルに妥協する能力を実証する。
  論文  参考訳（メタデータ） (2023-09-28T22:31:29Z)
• Neural Population Geometry Reveals the Role of Stochasticity in Robust Perception [16.60105791126744]
  本稿では,視覚神経ネットワークの内部表現に逆方向の摂動がどのような影響を及ぼすかを検討する。 ネットワークの種類ごとに異なる幾何学的シグネチャを見つけ,ロバスト表現を実現するための異なるメカニズムを明らかにする。 我々の結果は、堅牢な知覚ネットワークの戦略に光を当て、幾何学性が機械や生物学的計算にどのように役立つかを説明するのに役立ちました。
  論文  参考訳（メタデータ） (2021-11-12T22:59:45Z)
• Residual Error: a New Performance Measure for Adversarial Robustness [85.0371352689919]
  ディープラーニングの広く普及を制限する大きな課題は、敵の攻撃に対する脆弱さである。 本研究は,ディープニューラルネットワークの対角強靭性を評価するための新しい性能尺度である残留誤差の概念を提示する。 画像分類を用いた実験結果から,提案手法の有効性と有効性を示した。
  論文  参考訳（メタデータ） (2021-06-18T16:34:23Z)
• Evaluating adversarial robustness in simulated cerebellum [44.17544361412302]
  シミュレーション小脳における対角的強靭性について検討する。 我々の知る限りでは、シミュレートされた小脳モデルにおける対角的堅牢性を調べる最初の試みである。
  論文  参考訳（メタデータ） (2020-12-05T08:26:41Z)
• Towards Understanding the Dynamics of the First-Order Adversaries [40.54670072901657]
  ニューラルネットワークの弱点として認識されているのは、入力に対する敵の摂動に対する脆弱性である。 最も一般的な防御機構の1つは、投射された上昇を使って入力の制約された摂動による損失を最大化し、重量を最小化することである。 二次的損失を有する2層ニューラルネットワークの逆方向の非凹面環境について検討する。
  論文  参考訳（メタデータ） (2020-10-20T22:20:53Z)
• Towards Understanding the Adversarial Vulnerability of Skeleton-based Action Recognition [133.35968094967626]
  骨格に基づく行動認識は、動的状況への強い適応性から注目を集めている。 ディープラーニング技術の助けを借りて、かなり進歩し、現在、良識のある環境で約90%の精度を達成している。 異なる対角的環境下での骨格に基づく行動認識の脆弱性に関する研究はいまだ研究されていない。
  論文  参考訳（メタデータ） (2020-05-14T17:12:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。