Fugu-MT 論文翻訳(概要): Relationship between Uncertainty in DNNs and Adversarial Attacks

論文の概要: Relationship between Uncertainty in DNNs and Adversarial Attacks

arxiv url: http://arxiv.org/abs/2409.13232v1
Date: Fri, 20 Sep 2024 05:38:38 GMT
ステータス: 処理完了
システム内更新日: 2024-11-07 11:18:04.204795
Title: Relationship between Uncertainty in DNNs and Adversarial Attacks
Title（参考訳）: DNNの不確かさと敵攻撃との関係
Authors: Abigail Adeniran, Adewale Adeyemo,
Abstract要約: ディープニューラルネットワーク(DNN)は、アート結果の状態を達成し、多くの課題において人間の精度よりも優れています。 DNNは結果の不確実性を伴い、あるレベルの信頼の域外にある結果を予測する。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Deep Neural Networks (DNNs) have achieved state of the art results and even outperformed human accuracy in many challenging tasks, leading to DNNs adoption in a variety of fields including natural language processing, pattern recognition, prediction, and control optimization. However, DNNs are accompanied by uncertainty about their results, causing them to predict an outcome that is either incorrect or outside of a certain level of confidence. These uncertainties stem from model or data constraints, which could be exacerbated by adversarial attacks. Adversarial attacks aim to provide perturbed input to DNNs, causing the DNN to make incorrect predictions or increase model uncertainty. In this review, we explore the relationship between DNN uncertainty and adversarial attacks, emphasizing how adversarial attacks might raise DNN uncertainty.
Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、最先端の結果を達成し、多くの課題において人間の精度よりも優れており、自然言語処理、パターン認識、予測、制御最適化など、さまざまな分野に採用されている。しかし、DNNは結果の不確実性を伴うため、あるレベルの信頼の域外にある結果を予測する。これらの不確実性は、敵の攻撃によって悪化する可能性があるモデルまたはデータ制約に起因している。敵攻撃は、DNNに摂動入力を提供することを目的としており、DNNは誤った予測をしたり、モデルの不確実性を増大させる。本稿では,DNNの不確実性と敵攻撃との関係を考察し,敵攻撃がDNNの不確実性をいかに引き起こすかを強調した。

関連論文リスト

Resilience and Security of Deep Neural Networks Against Intentional and Unintentional Perturbations: Survey and Research Challenges [17.246403634915087]
高度なシナリオでは、ディープニューラルネットワーク(DNN)が外部の摂動に対して堅牢な推論を提供することが必須である。このギャップを埋めるために,技術の現状を調査し,提案手法の類似点を強調する。
論文参考訳（メタデータ） (2024-07-31T23:20:46Z)
Enhancing Adversarial Robustness in SNNs with Sparse Gradients [46.15229142258264]
スパイキングニューラルネットワーク(SNN)は、そのエネルギー効率の高い操作と生物学的にインスパイアされた構造に対して大きな注目を集めている。既存の技術は、ANNから適応したものであれ、SNNのために特別に設計されたものであれ、SNNの訓練や強力な攻撃に対する防御に制限がある。本稿では,SNNの頑健性を高めるための新しい手法を提案する。
論文参考訳（メタデータ） (2024-05-30T05:39:27Z)
Uncertainty in Graph Neural Networks: A Survey [50.63474656037679]
グラフニューラルネットワーク(GNN)は、様々な現実世界のアプリケーションで広く使われている。しかし、多様な情報源から生じるGNNの予測的不確実性は、不安定で誤った予測につながる可能性がある。本調査は,不確実性の観点からGNNの概要を概観することを目的としている。
論文参考訳（メタデータ） (2024-03-11T21:54:52Z)
Not So Robust After All: Evaluating the Robustness of Deep Neural Networks to Unseen Adversarial Attacks [5.024667090792856]
ディープニューラルネットワーク(DNN)は、分類、認識、予測など、さまざまなアプリケーションで注目を集めている。従来のDNNの基本的属性は、入力データの修正に対する脆弱性である。本研究の目的は、敵攻撃に対する現代の防御機構の有効性と一般化に挑戦することである。
論文参考訳（メタデータ） (2023-08-12T05:21:34Z)
Adversarial alignment: Breaking the trade-off between the strength of an attack and its relevance to human perception [10.883174135300418]
敵対的な攻撃は長年、深層学習の「アキレスのヒール」と見なされてきた。本稿では、ImageNetにおけるDNNの敵攻撃に対する堅牢性がどのように発展し、精度が向上し続けているかを検討する。
論文参考訳（メタデータ） (2023-06-05T20:26:17Z)
On the Relationship Between Adversarial Robustness and Decision Region in Deep Neural Network [26.656444835709905]
敵攻撃時のモデルロバスト性に影響を与えるディープニューラルネットワーク(DNN)の内部特性について検討する。本稿では,より頻度の高いトレーニングサンプルを配置するPRS(Populated Region Set)の概念を提案する。
論文参考訳（メタデータ） (2022-07-07T16:06:34Z)
Latent Boundary-guided Adversarial Training [61.43040235982727]
モデルトレーニングに敵の例を注入する最も効果的な戦略は、敵のトレーニングであることが証明されている。本稿では, LAtent bounDary-guided aDvErsarial tRaining という新たな逆トレーニングフレームワークを提案する。
論文参考訳（メタデータ） (2022-06-08T07:40:55Z)
A Mask-Based Adversarial Defense Scheme [3.759725391906588]
敵対的攻撃はディープニューラルネットワーク(DNN)の機能と精度を妨げる敵攻撃による負の効果を軽減するため,DNNのためのMask-based Adversarial Defense scheme (MAD)を提案する。
論文参考訳（メタデータ） (2022-04-21T12:55:27Z)
A Comprehensive Survey on Trustworthy Graph Neural Networks: Privacy, Robustness, Fairness, and Explainability [59.80140875337769]
グラフニューラルネットワーク(GNN)は近年,急速な発展を遂げている。 GNNは個人情報をリークしたり、敵対的攻撃に弱いり、トレーニングデータから社会的バイアスを継承したり、拡大したりすることができる。本稿では、プライバシー、堅牢性、公正性、説明可能性の計算面におけるGNNの包括的調査を行う。
論文参考訳（メタデータ） (2022-04-18T21:41:07Z)
Robustness of Bayesian Neural Networks to White-Box Adversarial Attacks [55.531896312724555]
ベイジアンネットワーク(BNN)は、ランダム性を組み込むことで、敵の攻撃を扱うのに頑丈で適している。我々はベイズ的推論(つまり変分ベイズ)をDenseNetアーキテクチャに融合させることで、BNN-DenseNetと呼ばれるBNNモデルを作成する。逆向きに訓練されたBNNは、ほとんどの実験で非ベイズ的で逆向きに訓練されたBNNよりも優れています。
論文参考訳（メタデータ） (2021-11-16T16:14:44Z)
Frequentist Uncertainty in Recurrent Neural Networks via Blockwise Influence Functions [121.10450359856242]
リカレントニューラルネットワーク(RNN)は、シーケンシャルおよび時系列データのモデリングに有効である。 RNNにおける既存の不確実性定量化のアプローチは、主にベイズ法に基づいている。 a)モデルトレーニングに干渉せず、その精度を損なうことなく、(b)任意のRNNアーキテクチャに適用し、(c)推定不確かさ間隔に関する理論的カバレッジ保証を提供する。
論文参考訳（メタデータ） (2020-06-20T22:45:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。