Fugu-MT 論文翻訳(概要): Detecting Adversarial Examples

論文の概要: Detecting Adversarial Examples

arxiv url: http://arxiv.org/abs/2410.17442v1
Date: Tue, 22 Oct 2024 21:42:59 GMT
ステータス: 翻訳完了
システム内更新日: 2024-10-24 13:56:12.863364
Title: Detecting Adversarial Examples
Title（参考訳）: 逆転例の検出
Authors: Furkan Mumcu, Yasin Yilmaz,
Abstract要約: 本稿では,Deep Neural Networks の層出力を解析して,敵のサンプルを検出する手法を提案する。提案手法はDNNアーキテクチャと互換性が高く,画像,ビデオ,オーディオなど,さまざまな領域にまたがって適用可能である。
参考スコア（独自算出の注目度）: 24.585379549997743
License:
Abstract: Deep Neural Networks (DNNs) have been shown to be vulnerable to adversarial examples. While numerous successful adversarial attacks have been proposed, defenses against these attacks remain relatively understudied. Existing defense approaches either focus on negating the effects of perturbations caused by the attacks to restore the DNNs' original predictions or use a secondary model to detect adversarial examples. However, these methods often become ineffective due to the continuous advancements in attack techniques. We propose a novel universal and lightweight method to detect adversarial examples by analyzing the layer outputs of DNNs. Through theoretical justification and extensive experiments, we demonstrate that our detection method is highly effective, compatible with any DNN architecture, and applicable across different domains, such as image, video, and audio.
Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、敵の例に弱いことが示されている。多くの敵の攻撃が提案されているが、これらの攻撃に対する防衛は比較的検討されていない。既存の防衛アプローチは、DNNの当初の予測を復元するために攻撃によって引き起こされた摂動の影響を否定することに集中するか、あるいは敵の例を検出するために二次モデルを使用する。しかし、攻撃手法の継続的な進歩により、これらの手法は効果が低いことが多い。そこで本研究では,DNNの層出力を解析して,敵のサンプルを検出する,新しい普遍的で軽量な手法を提案する。理論的正当化と広範な実験により、我々の検出手法は、DNNアーキテクチャと互換性があり、画像、ビデオ、オーディオなどの異なる領域にまたがって適用可能であることを示す。

関連論文リスト

Robust Overfitting Does Matter: Test-Time Adversarial Purification With FGSM [5.592360872268223]
防衛戦略は通常、特定の敵攻撃法のためにディープニューラルネットワーク(DNN)を訓練し、この種の敵攻撃に対する防御において優れた堅牢性を達成することができる。しかしながら、不慣れな攻撃モダリティに関する評価を受けると、実証的な証拠はDNNの堅牢性の顕著な劣化を示す。ほとんどの防衛方法は、DNNの敵の堅牢性を改善するために、クリーンな例の精度を犠牲にすることが多い。
論文参考訳（メタデータ） (2024-03-18T03:54:01Z)
AFLOW: Developing Adversarial Examples under Extremely Noise-limited Settings [7.828994881163805]
ディープニューラルネットワーク(DNN)は、敵の攻撃に対して脆弱である。本稿では,AFLOW と呼ばれる新しい正規化フローベースのエンドツーエンドアタックフレームワークを提案する。既存の手法と比較すると、AFLOWは認識不能性、画質、攻撃能力に優れていた。
論文参考訳（メタデータ） (2023-10-15T10:54:07Z)
Adversarial Examples Detection with Enhanced Image Difference Features based on Local Histogram Equalization [20.132066800052712]
本稿では,高頻度情報強調戦略に基づく逆例検出フレームワークを提案する。このフレームワークは、敵の例と通常の例との特徴的差異を効果的に抽出し、増幅することができる。
論文参考訳（メタデータ） (2023-05-08T03:14:01Z)
Adversarial Example Defense via Perturbation Grading Strategy [17.36107815256163]
ディープニューラルネットワークは多くの分野で広く使われている。敵の例は小さな摂動を持ち、DNNの正しい判断を非常に誤解させる。研究者はDNNを保護するための様々な防御方法を提案している。本稿では,入力例の摂動を段階的に評価することにより,異なる強度の対角的摂動に対して異なる防御戦略を割り当てる。
論文参考訳（メタデータ） (2022-12-16T08:35:21Z)
Latent Boundary-guided Adversarial Training [61.43040235982727]
モデルトレーニングに敵の例を注入する最も効果的な戦略は、敵のトレーニングであることが証明されている。本稿では, LAtent bounDary-guided aDvErsarial tRaining という新たな逆トレーニングフレームワークを提案する。
論文参考訳（メタデータ） (2022-06-08T07:40:55Z)
ADC: Adversarial attacks against object Detection that evade Context consistency checks [55.8459119462263]
文脈整合性チェックさえも、適切に構築された敵の例に対して脆弱であることを示す。このような防御を覆す実例を生成するための適応型フレームワークを提案する。我々の結果は、コンテキストを堅牢にモデル化し、一貫性をチェックする方法はまだ未解決の問題であることを示している。
論文参考訳（メタデータ） (2021-10-24T00:25:09Z)
TREATED:Towards Universal Defense against Textual Adversarial Attacks [28.454310179377302]
本稿では,様々な摂動レベルの攻撃に対して,仮定なしに防御できる汎用的対向検出手法であるTREATEDを提案する。 3つの競合するニューラルネットワークと2つの広く使われているデータセットの大規模な実験により、本手法はベースラインよりも優れた検出性能が得られることが示された。
論文参考訳（メタデータ） (2021-09-13T03:31:20Z)
Searching for an Effective Defender: Benchmarking Defense against Adversarial Word Substitution [83.84968082791444]
ディープニューラルネットワークは、意図的に構築された敵の例に対して脆弱である。ニューラルNLPモデルに対する敵対的単語置換攻撃を防御する様々な方法が提案されている。
論文参考訳（メタデータ） (2021-08-29T08:11:36Z)
Towards Defending against Adversarial Examples via Attack-Invariant Features [147.85346057241605]
ディープニューラルネットワーク(DNN)は敵の雑音に弱い。敵の強靭性は、敵の例を利用して改善することができる。目に見えない種類の敵の例に基づいて訓練されたモデルは、一般的に、目に見えない種類の敵の例にうまく一般化できない。
論文参考訳（メタデータ） (2021-06-09T12:49:54Z)
Adversarial Examples Detection beyond Image Space [88.7651422751216]
摂動と予測信頼の間にはコンプライアンスが存在することが分かり、予測信頼の面から少数の摂動攻撃を検出するための指針となる。本研究では,画像ストリームが画素アーティファクトに注目し,勾配ストリームが信頼度アーティファクトに対応する2ストリームアーキテクチャによる画像空間を超えた手法を提案する。
論文参考訳（メタデータ） (2021-02-23T09:55:03Z)
A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。本稿では,入力空間における自己教師型対向学習機構を提案する。これは、反逆攻撃に対する強力な堅牢性を提供する。
論文参考訳（メタデータ） (2020-06-08T20:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。