Fugu-MT 論文翻訳(概要): Distributional Adversarial Loss

論文の概要: Distributional Adversarial Loss

arxiv url: http://arxiv.org/abs/2406.03458v1
Date: Wed, 5 Jun 2024 17:03:47 GMT
ステータス: 処理完了
システム内更新日: 2024-06-06 17:02:29.847038
Title: Distributional Adversarial Loss
Title（参考訳）: 分布逆損失
Authors: Saba Ahmadi, Siddharth Bhandari, Avrim Blum, Chen Dan, Prabhav Jain,
Abstract要約: 敵の攻撃に対して防衛する上での大きな課題は、単純な敵さえも実行可能な攻撃の巨大な空間である。これにはランダムな平滑化手法が含まれており、敵の影響を除去するために入力にノイズを加える。もう一つのアプローチは入力の離散化であり、敵の可能なアクションの数を制限する。
参考スコア（独自算出の注目度）: 15.258476329309044
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: A major challenge in defending against adversarial attacks is the enormous space of possible attacks that even a simple adversary might perform. To address this, prior work has proposed a variety of defenses that effectively reduce the size of this space. These include randomized smoothing methods that add noise to the input to take away some of the adversary's impact. Another approach is input discretization which limits the adversary's possible number of actions. Motivated by these two approaches, we introduce a new notion of adversarial loss which we call distributional adversarial loss, to unify these two forms of effectively weakening an adversary. In this notion, we assume for each original example, the allowed adversarial perturbation set is a family of distributions (e.g., induced by a smoothing procedure), and the adversarial loss over each example is the maximum loss over all the associated distributions. The goal is to minimize the overall adversarial loss. We show generalization guarantees for our notion of adversarial loss in terms of the VC-dimension of the hypothesis class and the size of the set of allowed adversarial distributions associated with each input. We also investigate the role of randomness in achieving robustness against adversarial attacks in the methods described above. We show a general derandomization technique that preserves the extent of a randomized classifier's robustness against adversarial attacks. We corroborate the procedure experimentally via derandomizing the Random Projection Filters framework of \cite{dong2023adversarial}. Our procedure also improves the robustness of the model against various adversarial attacks.
Abstract（参考訳）: 敵の攻撃に対して防衛する上での大きな課題は、単純な敵さえも実行可能な攻撃の巨大な空間である。これを解決するために、先行研究は、この空間の規模を効果的に縮小する様々な防衛法を提案してきた。これにはランダムな平滑化手法が含まれており、敵の影響を除去するために入力にノイズを加える。もう一つのアプローチは入力の離散化であり、敵の可能なアクションの数を制限する。これら2つのアプローチを動機として、分散対向損失と呼ばれる新たな対向損失の概念を導入し、これらの2つの形態を効果的に弱めることを可能にした。この概念では、各元の例について、許容される逆摂動集合は分布の族(例えば、滑らかな手順によって誘導される)であり、各例に対する逆損失は、関連するすべての分布の最大損失である。目標は、全体的な敵の損失を最小限にすることである。仮説クラスのVC次元と各入力に関連付けられた許容逆分布の集合の大きさから、我々の逆損失の概念の一般化保証を示す。また、上記の手法において、敵攻撃に対する堅牢性を達成する上でのランダム性の役割についても検討する。本稿では,ランダム化分類器の対向攻撃に対する頑健さを抑える一般的なデランドマイズ手法を示す。我々は,Random Projection Filters framework of \cite{dong2023adversarial} をデランドマイズすることによって,実験的な手法の相関付けを行う。また,本手法は,様々な敵攻撃に対するモデルの堅牢性も向上させる。

関連論文リスト

Multi-granular Adversarial Attacks against Black-box Neural Ranking Models [111.58315434849047]
多粒性摂動を取り入れた高品質な逆数例を作成する。我々は,多粒体攻撃を逐次的意思決定プロセスに変換する。本手法は,攻撃の有効性と非受容性の両方において,一般的なベースラインを超えている。
論文参考訳（メタデータ） (2024-04-02T02:08:29Z)
Rethinking Impersonation and Dodging Attacks on Face Recognition Systems [38.37530847215405]
顔認識(FR)システムは、知覚不能な摂動を通じて良質な顔画像を操作する敵の例によって容易に認識できる。従来の方法では、FRに対する偽装攻撃を成功させることが多いが、ブラックボックス設定でFRに対するドッジ攻撃を成功させるとは限らない。そこで本稿では, 対人的能力を維持しつつ, 対人的能力を高めるために, 既存の対人的能力を微調整する, 対人的プルーニング(Adv-Pruning, Adv-Pruning)と呼ばれる新たな攻撃手法を提案する。
論文参考訳（メタデータ） (2024-01-17T01:10:17Z)
Transferability Ranking of Adversarial Examples [20.41013432717447]
本稿では,転送攻撃処理を洗練させるランキング戦略を提案する。多様な代理モデルの集合を利用することで, 逆例の転送可能性を予測することができる。提案手法を用いて, 対向例の移動率を, ランダムな選択から, ほぼ上界レベルまで20%に引き上げることができた。
論文参考訳（メタデータ） (2022-08-23T11:25:16Z)
Resisting Adversarial Attacks in Deep Neural Networks using Diverse Decision Boundaries [12.312877365123267]
深層学習システムは、人間の目には認識できないが、モデルが誤分類される可能性がある、人工的な敵の例に弱い。我々は,オリジナルモデルに対する多様な決定境界を持つディフェンダーモデルを構築するための,アンサンブルに基づく新しいソリューションを開発した。我々は、MNIST、CIFAR-10、CIFAR-100といった標準画像分類データセットを用いて、最先端の敵攻撃に対する広範な実験を行った。
論文参考訳（メタデータ） (2022-08-18T08:19:26Z)
Attacking Adversarial Defences by Smoothing the Loss Landscape [15.11530043291188]
この効果を達成する共通の方法は、ニューラルネットワークを使用することである。これは勾配難読化の一形態であり、勾配に基づく敵に対する一般的な拡張を提案する。両対人防御および非対人防御に対する損失平滑化法の有効性を実証した。
論文参考訳（メタデータ） (2022-08-01T13:45:47Z)
Rethinking Textual Adversarial Defense for Pre-trained Language Models [79.18455635071817]
文献レビューでは、事前訓練された言語モデル(PrLM)が敵の攻撃に弱いことが示されている。本稿では、現在の敵攻撃アプローチにより、より自然で知覚不能な敵の例を生成するための新しい指標(異常の度合い)を提案する。我々は,我々のユニバーサル・ディフェンス・フレームワークが,他の特定のディフェンスと同等あるいはそれ以上のアフターアタック・ディフェンスの精度を達成することを示す。
論文参考訳（メタデータ） (2022-07-21T07:51:45Z)
Towards Defending against Adversarial Examples via Attack-Invariant Features [147.85346057241605]
ディープニューラルネットワーク(DNN)は敵の雑音に弱い。敵の強靭性は、敵の例を利用して改善することができる。目に見えない種類の敵の例に基づいて訓練されたモデルは、一般的に、目に見えない種類の敵の例にうまく一般化できない。
論文参考訳（メタデータ） (2021-06-09T12:49:54Z)
Learning to Separate Clusters of Adversarial Representations for Robust Adversarial Detection [50.03939695025513]
本稿では,最近導入された非破壊的特徴を動機とした新しい確率的対向検出器を提案する。本稿では,非ロバスト特徴を逆例の共通性と考え,その性質に対応する表現空間におけるクラスターの探索が可能であることを推定する。このアイデアは、別のクラスタ内の逆表現の確率推定分布を導出し、その分布を確率に基づく逆検出器として活用する。
論文参考訳（メタデータ） (2020-12-07T07:21:18Z)
Adversarial Example Games [51.92698856933169]
Adrial Example Games (AEG) は、敵の例の製作をモデル化するフレームワークである。 AEGは、ある仮説クラスからジェネレータとアバーサを反対に訓練することで、敵の例を設計する新しい方法を提供する。 MNIST と CIFAR-10 データセットに対する AEG の有効性を示す。
論文参考訳（メタデータ） (2020-07-01T19:47:23Z)
A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。本稿では,入力空間における自己教師型対向学習機構を提案する。これは、反逆攻撃に対する強力な堅牢性を提供する。
論文参考訳（メタデータ） (2020-06-08T20:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。