Fugu-MT 論文翻訳(概要): Scoring Black-Box Models for Adversarial Robustness

論文の概要: Scoring Black-Box Models for Adversarial Robustness

arxiv url: http://arxiv.org/abs/2210.17140v1
Date: Mon, 31 Oct 2022 08:41:44 GMT
ステータス: 処理完了
システム内更新日: 2022-11-01 15:49:36.400051
Title: Scoring Black-Box Models for Adversarial Robustness
Title（参考訳）: 逆ロバスト性のためのブラックボックスモデル
Authors: Jian Vora, Pranay Reddy Samala
Abstract要約: 敵の攻撃に対するモデルの堅牢性が分析されました逆入力に対する頑健性を示すブラックボックスモデルの簡易スコアリング法を提案する。
参考スコア（独自算出の注目度）: 4.416484585765028
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Deep neural networks are susceptible to adversarial inputs and various methods have been proposed to defend these models against adversarial attacks under different perturbation models. The robustness of models to adversarial attacks has been analyzed by first constructing adversarial inputs for the model, and then testing the model performance on the constructed adversarial inputs. Most of these attacks require the model to be white-box, need access to data labels, and finding adversarial inputs can be computationally expensive. We propose a simple scoring method for black-box models which indicates their robustness to adversarial input. We show that adversarially more robust models have a smaller $l_1$-norm of LIME weights and sharper explanations.
Abstract（参考訳）: ディープニューラルネットワークは敵の入力に影響を受けやすく、異なる摂動モデルの下での敵の攻撃からこれらのモデルを守る様々な方法が提案されている。逆攻撃に対するモデルの堅牢性は、まずモデルに対する逆入力を構築し、次に構築された逆入力上でモデル性能をテストすることによって分析された。これらの攻撃のほとんどは、モデルにホワイトボックスが必要であり、データラベルへのアクセスが必要であり、逆入力を見つけるのに計算コストがかかる。逆入力に対する頑健性を示すブラックボックスモデルに対する簡易なスコアリング手法を提案する。より頑健なモデルは、より小さなl_1$ノルムのライムウェイトとよりシャープな説明を持つ。

関連論文リスト

Understanding the Robustness of Randomized Feature Defense Against Query-Based Adversarial Attacks [23.010308600769545]
ディープニューラルネットワークは、元の画像に近いサンプルを見つける敵の例に弱いが、モデルを誤分類させる可能性がある。モデル中間層における隠れた特徴にランダムノイズを付加することにより,ブラックボックス攻撃に対する簡易かつ軽量な防御法を提案する。本手法は,スコアベースと決定ベースの両方のブラックボックス攻撃に対するモデルのレジリエンスを効果的に向上させる。
論文参考訳（メタデータ） (2023-10-01T03:53:23Z)
Are aligned neural networks adversarially aligned? [93.91072860401856]
敵のユーザは、アライメントの試みを回避できるインプットを構築できる。既存のNLPベースの最適化攻撃は、整列したテキストモデルを確実に攻撃するには不十分であることを示す。我々は、NLP攻撃の改善が、テキストのみのモデルに対して、同じレベルの逆制御を示す可能性があると推測する。
論文参考訳（メタデータ） (2023-06-26T17:18:44Z)
Minimizing Maximum Model Discrepancy for Transferable Black-box Targeted Attacks [30.863450425927613]
モデル差分の観点から,ブラックボックスの標的攻撃問題について検討する。我々は,ブラックボックス攻撃に対する一般化誤差を提示し,攻撃の成功を保証するための厳密な理論的解析を行う。我々は理論解析に基づいてブラックボックス攻撃のための新しいアルゴリズムを導出する。
論文参考訳（メタデータ） (2022-12-18T08:19:08Z)
Training Meta-Surrogate Model for Transferable Adversarial Attack [98.13178217557193]
クエリーを許可しない場合、ブラックボックスモデルに対する逆攻撃を考える。この設定では、多くの手法が代理モデルを直接攻撃し、得られた敵の例をターゲットモデルを騙すために転送する。メタサロゲートモデル(Meta-Surrogate Model:MSM)は,このモデルに対する攻撃が,他のモデルに容易に転送できることを示す。
論文参考訳（メタデータ） (2021-09-05T03:27:46Z)
Voting based ensemble improves robustness of defensive models [82.70303474487105]
我々は、より堅牢性を高めるためのアンサンブルを作ることができるかどうか研究する。最先端の先制防衛モデルを複数組み合わせることで,59.8%の堅牢な精度を達成できる。
論文参考訳（メタデータ） (2020-11-28T00:08:45Z)
Explain2Attack: Text Adversarial Attacks via Cross-Domain Interpretability [18.92690624514601]
研究によると、下流のモデルは、トレーニングデータのような敵対的な入力で簡単に騙されるが、わずかに混乱している。本稿では,テキスト分類タスクに対するブラックボックス攻撃であるExplain2Attackを提案する。我々のフレームワークは、最先端モデルのアタックレートを達成または上回る一方、クエリコストの低減と効率の向上を図っている。
論文参考訳（メタデータ） (2020-10-14T04:56:41Z)
Two Sides of the Same Coin: White-box and Black-box Attacks for Transfer Learning [60.784641458579124]
ホワイトボックスFGSM攻撃によるモデルロバスト性を効果的に向上することを示す。また,移動学習モデルに対するブラックボックス攻撃手法を提案する。ホワイトボックス攻撃とブラックボックス攻撃の双方の効果を系統的に評価するために,ソースモデルからターゲットモデルへの変換可能性の評価手法を提案する。
論文参考訳（メタデータ） (2020-08-25T15:04:32Z)
Orthogonal Deep Models As Defense Against Black-Box Attacks [71.23669614195195]
攻撃者が標的モデルに類似したモデルを用いて攻撃を発生させるブラックボックス設定における深層モデル固有の弱点について検討する。本稿では,深部モデルの内部表現を他のモデルに直交させる新しい勾配正規化手法を提案する。様々な大規模モデルにおいて,本手法の有効性を検証する。
論文参考訳（メタデータ） (2020-06-26T08:29:05Z)
Luring of transferable adversarial perturbations in the black-box paradigm [0.0]
我々は、ブラックボックス転送攻撃に対するモデルの堅牢性を改善するための新しいアプローチを提案する。除去可能な追加ニューラルネットワークが対象モデルに含まれており、テクスチャリング効果を誘導するように設計されている。提案手法は,対象モデルの予測にのみアクセス可能であり,ラベル付きデータセットを必要としない。
論文参考訳（メタデータ） (2020-04-10T06:48:36Z)
DaST: Data-free Substitute Training for Adversarial Attacks [55.76371274622313]
本研究では,敵対的ブラックボックス攻撃の代替モデルを得るためのデータフリー代替訓練法(DaST)を提案する。これを実現するため、DaSTは特別に設計されたGANを用いて代替モデルを訓練する。実験では、代替モデルがベースラインモデルと比較して競争性能を発揮することを示した。
論文参考訳（メタデータ） (2020-03-28T04:28:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。