Fugu-MT 論文翻訳(概要): Adversarial attacks for mixtures of classifiers

論文の概要: Adversarial attacks for mixtures of classifiers

arxiv url: http://arxiv.org/abs/2307.10788v1
Date: Thu, 20 Jul 2023 11:38:55 GMT
ステータス: 処理完了
システム内更新日: 2023-07-21 13:18:30.628658
Title: Adversarial attacks for mixtures of classifiers
Title（参考訳）: 分類器の混合に対する逆攻撃
Authors: Lucas Gnecco Heredia, Benjamin Negrevergne, Yann Chevaleyre
Abstract要約: 我々は、混合体を原則的に攻撃する問題について論じる。本稿では,この問題の幾何学的解析に基づいて,攻撃の望ましい2つの特性を紹介する。次に、既存の攻撃が両方の特性を満たしていないことを示す。
参考スコア（独自算出の注目度）: 7.612259653177203
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: Mixtures of classifiers (a.k.a. randomized ensembles) have been proposed as a way to improve robustness against adversarial attacks. However, it has been shown that existing attacks are not well suited for this kind of classifiers. In this paper, we discuss the problem of attacking a mixture in a principled way and introduce two desirable properties of attacks based on a geometrical analysis of the problem (effectiveness and maximality). We then show that existing attacks do not meet both of these properties. Finally, we introduce a new attack called lattice climber attack with theoretical guarantees on the binary linear setting, and we demonstrate its performance by conducting experiments on synthetic and real datasets.
Abstract（参考訳）: 対向攻撃に対する堅牢性を改善する手段として、分類器の混合(すなわちランダム化アンサンブル)が提案されている。しかし、既存の攻撃はこの種の分類器には適していないことが示されている。本稿では,混合を原理的に攻撃する問題について議論し,問題(有効性と極大性)の幾何学的解析に基づく攻撃の2つの望ましい特性を紹介する。そして、既存の攻撃が両方の特性を満たさないことを示す。最後に, 2次線形設定を理論的に保証する格子クライマー攻撃という新たな攻撃を導入し, 合成および実データを用いた実験を行い, その性能を実証する。

関連論文リスト

Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks [62.036798488144306]
現在の防衛は主に既知の攻撃に焦点を当てているが、未知の攻撃に対する敵意の強固さは見過ごされている。メタ不変防衛(Meta Invariance Defense, MID)と呼ばれる攻撃非依存の防御手法を提案する。 MIDは高レベルの画像分類と低レベルの頑健な画像再生における攻撃抑制において,知覚不能な逆方向の摂動に対して同時に頑健性を実現する。
論文参考訳（メタデータ） (2024-04-04T10:10:38Z)
Generalization Properties of Adversarial Training for $\ell_0$-Bounded Adversarial Attacks [47.22918498465056]
本稿では,ニューラルネットワークの重要なクラスに対する対人訓練の性能を理論的に特徴付けることを目的とする。この設定での一般化の導出には2つの大きな課題がある。
論文参考訳（メタデータ） (2024-02-05T22:57:33Z)
Adversarial Attacks Neutralization via Data Set Randomization [3.655021726150369]
ディープラーニングモデルに対する敵対的な攻撃は、信頼性とセキュリティに深刻な脅威をもたらす。本稿では,超空間射影に根ざした新しい防御機構を提案する。提案手法は,敵対的攻撃に対するディープラーニングモデルの堅牢性を高めていることを示す。
論文参考訳（メタデータ） (2023-06-21T10:17:55Z)
Adversarial Attacks are a Surprisingly Strong Baseline for Poisoning Few-Shot Meta-Learners [28.468089304148453]
これにより、システムの学習アルゴリズムを騙すような、衝突する入力セットを作れます。ホワイトボックス環境では、これらの攻撃は非常に成功しており、ターゲットモデルの予測が偶然よりも悪化する可能性があることを示す。攻撃による「過度な対応」と、攻撃が生成されたモデルと攻撃が転送されたモデルとのミスマッチという2つの仮説を探索する。
論文参考訳（メタデータ） (2022-11-23T14:55:44Z)
Improving Adversarial Robustness to Sensitivity and Invariance Attacks with Deep Metric Learning [80.21709045433096]
対向ロバスト性の標準的な方法は、サンプルを最小に摂動させることによって作られたサンプルに対して防御する枠組みを仮定する。距離学習を用いて、最適輸送問題として逆正則化をフレーム化する。予備的な結果から, 変分摂動の規則化は, 変分防御と敏感防御の両方を改善することが示唆された。
論文参考訳（メタデータ） (2022-11-04T13:54:02Z)
Towards Compositional Adversarial Robustness: Generalizing Adversarial Training to Composite Semantic Perturbations [70.05004034081377]
まず,合成逆数例を生成する新しい手法を提案する。本手法は, コンポーネントワイド射影勾配勾配を利用して最適攻撃組成を求める。次に,モデルロバスト性を$ell_p$-ballから複合意味摂動へ拡張するための一般化逆トレーニング(GAT)を提案する。
論文参考訳（メタデータ） (2022-02-09T02:41:56Z)
PARL: Enhancing Diversity of Ensemble Networks to Resist Adversarial Attacks via Pairwise Adversarially Robust Loss Function [13.417003144007156]
敵の攻撃は転送可能性の原理に依存する傾向があります敵攻撃に対するアンサンブル法は、敵の例が複数の分類器を誤解させる可能性が低いことを示す。最近のアンサンブル法は、より強い敵に弱いか、エンドツーエンドの評価が欠如していることが示されている。
論文参考訳（メタデータ） (2021-12-09T14:26:13Z)
Stochastic Variance Reduced Ensemble Adversarial Attack for Boosting the Adversarial Transferability [20.255708227671573]
ブラックボックスの敵攻撃は、あるモデルから別のモデルに転送することができる。本研究では,分散縮小アンサンブル攻撃と呼ばれる新しいアンサンブル攻撃法を提案する。実験結果から,提案手法は既存のアンサンブル攻撃を著しく上回り,対向移動性を向上する可能性が示唆された。
論文参考訳（メタデータ） (2021-11-21T06:33:27Z)
Towards A Conceptually Simple Defensive Approach for Few-shot classifiers Against Adversarial Support Samples [107.38834819682315]
本研究は,数発の分類器を敵攻撃から守るための概念的簡便なアプローチについて検討する。本稿では,自己相似性とフィルタリングの概念を用いた簡易な攻撃非依存検出法を提案する。ミニイメージネット(MI)とCUBデータセットの攻撃検出性能は良好である。
論文参考訳（メタデータ） (2021-10-24T05:46:03Z)
Learning from History for Byzantine Robust Optimization [52.68913869776858]
分散学習の重要性から,ビザンチンの堅牢性が近年注目されている。既存のロバストアグリゲーションルールの多くは、ビザンチンの攻撃者がいなくても収束しない可能性がある。
論文参考訳（メタデータ） (2020-12-18T16:22:32Z)
Adversarial Example Games [51.92698856933169]
Adrial Example Games (AEG) は、敵の例の製作をモデル化するフレームワークである。 AEGは、ある仮説クラスからジェネレータとアバーサを反対に訓練することで、敵の例を設計する新しい方法を提供する。 MNIST と CIFAR-10 データセットに対する AEG の有効性を示す。
論文参考訳（メタデータ） (2020-07-01T19:47:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。