論文の概要: A Framework for Verification of Wasserstein Adversarial Robustness

• arxiv url: http://arxiv.org/abs/2110.06816v1
• Date: Wed, 13 Oct 2021 15:59:44 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-14 17:23:42.760893
• Title: A Framework for Verification of Wasserstein Adversarial Robustness
• Title（参考訳）: Wasserstein Adversarial Robustness の検証のためのフレームワーク
• Authors: Tobias Wegel, Felix Assion, David Mickisch, Florens Gre{\ss}ner
• Abstract要約: イメージに知覚不可能なノイズを加えることは、機械学習モデルの重大な誤分類につながる可能性がある。 本稿では,勾配降下をベースとした新たなワッサーシュタイン対向攻撃を提案する。
• 参考スコア（独自算出の注目度）: 0.6554326244334867
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning image classifiers are susceptible to adversarial and corruption perturbations. Adding imperceptible noise to images can lead to severe misclassifications of the machine learning model. Using $L_p$-norms for measuring the size of the noise fails to capture human similarity perception, which is why optimal transport based distance measures like the Wasserstein metric are increasingly being used in the field of adversarial robustness. Verifying the robustness of classifiers using the Wasserstein metric can be achieved by proving the absence of adversarial examples (certification) or proving their presence (attack). In this work we present a framework based on the work by Levine and Feizi, which allows us to transfer existing certification methods for convex polytopes or $L_1$-balls to the Wasserstein threat model. The resulting certification can be complete or incomplete, depending on whether convex polytopes or $L_1$-balls were chosen. Additionally, we present a new Wasserstein adversarial attack that is projected gradient descent based and which has a significantly reduced computational burden compared to existing attack approaches.
• Abstract（参考訳）: 機械学習画像分類器は、逆境や汚職の摂動に影響を受けやすい。 イメージに不可避なノイズを加えると、機械学習モデルの深刻な分類ミスにつながる可能性がある。 雑音の大きさを測定するために$l_p$-ノルムを使うことは、人間の類似性知覚を捉えることに失敗する。 ワッサーシュタイン計量を用いて分類器の堅牢性を検証することは、敵対例(認証)の欠如を証明したり、その存在を証明(攻撃)することで達成できる。 本稿では,Levine と Feizi による研究に基づいて,凸ポリトープや$L_1$-balls の既存の認証手法を Wasserstein の脅威モデルに転送するフレームワークを提案する。 得られた認証は、凸多面体か$l_1$-ballsが選択されたかによっては完全か不完全である。 さらに, 勾配降下を想定し, 既存の攻撃手法と比較して計算量を大幅に削減した新たなワッサースタイン逆攻撃を提案する。

関連論文リスト

• Indiscriminate Disruption of Conditional Inference on Multivariate Gaussians [60.22542847840578]
  敵対的機械学習の進歩にもかかわらず、敵対者の存在下でのガウスモデルに対する推論は特に過小評価されている。 我々は,意思決定者の条件推論とその後の行動の妨害を希望する自己関心のある攻撃者について,一組の明らかな変数を乱すことで検討する。 検出を避けるため、攻撃者は、破損した証拠の密度によって可否が決定される場合に、攻撃が可否を示すことを望んでいる。
  論文  参考訳（メタデータ） (2024-11-21T17:46:55Z)
• Certified $\ell_2$ Attribution Robustness via Uniformly Smoothed Attributions [20.487079380753876]
  本研究では,ある空間から一様にサンプリングされた雑音によってバニラ属性を増大させる一様平滑化手法を提案する。 攻撃領域内の全ての摂動に対して、摂動試料の均一なスムーズな属性と非摂動試料とのコサイン類似性を低くすることが保証された。
  論文  参考訳（メタデータ） (2024-05-10T09:56:02Z)
• Wasserstein Adversarial Examples on Univariant Time Series Data [23.15675721397447]
  時系列データに対するワッサーシュタイン空間の逆例を提案する。 We use Wasserstein distance to bound the perturbation between normal example and adversarial examples。 医療領域における時系列データセットに対する攻撃を実証的に評価した。
  論文  参考訳（メタデータ） (2023-03-22T07:50:15Z)
• Mutual Wasserstein Discrepancy Minimization for Sequential Recommendation [82.0801585843835]
  逐次リコメンデーションのためのMutual WasserStein差分最小化MSteinに基づく新しい自己教師型学習フレームワークを提案する。 また,ワッサーシュタイン離散度測定に基づく新しい学習損失を提案する。
  論文  参考訳（メタデータ） (2023-01-28T13:38:48Z)
• Confidence-aware Training of Smoothed Classifiers for Certified Robustness [75.95332266383417]
  我々は「ガウス雑音下での精度」を、入力に対する対角的ロバスト性の容易に計算可能なプロキシとして利用する。 実験の結果, 提案手法は, 最先端の訓練手法による信頼性向上を継続的に示すことがわかった。
  論文  参考訳（メタデータ） (2022-12-18T03:57:12Z)
• Detection and Mitigation of Byzantine Attacks in Distributed Training [24.951227624475443]
  ワーカノードの異常なビザンチン挙動は、トレーニングを脱線させ、推論の品質を損なう可能性がある。 最近の研究は、幅広い攻撃モデルを検討し、歪んだ勾配を補正するために頑健な集約と/または計算冗長性を探究している。 本研究では、強力な攻撃モデルについて検討する:$q$ omniscient adversaries with full knowledge of the defense protocol that can change from iteration to iteration to weak one: $q$ randomly selected adversaries with limited collusion abilities。
  論文  参考訳（メタデータ） (2022-08-17T05:49:52Z)
• Robust Contrastive Learning against Noisy Views [79.71880076439297]
  ノイズの多い視点に対して頑健な新しいコントラスト損失関数を提案する。 提案手法は,最新の画像,ビデオ,グラフのコントラスト学習ベンチマークに対して一貫した改善を提供する。
  論文  参考訳（メタデータ） (2022-01-12T05:24:29Z)
• Discriminator-Free Generative Adversarial Attack [87.71852388383242]
  生成的ベースの敵攻撃は、この制限を取り除くことができる。 ASymmetric Saliency-based Auto-Encoder (SSAE) は摂動を生成する。 SSAEが生成した敵の例は、広く使われているモデルを崩壊させるだけでなく、優れた視覚的品質を実現する。
  論文  参考訳（メタデータ） (2021-07-20T01:55:21Z)
• Stronger and Faster Wasserstein Adversarial Attacks [25.54761631515683]
  ディープモデルは、敵攻撃として知られる「小さく、知覚不能な」摂動に対して脆弱である。 我々は、より強力な射影勾配攻撃を可能にするために、正確かつ効率的なプロジェクション演算子を開発する。 また、適当な線形最小化オラクルを備えたフランク=ウルフ法は、ワッサーシュタインの制約の下で極めて高速に機能することを示した。
  論文  参考訳（メタデータ） (2020-08-06T21:36:12Z)
• Detection as Regression: Certified Object Detection by Median Smoothing [50.89591634725045]
  この研究は、ランダム化平滑化による認定分類の最近の進歩によって動機付けられている。 我々は、$ell$-bounded攻撃に対するオブジェクト検出のための、最初のモデル非依存、トレーニング不要、認定された防御条件を得る。
  論文  参考訳（メタデータ） (2020-07-07T18:40:19Z)
• Protecting Classifiers From Attacks. A Bayesian Approach [0.9449650062296823]
  我々は,攻撃者の行動に関する正確な知識の欠如を,敵対的リスク分析を用いて考慮した代替的ベイズ的枠組みを提供する。 本研究では, 近似ベイズ計算に基づくサンプリング手法を提案する。 大規模問題に対して、微分可能な分類器を扱う際に使用できる代替のスケーラブルなアプローチを提案する。
  論文  参考訳（メタデータ） (2020-04-18T21:21:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。