論文の概要: Adversarial Robustness: What fools you makes you stronger

• arxiv url: http://arxiv.org/abs/2102.05475v1
• Date: Wed, 10 Feb 2021 15:00:24 GMT
• ステータス: 処理完了
• システム内更新日: 2021-02-11 14:25:22.443187
• Title: Adversarial Robustness: What fools you makes you stronger
• Title（参考訳）: 敵のロバスト性:お前の愚かさがあなたを強くする
• Authors: Grzegorz G{\l}uch, R\"udiger Urbanke
• Abstract要約: 本研究では,PAC-ラーニングモデルと等価クエリ-ラーニングモデルのバージョンとの間で,サンプルの複雑さを指数関数的に分離することを証明する。 この分離は、敵対的堅牢性に興味深い意味を持つことを示す。 攻撃者の存在下では、確実に堅牢なモデルを計算する適応防御を設計するビジョンを探求する。
• 参考スコア（独自算出の注目度）: 1.14219428942199
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We prove an exponential separation for the sample complexity between the standard PAC-learning model and a version of the Equivalence-Query-learning model. We then show that this separation has interesting implications for adversarial robustness. We explore a vision of designing an adaptive defense that in the presence of an attacker computes a model that is provably robust. In particular, we show how to realize this vision in a simplified setting. In order to do so, we introduce a notion of a strong adversary: he is not limited by the type of perturbations he can apply but when presented with a classifier can repetitively generate different adversarial examples. We explain why this notion is interesting to study and use it to prove the following. There exists an efficient adversarial-learning-like scheme such that for every strong adversary $\mathbf{A}$ it outputs a classifier that (a) cannot be strongly attacked by $\mathbf{A}$, or (b) has error at most $\epsilon$. In both cases our scheme uses exponentially (in $\epsilon$) fewer samples than what the PAC bound requires.
• Abstract（参考訳）: 標準pac学習モデルと等価クエリ学習モデルのバージョン間のサンプル複雑性の指数関数的分離を証明した。 そして、この分離が敵対的堅牢性に興味深い意味を持つことを示す。 我々は、攻撃者の存在下で明らかに堅牢なモデルを計算する適応防御を設計するというビジョンを探ります。 特に,このビジョンを簡易な設定で実現する方法を示す。 そのため、強敵の概念を導入し、適用可能な摂動の種類に制限されないが、分類器で提示された場合、異なる逆の例を反復的に生成することができる。 この概念がなぜ研究に興味深いのかを説明し、以下のことを証明するために使用します。 すべての強逆元 $\mathbf{A}$ に対して、(a) が $\mathbf{A}$ によって強く攻撃されない、または (b) が最大$\epsilon$ の誤差を持つような、効率的な逆学習的なスキームが存在する。 どちらの場合も、我々のスキームは、PAC境界が必要とするものよりも指数関数的に($\epsilon$)少ないサンプルを使用する。

関連論文リスト

• Nearly Optimal Algorithms for Contextual Dueling Bandits from Adversarial Feedback [58.66941279460248]
  人からのフィードバックから学ぶことは、大言語モデル(LLM)のような生成モデルを調整する上で重要な役割を果たす 本稿では,本問題の領域内モデルについて考察する。-文脈的デュエルバンディットと敵対的フィードバックを併用し,真の嗜好ラベルを敵によって反転させることができる。 本稿では,不確実性重み付き最大推定に基づく頑健なコンテキストデュエルバンドイット(アルゴ)を提案する。
  論文  参考訳（メタデータ） (2024-04-16T17:59:55Z)
• Sample Complexity of Robust Learning against Evasion Attacks [3.8888996044605855]
  本研究では, 学習理論の観点から, サンプルの複雑さを考慮し, 逆向きの頑健な学習の実現可能性について検討する。 均一分布下では, 連接関係をしっかり学習する相手の予算への指数的依存は避けられないままである。 問合せ半径が敵の予算に等しければ、分布自由な環境で堅牢な経験的リスクアルゴリズムを開発できることを示す。
  論文  参考訳（メタデータ） (2023-08-23T10:51:33Z)
• How many dimensions are required to find an adversarial example? [0.0]
  敵の脆弱性が$dim(V)$に依存するかを検討する。 特に、$ellp$ノルム制約による標準PGD攻撃の対角的成功は、$epsilonの単調に増加する関数のように振る舞うことを示す。
  論文  参考訳（メタデータ） (2023-03-24T17:36:15Z)
• The Enemy of My Enemy is My Friend: Exploring Inverse Adversaries for Improving Adversarial Training [72.39526433794707]
  敵の訓練とその変種は、敵の例に対抗して最も効果的なアプローチであることが示されている。 本稿では,モデルが類似した出力を生成することを奨励する,新たな対角訓練手法を提案する。 本手法は,最先端のロバスト性および自然な精度を実現する。
  論文  参考訳（メタデータ） (2022-11-01T15:24:26Z)
• Unrestricted Adversarial Samples Based on Non-semantic Feature Clusters Substitution [1.8782750537161608]
  モデルトレーニングで学習した突発的関係を利用して, 対向的なサンプルを生成する「制限なし」摂動を導入する。 具体的には,モデル判定結果と強く相関する非意味的特徴に特徴クラスタが存在する。 対象画像の対応する特徴クラスタを置き換えるために,それらを用いて対向サンプルを作成する。
  論文  参考訳（メタデータ） (2022-08-31T07:42:36Z)
• Sample Complexity Bounds for Robustly Learning Decision Lists against Evasion Attacks [25.832511407411637]
  敵機械学習の根本的な問題は、回避攻撃の存在下でどれだけのトレーニングデータが必要とされるかを定量化することである。 我々は、リプシッツ条件を満たす入力データ上の確率分布を扱う。 すべての固定$k$に対して、$k$-決定リストのクラスは、$log(n)$-bounded adversaryに対してサンプル複雑性を持つ。
  論文  参考訳（メタデータ） (2022-05-12T14:40:18Z)
• Chaos is a Ladder: A New Theoretical Understanding of Contrastive Learning via Augmentation Overlap [64.60460828425502]
  コントラスト学習の下流性能に関する新たな保証を提案する。 我々の新しい理論は、攻撃的なデータ強化の下で、異なるクラス内サンプルのサポートがより重なり合うという知見に基づいている。 本稿では、下流の精度とよく一致した教師なしモデル選択距離ARCを提案する。
  論文  参考訳（メタデータ） (2022-03-25T05:36:26Z)
• Online Selective Classification with Limited Feedback [82.68009460301585]
  オンライン学習モデルにおいて、予測者がインスタンスの分類を控える可能性のある選択的分類について検討する。 私たちが考慮している設定の健全な2つの側面は、データが不可避である可能性があるため、データは不可避である可能性があるということです。 smash$tildeO(T1-mu)$ over abstention against Adaptive adversaries. smash$tildeO(T1-mu)$ incurring smash$tildeO(T1-mu)$ over abstention。
  論文  参考訳（メタデータ） (2021-10-27T08:00:53Z)
• Towards A Conceptually Simple Defensive Approach for Few-shot classifiers Against Adversarial Support Samples [107.38834819682315]
  本研究は,数発の分類器を敵攻撃から守るための概念的簡便なアプローチについて検討する。 本稿では,自己相似性とフィルタリングの概念を用いた簡易な攻撃非依存検出法を提案する。 ミニイメージネット(MI)とCUBデータセットの攻撃検出性能は良好である。
  論文  参考訳（メタデータ） (2021-10-24T05:46:03Z)
• Robust learning under clean-label attack [26.323812778809913]
  クリーンラベルデータ汚染攻撃におけるロバスト学習の問題点について検討する。 学習目標は、最適なPAC学習よりも難しい攻撃可能な速度を最小限にすることです。
  論文  参考訳（メタデータ） (2021-03-01T00:21:15Z)
• Towards Defending Multiple $\ell_p$-norm Bounded Adversarial Perturbations via Gated Batch Normalization [120.99395850108422]
  既存の敵防衛は、個々の摂動に対するモデル堅牢性を改善するのが一般的である。 最近の手法では、複数の$ell_p$球における敵攻撃に対するモデルロバスト性を改善するが、各摂動型に対するそれらの性能は、まだ十分ではない。 我々は,複数の$ell_pの有界摂動を守るために,摂動不変予測器を逆向きに訓練するGated Batch Normalization (GBN)を提案する。
  論文  参考訳（メタデータ） (2020-12-03T02:26:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。