論文の概要: Adversarial Examples Might be Avoidable: The Role of Data Concentration in Adversarial Robustness

• arxiv url: http://arxiv.org/abs/2309.16096v2
• Date: Sat, 25 May 2024 17:21:15 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-29 11:58:46.240003
• Title: Adversarial Examples Might be Avoidable: The Role of Data Concentration in Adversarial Robustness
• Title（参考訳）: 敵対的事例は避けるべきである:―敵対的ロバスト性におけるデータ集中の役割―
• Authors: Ambar Pal, Jeremias Sulam, René Vidal,
• Abstract要約: 入力空間の小体積部分集合に対する濃度は、ロバストな分類器が存在するかどうかを決定する。 さらに、低次元線形部分空間の結合に集中したデータ分布に対して、データの構造を生かして、データ依存多面体保証を享受する分類器が自然に現れることを示した。
• 参考スコア（独自算出の注目度）: 39.883465335244594
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The susceptibility of modern machine learning classifiers to adversarial examples has motivated theoretical results suggesting that these might be unavoidable. However, these results can be too general to be applicable to natural data distributions. Indeed, humans are quite robust for tasks involving vision. This apparent conflict motivates a deeper dive into the question: Are adversarial examples truly unavoidable? In this work, we theoretically demonstrate that a key property of the data distribution -- concentration on small-volume subsets of the input space -- determines whether a robust classifier exists. We further demonstrate that, for a data distribution concentrated on a union of low-dimensional linear subspaces, utilizing structure in data naturally leads to classifiers that enjoy data-dependent polyhedral robustness guarantees, improving upon methods for provable certification in certain regimes.
• Abstract（参考訳）: 現代の機械学習分類器の敵例に対する感受性は、これらが避けられないかもしれないという理論的な結果を動機づけている。 しかし、これらの結果は自然データ分布に適用するには一般的すぎる。 実際、人間はビジョンを含むタスクに対して非常に堅牢です。 この明らかな対立は、この問題を深く掘り下げる動機となっている: 敵の例は本当に避けられないのか? 本研究では,データ分布の重要な性質である入力空間の小体積部分集合への集中が,ロバストな分類器が存在するか否かを理論的に証明する。 さらに、低次元線形部分空間の結合に集中したデータ分布において、データの構造を利用することで、データ依存多面体ロバスト性保証を享受する分類器が自然に生成され、特定の状態における証明可能な証明方法の改善が示されている。

関連論文リスト

• Identifiable Latent Neural Causal Models [82.14087963690561]
  因果表現学習は、低レベルの観測データから潜伏した高レベルの因果表現を明らかにすることを目指している。 因果表現の識別可能性に寄与する分布シフトのタイプを決定する。 本稿では,本研究の成果を実用的なアルゴリズムに翻訳し,信頼性の高い潜在因果表現の取得を可能にする。
  論文  参考訳（メタデータ） (2024-03-23T04:13:55Z)
• How adversarial attacks can disrupt seemingly stable accurate classifiers [80.2657717174889]
  敵攻撃は、入力データに不連続な修正を加えることで、非正確な学習システムの出力を劇的に変化させる。 ここでは,これは高次元入力データを扱う分類器の基本的特徴であると考えられる。 実用システムで観測される重要な振る舞いを高い確率で発生させる、単純で汎用的なフレームワークを導入する。
  論文  参考訳（メタデータ） (2023-09-07T12:02:00Z)
• Learning Linear Causal Representations from Interventions under General Nonlinear Mixing [52.66151568785088]
  介入対象にアクセスできることなく、未知の単一ノード介入を考慮し、強い識別可能性を示す。 これは、ディープニューラルネットワークの埋め込みに対する非ペアの介入による因果識別性の最初の例である。
  論文  参考訳（メタデータ） (2023-06-04T02:32:12Z)
• Malign Overfitting: Interpolation Can Provably Preclude Invariance [30.776243638012314]
  補間にもかかわらずモデルを適切に一般化する「良性過剰適合」は、堅牢性や公正性が望ましい設定に好ましくない可能性があることを示す。 本研究では,非補間型分類器の確率的不変性を学習するアルゴリズムを提案し,解析する。
  論文  参考訳（メタデータ） (2022-11-28T19:17:31Z)
• Uncertainty in Contrastive Learning: On the Predictability of Downstream Performance [7.411571833582691]
  このような表現の不確実性は、単一のデータポイントに対して有意義な方法で定量化できるかどうかを考察する。 埋め込み空間におけるトレーニングデータの分布を直接推定することにより,この目標を達成することができることを示す。
  論文  参考訳（メタデータ） (2022-07-19T15:44:59Z)
• Benign Overfitting in Adversarially Robust Linear Classification [91.42259226639837]
  分類器がノイズの多いトレーニングデータを記憶しながらも、優れた一般化性能を達成している「双曲オーバーフィッティング」は、機械学習コミュニティにおいて大きな注目を集めている。 本研究は, 対人訓練において, 対人訓練において, 良心過剰が実際に発生することを示し, 対人訓練に対する防御の原則的アプローチを示す。
  論文  参考訳（メタデータ） (2021-12-31T00:27:31Z)
• Nonlinear Invariant Risk Minimization: A Causal Approach [5.63479133344366]
  非線形環境下での分布外一般化を可能にする学習パラダイムを提案する。 我々は、非常に単純な変換までデータ表現の識別性を示す。 合成データと実世界のデータセットの両方に関する広範な実験は、我々のアプローチが様々なベースラインメソッドを大きく上回っていることを示している。
  論文  参考訳（メタデータ） (2021-02-24T15:38:41Z)
• Not All Datasets Are Born Equal: On Heterogeneous Data and Adversarial Examples [46.625818815798254]
  我々は、異種データで訓練された機械学習モデルは、同種データで訓練された機械学習モデルと同じくらい敵の操作に影響を受けやすいと論じる。 不均一な入力空間における逆摂動を識別する汎用的な最適化フレームワークを提案する。 その結果、異種データセットの入力妥当性に制約が課されているにもかかわらず、そのようなデータを用いて訓練された機械学習モデルは相変わらず敵の例にも適用可能であることが示された。
  論文  参考訳（メタデータ） (2020-10-07T05:24:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。