論文の概要: Robust Unlearnable Examples: Protecting Data Against Adversarial Learning

• arxiv url: http://arxiv.org/abs/2203.14533v1
• Date: Mon, 28 Mar 2022 07:13:51 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-29 14:15:17.203773
• Title: Robust Unlearnable Examples: Protecting Data Against Adversarial Learning
• Title（参考訳）: ロバストで不可解な例:敵対的学習に対するデータ保護
• Authors: Shaopeng Fu, Fengxiang He, Yang Liu, Li Shen, Dacheng Tao
• Abstract要約: 本稿では,誤り最小化ノイズを付加することにより,ディープラーニングモデルにデータを学習不能にすることを提案する。 本稿では,敵の訓練から保護される頑健な学習不可能な事例を生成するための新しい手法を設計する。 実験により, 強靭な誤り最小化ノイズによる難読性は, 種々のシナリオにおいて, 敵の訓練からデータを効果的に保護できることが示唆された。
• 参考スコア（独自算出の注目度）: 77.6015932710068
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The tremendous amount of accessible data in cyberspace face the risk of being unauthorized used for training deep learning models. To address this concern, methods are proposed to make data unlearnable for deep learning models by adding a type of error-minimizing noise. However, such conferred unlearnability is found fragile to adversarial training. In this paper, we design new methods to generate robust unlearnable examples that are protected from adversarial training. We first find that the vanilla error-minimizing noise, which suppresses the informative knowledge of data via minimizing the corresponding training loss, could not effectively minimize the adversarial training loss. This explains the vulnerability of error-minimizing noise in adversarial training. Based on the observation, robust error-minimizing noise is then introduced to reduce the adversarial training loss. Experiments show that the unlearnability brought by robust error-minimizing noise can effectively protect data from adversarial training in various scenarios. The code is available at \url{https://github.com/fshp971/robust-unlearnable-examples}.
• Abstract（参考訳）: サイバースペースに膨大な量のアクセス可能なデータが、ディープラーニングモデルのトレーニングに不正に使用されるリスクに直面している。 この問題に対処するために,誤り最小化ノイズを付加することにより,深層学習モデルでデータを理解不能にする手法を提案する。 しかし、そのような無学習性は敵の訓練には脆弱である。 本稿では,敵の訓練から保護されるロバストな非学習例を生成するための新しい手法を考案する。 まず, 学習損失を最小化することでデータに対する情報的知識を抑えるバニラ誤り最小化ノイズは, 対向訓練損失を効果的に最小化できないことがわかった。 これは、逆訓練におけるエラー最小化ノイズの脆弱性を説明する。 観測結果に基づき、逆訓練損失を低減するため、ロバストな誤り最小化ノイズが導入される。 実験により, 強靭な誤り最小化ノイズによる難読性は, 種々のシナリオにおいて, 敵の訓練からデータを効果的に保護できることが示されている。 コードは \url{https://github.com/fshp971/robust-unlearnable-examples} で入手できる。

関連論文リスト

• Improving Noise Robustness through Abstractions and its Impact on Machine Learning [2.6563873893593826]
  ノイズは機械学習(ML)手法の適用に大きな影響を与える学習理論の基本的な問題である。 本稿では,データ抽象化を用いてノイズを緩和する手法を提案する。 目標は、抽象化によって生成された情報の損失を通じて、モデルの性能に対するノイズの影響を減らすことである。
  論文  参考訳（メタデータ） (2024-06-12T17:14:44Z)
• Understanding and Mitigating the Label Noise in Pre-training on Downstream Tasks [91.15120211190519]
  本稿では、事前学習データセットにおけるノイズの性質を理解し、下流タスクへの影響を軽減することを目的とする。 雑音の悪影響を軽減するために特徴空間に適応する軽量ブラックボックスチューニング法(NMTune)を提案する。
  論文  参考訳（メタデータ） (2023-09-29T06:18:15Z)
• What Can We Learn from Unlearnable Datasets? [107.12337511216228]
  学習不可能なデータセットは、ディープニューラルネットワークの一般化を防ぐことによって、データのプライバシを保護する可能性がある。 学習不可能なデータセットでトレーニングされたニューラルネットワークは、一般化には役に立たない単純なルールであるショートカットのみを学ぶと広く信じられている。 これとは対照的に,ネットワークは高いテスト性能を期待できる有用な特徴を実際に学習することができ,画像保護が保証されていないことを示唆している。
  論文  参考訳（メタデータ） (2023-05-30T17:41:35Z)
• Learning to Unlearn: Instance-wise Unlearning for Pre-trained Classifiers [71.70205894168039]
  そこでは、事前訓練されたモデルからインスタンスのセットに関する情報を削除することを目標としています。 本稿では,1)表現レベルでの忘れを克服するために,敵の例を活用すること,2)不必要な情報を伝播するネットワークパラメータをピンポイントする重み付け指標を活用すること,の2つの方法を提案する。
  論文  参考訳（メタデータ） (2023-01-27T07:53:50Z)
• Adversarial Unlearning: Reducing Confidence Along Adversarial Directions [88.46039795134993]
  本稿では,自己生成事例の信頼性を低下させる補完的な正規化戦略を提案する。 RCADと呼ばれるこの手法は、トレーニング損失を増やすために反対に選択された方向に沿って横たわっている流通外の事例に対する信頼性を低下させることを目的としている。 その単純さにもかかわらず、多くの分類ベンチマークでは、RCADを既存の技術に追加して、絶対値の1～3%の精度でテストできることがわかった。
  論文  参考訳（メタデータ） (2022-06-03T02:26:24Z)
• One-Pixel Shortcut: on the Learning Preference of Deep Neural Networks [28.502489028888608]
  Unlearnable Example (ULE) は、DNNのトレーニングのための不正使用からデータを保護することを目的としている。 逆行訓練では、誤り最小化ノイズの非学習性は著しく低下する。 本稿では,各画像の1ピクセルのみを摂動させ,データセットを学習不能にする,新しいモデルフリー手法であるemphOne-Pixel Shortcutを提案する。
  論文  参考訳（メタデータ） (2022-05-24T15:17:52Z)
• Unlearnable Examples: Making Personal Data Unexploitable [42.36793103856988]
  誤り最小化ノイズは、学習例の1つ以上の誤差を0に減少させるために意図的に生成される。 サンプル型とクラス型の両方で誤差最小化ノイズの有効性を実証的に検証する。
  論文  参考訳（メタデータ） (2021-01-13T06:15:56Z)
• Learning to Learn from Mistakes: Robust Optimization for Adversarial Noise [1.976652238476722]
  我々はメタ最適化器を訓練し、敵対的な例を使ってモデルを堅牢に最適化することを学び、学習した知識を新しいモデルに転送することができる。 実験の結果、メタ最適化は異なるアーキテクチャやデータセット間で一貫性があることが示され、敵の脆弱性を自動的にパッチすることができることが示唆された。
  論文  参考訳（メタデータ） (2020-08-12T11:44:01Z)
• How benign is benign overfitting? [96.07549886487526]
  深層ニューラルネットワークにおける敵対的脆弱性の2つの原因について検討する。 ディープニューラルネットワークは基本的にラベルノイズがある場合でも、トレーニングエラーをゼロにする。 我々は、ラベルノイズを敵対的脆弱性の原因の1つとみなしている。
  論文  参考訳（メタデータ） (2020-07-08T11:07:10Z)
• Self-Adaptive Training: beyond Empirical Risk Minimization [15.59721834388181]
  余分な計算コストを伴わずにモデル予測により問題ラベルを動的に補正する新しいトレーニングアルゴリズムを提案する。 自己適応型トレーニングは、様々なレベルのノイズに対する一般化を著しく改善し、自然と敵対両方のトレーニングにおいて過度に適合する問題を緩和する。 CIFARとImageNetデータセットの実験は、我々のアプローチの有効性を2つのアプリケーションで検証する。
  論文  参考訳（メタデータ） (2020-02-24T15:47:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。