論文の概要: On Data Augmentation and Adversarial Risk: An Empirical Analysis

• arxiv url: http://arxiv.org/abs/2007.02650v1
• Date: Mon, 6 Jul 2020 11:16:18 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-13 01:24:05.033238
• Title: On Data Augmentation and Adversarial Risk: An Empirical Analysis
• Title（参考訳）: データ増進と敵意リスクについて--実証分析
• Authors: Hamid Eghbal-zadeh, Khaled Koutini, Paul Primus, Verena Haunschmid, Michal Lewandowski, Werner Zellinger, Bernhard A. Moser, Gerhard Widmer
• Abstract要約: 我々は,異なるデータ拡張手法が敵のリスクに与える影響を3つの尺度で分析する。 データ拡張による分類性能の向上は、常に敵攻撃によるリスクの改善を伴うという仮説を否定する。 以上の結果から, 拡張されたデータは, 拡張されていないデータよりも, 結果のモデルに強い影響があることが判明した。
• 参考スコア（独自算出の注目度）: 9.586672294115075
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Data augmentation techniques have become standard practice in deep learning, as it has been shown to greatly improve the generalisation abilities of models. These techniques rely on different ideas such as invariance-preserving transformations (e.g, expert-defined augmentation), statistical heuristics (e.g, Mixup), and learning the data distribution (e.g, GANs). However, in the adversarial settings it remains unclear under what conditions such data augmentation methods reduce or even worsen the misclassification risk. In this paper, we therefore analyse the effect of different data augmentation techniques on the adversarial risk by three measures: (a) the well-known risk under adversarial attacks, (b) a new measure of prediction-change stress based on the Laplacian operator, and (c) the influence of training examples on prediction. The results of our empirical analysis disprove the hypothesis that an improvement in the classification performance induced by a data augmentation is always accompanied by an improvement in the risk under adversarial attack. Further, our results reveal that the augmented data has more influence than the non-augmented data, on the resulting models. Taken together, our results suggest that general-purpose data augmentations that do not take into the account the characteristics of the data and the task, must be applied with care.
• Abstract（参考訳）: データ拡張技術は、モデルの一般化能力を大幅に改善することが示され、ディープラーニングの標準的な実践となった。 これらのテクニックは、不変保存変換(例えば、専門家による拡張)、統計ヒューリスティックス(例えば、ミックスアップ)、データ分散(例えば、GAN)の学習など、さまざまな考え方に依存している。 しかし、逆境の状況では、このようなデータ拡張手法が誤分類リスクを減少させるか、さらに悪化させるかは、まだ不明である。 そこで本稿では,異なるデータ拡張手法が敵のリスクに与える影響を3つの尺度で分析する。 (a)敵の攻撃下での周知の危険 (b)ラプラシアン作用素に基づく新しい予測変化応力の測定と (c) トレーニング例が予測に与える影響。 本研究の結果は,データ拡張による分類性能の向上は,常に敵の攻撃によるリスクの向上を伴うという仮説を否定するものである。 さらに,得られたモデルに対して,非提示データよりも拡張データの方が影響が大きいことが明らかとなった。 総合的に考えると,データの特徴やタスクを考慮しない汎用データ拡張は,注意して適用する必要があることが示唆される。

関連論文リスト

• MedDiffusion: Boosting Health Risk Prediction via Diffusion-based Data Augmentation [58.93221876843639]
  本稿では,MedDiffusion という,エンドツーエンドの拡散に基づくリスク予測モデルを提案する。 トレーニング中に合成患者データを作成し、サンプルスペースを拡大することで、リスク予測性能を向上させる。 ステップワイズ・アテンション・メカニズムを用いて患者の来訪者間の隠れた関係を識別し、高品質なデータを生成する上で最も重要な情報をモデルが自動的に保持することを可能にする。
  論文  参考訳（メタデータ） (2023-10-04T01:36:30Z)
• On Counterfactual Data Augmentation Under Confounding [30.76982059341284]
  トレーニングデータのバイアスを緩和する手段として、対実データ拡張が出現している。 これらのバイアスは、データ生成プロセスにおいて観測され、観測されていない様々な共役変数によって生じる。 提案手法は,既存の最先端手法が優れた結果を得るのにどのように役立つかを示す。
  論文  参考訳（メタデータ） (2023-05-29T16:20:23Z)
• Implicit Counterfactual Data Augmentation for Robust Learning [24.795542869249154]
  本研究では, 突発的相関を除去し, 安定した予測を行うために, インプリシト・カウンセショナル・データ拡張法を提案する。 画像とテキストのデータセットをカバーする様々なバイアス付き学習シナリオで実験が行われてきた。
  論文  参考訳（メタデータ） (2023-04-26T10:36:40Z)
• Is augmentation effective to improve prediction in imbalanced text datasets? [3.1690891866882236]
  データ拡張なしでカットオフを調整することは、オーバーサンプリング手法と同じような結果をもたらすと我々は主張する。 この結果は、不均衡なデータを扱うための様々なアプローチの長所と短所の理解に寄与する。
  論文  参考訳（メタデータ） (2023-04-20T13:07:31Z)
• DeepVol: Volatility Forecasting from High-Frequency Data with Dilated Causal Convolutions [53.37679435230207]
  本稿では,Dilated Causal Convolutionsに基づくDeepVolモデルを提案する。 実験結果から,提案手法は高頻度データからグローバルな特徴を効果的に学習できることが示唆された。
  論文  参考訳（メタデータ） (2022-09-23T16:13:47Z)
• Augmentation-Aware Self-Supervision for Data-Efficient GAN Training [68.81471633374393]
  識別器が過度に適合する傾向があるため、限られたデータでGANを訓練することは困難である。 本稿では,拡張データの拡張パラメータを予測する,拡張型自己教師型識別器を提案する。 本稿では,クラス条件の BigGAN と非条件の StyleGAN2 アーキテクチャを用いた State-of-the-art (SOTA) 手法と比較する。
  論文  参考訳（メタデータ） (2022-05-31T10:35:55Z)
• Data Augmentation in the Underparameterized and Overparameterized Regimes [7.326504492614808]
  我々は,データの増大が推定値の分散と限定分布に与える影響を定量化する。 その結果、機械学習の実践において行われたいくつかの観察が確認できたが、予期せぬ発見につながった。
  論文  参考訳（メタデータ） (2022-02-18T11:32:41Z)
• Learning to Learn Transferable Attack [77.67399621530052]
  転送逆行攻撃は非自明なブラックボックス逆行攻撃であり、サロゲートモデル上で敵の摂動を発生させ、そのような摂動を被害者モデルに適用することを目的としている。 本研究では,データとモデル拡張の両方から学習することで,敵の摂動をより一般化する学習可能な攻撃学習法(LLTA)を提案する。 提案手法の有効性を実証し, 現状の手法と比較して, 12.85%のトランスファー攻撃の成功率で検証した。
  論文  参考訳（メタデータ） (2021-12-10T07:24:21Z)
• Bootstrapping Your Own Positive Sample: Contrastive Learning With Electronic Health Record Data [62.29031007761901]
  本稿では,新しいコントラスト型正規化臨床分類モデルを提案する。 EHRデータに特化した2つのユニークなポジティブサンプリング戦略を紹介します。 私たちのフレームワークは、現実世界のCOVID-19 EHRデータの死亡リスクを予測するために、競争の激しい実験結果をもたらします。
  論文  参考訳（メタデータ） (2021-04-07T06:02:04Z)
• On the Benefits of Invariance in Neural Networks [56.362579457990094]
  データ拡張によるトレーニングは、リスクとその勾配をよりよく見積もることを示し、データ拡張でトレーニングされたモデルに対して、PAC-Bayes一般化を提供する。 また,データ拡張と比べ,平均化は凸損失を伴う場合の一般化誤差を低減し,PAC-Bayes境界を狭めることを示した。
  論文  参考訳（メタデータ） (2020-05-01T02:08:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。