論文の概要: WeMix: How to Better Utilize Data Augmentation

• arxiv url: http://arxiv.org/abs/2010.01267v1
• Date: Sat, 3 Oct 2020 03:12:18 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-11 08:45:16.328166
• Title: WeMix: How to Better Utilize Data Augmentation
• Title（参考訳）: wemix: データ拡張をより有効に活用する方法
• Authors: Yi Xu, Asaf Noy, Ming Lin, Qi Qian, Hao Li, Rong Jin
• Abstract要約: 我々はデータ拡張の長所と短所を明らかにする包括的分析を開発する。 データ拡張の主な制限は、データバイアスから生じます。 AugDrop" と "MixLoss" という2つの新しいアルゴリズムを開発し、データ拡張におけるデータのバイアスを補正する。
• 参考スコア（独自算出の注目度）: 36.07712244423405
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Data augmentation is a widely used training trick in deep learning to improve the network generalization ability. Despite many encouraging results, several recent studies did point out limitations of the conventional data augmentation scheme in certain scenarios, calling for a better theoretical understanding of data augmentation. In this work, we develop a comprehensive analysis that reveals pros and cons of data augmentation. The main limitation of data augmentation arises from the data bias, i.e. the augmented data distribution can be quite different from the original one. This data bias leads to a suboptimal performance of existing data augmentation methods. To this end, we develop two novel algorithms, termed "AugDrop" and "MixLoss", to correct the data bias in the data augmentation. Our theoretical analysis shows that both algorithms are guaranteed to improve the effect of data augmentation through the bias correction, which is further validated by our empirical studies. Finally, we propose a generic algorithm "WeMix" by combining AugDrop and MixLoss, whose effectiveness is observed from extensive empirical evaluations.
• Abstract（参考訳）: データ拡張は、ネットワークの一般化能力を改善するためにディープラーニングで広く使われているトレーニングトリックである。 多くの奨励的な結果にもかかわらず、最近のいくつかの研究は、あるシナリオにおける従来のデータ拡張スキームの限界を指摘し、データ拡張に関するより理論的に理解することを求めた。 本研究では,データ拡張の長所と短所を明らかにする包括的分析を開発する。 データ増大の主な制限は、データバイアス、すなわち、拡張データ分布が元のものとは大きく異なる可能性があることから生じる。 このデータバイアスは、既存のデータ拡張メソッドを最適以下のパフォーマンスに導く。 この目的のために,データ拡張におけるデータバイアスを補正するために,"augdrop" と "mixloss" と呼ばれる2つの新しいアルゴリズムを開発した。 理論的解析により, 両アルゴリズムは, 偏差補正によるデータ増大効果を向上させることが保証され, 実証実験によりさらに検証された。 最後に,AugDropとMixLossを組み合わせた汎用アルゴリズム"WeMix"を提案する。

関連論文リスト

• Understanding when Dynamics-Invariant Data Augmentations Benefit Model-Free Reinforcement Learning Updates [3.5253513747455303]
  我々は、観察された学習改善に寄与するデータ拡張(DA)の一般的な側面を同定する。 本研究では,動的不変データ拡張機能を持つスパース逆タスクに着目した。
  論文  参考訳（メタデータ） (2023-10-26T21:28:50Z)
• DualAug: Exploiting Additional Heavy Augmentation with OOD Data Rejection [77.6648187359111]
  そこで本稿では,textbfDualAug という新しいデータ拡張手法を提案する。 教師付き画像分類ベンチマークの実験では、DualAugは様々な自動データ拡張法を改善している。
  論文  参考訳（メタデータ） (2023-10-12T08:55:10Z)
• On Counterfactual Data Augmentation Under Confounding [30.76982059341284]
  トレーニングデータのバイアスを緩和する手段として、対実データ拡張が出現している。 これらのバイアスは、データ生成プロセスにおいて観測され、観測されていない様々な共役変数によって生じる。 提案手法は,既存の最先端手法が優れた結果を得るのにどのように役立つかを示す。
  論文  参考訳（メタデータ） (2023-05-29T16:20:23Z)
• Is augmentation effective to improve prediction in imbalanced text datasets? [3.1690891866882236]
  データ拡張なしでカットオフを調整することは、オーバーサンプリング手法と同じような結果をもたらすと我々は主張する。 この結果は、不均衡なデータを扱うための様々なアプローチの長所と短所の理解に寄与する。
  論文  参考訳（メタデータ） (2023-04-20T13:07:31Z)
• Advanced Data Augmentation Approaches: A Comprehensive Survey and Future directions [57.30984060215482]
  データ拡張の背景、レビューされたデータ拡張技術の新しい包括的分類法、および各技術の強さと弱点(可能ならば)を提供する。 また、画像分類、オブジェクト検出、セマンティックセグメンテーションなどの3つの一般的なコンピュータビジョンタスクに対して、データ拡張効果の総合的な結果を提供する。
  論文  参考訳（メタデータ） (2023-01-07T11:37:32Z)
• Automatic Data Augmentation via Invariance-Constrained Learning [94.27081585149836]
  下位のデータ構造は、しばしば学習タスクのソリューションを改善するために利用される。 データ拡張は、入力データに複数の変換を適用することで、トレーニング中にこれらの対称性を誘導する。 この作業は、学習タスクを解決しながらデータ拡張を自動的に適応することで、これらの問題に対処する。
  論文  参考訳（メタデータ） (2022-09-29T18:11:01Z)
• MixAugment & Mixup: Augmentation Methods for Facial Expression Recognition [4.273075747204267]
  我々はMixAugmentと呼ばれるMixupに基づく新しいデータ拡張戦略を提案する。 本研究は、MixAugment over Mixupおよび様々な最先端手法の有効性を実証する広範囲な実験的研究を行う。
  論文  参考訳（メタデータ） (2022-05-09T17:43:08Z)
• Invariance Learning in Deep Neural Networks with Differentiable Laplace Approximations [76.82124752950148]
  我々はデータ拡張を選択するための便利な勾配法を開発した。 我々はKronecker-factored Laplace近似を我々の目的とする限界確率に近似する。
  論文  参考訳（メタデータ） (2022-02-22T02:51:11Z)
• On the Benefits of Invariance in Neural Networks [56.362579457990094]
  データ拡張によるトレーニングは、リスクとその勾配をよりよく見積もることを示し、データ拡張でトレーニングされたモデルに対して、PAC-Bayes一般化を提供する。 また,データ拡張と比べ,平均化は凸損失を伴う場合の一般化誤差を低減し,PAC-Bayes境界を狭めることを示した。
  論文  参考訳（メタデータ） (2020-05-01T02:08:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。