論文の概要: MSMix:An Interpolation-Based Text Data Augmentation Method Manifold Swap
Mixup
- arxiv url: http://arxiv.org/abs/2305.19617v1
- Date: Wed, 31 May 2023 07:36:11 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-01 18:01:07.604194
- Title: MSMix:An Interpolation-Based Text Data Augmentation Method Manifold Swap
Mixup
- Title(参考訳): msmix:補間に基づくテキストデータ拡張手法 : manifold swap mixup
- Authors: Mao Ye, Haitao Wang, Zheqian Chen
- Abstract要約: MSMixは、データ不足によるディープニューラルネットワークモデルの性能低下の問題を解決するために提案されている。
この方法は、特定の層をランダムに選択し、サンプルの一方の層に隠された特徴を他方の層に部分的に置き換える。
混合隠れ機能はモデルに供給され、ネットワークの残りの部分を通過する。
- 参考スコア(独自算出の注目度): 8.329938564607572
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: To solve the problem of poor performance of deep neural network models due to
insufficient data, a simple yet effective interpolation-based data augmentation
method is proposed: MSMix (Manifold Swap Mixup). This method feeds two
different samples to the same deep neural network model, and then randomly
select a specific layer and partially replace hidden features at that layer of
one of the samples by the counterpart of the other. The mixed hidden features
are fed to the model and go through the rest of the network. Two different
selection strategies are also proposed to obtain richer hidden representation.
Experiments are conducted on three Chinese intention recognition datasets, and
the results show that the MSMix method achieves better results than other
methods in both full-sample and small-sample configurations.
- Abstract(参考訳): データ不足によるディープニューラルネットワークモデルの性能低下の問題を解決するため、簡易かつ効果的な補間に基づくデータ拡張手法であるmsmix(manifold swap mixup)を提案する。
この方法は、2つの異なるサンプルを同じディープニューラルネットワークモデルに供給し、次に特定の層をランダムに選択し、サンプルの1つの層にある隠れた特徴を他方の層に部分的に置き換える。
混合された隠れ機能はモデルに供給され、ネットワークの他の部分を通過する。
よりリッチな隠れ表現を得るために、2つの異なる選択戦略も提案されている。
中国における3つの意図認識データセットを用いて実験を行い,MSMix法は全サンプル構成と小サンプル構成の両方において,他の手法よりも優れた結果が得られることを示した。
関連論文リスト
- SUMix: Mixup with Semantic and Uncertain Information [41.99721365685618]
混合データ拡張アプローチは、ディープラーニングの様々なタスクに応用されている。
そこで我々は,SUMix という新しい手法を提案し,混合率と混合試料の不確かさを学習する。
論文 参考訳(メタデータ) (2024-07-10T16:25:26Z) - TransformMix: Learning Transformation and Mixing Strategies from Data [20.79680733590554]
我々は、データからより良い変換と拡張戦略を混合するための自動アプローチであるTransformMixを提案する。
本稿では,トランスフォーメーション学習,分類,オブジェクト検出,知識蒸留設定におけるTransformMixの有効性を示す。
論文 参考訳(メタデータ) (2024-03-19T04:36:41Z) - ScoreMix: A Scalable Augmentation Strategy for Training GANs with
Limited Data [93.06336507035486]
GAN(Generative Adversarial Networks)は通常、限られたトレーニングデータが利用できる場合、過度に適合する。
ScoreMixは、様々な画像合成タスクのための、新しくスケーラブルなデータ拡張手法である。
論文 参考訳(メタデータ) (2022-10-27T02:55:15Z) - DoubleMix: Simple Interpolation-Based Data Augmentation for Text
Classification [56.817386699291305]
本稿では,DoubleMixと呼ばれる単純なデータ拡張手法を提案する。
DoubleMixはまず、トレーニングデータごとにいくつかの摂動サンプルを生成する。
次に、摂動データと元のデータを使って、隠れたニューラルネットワークの空間で2段階のステップを実行する。
論文 参考訳(メタデータ) (2022-09-12T15:01:04Z) - RandoMix: A mixed sample data augmentation method with multiple mixed
modes [12.466162659083697]
RandoMixは、堅牢性と多様性の課題に対処するために設計された、混合サンプルデータ拡張手法である。
我々は,CIFAR-10/100,Tiny-ImageNet,ImageNet,Google Speech Commandsなど,さまざまなデータセットに対するRandoMixの有効性を評価する。
論文 参考訳(メタデータ) (2022-05-18T05:31:36Z) - Harnessing Hard Mixed Samples with Decoupled Regularizer [69.98746081734441]
Mixupは、決定境界を混合データで滑らかにすることで、ニューラルネットワークの一般化を改善する効率的なデータ拡張アプローチである。
本稿では,非結合型正規化器(Decoupled Mixup, DM)を用いた効率的な混合目標関数を提案する。
DMは、ミキシングの本来の滑らかさを損なうことなく、硬質混合試料を適応的に利用して識別特性をマイニングすることができる。
論文 参考訳(メタデータ) (2022-03-21T07:12:18Z) - Saliency Grafting: Innocuous Attribution-Guided Mixup with Calibrated
Label Mixing [104.630875328668]
ミックスアップスキームは、強化されたトレーニングサンプルを作成するために、サンプルのペアを混ぜることを提案する。
両世界のベストを捉えた、斬新だがシンプルなミックスアップ版を提示する。
論文 参考訳(メタデータ) (2021-12-16T11:27:48Z) - ReMix: Towards Image-to-Image Translation with Limited Data [154.71724970593036]
本稿では,この問題に対処するためのデータ拡張手法(ReMix)を提案する。
特徴レベルでのトレーニングサンプルを補間し、サンプル間の知覚的関係に基づく新しいコンテンツ損失を提案します。
提案手法は, 生成のあいまいさを効果的に低減し, コンテンツ保存結果を生成する。
論文 参考訳(メタデータ) (2021-03-31T06:24:10Z) - Puzzle Mix: Exploiting Saliency and Local Statistics for Optimal Mixup [19.680580983094323]
Puzzle Mixは、サリエンシ情報と自然事例の基盤となる統計を明示的に活用するための混合手法である。
実験の結果,Puzzle Mixはアートの一般化と対向ロバスト性を実現していることがわかった。
論文 参考訳(メタデータ) (2020-09-15T10:10:23Z) - Attentive CutMix: An Enhanced Data Augmentation Approach for Deep
Learning Based Image Classification [58.20132466198622]
そこで我々は,CutMixに基づく自然拡張拡張戦略であるAttentive CutMixを提案する。
各トレーニングイテレーションにおいて、特徴抽出器から中間注意マップに基づいて最も記述性の高い領域を選択する。
提案手法は単純かつ有効であり,実装が容易であり,ベースラインを大幅に向上させることができる。
論文 参考訳(メタデータ) (2020-03-29T15:01:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。