Fugu-MT 論文翻訳(概要): EntAugment: Entropy-Driven Adaptive Data Augmentation Framework for Image Classification

論文の概要: EntAugment: Entropy-Driven Adaptive Data Augmentation Framework for Image Classification

arxiv url: http://arxiv.org/abs/2409.06290v1
Date: Tue, 10 Sep 2024 07:42:47 GMT
ステータス: 処理完了
システム内更新日: 2024-09-11 18:40:09.139170
Title: EntAugment: Entropy-Driven Adaptive Data Augmentation Framework for Image Classification
Title（参考訳）: EntAugment: 画像分類のためのエントロピー駆動適応データ拡張フレームワーク
Authors: Suorong Yang, Furao Shen, Jian Zhao,
Abstract要約: チューニング不要かつ適応的なDAフレームワークであるEntAugmentを提案する。トレーニング中の各サンプルの増大度を動的に評価し、調整する。また、EntAugmentアプローチを補完する新しいエントロピー正規化項EntLossを導入する。
参考スコア（独自算出の注目度）: 10.334396596691048
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Data augmentation (DA) has been widely used to improve the generalization of deep neural networks. While existing DA methods have proven effective, they often rely on augmentation operations with random magnitudes to each sample. However, this approach can inadvertently introduce noise, induce distribution shifts, and increase the risk of overfitting. In this paper, we propose EntAugment, a tuning-free and adaptive DA framework. Unlike previous work, EntAugment dynamically assesses and adjusts the augmentation magnitudes for each sample during training, leveraging insights into both the inherent complexities of training samples and the evolving status of deep models. Specifically, in EntAugment, the magnitudes are determined by the information entropy derived from the probability distribution obtained by applying the softmax function to the model's output. In addition, to further enhance the efficacy of EntAugment, we introduce a novel entropy regularization term, EntLoss, which complements the EntAugment approach. Theoretical analysis further demonstrates that EntLoss, compared to traditional cross-entropy loss, achieves closer alignment between the model distributions and underlying dataset distributions. Moreover, EntAugment and EntLoss can be utilized separately or jointly. We conduct extensive experiments across multiple image classification tasks and network architectures with thorough comparisons of existing DA methods. Importantly, the proposed methods outperform others without introducing any auxiliary models or noticeable extra computational costs, highlighting both effectiveness and efficiency. Code is available at https://github.com/Jackbrocp/EntAugment.
Abstract（参考訳）: データ拡張(DA)は、ディープニューラルネットワークの一般化を改善するために広く利用されている。既存のDA法は有効であることが証明されているが、各サンプルにランダムな大きさの拡張演算に依存することが多い。しかし、このアプローチは必然的にノイズを導入し、分布シフトを誘導し、過度に適合するリスクを増大させる。本稿では,チューニング不要かつ適応的なDAフレームワークであるEntAugmentを提案する。以前の作業とは異なり、EntAugmentはトレーニング中の各サンプルの増大度を動的に評価し、調整し、トレーニングサンプルの本質的な複雑さと深層モデルの進化状況の両方に関する洞察を活用する。具体的には、EntAugmentでは、モデルの出力にソフトマックス関数を適用した確率分布から得られる情報エントロピーによって、その大きさが決定される。さらに,EntAugmentの有効性をさらに高めるために,EntAugmentアプローチを補完する新しいエントロピー正規化用語EntLossを導入する。理論的解析により、EntLossは従来のクロスエントロピー損失と比較して、モデル分布と基礎となるデータセット分布との密接な整合性を実現することが示される。さらに、EntAugmentとEntLossは別々または共同で使用できる。我々は,既存のDA手法を徹底的に比較して,複数の画像分類タスクとネットワークアーキテクチャの広範な実験を行う。重要なことに、提案手法は補助モデルや目立った計算コストを伴わずに他よりも優れており、有効性と効率性の両方を強調している。コードはhttps://github.com/Jackbrocp/EntAugment.comで入手できる。

関連論文リスト

Towards Robust Out-of-Distribution Generalization: Data Augmentation and Neural Architecture Search Approaches [4.577842191730992]
我々は、ディープラーニングのための堅牢なOoD一般化への道を探る。まず,認識に必須でない特徴間の素早い相関を解消するための,新しい効果的なアプローチを提案する。次に,OoDシナリオにおけるニューラルアーキテクチャ探索の強化問題について検討する。
論文参考訳（メタデータ） (2024-10-25T20:50:32Z)
AdaAugment: A Tuning-Free and Adaptive Approach to Enhance Data Augmentation [12.697608744311122]
AdaAugmentは、チューニング不要なAdaptive Augmentationメソッドである。対象ネットワークからのリアルタイムフィードバックに基づいて、個別のトレーニングサンプルの増大度を動的に調整する。優れた効率を保ちながら、他の最先端のDAメソッドの効率を一貫して上回ります。
論文参考訳（メタデータ） (2024-05-19T06:54:03Z)
DetDiffusion: Synergizing Generative and Perceptive Models for Enhanced Data Generation and Perception [78.26734070960886]
現在の知覚モデルは、リソース集約的なデータセットに大きく依存している。セグメンテーションを通じて知覚認識損失(P.A.損失)を導入し、品質と制御性の両方を改善した。本手法は,世代間における知覚認識属性(P.A. Attr)の抽出と利用により,データ拡張をカスタマイズする。
論文参考訳（メタデータ） (2024-03-20T04:58:03Z)
Distribution-Aware Data Expansion with Diffusion Models [55.979857976023695]
本研究では,分散型拡散モデルに基づくトレーニングフリーなデータ拡張フレームワークであるDistDiffを提案する。 DistDiffは、オリジナルデータのみにトレーニングされたモデルと比較して、さまざまなデータセットの精度を一貫して向上させる。
論文参考訳（メタデータ） (2024-03-11T14:07:53Z)
Data Augmentation for Seizure Prediction with Generative Diffusion Model [26.967247641926814]
重症度予測は患者の生活改善に非常に重要である。初期データと中間データの間の深刻な不均衡問題は、依然として大きな課題となっている。データ拡張は、この問題を解決するための直感的な方法です。 DiffEEGと呼ばれる拡散モデルを用いた新しいデータ拡張手法を提案する。
論文参考訳（メタデータ） (2023-06-14T05:44:53Z)
Learning Better with Less: Effective Augmentation for Sample-Efficient Visual Reinforcement Learning [57.83232242068982]
データ拡張(DA)は、ビジュアル強化学習(RL)アルゴリズムのサンプル効率を高める重要な手法である。サンプル効率のよい視覚的RLを実現する上で, DAのどの属性が有効かは明らかになっていない。本研究は,DAの属性が有効性に与える影響を評価するための総合的な実験を行う。
論文参考訳（メタデータ） (2023-05-25T15:46:20Z)
PDE+: Enhancing Generalization via PDE with Adaptive Distributional Diffusion [66.95761172711073]
ニューラルネットワークの一般化は、機械学習における中心的な課題です。本稿では、入力データを調整することに集中するのではなく、ニューラルネットワークの基盤機能を直接拡張することを提案する。私たちはこの理論的フレームワークを、$textbfPDE+$$textbfPDE$ with $textbfA$daptive $textbfD$istributional $textbfD$iffusionとして実践しました。
論文参考訳（メタデータ） (2023-05-25T08:23:26Z)
Augmentation-induced Consistency Regularization for Classification [25.388324221293203]
我々はCR-Augと呼ばれるデータ拡張に基づく一貫性の規則化フレームワークを提案する。 CR-Augは、データ拡張によって生成された異なるサブモデルの出力分布を互いに整合するように強制する。画像と音声の分類タスクにCR-Augを実装し、その有効性を検証するために広範な実験を行う。
論文参考訳（メタデータ） (2022-05-25T03:15:36Z)
Deep Variational Models for Collaborative Filtering-based Recommender Systems [63.995130144110156]
ディープラーニングは、リコメンダシステムの結果を改善するために、正確な協調フィルタリングモデルを提供する。提案するモデルは, 深層建築の潜伏空間において, 変分概念を注入性に適用する。提案手法は, 入射雑音効果を超える変動エンリッチメントのシナリオにおいて, 提案手法の優位性を示す。
論文参考訳（メタデータ） (2021-07-27T08:59:39Z)
Accuracy on the Line: On the Strong Correlation Between Out-of-Distribution and In-Distribution Generalization [89.73665256847858]
分布外性能は,広範囲なモデルと分布シフトに対する分布内性能と強く相関していることを示す。具体的には,CIFAR-10 と ImageNet の変種に対する分布内分布と分布外分布性能の強い相関関係を示す。また,CIFAR-10-Cと組織分類データセットCamelyon17-WILDSの合成分布の変化など,相関が弱いケースについても検討した。
論文参考訳（メタデータ） (2021-07-09T19:48:23Z)
Cross-Modal Generative Augmentation for Visual Question Answering [34.9601948665926]
本稿では,複数のモダリティ間の相関を利用したデータ拡張生成モデルを提案する。提案したモデルは,生成確率によって拡張データの信頼度を定量化し,下流パイプラインと共同して更新することができる。
論文参考訳（メタデータ） (2021-05-11T04:51:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。