論文の概要: Image retrieval outperforms diffusion models on data augmentation

• arxiv url: http://arxiv.org/abs/2304.10253v2
• Date: Thu, 30 Nov 2023 10:14:49 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-01 20:46:15.348943
• Title: Image retrieval outperforms diffusion models on data augmentation
• Title（参考訳）: データ拡張による拡散モデルより優れた画像検索
• Authors: Max F. Burg, Florian Wenzel, Dominik Zietlow, Max Horn, Osama Makansi, Francesco Locatello, Chris Russell
• Abstract要約: 拡散モデルは、分類などの下流タスクのためのトレーニングデータセットを強化するために提案されている。 強化のために事前学習プロセスの追加データを直接利用して、改善を十分に一般化するかどうかは不明だ。 ターゲットデータに対する拡散モデルのパーソナライズは、より単純なプロンプト戦略より優れている。 しかし,拡散モデルの事前学習データのみを用いることで,より強力な下流性能が得られる。
• 参考スコア（独自算出の注目度）: 36.559967424331695
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Many approaches have been proposed to use diffusion models to augment training datasets for downstream tasks, such as classification. However, diffusion models are themselves trained on large datasets, often with noisy annotations, and it remains an open question to which extent these models contribute to downstream classification performance. In particular, it remains unclear if they generalize enough to improve over directly using the additional data of their pre-training process for augmentation. We systematically evaluate a range of existing methods to generate images from diffusion models and study new extensions to assess their benefit for data augmentation. Personalizing diffusion models towards the target data outperforms simpler prompting strategies. However, using the pre-training data of the diffusion model alone, via a simple nearest-neighbor retrieval procedure, leads to even stronger downstream performance. Our study explores the potential of diffusion models in generating new training data, and surprisingly finds that these sophisticated models are not yet able to beat a simple and strong image retrieval baseline on simple downstream vision tasks.
• Abstract（参考訳）: 分類のような下流タスクのトレーニングデータセットを強化するために拡散モデルを使用するための多くのアプローチが提案されている。 しかし、拡散モデルは大きなデータセットで訓練されており、しばしばノイズの多いアノテーションで訓練されているため、これらのモデルが下流の分類性能にどの程度貢献するかは未解決のままである。 特に、強化のために事前トレーニングプロセスの追加データを直接利用して改善できるほど一般化できるかどうかは不明だ。 拡散モデルから画像を生成する既存の手法を体系的に評価し,データ拡張の利点を評価するための新たな拡張について検討した。 ターゲットデータに対する拡散モデルのパーソナライズは、より単純なプロンプト戦略より優れている。 しかし, 拡散モデルの事前学習データのみを用いて, 最寄りの探索処理を行うことで, 下流性能がさらに向上する。 本研究は,新たなトレーニングデータ生成における拡散モデルの可能性について検討し,これらの高度なモデルが,単純な下流視覚タスクにおいて,単純で強力な画像検索ベースラインをまだ打ち負かせないことを発見した。

関連論文リスト

• Integrating Amortized Inference with Diffusion Models for Learning Clean Distribution from Corrupted Images [19.957503854446735]
  拡散モデル(DM)は、逆問題を解決するための強力な生成モデルとして登場した。 FlowDiffは条件付き正規化フローモデルを利用して、破損したデータソース上で拡散モデルのトレーニングを容易にする共同トレーニングパラダイムである。 実験の結果,FlowDiffは広範囲の破損したデータソースにわたるクリーンな分布を効果的に学習できることがわかった。
  論文  参考訳（メタデータ） (2024-07-15T18:33:20Z)
• Improving Discrete Diffusion Models via Structured Preferential Generation [25.784316302130875]
  本稿では, 離散拡散モデルの改良に, 構造化前処理を導入して挑戦する。 提案手法は, 生成過程に偏り, 先行するカテゴリを生成させ, 結果としてtext8データセット上でのログライクなスコアが顕著に向上する。
  論文  参考訳（メタデータ） (2024-05-28T07:11:30Z)
• DetDiffusion: Synergizing Generative and Perceptive Models for Enhanced Data Generation and Perception [78.26734070960886]
  現在の知覚モデルは、リソース集約的なデータセットに大きく依存している。 セグメンテーションを通じて知覚認識損失(P.A.損失)を導入し、品質と制御性の両方を改善した。 本手法は,世代間における知覚認識属性(P.A. Attr)の抽出と利用により,データ拡張をカスタマイズする。
  論文  参考訳（メタデータ） (2024-03-20T04:58:03Z)
• Diffusion Models Trained with Large Data Are Transferable Visual Models [49.84679952948808]
  そこで本研究では,適度な量の目標データを用いて,基本的な視覚知覚タスクにおいて顕著な伝達性能を実現することができることを示す。 結果は、様々なタスクや実世界のデータセットにまたがる拡散モデルのバックボーンの顕著な転送可能性を示している。
  論文  参考訳（メタデータ） (2024-03-10T04:23:24Z)
• Self-Play Fine-Tuning of Diffusion Models for Text-to-Image Generation [59.184980778643464]
  ファインチューニング拡散モデル : 生成人工知能(GenAI)の最前線 本稿では,拡散モデル(SPIN-Diffusion)のための自己演奏ファインチューニングという革新的な手法を紹介する。 提案手法は従来の教師付き微調整とRL戦略の代替として,モデル性能とアライメントの両方を大幅に改善する。
  論文  参考訳（メタデータ） (2024-02-15T18:59:18Z)
• Data Attribution for Diffusion Models: Timestep-induced Bias in Influence Estimation [58.20016784231991]
  拡散モデルは、以前の文脈における瞬間的な入出力関係ではなく、一連のタイムステップで操作する。 本稿では、この時間的ダイナミクスを取り入れた拡散トラクInについて、サンプルの損失勾配ノルムが時間ステップに大きく依存していることを確認する。 そこで我々はDiffusion-ReTracを再正規化適応として導入し、興味のあるサンプルを対象にしたトレーニングサンプルの検索を可能にする。
  論文  参考訳（メタデータ） (2024-01-17T07:58:18Z)
• Guided Diffusion from Self-Supervised Diffusion Features [49.78673164423208]
  ガイダンスは拡散モデルにおいて重要な概念として機能するが、その効果は追加のデータアノテーションや事前学習の必要性によって制限されることが多い。 本稿では,拡散モデルからガイダンスを抽出するフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-14T11:19:11Z)
• Continual Learning of Diffusion Models with Generative Distillation [34.52513912701778]
  拡散モデルは画像合成における最先端性能を達成する強力な生成モデルである。 本稿では,拡散モデルの全逆過程を除去する生成蒸留法を提案する。
  論文  参考訳（メタデータ） (2023-11-23T14:33:03Z)
• Exploring Continual Learning of Diffusion Models [24.061072903897664]
  拡散モデルの連続学習(CL)特性を評価する。 我々は,拡散の時間経過にまたがる多様な行動を示す,忘れのダイナミクスに関する洞察を提供する。
  論文  参考訳（メタデータ） (2023-03-27T15:52:14Z)
• Negative Data Augmentation [127.28042046152954]
  負のデータ拡張サンプルは、データ分散のサポートに関する情報を提供することを示す。 我々は、NDAを識別器の合成データの追加源として利用する新しいGAN訓練目標を提案する。 実験により,本手法で訓練したモデルでは,異常検出能力の向上とともに条件付き・条件付き画像生成の改善を実現している。
  論文  参考訳（メタデータ） (2021-02-09T20:28:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。