論文の概要: Is This Loss Informative? Faster Text-to-Image Customization by Tracking Objective Dynamics

• arxiv url: http://arxiv.org/abs/2302.04841v3
• Date: Wed, 1 Nov 2023 17:57:50 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-02 18:05:53.039104
• Title: Is This Loss Informative? Faster Text-to-Image Customization by Tracking Objective Dynamics
• Title（参考訳）: この損失は有益ですか。 客観的ダイナミクスの追跡によるテキスト・画像の高速カスタマイズ
• Authors: Anton Voronov, Mikhail Khoroshikh, Artem Babenko, Max Ryabinin
• Abstract要約: 本研究では,人気テキスト対画像パーソナライズ手法のトレーニングダイナミクスについて検討し,それらを高速化することを目的とした。 本稿では,一定組の入力に対して,正規学習目標の計算のみを必要とする,簡単な早期停止基準を提案する。 48の異なる概念に対する安定拡散実験と3つのパーソナライズ手法により,本手法の競争性能を実証した。
• 参考スコア（独自算出の注目度）: 31.15864240403093
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Text-to-image generation models represent the next step of evolution in image synthesis, offering a natural way to achieve flexible yet fine-grained control over the result. One emerging area of research is the fast adaptation of large text-to-image models to smaller datasets or new visual concepts. However, many efficient methods of adaptation have a long training time, which limits their practical applications, slows down experiments, and spends excessive GPU resources. In this work, we study the training dynamics of popular text-to-image personalization methods (such as Textual Inversion or DreamBooth), aiming to speed them up. We observe that most concepts are learned at early stages and do not improve in quality later, but standard training convergence metrics fail to indicate that. Instead, we propose a simple drop-in early stopping criterion that only requires computing the regular training objective on a fixed set of inputs for all training iterations. Our experiments on Stable Diffusion for 48 different concepts and three personalization methods demonstrate the competitive performance of our approach, which makes adaptation up to 8 times faster with no significant drops in quality.
• Abstract（参考訳）: テキスト・ツー・イメージ生成モデルは、画像合成における進化の次のステップを表しており、フレキシブルできめ細かい制御を実現する自然な方法を提供する。 新たな研究領域の1つは、より小さなデータセットや新しい視覚概念への大きなテキスト・ツー・イメージモデルの迅速な適応である。 しかし、多くの効率的な適応手法は長いトレーニング時間を持ち、実用的応用を制限し、実験を遅くし、過剰なGPUリソースを消費する。 本研究では,テキストから画像へのパーソナライズ手法(テキストインバージョンやdreamboothなど)の学習ダイナミクスについて検討した。 ほとんどの概念は初期段階で学習され、その後の品質は向上しないが、標準的なトレーニング収束メトリクスはそれを示さない。 そこで我々は,すべての学習イテレーションにおいて,一定の入力セットで正規のトレーニング目標を計算するだけでよい,簡単なドロップイン早期停止基準を提案する。 48の異なる概念に対する安定拡散実験と3つのパーソナライズ手法による実験により,適応度を最大8倍速くし,品質を低下させることなく性能を実証した。

関連論文リスト

• Enhancing pretraining efficiency for medical image segmentation via transferability metrics [0.0]
  医用画像のセグメンテーションタスクでは、ラベル付きトレーニングデータの不足が大きな課題となっている。 本稿では,事前学習したモデルが対象データをいかに頑健に表現できるかを計測する,対照的な学習に基づく新しい伝達可能性指標を提案する。
  論文  参考訳（メタデータ） (2024-10-24T12:11:52Z)
• Efficient Training with Denoised Neural Weights [65.14892033932895]
  この研究は、初期化のために神経重みを合成するウェイトジェネレータを構築するための新しい一歩を踏み出した。 本稿では,モデル重みの収集を容易にするために,GANを用いた画像間翻訳タスクを例に挙げる。 拡散モデルによって予測される重み付き画像翻訳モデルを初期化することにより、トレーニングは43.3秒しか必要としない。
  論文  参考訳（メタデータ） (2024-07-16T17:59:42Z)
• EfficientTrain++: Generalized Curriculum Learning for Efficient Visual Backbone Training [79.96741042766524]
  訓練カリキュラムをソフトセレクション機能として再構築する。 自然画像の内容の露光は,データ拡張の強度によって容易に達成できることを示す。 結果のメソッドであるEfficientTrain++は単純で汎用的だが驚くほど効果的である。
  論文  参考訳（メタデータ） (2024-05-14T17:00:43Z)
• E$^{2}$GAN: Efficient Training of Efficient GANs for Image-to-Image Translation [69.72194342962615]
  拡散モデルからGANを蒸留するプロセスは、より効率的にできるのか? まず、一般化された特徴を持つベースGANモデルを構築し、微調整により異なる概念に適応し、スクラッチからトレーニングの必要性を排除した。 第2に,ベースモデル全体の微調整を行うのではなく,低ランク適応(LoRA)を簡易かつ効果的なランク探索プロセスで行う。 第3に、微調整に必要な最小限のデータ量を調査し、トレーニング時間を短縮する。
  論文  参考訳（メタデータ） (2024-01-11T18:59:14Z)
• Class Incremental Learning with Pre-trained Vision-Language Models [59.15538370859431]
  本稿では、事前学習された視覚言語モデル(例えば、CLIP)を利用して、さらなる適応を可能にするアプローチを提案する。 いくつかの従来のベンチマークの実験は、常に現在の最先端よりも顕著な改善のマージンを示している。
  論文  参考訳（メタデータ） (2023-10-31T10:45:03Z)
• Efficient-3DiM: Learning a Generalizable Single-image Novel-view Synthesizer in One Day [63.96075838322437]
  シングルイメージのノベルビューシンセサイザーを学習するためのフレームワークを提案する。 当社のフレームワークは,トレーニング時間を10日以内から1日未満に短縮することが可能です。
  論文  参考訳（メタデータ） (2023-10-04T17:57:07Z)
• EfficientTrain: Exploring Generalized Curriculum Learning for Training Visual Backbones [80.662250618795]
  本稿では視覚バックボーン(例えば視覚変換器)の効率的なトレーニングのための新しいカリキュラム学習手法を提案する。 オフザシェルフ方式として、様々な人気モデルのウォールタイムトレーニングコストを、精度を犠牲にすることなく、ImageNet-1K/22Kで1.5倍に削減する。
  論文  参考訳（メタデータ） (2022-11-17T17:38:55Z)
• Improved Techniques for Training Single-Image GANs [44.251222212306764]
  生成モデルは、大きなデータセットからではなく、単一のイメージから学習することができる。 1つのサンプルのみから現実的な画像を生成することができるモデルを訓練するためのベストプラクティスを提案する。 私たちのモデルはトレーニングの最大6倍高速で、パラメータが少なく、画像のグローバルな構造をよりよく捉えることができます。
  論文  参考訳（メタデータ） (2020-03-25T17:33:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。