論文の概要: Is This Loss Informative? Speeding Up Textual Inversion with
Deterministic Objective Evaluation
- arxiv url: http://arxiv.org/abs/2302.04841v1
- Date: Thu, 9 Feb 2023 18:49:13 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-10 14:39:39.537771
- Title: Is This Loss Informative? Speeding Up Textual Inversion with
Deterministic Objective Evaluation
- Title(参考訳): この損失は有益ですか。
決定論的客観的評価によるテキストインバージョン高速化
- Authors: Anton Voronov, Mikhail Khoroshikh, Artem Babenko, Max Ryabinin
- Abstract要約: 新たな研究領域の1つは、より小さなデータセットや新しいビジュアル概念に大規模なテキスト・ツー・イメージ・モデルの迅速な適応である。
そこで本研究では,テキストのインバージョンを高速化するためのトレーニングダイナミクスについて検討する。
93概念に対する潜在拡散モデルと安定拡散モデルの両方に関する実験により,本手法の競合性能を実証した。
- 参考スコア(独自算出の注目度): 28.913885593313267
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Text-to-image generation models represent the next step of evolution in image
synthesis, offering natural means of flexible yet fine-grained control over the
result. One emerging area of research is the rapid adaptation of large
text-to-image models to smaller datasets or new visual concepts. However, the
most efficient method of adaptation, called textual inversion, has a known
limitation of long training time, which both restricts practical applications
and increases the experiment time for research. In this work, we study the
training dynamics of textual inversion, aiming to speed it up. We observe that
most concepts are learned at early stages and do not improve in quality later,
but standard model convergence metrics fail to indicate that. Instead, we
propose a simple early stopping criterion that only requires computing the
textual inversion loss on the same inputs for all training iterations. Our
experiments on both Latent Diffusion and Stable Diffusion models for 93
concepts demonstrate the competitive performance of our method, speeding
adaptation up to 15 times with no significant drops in quality.
- Abstract(参考訳): テキスト・ツー・イメージ生成モデルは、画像合成における進化の次のステップであり、フレキシブルできめ細かな制御の自然な手段を提供する。
新たな研究領域の1つは、より小さなデータセットや新しい視覚概念に大規模なテキスト・イメージ・モデルの迅速な適応である。
しかし、テキスト・インバージョンと呼ばれる最も効率的な適応法は、実用的応用を制限し、研究のための実験時間を増大させる、長い訓練時間の既知の制限を有する。
本研究では,テキスト反転の学習ダイナミクスについて検討し,その高速化を目的とした。
ほとんどの概念は初期段階で学習され、その後の品質は向上しないが、標準的なモデル収束メトリクスはそれを示さない。
その代わり、我々は、すべてのトレーニングイテレーションで同じ入力でテキストの反転損失を計算するだけでよい単純な早期停止基準を提案します。
93概念の潜在拡散モデルと安定拡散モデルの両方について実験を行った結果,本手法の性能は最大15倍まで向上し,品質の低下はみられなかった。
関連論文リスト
- E$^{2}$GAN: Efficient Training of Efficient GANs for Image-to-Image
Translation [71.7970885247162]
拡散モデルからGANを蒸留するプロセスは、より効率的にできるのか?
まず、一般化された特徴を持つベースGANモデルを構築し、微調整により異なる概念に適応し、スクラッチからトレーニングの必要性を排除した。
第2に,ベースモデル全体の微調整を行うのではなく,低ランク適応(LoRA)を簡易かつ効果的なランク探索プロセスで行う。
論文 参考訳(メタデータ) (2024-01-11T18:59:14Z) - Class Incremental Learning with Pre-trained Vision-Language Models [59.15538370859431]
本稿では、事前学習された視覚言語モデル(例えば、CLIP)を利用して、さらなる適応を可能にするアプローチを提案する。
いくつかの従来のベンチマークの実験は、常に現在の最先端よりも顕著な改善のマージンを示している。
論文 参考訳(メタデータ) (2023-10-31T10:45:03Z) - Efficient-3DiM: Learning a Generalizable Single-image Novel-view
Synthesizer in One Day [63.96075838322437]
シングルイメージのノベルビューシンセサイザーを学習するためのフレームワークを提案する。
当社のフレームワークは,トレーニング時間を10日以内から1日未満に短縮することが可能です。
論文 参考訳(メタデータ) (2023-10-04T17:57:07Z) - Accelerating Multiframe Blind Deconvolution via Deep Learning [0.0]
地上からの太陽画像の復元は計算に費用がかかる手続きである。
本稿では,アルゴリズムのアンロールに基づく復元を高速化する手法を提案する。
両手法が標準最適化法と比較して復元時間を大幅に短縮することを示した。
論文 参考訳(メタデータ) (2023-06-21T07:53:00Z) - EfficientTrain: Exploring Generalized Curriculum Learning for Training
Visual Backbones [80.662250618795]
本稿では視覚バックボーン(例えば視覚変換器)の効率的なトレーニングのための新しいカリキュラム学習手法を提案する。
オフザシェルフ方式として、様々な人気モデルのウォールタイムトレーニングコストを、精度を犠牲にすることなく、ImageNet-1K/22Kで1.5倍に削減する。
論文 参考訳(メタデータ) (2022-11-17T17:38:55Z) - On Efficient Transformer and Image Pre-training for Low-level Vision [74.22436001426517]
プレトレーニングは、ハイレベルコンピュータビジョンにおける多くの最先端の芸術である。
画像事前学習の詳細な研究について述べる。
低レベルのタスクでは,事前トレーニングが極めて異なる役割を担っています。
論文 参考訳(メタデータ) (2021-12-19T15:50:48Z) - LAFITE: Towards Language-Free Training for Text-to-Image Generation [83.2935513540494]
テキストデータなしでテキストから画像への生成モデルをトレーニングするための最初の作業を提案する。
提案手法は,CLIPモデルのマルチモーダルなセマンティック空間の整合性を活用している。
我々は,標準的なテキスト・画像生成タスクにおいて,最先端の結果を得る。
論文 参考訳(メタデータ) (2021-11-27T01:54:45Z) - Improved Techniques for Training Single-Image GANs [44.251222212306764]
生成モデルは、大きなデータセットからではなく、単一のイメージから学習することができる。
1つのサンプルのみから現実的な画像を生成することができるモデルを訓練するためのベストプラクティスを提案する。
私たちのモデルはトレーニングの最大6倍高速で、パラメータが少なく、画像のグローバルな構造をよりよく捉えることができます。
論文 参考訳(メタデータ) (2020-03-25T17:33:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。