論文の概要: Fast and Useful: Adapting Distilled Generators for Visual Learning

• arxiv url: http://arxiv.org/abs/2610.32512v2
• Date: Thu, 29 Oct 2026 11:47:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-30 22:39:27.482652
• Title: Fast and Useful: Adapting Distilled Generators for Visual Learning
• Title（参考訳）: 高速かつ便利な:視覚学習のための蒸留発電機の適応
• Abstract要約: 高速な発電を維持しながら、より優れたトレーニングデータを生成するために、放出された蒸留発電機に適応する。 ImageNet-1kスケールのクラス名テンプレートでは、ResNet-50 Top-1はFLUX.2-kleinで8.4%から34.2%、SD-Turboで12.7%から32.1%に上昇する。
• 参考スコア（独自算出の注目度）: 6.833058536744545
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Distilled text-to-image models generate images quickly, but classifiers trained on those images can perform substantially worse than classifiers trained on images from their slower base models. We adapt released distilled generators to produce better training data while retaining fast generation. We fit a low-rank update to the student's first prediction so that it reaches an intermediate state produced by its unguided base, then disable the update and let the unchanged student finish generation. The base supplies training targets and is absent at inference. Guided targets and shorter jumps give classifiers lower accuracy in our ablations, showing why the state used for supervision matters. Across three generator families, the adapted images train better classifiers than images from the released students. With class-name templates at full ImageNet-1k scale, ResNet-50 top-1 rises from 8.4% to 34.2% for FLUX.2-klein and from 12.7% to 32.1% for SD-Turbo, using two and three denoiser evaluations per image, respectively. Fixed adapters also improve results on additional classes, fine-grained datasets, and other learner architectures and training recipes. Template-based adaptation remains useful against richer-prompt alternatives, while the benefit of combining adaptation with LLM generation prompts depends on the generator. Adapting a single generation step makes fast generators substantially more useful for training visual models.
• Abstract（参考訳）: しかし、それらの画像で訓練された分類器は、遅いベースモデルで訓練された画像で訓練された分類器よりもはるかにパフォーマンスが劣る。 高速な発電を維持しながら、より優れたトレーニングデータを生成するために、放出された蒸留発電機に適応する。 我々は、学生の最初の予測に低ランクの更新を適合させて、無誘導ベースによって生成された中間状態に達するようにし、その後、更新を無効にし、変化しない学生を終了させる。 基地は訓練目標を供給しており、推論時に欠席している。 ガイドされた目標と短いジャンプは、我々のアブレーションにおける分類器の精度を低くし、州が監督のために使った理由を示しています。 3つのジェネレータファミリーで、適応されたイメージは、解放された学生の画像よりも優れた分類器を訓練する。 フルイメージNet-1kスケールのクラス名テンプレートでは、ResNet-50 Top-1はFLUX.2-kleinが8.4%から34.2%、SD-Turboが12.7%から32.1%に上昇し、画像ごとに2つと3つのデノイザ評価が使用されている。 固定アダプタは、追加のクラス、きめ細かいデータセット、その他の学習者アーキテクチャやトレーニングレシピの結果も改善する。 テンプレートベースの適応は、よりリッチなプロンプト代替案に対して有用であり、一方、LLM生成プロンプトへの適応の利点はジェネレータに依存している。 単一の生成ステップに適応することで、高速なジェネレータが視覚モデルのトレーニングに極めて有用になる。

関連論文リスト

• FeaTok: Feature-Loss Tokenization for Image Generation [26.35372456073046]
  画素ではなく予め訓練された特徴を再構成することで、個別のトークンを訓練するFeaTok(FeaTok)を導入する。 FeaTokは3つのベンチマークで連続的かつ離散的なテキスト条件ベースラインを超えており、事前トレーニング後の微調整はわずか500である。
  論文  参考訳（メタデータ） (2026-10-15T15:23:02Z)
• Exploring the Performance Frontier of Compact Unified Image Generation Models [24.485980902368706]
  Swift-Imageは、テキストから画像生成、シングルイメージ編集、マルチイメージ編集のためのコンパクトな統一モデルである。 Swift-Imageは、6Bパラメータと243KのGPUトレーニング時間しか持たない、評価済みのオープンソースモデルの中で、リードアグリゲーションパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2026-08-20T17:59:52Z)
• A Frozen Pixel-Space Diffusion Model Can Guide Itself with Its Own Samples [53.8898272536272]
  画素空間拡散モデルは、生のピクセル上でエンドツーエンドのジェネレータを直接学習することを目的としている。 最近の研究は、代替の予測ターゲット、訓練目標、アーキテクチャによるピクセル拡散を改善している。 我々は、より安価で相補的な戦略があることを示します。textbfaフリーズ、事前訓練されたピクセル拡散モデルは、自身をガイドすることができます。
  論文  参考訳（メタデータ） (2026-07-31T07:52:08Z)
• MobileCLIP2: Improving Multi-Modal Reinforced Training [65.61629555586948]
  我々はMobileCLIP2と呼ばれる新しいモデルのファミリーを訓練し、最先端のImageNet-1kゼロショット精度を低レイテンシで達成する。 我々は,MobileCLIP2-BにおけるImageNet-1kの精度を,MobileCLIP-Bアーキテクチャと比較して2.2%改善した。
  論文  参考訳（メタデータ） (2025-08-28T11:50:22Z)
• Representation Entanglement for Generation: Training Diffusion Transformers Is Much Easier Than You Think [63.25744258438214]
  REPAとその変種は、事前訓練されたモデルから外部の視覚表現を取り入れることで、拡散モデルのトレーニング課題を効果的に軽減する。 偏見推論過程全体において欠落している外部アライメントは、識別的表現の可能性を完全に活用するに足らないと我々は主張する。 本稿では,事前学習した基礎モデルから,低レベル画像ラテントを1つの高レベルクラストークンで絡み合わせるRepresentation Entanglement for Generation (REG)を提案する。
  論文  参考訳（メタデータ） (2025-07-02T08:29:18Z)
• Active Generation for Image Classification [45.93535669217115]
  本稿では,モデルのニーズと特徴に着目し,画像生成の効率性に対処することを提案する。 能動学習の中心的傾向として,ActGenという手法が,画像生成のトレーニング・アウェア・アプローチを取り入れている。
  論文  参考訳（メタデータ） (2024-03-11T08:45:31Z)
• EfficientNetV2: Smaller Models and Faster Training [91.77432224225221]
  本稿では,従来のモデルよりも高速な学習速度とパラメータ効率を有する畳み込みネットワークであるEfficientNetV2を紹介する。 トレーニング対応のニューラルネットワークアーキテクチャ検索とスケーリングを組み合わせて、トレーニング速度とパラメータ効率を共同で最適化します。 実験の結果,EfficientNetV2モデルは最先端モデルよりも最大6.8倍の速度でトレーニングできることがわかった。
  論文  参考訳（メタデータ） (2021-04-01T07:08:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。