論文の概要: Distribution Matching Distillation without Fake Score Network
- arxiv url: http://arxiv.org/abs/2605.19256v1
- Date: Tue, 19 May 2026 02:05:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-20 15:03:09.068405
- Title: Distribution Matching Distillation without Fake Score Network
- Title(参考訳): フェイクスコアネットワークのない分散マッチング蒸留
- Authors: Youngjoong Kim, Deokyeong Lee, Jaesik Park,
- Abstract要約: 分散マッチング蒸留(DMD)は、数ステップ生成に有効な分布レベルの補正を提供する。
最近の研究は、DMDスタイルの目標とフローマップジェネレータを組み合わせることで、前方偏差トレーニングと逆偏差補正の両方を活用する。
本研究では,Fake-Score-network-Free DMD (FSF-DMD)を提案する。
- 参考スコア(独自算出の注目度): 30.128477787234363
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Distribution Matching Distillation (DMD) provides an effective distribution-level correction for few-step generation, while relying on an auxiliary fake-score network to track the evolving generative distribution. Recent work combines DMD-style objectives with flow-map generators to exploit both forward-divergence training and reverse-divergence correction. The fake-score estimator remains an additional component with memory and update overhead. In this work, we study whether this explicit tracker can be avoided when the generator itself has a flow-map structure. We propose Fake-Score-network-Free DMD (FSF-DMD), a DMD formulation for flow-map generators that replaces the auxiliary fake-score estimator with a generator-induced pseudo-velocity surrogate. The key observation is that the endpoint pseudo-velocity of a flow-map generator provides a tractable proxy for fake-velocity estimation, allowing the generator itself to supply the reverse-divergence signal. Building on this observation, we derive a practical objective, extend it with flow-map-consistent backward simulation, and introduce a self-teacher variant for training from scratch. In our ImageNet-1K $256 \times 256$ experiments, FSF-DMD improves flow-map baselines, reaches lower FID than the listed DMD2 comparisons in the flow-map-initialized setting, and remains effective under flow-matching initialization and training from scratch.
- Abstract(参考訳): 分散マッチング蒸留(DMD)は、進化する生成分布を追跡するために補助的な偽スコアネットワークに依存しながら、数ステップ生成に対して効果的な分布レベルの補正を提供する。
最近の研究は、DMDスタイルの目標とフローマップジェネレータを組み合わせることで、前方偏差トレーニングと逆偏差補正の両方を活用する。
偽スコア推定器は、メモリと更新オーバーヘッドを伴う追加のコンポーネントのままである。
本研究では,ジェネレータ自体がフローマップ構造を持つ場合,この明示的なトラッカーを回避できるかどうかを検討する。
本研究では,Fake-Score-network-Free DMD (FSF-DMD)を提案する。
キーとなる観察は、フローマップジェネレータの終端擬似速度が、フェイク速度推定のためのトラクタブルプロキシを提供し、ジェネレータ自体が逆発振信号を供給することができることである。
本研究は,本研究の実践的目的を導出し,フローマップに一貫性のある後方シミュレーションにより拡張し,スクラッチから学習を行うための自己学習者変異を導入した。
ImageNet-1K $256 \times 256$ 実験において、FSF-DMDはフローマップベースラインを改善し、フローマップ初期化設定においてリストされたDMD2比較よりも低いFIDに到達し、フローマッチング初期化およびスクラッチからのトレーニングにおいて有効である。
関連論文リスト
- Drifting Objectives for Refining Discrete Diffusion Language Models [23.931675509910047]
TokenDriftは、カテゴリー予測をソフトトーケンの特徴に引き上げる漂流目標である。
一致した継続ベースラインよりも固定NFE生成品質が向上する。
MDLMでは89%、DUOでは86%減少する。
論文 参考訳(メタデータ) (2026-05-19T07:22:17Z) - Posterior Augmented Flow Matching [64.1559809786948]
後拡張フローマッチング(PAFM)はフローマッチング(FM)の一般化である
PAFMは、異なるモデルスケールで最大3.4FID50KでFMよりも改善されていることを示す。
論文 参考訳(メタデータ) (2026-05-01T17:59:59Z) - Riemannian MeanFlow for One-Step Generation on Manifolds [54.09734511705173]
フローマッチングは、生成モデルのシミュレーション不要なトレーニングを可能にする。
平均フローは、位置依存接空間に速度が存在する多様体値生成に拡張することができる。
球面, トーリ, SO(3)における実験は, 品質・効率のトレードオフを改善し, サンプリングコストを大幅に削減して, 競争力のある一段階サンプリングを実証した。
論文 参考訳(メタデータ) (2026-03-11T12:41:46Z) - Path-Guided Flow Matching for Dataset Distillation [9.761850986508895]
本稿では, 数ステップでODEを解くことで, 高速な決定論的合成を可能にする, 生成蒸留のための最初のフローマッチングに基づくフレームワークを提案する。
本研究では, ODE-consistent path control のための連続経路-プロトタイプ誘導アルゴリズムを開発し, トラジェクトリが割り当てられたプロトタイプに確実に着地できるようにする。
論文 参考訳(メタデータ) (2026-02-05T12:52:32Z) - Test-time scaling of diffusions with flow maps [68.79792714591564]
テスト時の拡散モデルを改善するための一般的なレシピは、報酬の勾配を拡散そのものの力学に導入することである。
フローマップを直接扱うことで,簡単な解を提案する。
本研究では, 流図と流速場の関係を利用して, 従来のテスト時間法よりも精度の高いフローマップトラジェクトリ・ティルティング (FMTT) アルゴリズムを構築した。
論文 参考訳(メタデータ) (2025-11-27T18:44:12Z) - MapDiffusion: Generative Diffusion for Vectorized Online HD Map Construction and Uncertainty Estimation in Autonomous Driving [24.962900390344235]
自律運転はセンサデータから静的環境を理解する必要がある。
伝統的な地図構築モデルは決定論的点推定を提供する。
本研究では,ベクトル化可能な地図の完全な分布を学習する新しい生成手法であるMapDiffusionを提案する。
論文 参考訳(メタデータ) (2025-07-29T01:16:40Z) - Pruning then Reweighting: Towards Data-Efficient Training of Diffusion Models [33.09663675904689]
データセットプルーニングの観点から,効率的な拡散訓練について検討する。
GAN(Generative Adversarial Network)のような生成モデルに対するデータ効率トレーニングの原則に着想を得て、まず、GANで使用されるデータ選択スキームをDMトレーニングに拡張する。
生成性能をさらに向上するため,クラスワイド・リウェイト方式を採用する。
論文 参考訳(メタデータ) (2024-09-27T20:21:19Z) - CMFDFormer: Transformer-based Copy-Move Forgery Detection with Continual
Learning [52.72888626663642]
コピーモーブ偽造検出は、疑わしい偽画像中の重複領域を検出することを目的としている。
深層学習に基づく複写偽造検出手法が最上位にある。
CMFDFormer という名称の Transformer-style copy-move forgery ネットワークを提案する。
また、CMFDFormerが新しいタスクを処理できるように、新しいPCSD連続学習フレームワークを提供する。
論文 参考訳(メタデータ) (2023-11-22T09:27:46Z) - Deep Metric Learning for Unsupervised Remote Sensing Change Detection [60.89777029184023]
リモートセンシング変化検出(RS-CD)は、マルチテンポラルリモートセンシング画像(MT-RSI)から関連する変化を検出することを目的とする。
既存のRS-CD法の性能は、大規模な注釈付きデータセットのトレーニングによるものである。
本稿では,これらの問題に対処可能なディープメトリック学習に基づく教師なしCD手法を提案する。
論文 参考訳(メタデータ) (2023-03-16T17:52:45Z) - Using Intermediate Forward Iterates for Intermediate Generator
Optimization [14.987013151525368]
中間ジェネレータ最適化は、生成タスクのための任意の標準オートエンコーダパイプラインに組み込むことができる。
IGOの2つの密集予測タスク(viz.)、画像外挿、点雲デノイング(denoising)に対する応用を示す。
論文 参考訳(メタデータ) (2023-02-05T08:46:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。