論文の概要: Geometry-Aware Time Reparameterization for Flow-Map Distillation

• arxiv url: http://arxiv.org/abs/2610.02427v1
• Date: Thu, 01 Oct 2026 19:49:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.071969
• Title: Geometry-Aware Time Reparameterization for Flow-Map Distillation
• Title（参考訳）: フローマップ蒸留のための幾何学的時間パラメータ化
• Abstract要約: フローマップ蒸留は、事前訓練された生成ODEの有限時間遷移を学習することにより、一段階と二段階の生成を可能にする。 通常の加速度が大きい軌道セグメントは蒸留が難しいという仮説により、幾何認識時間再パラメータ化を提案する。 適切な仮定で正規化統計値に等しくなる共有クロックを導出し,教師軌跡をまたいだロバストな正規化推定値から実用的近似を構築する。
• 参考スコア（独自算出の注目度）: 15.466792210118014
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Flow-map distillation enables one- and few-step generation by learning finite-time transitions of a pretrained generative ODE. We investigate whether changing the teacher's time parameterization can make these transitions easier to learn. Motivated by the hypothesis that trajectory segments with large normal acceleration are harder to distill, we propose a geometry-aware time reparameterization that allocates more student time to these regions while preserving the teacher's geometric paths and terminal distribution. We derive a shared clock that equalizes a population normal-acceleration statistic under suitable assumptions, and construct a practical approximation from robust, regularized estimates across teacher trajectories. We incorporate this clock into Lagrangian flow-map distillation, using the transformed time coordinate to condition the student. The clock is estimated once before distillation and requires neither teacher retraining nor additional student parameters or inference-time network evaluations. Experiments on synthetic data, CIFAR-10, and CelebA-64 show improved sample quality over identity-time distillation at matched inference budgets, including improvements in one- and two-step image generation. The gains in one-step generation, where no intermediate sampling times can be adjusted, highlight the benefits of time reparameterization during distillation.
• Abstract（参考訳）: フローマップ蒸留は、事前訓練された生成ODEの有限時間遷移を学習することにより、一段階と二段階の生成を可能にする。 教師の時間パラメータ化の変更がこれらの移行をより容易に学習できるかどうかを検討する。 そこで我々は,教師の幾何学的パスと終端分布を保ちながら,これらの領域により多くの学生時間を割り当てる幾何学的時間パラメータ化を提案する。 適切な仮定で正規化統計値に等しくなる共有クロックを導出し,教師軌跡をまたいだロバストな正規化推定値から実用的近似を構築する。 我々はこの時計をラグランジアンフローマップ蒸留に組み込み、変換時間座標を用いて学生を条件付けする。 この時計は蒸留前に1回推定され、教師の再訓練も追加の学生パラメータや推論時間ネットワークの評価も必要としない。 合成データ, CIFAR-10, CelebA-64を用いた実験では, 一致した推論予算での恒常蒸留よりも試料品質が向上し, 1段階と2段階の画像生成が改善した。 中間サンプリング時間を調整できないワンステップ生成では、蒸留中の時間再パラメータ化の利点が強調される。

関連論文リスト

• Distillation of Foundation Models for Time-dependent PDEs [21.455872116756492]
  本研究では,事前学習した基礎モデルの予測能力を,コンパクトで効率的な学生に伝達する知識蒸留フレームワークを提案する。 微調整された教師から始めて、TREXは教師のロールアウトを通じて長い合成軌跡を生成することによって、下流の限られたデータを増やす。 結果として得られた学生は、数桁のパラメータ数を減らしながら、教師の精度を一致または超えることができる。
  論文  参考訳（メタデータ） (2026-08-12T11:24:08Z)
• Beyond Trajectory Matching: Reflow with Marginal Distribution Alignment [7.13416637929041]
  拡散および連続フロー生成モデルは高品質な生成を実現する。 リフローに基づく蒸留は、教師のODE軌道を単純化し、生徒モデルが教師の移動を少ないステップで近似できるようにする。 本稿では,各蒸留間隔の終点において,学生が引き起こした限界値とそれに対応する教師の限界値との差分をペナライズする境界アライメント正規化器を提案する。
  論文  参考訳（メタデータ） (2026-06-28T09:19:44Z)
• Entropic Time Schedulers for Generative Diffusion Models [4.434657205161407]
  本稿では,一様時間間隔ではなく,エントロピーに基づくサンプリングポイントを選択する時間スケジューラを提案する。 本研究では、(再スケール)エントロピー時間を用いることで、トレーニングされたモデルの推論性能が大幅に向上することを示す。
  論文  参考訳（メタデータ） (2025-04-18T10:35:19Z)
• Understanding Warmup-Stable-Decay Learning Rates: A River Valley Loss Landscape Perspective [66.80315289020487]
  Warmup-Stable-Decay (WSD) スケジュールは、一定の学習率を使用して、所定の計算予算なしで無限に継続できるイテレーションのメインブランチを生成する。 プレトレーニング損失は,河底に川がある深い谷に類似した河谷景観を呈することを示す。 この理論にインスパイアされたWSD-Sは、従来のチェックポイントの崩壊フェーズを再利用し、メインブランチを1つだけ保持するWSDの変種である。
  論文  参考訳（メタデータ） (2024-10-07T16:49:39Z)
• Object-Centric Diffusion for Efficient Video Editing [64.71639719352636]
  拡散ベースのビデオ編集は素晴らしい品質に達している。 このようなソリューションは通常、時間的に整合性のあるフレームを生成するために重いメモリと計算コストを発生させる。 品質を維持しつつ、大幅なスピードアップを可能にする修正を提案する。
  論文  参考訳（メタデータ） (2024-01-11T08:36:15Z)
• Delta Distillation for Efficient Video Processing [68.81730245303591]
  デルタ蒸留と呼ばれる新しい知識蒸留方式を提案する。 ビデオフレーム内の時間的冗長性により,これらの時間的変動を効果的に蒸留できることを実証した。 副産物として、デルタ蒸留は教師モデルの時間的一貫性を向上させる。
  論文  参考訳（メタデータ） (2022-03-17T20:13:30Z)
• Critical Parameters for Scalable Distributed Learning with Large Batches and Asynchronous Updates [67.19481956584465]
  飽和を伴う分散トレーニング(SGD)の効率は、バッチサイズと、実装における停滞に決定的に依存することが実験的に観察されている。 結果がタイトであることを示し、数値実験で重要な結果を示しています。
  論文  参考訳（メタデータ） (2021-03-03T12:08:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。