論文の概要: Diversify Diffusion with Temperature Sampling and Variance-Corrective Time Shifting
- arxiv url: http://arxiv.org/abs/2607.10853v1
- Date: Sun, 12 Jul 2026 17:32:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-14 15:40:48.55543
- Title: Diversify Diffusion with Temperature Sampling and Variance-Corrective Time Shifting
- Title(参考訳): 温度サンプリングと可変補正時間シフトによる拡散の多様化
- Authors: Peizhuo Li, Emre Aksan, Alexandru-Eugen Ichim, Thabo Beeler, Olga Sorkine-Hornung,
- Abstract要約: 本稿では,モード再重み付けを保ちながら分散インフレーションをキャンセルし,ネットワークをシフトタイムステップでクエリし,その結果のスコアを$$でスケールするトレーニング不要な修正である分散補正時間シフトを導入する。
DiT, 安定拡散モデル, 運動拡散モデルにまたがる品質と条件の忠実度を, 最小限のコストで一貫したゲインを示す。
- 参考スコア(独自算出の注目度): 57.75750707482832
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion models faithfully reproduce their training distribution, but also inherit its imbalances and leave rare or under-represented modes hard to reach. A natural inference-time remedy is to sample from the high-temperature target $p^{(γ)}_0(x) \propto p_0(x)^γ$ for $0 < γ< 1$, which flattens dominant modes and lifts rare ones. However, naive score scaling while correctly reweighting modes also inflates the per-mode variance, breaking the reverse diffusion process and degrading sample quality. We introduce variance-corrective time shifting, a training-free fix that queries the network at a shifted timestep and scales the resulting score by $γ$, canceling the variance inflation while preserving the mode reweighting. The correction turns simple temperature sampling into a practical diversity knob for pretrained diffusion and flow-matching backbones with no retraining, and we demonstrate consistent gains at minimal cost to sample quality and condition fidelity across DiT, Stable Diffusion and Motion Diffusion models. We further show that the timing of the temperature intervention enables coarse-to-fine control: high-noise stages drive compositional diversity across modes, while low-noise stages drive local appearance variation under a fixed composition.
- Abstract(参考訳): 拡散モデルはトレーニング分布を忠実に再現するが、その不均衡を継承し、希少または低表現のモードを残すことは困難である。
p^{(γ)}_0(x) \propto p_0(x)^γ$ for $0 < γ< 1$, which is flattens dominant modes and lifts rare。
しかし, 正確な再重み付けモードでは, 逆拡散過程を破り, 試料品質を劣化させるなど, 過度なスコアスケーリングが生じる。
そこで本研究では,モード再重み付けを保ちながら分散インフレーションをキャンセルし,ネットワークをシフトタイムステップでクエリし,その結果のスコアを$γ$でスケールするトレーニング不要な修正法である分散補正時間シフトを導入する。
本補正は, 簡易な温度サンプリングを, トレーニング済み拡散・流動整合バックボーンの実用的多様性ノブに転換し, 最小コストでDiT, 安定拡散, 運動拡散モデル間の品質および条件忠実度をサンプリングする一貫したゲインを実証する。
さらに, 温度介入のタイミングが粗い制御を可能にすることを示し, ハイノイズステージはモード間の組成の多様性を, 低ノイズステージは一定の構成下で局所的な外観変化を誘導することを示した。
関連論文リスト
- Progressive Inference-Time Annealing of Diffusion Models for Sampling from Boltzmann Densities [93.13866975467549]
拡散に基づくサンプル学習のために, PITA(Progressive Inference-Time Annealing)を提案する。
PITAはボルツマン分布のアナーリングと拡散平滑化という2つの相補的手法を組み合わせたものである。
N-体粒子系、アラニンジペプチド、トリペプチドの平衡サンプリングを可能にする。
論文 参考訳(メタデータ) (2025-06-19T17:14:22Z) - FlowVAT: Normalizing Flow Variational Inference with Affine-Invariant Tempering [0.0]
多モード・高次元後肢は変分推論に重要な課題を呈する。
本稿では,フロー変動推論を正規化するための条件付きテンパリング手法であるFlowVATを紹介する。
提案手法は, ベース分布とターゲット分布を同時に焼成し, 焼成下でのアフィン不変性を維持できる。
論文 参考訳(メタデータ) (2025-05-15T16:20:36Z) - Revisiting Self-Consistency from Dynamic Distributional Alignment Perspective on Answer Aggregation [21.64693536216534]
自己整合性は、多様なサンプルを集約することで推論を改善する。
復号化温度がランダム性を制御し,応答分布を積極的に形成することを示す。
温度を動的に校正する信頼性駆動機構を提案する。
論文 参考訳(メタデータ) (2025-02-27T07:07:40Z) - Repulsive Latent Score Distillation for Solving Inverse Problems [31.255943277671893]
SDS(Score Distillation Sampling)は,逆問題などの下流タスクにおいて,事前学習した拡散モデルを活用する上で重要である。
モード崩壊と遅延空間逆転に対処するために, 後方サンプリングのための新しい変分フレームワークを提案する。
我々は、このフレームワークを拡張して、潜伏者とデータをアンタングルする拡張された変分分布を拡張します。
論文 参考訳(メタデータ) (2024-06-24T14:43:02Z) - Boosting Diffusion Models with Moving Average Sampling in Frequency Domain [101.43824674873508]
拡散モデルは、現在のサンプルに頼って次のサンプルをノイズ化し、おそらく不安定化を引き起こす。
本稿では,反復的復調過程をモデル最適化として再解釈し,移動平均機構を利用して全ての先行サンプルをアンサンブルする。
周波数領域における平均サンプリング(MASF)の動作」という完全なアプローチを命名する。
論文 参考訳(メタデータ) (2024-03-26T16:57:55Z) - ShiftDDPMs: Exploring Conditional Diffusion Models by Shifting Diffusion
Trajectories [144.03939123870416]
本稿では,前処理に条件を導入することで,新しい条件拡散モデルを提案する。
いくつかのシフト規則に基づいて各条件に対して排他的拡散軌跡を割り当てるために、余剰潜在空間を用いる。
我々は textbfShiftDDPMs と呼ぶメソッドを定式化し、既存のメソッドの統一的な視点を提供する。
論文 参考訳(メタデータ) (2023-02-05T12:48:21Z) - Bi-Noising Diffusion: Towards Conditional Diffusion Models with
Generative Restoration Priors [64.24948495708337]
本研究では,事前訓練した非条件拡散モデルを用いて,予測サンプルをトレーニングデータ多様体に導入する手法を提案する。
我々は,超解像,着色,乱流除去,画像劣化作業におけるアプローチの有効性を実証するための総合的な実験を行った。
論文 参考訳(メタデータ) (2022-12-14T17:26:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。