論文の概要: Mitigating the Contractivity Trap in Diffusion ODEs via Stein Stabilization
- arxiv url: http://arxiv.org/abs/2606.07835v1
- Date: Fri, 05 Jun 2026 20:54:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-09 14:42:05.477257
- Title: Mitigating the Contractivity Trap in Diffusion ODEs via Stein Stabilization
- Title(参考訳): 定常安定化による拡散オーダの縮約トラップの緩和
- Authors: Shigui Li, Delu Zeng,
- Abstract要約: 基本的緊張は、その決定論的確率フロー常微分方程式(PF-ODE)軌道による拡散モデルの大きなステップ推論に存在する。
本稿では,ステップワイズ推論時安定化フレームワークであるSteinDiffを提案する。
- 参考スコア(独自算出の注目度): 8.208222349301785
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A fundamental tension exists in the large-step inference of diffusion models via their deterministic probability flow ordinary differential equation (PF-ODE) trajectories, which we identify as the contractivity trap: efficient inference favors large step sizes, while aggressive steps and highly expressive denoisers can undermine contraction-based stability certificates for error suppression. To address this, we propose SteinDiff, a step-wise inference-time stabilization framework that employs Stein-derived corrections without requiring reference samples. Specifically, SteinDiff introduces a geometry-aware residual correction mechanism that regularizes large-step solver updates without retraining. To this end, we derive a closed-form Stein correction coefficient for step-wise solver adjustment, enabling reference-free adaptation to local data geometry. We further establish a score-controlled perturbation bound under distributional shifts and provide a complementary Stein perspective on EDM-style parameterizations. Extensive experiments demonstrate that SteinDiff mitigates severe artifacts and improves generative quality across large-step inference settings.
- Abstract(参考訳): 決定論的確率フロー常微分方程式(PF-ODE)トラジェクトリ(英語版)による拡散モデルの大ステップ推論には基本的張力が存在する: 効率的な推論は大きなステップサイズを好んでおり、一方、攻撃的なステップと非常に表現力の高いデノイザは、エラー抑制のための収縮に基づく安定性証明を損なうことができる。
そこで本研究では,ステップワイズ推論時安定化フレームワークであるSteinDiffを提案する。
具体的には、SteinDiffはジオメトリ対応の残留補正機構を導入し、再トレーニングせずに大規模な解法更新を正規化している。
この目的のために、ステップワイドソルバ調整のための閉形式のスタイン補正係数を導出し、局所データ幾何への参照なし適応を可能にする。
さらに、分布シフトの下でのスコア制御摂動を定式化し、EDM型パラメータ化の相補的なスタイン視点を提供する。
大規模な実験により、SteinDiffは深刻なアーティファクトを緩和し、大規模な推論設定で生成品質を向上させることが示されている。
関連論文リスト
- Precise: SDE-Consistent Stochastic Sampling for RL Post-Training of Flow-Matching Models [56.67321805551389]
Reinforcement Learning (RL) は, 拡散・流れマッチングジェネレータにおいて, 迅速なアライメントと知覚品質の向上に有効な方法となっている。
探索行動の制御と力学のデノベーションを行うサンプルは、この方針の一部である。
有効探査と安定性のバランスをとる新しいサンプリング器を提案する。
論文 参考訳(メタデータ) (2026-05-22T11:37:22Z) - Bias-Constrained Diffusion Schedules for PDE Emulations: Reconstruction Error Minimization and Efficient Unrolled Training [32.42657582329756]
条件拡散モデルは複雑な力学をエミュレートするための強力な代理である。
彼らはしばしば、高精度なタスクのために神経エミュレータの精度に合わない。
自己回帰的PDE拡散モデルの2つの重要な限界に対処する。
論文 参考訳(メタデータ) (2026-04-09T15:21:31Z) - Memory-Conditioned Flow-Matching for Stable Autoregressive PDE Rollouts [0.0]
自己回帰生成型PDEソルバは1歩前進し、長いロールアウトでドリフトする。
未解決変数の除去はマルコフ項で完全に解決された進化をもたらすことを示す。
次に、条件生成誤差からメモリ近似を分離する離散的なGrnwallロールアウト境界を導出する。
論文 参考訳(メタデータ) (2026-02-06T13:21:52Z) - Diffusion Models for Solving Inverse Problems via Posterior Sampling with Piecewise Guidance [52.705112811734566]
断片的なガイダンススキームを用いて,逆問題を解決するための新しい拡散型フレームワークが導入された。
提案手法は問題に依存しず,様々な逆問題に容易に適応できる。
このフレームワークは, (4時間), (8時間) の超分解能タスクに対して, (23%), (24%) および (24%) の無作為マスクを塗布する場合の (25%) の推論時間を短縮する。
論文 参考訳(メタデータ) (2025-07-22T19:35:14Z) - Training-Free Stein Diffusion Guidance: Posterior Correction for Sampling Beyond High-Density Regions [46.59494117137471]
自由拡散誘導の訓練は、追加の訓練なしに既成の分類器を活用する柔軟な方法を提供する。
本稿では,SOC を対象とする新たなトレーニングフリーフレームワークである Stein Diffusion Guidance (SDG) を紹介する。
分子低密度サンプリングタスクの実験は、SDGが標準のトレーニングフリーガイダンス手法を一貫して上回っていることを示唆している。
論文 参考訳(メタデータ) (2025-07-07T21:14:27Z) - Semi-Implicit Variational Inference via Kernelized Path Gradient Descent [12.300415631357406]
Kullback-Leibler分散を用いたトレーニングは、高次元設定における高分散とバイアスのために難しい場合がある。
非パラメトリックな平滑化によるトレーニングを安定化するカーネル化されたKL分散推定器を提案する。
関数空間における我々の手法のバイアスは良性であり、より安定で効率的な最適化をもたらす。
論文 参考訳(メタデータ) (2025-06-05T14:34:37Z) - Adaptive Multi-step Refinement Network for Robust Point Cloud Registration [82.64560249066734]
ポイントクラウド登録は、同じシーンの2つのポイントクラウド間の相対的な厳密な変換を推定する。
本稿では,前ステップからの情報を活用することで,各ステップの登録品質を向上する適応型多段階改良ネットワークを提案する。
本手法は3DMatch/3DLoMatchベンチマークとKITTIベンチマークの両方で最先端の性能を実現する。
論文 参考訳(メタデータ) (2023-12-05T18:59:41Z) - Reflected Diffusion Models [93.26107023470979]
本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。
提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
論文 参考訳(メタデータ) (2023-04-10T17:54:38Z) - Differentiable Annealed Importance Sampling and the Perils of Gradient
Noise [68.44523807580438]
Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。
差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。
我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
論文 参考訳(メタデータ) (2021-07-21T17:10:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。