論文の概要: Geometric Regularity in Deterministic Sampling of Diffusion-based Generative Models

• arxiv url: http://arxiv.org/abs/2506.10177v1
• Date: Wed, 11 Jun 2025 21:09:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-13 15:37:22.455606
• Title: Geometric Regularity in Deterministic Sampling of Diffusion-based Generative Models
• Title（参考訳）: 拡散に基づく生成モデルの決定論的サンプリングにおける幾何学的規則性
• Authors: Defang Chen, Zhenyu Zhou, Can Wang, Siwei Lyu,
• Abstract要約: 決定論的サンプリング力学における顕著な幾何学的規則性を明らかにする。 すべての軌道は、モデルアーキテクチャ、適用条件、生成された内容に関わらず、ほぼ同じ「ボメラン」形状を示す。 提案手法は,サンプリング時間スケジュールと基礎となる軌道構造との整合性を向上する動的プログラミングに基づくスキームを提案する。
• 参考スコア（独自算出の注目度）: 39.94246633953425
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion-based generative models employ stochastic differential equations (SDEs) and their equivalent probability flow ordinary differential equations (ODEs) to establish a smooth transformation between complex high-dimensional data distributions and tractable prior distributions. In this paper, we reveal a striking geometric regularity in the deterministic sampling dynamics: each simulated sampling trajectory lies within an extremely low-dimensional subspace, and all trajectories exhibit an almost identical ''boomerang'' shape, regardless of the model architecture, applied conditions, or generated content. We characterize several intriguing properties of these trajectories, particularly under closed-form solutions based on kernel-estimated data modeling. We also demonstrate a practical application of the discovered trajectory regularity by proposing a dynamic programming-based scheme to better align the sampling time schedule with the underlying trajectory structure. This simple strategy requires minimal modification to existing ODE-based numerical solvers, incurs negligible computational overhead, and achieves superior image generation performance, especially in regions with only $5 \sim 10$ function evaluations.
• Abstract（参考訳）: 拡散に基づく生成モデルは確率微分方程式(SDE)とその等価確率フロー常微分方程式(ODE)を用いて、複雑な高次元データ分布と抽出可能な事前分布の間の滑らかな変換を確立する。 本稿では, モデル構造, 適用条件, 生成内容に関わらず, それぞれの模擬サンプリング軌道は極めて低次元の部分空間内にあり, 全ての軌道は, ほぼ同一の「ボメラン」形状を示す。 特にカーネル推定データモデリングに基づくクローズド・フォーム・ソリューションにおいて,これらのトラジェクトリの興味深い特性を特徴付ける。 また,提案手法を動的計画法により提案し,サンプリング時間スケジュールを基礎となる軌道構造に整合させる手法を提案する。 この単純な戦略は、既存のODEベースの数値解法を最小限に修正し、無視可能な計算オーバーヘッドを発生させ、特に5ドルのsim 10$関数評価しか持たない領域において、優れた画像生成性能を達成する。

関連論文リスト

• On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
  拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。 本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
  論文  参考訳（メタデータ） (2024-05-18T15:59:41Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Reflected Diffusion Models [93.26107023470979]
  本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。 提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
  論文  参考訳（メタデータ） (2023-04-10T17:54:38Z)
• Feature Engineering with Regularity Structures [4.082216579462797]
  機械学習タスクの特徴として,正則構造理論からのモデルの利用について検討する。 本研究では、時空信号に付随するモデル特徴ベクトルの柔軟な定義と、これらの特徴を線形回帰と組み合わせる方法を示す2つのアルゴリズムを提供する。 我々はこれらのアルゴリズムを、与えられた強制と境界データを用いてPDEの解を学ぶために設計されたいくつかの数値実験に適用する。
  論文  参考訳（メタデータ） (2021-08-12T17:53:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。