論文の概要: Tensor Train Diffusion: Leveraging Low-Rank Structures for High-Dimensional Score-Based Sampling
- arxiv url: http://arxiv.org/abs/2607.06841v1
- Date: Tue, 07 Jul 2026 22:24:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-09 22:50:30.233102
- Title: Tensor Train Diffusion: Leveraging Low-Rank Structures for High-Dimensional Score-Based Sampling
- Title（参考訳）: テンソルトレイン拡散:高次元スコアサンプリングのための低ランク構造を活用する
- Abstract要約: 拡散モデルは複雑な確率密度からサンプリングするための強力なフレームワークを提供する。
一般的なアプローチは、時間反転微分方程式(SDE)の解法である。
本稿では,機能テンソルトレイン(FTT)形式に基づくHJB方程式の新規かつ効率的な解法を提案する。
- 参考スコア（独自算出の注目度）: 17.153317772943968
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion models offer a powerful framework for sampling from complex probability densities by learning to reverse a noising process. A common approach involves solving for the time-reversed stochastic differential equation (SDE), which requires the score function of the evolving sample distribution. The logarithm of this distribution's density is governed by a Hamilton-Jacobi-Bellman (HJB) type partial differential equation (PDE). However, current methods for solving this PDE, such as PINNs or trajectory-based techniques, often suffer from long training times and significant sensitivity to hyperparameter tuning. In this work, we introduce a novel and efficient solver for the underlying HJB equation based on the functional tensor train (FTT) format. The FTT representation leverages latent low-rank structures to efficiently approximate high-dimensional functions, enabling both model compression and rapid computation. By integrating this efficient representation with a backward-in-time iterative scheme derived from backward stochastic differential equations (BSDEs), we develop a fast, robust and accurate sampling method. Our approach overcomes primary bottlenecks of existing techniques, enabling high-fidelity sampling from challenging target distributions with improved efficiency.
- Abstract（参考訳）: 拡散モデルは、ノイズ発生過程を逆転させる学習によって複雑な確率密度からサンプリングする強力なフレームワークを提供する。
一般的なアプローチは、時間反転確率微分方程式(SDE)の解法である。
この分布密度の対数はハミルトン・ヤコビ・ベルマン(HJB)型偏微分方程式(PDE)によって制御される。
しかし、PINNやトラジェクトリベースの手法のような現在のPDEの解法は、長いトレーニング時間とハイパーパラメータチューニングに対する顕著な感度に悩まされることが多い。
本研究では,機能テンソルトレイン (FTT) 形式に基づくHJB方程式の新規かつ効率的な解法を提案する。
FTT表現は遅延低ランク構造を利用して高次元関数を効率的に近似し、モデル圧縮と高速計算の両方を可能にする。
この効率的な表現を、後向き確率微分方程式(BSDEs)から導かれる逆向きの反復的スキームと統合することにより、高速で堅牢で正確なサンプリング法を開発する。
提案手法は既存の手法の主なボトルネックを克服し,効率を向上した目標分布からの高忠実度サンプリングを可能にする。
関連論文リスト
- Parallel Diffusion Solver via Residual Dirichlet Policy Optimization [88.7827307535107]
拡散モデル(DM)は、最先端の生成性能を達成したが、シーケンシャルなデノナイジング特性のため、高いサンプリング遅延に悩まされている。
既存のソルバベースの加速度法では、低次元の予算で画像品質が著しく低下することが多い。
本研究では,各ステップに複数の勾配並列評価を組み込んだ新しいODE解法であるEnsemble Parallel Directionsolvr(EPD-EPr)を提案する。
論文 参考訳（メタデータ） (2025-12-28T05:48:55Z) - Sublinear iterations can suffice even for DDPMs [20.394390032998036]
本研究では,「シフト合成規則」アルゴリズムが適切な仮定の下で良好な離散化特性を持つことを示す。
これは純粋なDDPMサンプリングに束縛された最初のサブ線形複雑性である。
また,本手法の利点を実験的に検証し,事前学習した画像合成モデルを用いて実運用で有効であることを示す。
論文 参考訳（メタデータ） (2025-11-06T22:15:19Z) - Diffusion Models for Solving Inverse Problems via Posterior Sampling with Piecewise Guidance [52.705112811734566]
断片的なガイダンススキームを用いて,逆問題を解決するための新しい拡散型フレームワークが導入された。
提案手法は問題に依存しず,様々な逆問題に容易に適応できる。
このフレームワークは, (4時間), (8時間) の超分解能タスクに対して, (23%), (24%) および (24%) の無作為マスクを塗布する場合の (25%) の推論時間を短縮する。
論文 参考訳（メタデータ） (2025-07-22T19:35:14Z) - An Adaptive Random Fourier Features approach Applied to Learning Stochastic Differential Equations [0.8947831206263182]
本研究では,伊東拡散過程と, citerichDiet20 および referenceridi 2021stochasticdynamicalsystems で導入された Euler-Maruyama 積分から導かれる可能性に基づく損失関数について考察した。
いずれの場合も、ARFFベースのアプローチは、損失最小化と収束速度の両方において、従来のAdamベースの最適化の性能と一致または上回る。
論文 参考訳（メタデータ） (2025-07-21T09:52:33Z) - A hybrid FEM-PINN method for time-dependent partial differential equations [9.631238071993282]
本稿では、時間有限要素法とディープニューラルネットワークを融合させることにより、進化微分方程式(PDE)を解くためのハイブリッド数値計算法を提案する。
このようなハイブリッドな定式化の利点は2つある: 統計誤差は時間方向の積分に対して回避され、ニューラルネットワークの出力は縮小された空間基底関数の集合と見なすことができる。
論文 参考訳（メタデータ） (2024-09-04T15:28:25Z) - Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。
物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。
PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
論文 参考訳（メタデータ） (2024-07-10T17:39:50Z) - On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。
本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
論文 参考訳（メタデータ） (2024-05-18T15:59:41Z) - Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。
画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
論文 参考訳（メタデータ） (2023-11-02T02:05:38Z) - A Deep Unrolling Model with Hybrid Optimization Structure for Hyperspectral Image Deconvolution [50.13564338607482]
本稿では,DeepMixと呼ばれるハイパースペクトルデコンボリューション問題に対する新しい最適化フレームワークを提案する。
これは3つの異なるモジュール、すなわちデータ一貫性モジュール、手作りの正規化器の効果を強制するモジュール、および装飾モジュールで構成されている。
本研究は,他のモジュールの協調作業によって達成される進歩を維持するために設計された,文脈を考慮した認知型モジュールを提案する。
論文 参考訳（メタデータ） (2023-06-10T08:25:16Z) - Reflected Diffusion Models [93.26107023470979]
本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。
提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
論文 参考訳（メタデータ） (2023-04-10T17:54:38Z) - Blending Neural Operators and Relaxation Methods in PDE Numerical Solvers [3.2712166248850685]
HINTSは偏微分方程式のハイブリッド、反復、数値、移乗可能な解法である。
DeepONetのスペクトルバイアスを利用して固有モードのスペクトル間の収束挙動のバランスをとる。
離散化、計算領域、境界条件に関して柔軟である。
論文 参考訳（メタデータ） (2022-08-28T19:07:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。