論文の概要: Denoising growth complexity: Data geometry and certified schedules for diffusion sampling
- arxiv url: http://arxiv.org/abs/2607.26285v1
- Date: Tue, 28 Jul 2026 21:26:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-30 21:06:25.485031
- Title: Denoising growth complexity: Data geometry and certified schedules for diffusion sampling
- Title(参考訳): 成長複雑性の認知:拡散サンプリングのためのデータ幾何と認定スケジュール
- Abstract要約: 我々は、$mathsfDGC$インクリメントが、革新表現に適用されたオイラースキームのKL誤差に単純で明示的な境界をもたらすことを示す。
我々は、より単純なシングルブロック設定とより洗練された$K$ブロック設定の両方において、最適化されたステップサイズスケジュールに対するKLサンプリング保証を導出する。
- 参考スコア(独自算出の注目度): 14.877292137182422
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Two central challenges in diffusion-based sampling are the theoretical one of understanding their remarkable effectiveness even in high-dimensional settings, and the practical one of designing algorithms with certified performance guarantees. We show that these questions are intimately connected via the \emph{denoising growth complexity} ($\mathsf{DGC}$). It is a geometric measure defined by a log-time weighted integral of the derivative of the denoising mean-squared error along the Gaussian heat flow. We show how the $\mathsf{DGC}$ increments lead to a simple and explicit bound on the KL error of an Euler scheme applied to the stochastic innovations representation. The bound is local along the path: each step is controlled by the corresponding $\mathsf{DGC}$ increment and its relative stepsize. This structure allows us to derive KL sampling guarantees for optimized stepsize schedules, both in a simpler single-block setting and in a more refined $K$-block setting. The $\mathsf{DGC}$ function has a natural martingale structure, which we exploit to develop fully data-certified versions of these algorithms. It also admits information-theoretic upper bounds in terms of covariance, rate distortion, metric entropy, and the Poincar'e constant, thereby recovering and sharpening a range of existing diffusion-sampling guarantees, as well as giving new results. In log heat-time, the fine partition limit is governed by an integral involving the square root of the $\mathsf{DGC}$ density, whereas a single-block schedule depends on its ordinary integral. This comparison precisely characterizes when adaptation to data geometry yields substantial computational gains, including logarithmic-to-constant separations for simple Gaussian mixture models.
- Abstract(参考訳): 拡散に基づくサンプリングにおける2つの中心的な課題は、高次元設定においてもその顕著な有効性を理解する理論と、証明された性能保証を持つアルゴリズムを設計する実践的手法である。
これらの質問は、 \emph{denoising growth complexity} (\mathsf{DGC}$)を介して密接に関連していることを示す。
これはガウス熱流に沿った平均二乗誤差の微分の対数時間重み付き積分によって定義される幾何学的測度である。
我々は、$\mathsf{DGC}$インクリメントが、確率的革新表現に適用されたオイラースキームのKL誤差に単純で明示的な境界をもたらすことを示す。
各ステップは対応する$\mathsf{DGC}$インクリメントと相対的なステップサイズによって制御される。
この構造により、より単純なシングルブロック設定とより洗練された$K$ブロック設定の両方で、最適化されたステップサイズスケジュールに対するKLサンプリング保証を導出できる。
$\mathsf{DGC}$関数は自然なマーチンゲール構造を持ち、これらのアルゴリズムの完全なデータ認証バージョンを開発するために利用します。
また、共分散、速度歪み、計量エントロピー、ポアンカー定数といった情報理論上界を許容し、既存の拡散サンプリング保証の範囲を回復させ、さらに新たな結果を与える。
対数加熱時間では、微細分割極限は$\mathsf{DGC}$密度の平方根を含む積分によって支配されるが、一方単ブロックスケジュールは通常の積分に依存する。
この比較は、データ幾何学への適応が、単純なガウス混合モデルに対する対数対定数分離を含む、かなりの計算的な利得をもたらすときに、正確に特徴付けられる。
関連論文リスト
- The information geometry of product-reference discrete diffusion: Interaction growth complexity and optimal scheduling [14.877292137182422]
離散分布から抽出する製品参照拡散アルゴリズムのクラスについて検討する。
データジオメトリのパスベース尺度を用いて, サンプリング性能を評価できることを示す。
論文 参考訳(メタデータ) (2026-08-28T23:38:39Z) - Scalable Lindblad Noise Learning via Stochastic Tensor-Network Simulation [48.887627688666974]
大規模オープン量子システムにおける学習散逸率は、短期量子技術の大きな障害である。
本稿では,シミュレーション手法であるJump Method(TJM)を組み合わせたLindblad散逸率のスケーラブルなノイズ学習フレームワークを提案する。
我々は,Isingモデルにおける2つのノイズモデルに対するアプローチを実証し,各サイトについて,N_mathrmsite=16$まで独立散逸率を学習した。
スケーラブルな数値と厳密な理論的保証の組み合わせは、TJMベースのノイズ学習を大きな量子デバイスにおける散逸を特徴づける実用的な基礎として位置づけている。
論文 参考訳(メタデータ) (2026-08-25T15:07:11Z) - The data geometry of masking diffusion: Certified-optimal schedules via unmasking growth complexity [14.877292137182422]
離散サンプリングのためのマスキング拡散について検討し、インフンマスキング成長複雑性(textsfUGCxspace)と呼ばれるデータ幾何学の経路分解尺度を導入する。
局所的なインクリメントは、KL(Kullback--Leibler)の離散化誤差を直接制御し、ベルヌーイ部分集合と固定値アンマスキングスキームを統一的に解析する。
論文 参考訳(メタデータ) (2026-08-13T17:40:17Z) - SILAGE: Memory-Efficient, Full-Gradient-Free Nonconvex Optimization for Nested Finite Sums [51.49970814177172]
データセットに対する経験的リスクは、自然に$N=nm$全サンプルに類似性を示す。
我々は悲観的な収束分析を避ける分析を提供する。
我々の成果は、既存の最先端の体制を改善した。
論文 参考訳(メタデータ) (2026-06-14T14:11:07Z) - Efficient Sampling with Discrete Diffusion Models: Sharp and Adaptive Guarantees [9.180350432640912]
連続時間マルコフ連鎖(CTMC)の定式化によるスコアベース離散拡散モデルのサンプリング効率について検討した。
一様離散拡散に対して、$$-leapingアルゴリズムは位数$tilde O(d/varepsilon)$の複雑さを達成することを示す。
離散拡散をマスキングするために,本質的な情報理論量によって収束率を制御した$$-leapingサンプルラを導入する。
論文 参考訳(メタデータ) (2026-02-16T18:48:17Z) - Analysis of Hessian Scaling for Local and Global Costs in Variational Quantum Algorithm [0.42970700836450487]
変分量子アルゴリズムにおけるヘッセンのエントリーワイズ解の定量化を行う。
ショットノイズに対してヘッセン成分を解くのに必要なサンプルの複雑さを規定する2つの異なるスケーリング機構を示す。
論文 参考訳(メタデータ) (2026-01-31T15:49:23Z) - Estimation of Toeplitz Covariance Matrices using Overparameterized Gradient Descent [1.7188280334580195]
単純降下レンズ(GD)によるToeplitz共分散推定の再検討
K = P$ のとき、GD は準最適解に収束する。
本稿では,振幅と周波数の学習率の異なる高速なGD変種を提案する。
論文 参考訳(メタデータ) (2025-11-03T14:07:53Z) - A Sample Efficient Alternating Minimization-based Algorithm For Robust Phase Retrieval [56.67706781191521]
そこで本研究では,未知の信号の復元を課題とする,ロバストな位相探索問題を提案する。
提案するオラクルは、単純な勾配ステップと外れ値を用いて、計算学的スペクトル降下を回避している。
論文 参考訳(メタデータ) (2024-09-07T06:37:23Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳(メタデータ) (2024-04-29T15:04:07Z) - Distributed Extra-gradient with Optimal Complexity and Communication
Guarantees [60.571030754252824]
複数のプロセッサ/ワーカー/クライアントがローカルなデュアルベクトルにアクセス可能なマルチGPU設定において、モノトン変分不等式(VI)問題を考察する。
モノトーンVI問題に対するデファクトアルゴリズムであるExtra-gradientは、通信効率が良くないように設計されている。
そこで本稿では,VI の解法に適した非バイアスで適応的な圧縮手法である量子化一般化外部勾配 (Q-GenX) を提案する。
論文 参考訳(メタデータ) (2023-08-17T21:15:04Z) - Compressed and distributed least-squares regression: convergence rates with applications to Federated Learning [11.870656106069447]
機械学習の勾配アルゴリズムに対する圧縮の影響について検討する。
いくつかの非バイアス圧縮演算子間の収束率の差を強調した。
我々はその結果を連合学習の事例にまで拡張する。
論文 参考訳(メタデータ) (2023-08-02T18:02:00Z) - Score-based Diffusion Models in Function Space [137.70916238028306]
拡散モデルは、最近、生成モデリングの強力なフレームワークとして登場した。
この研究は、関数空間における拡散モデルをトレーニングするためのDDO(Denoising Diffusion Operators)と呼ばれる数学的に厳密なフレームワークを導入する。
データ解像度に依存しない固定コストで、対応する離散化アルゴリズムが正確なサンプルを生成することを示す。
論文 参考訳(メタデータ) (2023-02-14T23:50:53Z) - On the Almost Sure Convergence of Stochastic Gradient Descent in
Non-Convex Problems [75.58134963501094]
本稿では,勾配降下(SGD)の軌跡を解析する。
我々はSGDが厳格なステップサイズポリシーのために1ドルでサドルポイント/マニフォールドを避けることを示す。
論文 参考訳(メタデータ) (2020-06-19T14:11:26Z) - Robustly Learning any Clusterable Mixture of Gaussians [55.41573600814391]
本研究では,高次元ガウス混合系の対向ロバスト条件下での効率的な学習性について検討する。
理論的に最適に近い誤り証明である$tildeO(epsilon)$の情報を、$epsilon$-corrupted $k$-mixtureで学習するアルゴリズムを提供する。
我々の主な技術的貢献は、ガウス混合系からの新しい頑健な識別可能性証明クラスターであり、これは正方形の定度証明システムによって捉えることができる。
論文 参考訳(メタデータ) (2020-05-13T16:44:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。