論文の概要: Diffusion Models for High-Dimensional Clustered Data: Intrinsic-Dimension Adaptivity via Bayesian Classification
- arxiv url: http://arxiv.org/abs/2608.19067v1
- Date: Wed, 19 Aug 2026 16:09:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-20 20:13:55.458025
- Title: Diffusion Models for High-Dimensional Clustered Data: Intrinsic-Dimension Adaptivity via Bayesian Classification
- Title（参考訳）: 高次元クラスタリングデータの拡散モデル:ベイズ分類による固有次元適応性
- Abstract要約: マルチモーダル拡散モデルの高次元データの構造化幾何への適応性について検討する。
この幾何学を捉えるための標準フレームワークとして、K$-mixture Gaussian 分布を用いる。
混合相とクラスタコミット相の分解過程を別々に解析することにより、KL誤差境界がクラスタの最大固有次元に線形に依存することを証明した。
- 参考スコア（独自算出の注目度）: 1.9981375888949475
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The empirical success of diffusion models in generative modelling has motivated theoretical work, including quantitative error bounds and qualitative analyses that characterise the different phases of denoising. We bring these two areas together by studying the adaptivity of diffusion models to the structured geometry of multimodal high-dimensional data that consists of multiple clusters in $\mathbb{R}^D$, each with its own low-dimensional structure, and inter-cluster separation depending on $D$. We employ $K$-mixture Gaussian distributions as a canonical framework to capture this geometry and establish two theoretical results. First, we interpret denoising as a dynamical Bayesian classifier: the mixture score is a posterior-weighted average of cluster-wise scores, and we show that, with high probability, the posterior class probabilities concentrate on a single cluster once the signal-to-noise ratio reaches the scale $Θ(\log (KD)/D)$. Second, by separately analysing the denoising process in its mixing and cluster-commitment phases, we prove that the KL error bound depends linearly on the maximum intrinsic dimension of a cluster, up to a logarithmic factor, even when $K$ grows polynomially with $D$. This improves on ambient-dimensional bounds and extends existing low-dimensional adaptivity analyses to multimodal distributions with heterogeneous, approximately low-rank covariances.
- Abstract（参考訳）: 生成的モデリングにおける拡散モデルの実証的な成功は、量的誤差境界や定性的分析を含む理論的な研究の動機となった。
拡散モデルの適応性を$\mathbb{R}^D$の複数のクラスタからなる多次元高次元データの構造化幾何に応用し、それぞれが独自の低次元構造を持ち、D$に応じてクラスタ間分離を行う。
我々は、この幾何を捕捉し、2つの理論的結果を確立するための標準フレームワークとして、$K$-mixture Gaussian分布を用いる。
混合スコアはクラスタワイズスコアの後方重み付き平均であり、高い確率で、信号と雑音の比率がスケール$(\log (KD)/D)$に達すると、後続クラス確率は単一クラスタに集中することを示す。
第二に、混合相とクラスタコミット相の分解過程を別々に解析することにより、K$が$D$で多項式的に成長する場合でも、KL誤差はクラスタの最大固有次元に線形に依存することを示した。
これは周囲の次元境界を改善し、既存の低次元適応性解析を、異質で概して低ランクな共分散を持つマルチモーダル分布に拡張する。
関連論文リスト
- Multi-kernel spectral clustering: Entrywise eigenvector perturbation bounds and exact recovery [5.506184984859199]
単一帯域幅のカーネルスペクトルクラスタリングは、複数の特性対距離スケールを示すデータには不十分である。
我々は、異なる帯域幅のカーネルを集約するマルチカーネルの定式化によってこの問題に対処する。
一般の高次元多スケール混合モデルに基づく厳密な理論解析法を開発した。
論文 参考訳（メタデータ） (2026-08-09T13:34:27Z) - Provably Learning Diffusion Models under the Manifold Hypothesis: Collapse and Refine [60.669081685261965]
拡散モデルは、顕著な品質で高次元データを生成する。
彼らのトレーニングがいかに効率的にスコア関数を学習するかは理論的には説明がつかないままである。
我々はこの原理をScore-induced Latent Diffusion (SiLD)として定式化する。
論文 参考訳（メタデータ） (2026-05-16T16:51:10Z) - Efficient Sampling with Discrete Diffusion Models: Sharp and Adaptive Guarantees [9.180350432640912]
連続時間マルコフ連鎖(CTMC)の定式化によるスコアベース離散拡散モデルのサンプリング効率について検討した。
一様離散拡散に対して、$$-leapingアルゴリズムは位数$tilde O(d/varepsilon)$の複雑さを達成することを示す。
離散拡散をマスキングするために,本質的な情報理論量によって収束率を制御した$$-leapingサンプルラを導入する。
論文 参考訳（メタデータ） (2026-02-16T18:48:17Z) - Minimax-Optimal Dimension-Reduced Clustering for High-Dimensional Nonspherical Mixtures [1.4502611532302039]
各クラスタ内の非球面(異方性)ノイズは、実世界のデータに広く存在している。
本研究では,高次元非球面混合モデルに基づくクラスタリングにおける最小値と最適統計手法について検討した。
論文 参考訳（メタデータ） (2025-02-04T18:55:49Z) - Consistent spectral clustering in sparse tensor block models [0.0]
高階クラスタリングは、様々な分野で広く使われているマルチウェイデータセットでオブジェクトを分類することを目的としている。
本稿では,整数値の少ないデータテンソルに特化して設計されたテンソルブロックモデルを提案する。
ノイズ変動を緩和するためのトリミングステップを付加した単純なスペクトルクラスタリングアルゴリズムを提案する。
論文 参考訳（メタデータ） (2025-01-23T16:41:19Z) - Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。
本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。
我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
論文 参考訳（メタデータ） (2024-10-03T09:07:13Z) - Adapting to Unknown Low-Dimensional Structures in Score-Based Diffusion Models [6.76974373198208]
周囲の次元が$d$である場合、各デノイングステップ内で発生する誤差の依存性は、一般的には避けられない。
これはDDPMサンプリング器がターゲット分布の未知の低次元構造に適応できるという最初の理論実証である。
論文 参考訳（メタデータ） (2024-05-23T17:59:10Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳（メタデータ） (2023-05-31T15:33:16Z) - Diffusion models as plug-and-play priors [98.16404662526101]
我々は、事前の$p(mathbfx)$と補助的な制約である$c(mathbfx,mathbfy)$からなるモデルにおいて、高次元データ$mathbfx$を推論する問題を考える。
拡散モデルの構造は,異なるノイズ量に富んだ定性デノナイジングネットワークを通じて,微分を反復することで近似推論を行うことができる。
論文 参考訳（メタデータ） (2022-06-17T21:11:36Z) - Learning Gaussian Mixtures with Generalised Linear Models: Precise
Asymptotics in High-dimensions [79.35722941720734]
多クラス分類問題に対する一般化線形モデルは、現代の機械学習タスクの基本的な構成要素の1つである。
実験的リスク最小化による高次元推定器の精度を実証する。
合成データの範囲を超えて我々の理論をどのように適用できるかを論じる。
論文 参考訳（メタデータ） (2021-06-07T16:53:56Z) - Kernel and Rich Regimes in Overparametrized Models [69.40899443842443]
過度にパラメータ化された多層ネットワーク上の勾配勾配は、RKHSノルムではないリッチな暗黙バイアスを誘発できることを示す。
また、より複雑な行列分解モデルと多層非線形ネットワークに対して、この遷移を実証的に示す。
論文 参考訳（メタデータ） (2020-02-20T15:43:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。