論文の概要: Measuring and Decomposing Mode Separation via the Canonical Diffusion
- arxiv url: http://arxiv.org/abs/2605.08777v1
- Date: Sat, 09 May 2026 08:05:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:49.881756
- Title: Measuring and Decomposing Mode Separation via the Canonical Diffusion
- Title(参考訳): 正準拡散によるモード分離の測定と分解
- Abstract要約: モード分離は密度の基本的な幾何学的性質であり、高次元での定量化が難しい。
密度に固有の1つのプロセスを通してモード分離を測定する。
i)合成ガウス混合物,(ii)SDXLテキスト・トゥ・イメージ世代,(ii)SSAとDAがエントロピーとPCAミスを捉えた構造,(iii)アラニンジペプチドの分子動力学,(iii)DAは静的サンプルから既知の遅いバックボーンを回収する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Mode separation, namely how sharply a distribution fragments into barrier-separated clusters, is a fundamental geometric property of densities, difficult to quantify in high dimensions. It is structurally distinct from dispersion, yet existing tools fall short: differential entropy rises with spread regardless of fragmentation, PCA orders directions by variance regardless of barriers, and mutual information requires a mixture decomposition one usually does not have. We measure mode separation through a single stochastic process intrinsic to the density: a unique reversible diffusion with $f$ as its stationary distribution and constant scalar diffusion coefficient. We extract two readouts from its autocovariance matrix: SSA (Sum of Squared Autocorrelations), a scalar barrier-sensitive measure; and DA (Dominant Autocorrelation directions), linear projections ordered by metastability rather than variance. Under an isotropic-Gaussian null, we derive a closed-form spectrum for the empirical autocovariance that generalizes Marchenko--Pastur, with an analytic upper edge that selects the lag at which DA is read off. Both readouts use only samples and a score function, scaling to high dimensions through pretrained score-based generative models via Tweedie's identity. We apply our framework to three settings: (i) synthetic Gaussian mixtures, where SSA tracks mutual information; (ii) SDXL text-to-image generations, where SSA and DA capture structure that entropy and PCA miss; and (iii) molecular dynamics of alanine dipeptide, where DA recovers the known slow backbone dihedrals from static samples alone.
- Abstract(参考訳): モード分離(英: Mode separation)、すなわち、分配断片を障壁分離されたクラスターに急激に分割することは、密度の基本的な幾何学的性質であり、高次元での定量化が難しい。
差分エントロピーは断片化に関係なく広がり、PCAは障壁に関係なくばらつきによって方向を指示し、相互情報は通常持っていない混合分解を必要とする。
定常分布として$f$のユニークな可逆拡散と定数スカラー拡散係数を, 密度に固有の1つの確率過程を通して, モード分離を測定する。
本研究では,SSA (Sum of Squared Autocorrelations) とDA (Dominant Autocorrelation direction) の2つの自動共分散行列から抽出する。
等方的ガウスヌルの下では、マルテンコ-パストゥルを一般化する経験的自己共分散の閉形式スペクトルを導出し、DAが読み出されるラグを選択する解析的上縁を導出する。
どちらの読み出しもサンプルとスコア関数のみを使用し、Tweedieのアイデンティティを通じて事前訓練されたスコアベースの生成モデルを通じて高次元にスケーリングする。
フレームワークを3つの設定に適用します。
一 合成ガウス混合物であって、SSAが相互情報を追跡するもの
(ii)SDXLテキスト・ツー・イメージ世代、SSAとDAがエントロピーとPCAが見逃す構造をキャプチャする
3) アラニンジペプチドの分子動力学では, DAは静的試料のみから既知の緩やかな後骨二面体を回収する。
関連論文リスト
- Impute-EM: Native Mixed-State Diffusion Models for Heterogeneous Data Imputation [71.74203645336385]
Impute-EMは、現在のモデルとインプットされていないエントリを交換し、完了したデータに拡散バックボーンをリフィットする。
我々は、この更新を特徴付け、観測されたマスクインデクシングされた辺縁線が、その限界で目標と一致していることを示す。
論文 参考訳(メタデータ) (2026-09-14T09:39:13Z) - Disentangling Continuous-Time Latent Dynamics: Identifiability of Latent SDEs via Diffusion Shifts [60.95873409673775]
連続時間潜在微分方程式モデルにおける識別可能性はほとんど開のままである。
未知の非線形微分同相を通じて観測される付加ノイズ潜在SDEについて検討した。
本稿では,2段階の遅延不整合とグラフ復元のための推定器を提案する。
論文 参考訳(メタデータ) (2026-06-26T16:18:28Z) - Expanding SPHERE-JEPA: A Family of Statistical Regularizers for the Hypersphere [11.087393998848254]
SSL(Self-Supervised Learning)では,単位超球面上の一様分布を明示的に強制することにより,表現の崩壊を防止することが実証された。
現在のフレームワークは通常、SIGReg(LeJEPAで使用される)やSUSReg(SPHEREJEPAで使用される)のようなスライスされた統計正規化器に依存している。
これにより、トレーニング勾配にプロジェクションのばらつきを注入し、最適化を安定化させ、収束を妨げる。
本研究では,これらのランダムな射影を解析的に統合することにより,決定論的最大平均離散性(MMD)が得られ,スライスされた手法のばらつきを回避できることを示す。
論文 参考訳(メタデータ) (2026-06-16T07:10:05Z) - Rethinking Diffusion Models with Symmetries through Canonicalization with Applications to Molecular Graph Generation [56.361076943802594]
CanonFlowは、挑戦的なGEOM-DRUGデータセット上で最先端のパフォーマンスを実現している。
論文 参考訳(メタデータ) (2026-02-16T18:58:55Z) - Efficient Sampling with Discrete Diffusion Models: Sharp and Adaptive Guarantees [9.180350432640912]
連続時間マルコフ連鎖(CTMC)の定式化によるスコアベース離散拡散モデルのサンプリング効率について検討した。
一様離散拡散に対して、$$-leapingアルゴリズムは位数$tilde O(d/varepsilon)$の複雑さを達成することを示す。
離散拡散をマスキングするために,本質的な情報理論量によって収束率を制御した$$-leapingサンプルラを導入する。
論文 参考訳(メタデータ) (2026-02-16T18:48:17Z) - Foundations of Diffusion Models in General State Spaces: A Self-Contained Introduction [54.95522167029998]
この記事は、一般状態空間上の拡散に関する自己完結プライマーである。
我々は、その連続時間限界とともに離散時間ビュー(マルコフカーネルを経由し、逆ダイナミクスを学習する)を開発する。
一般的な変量処理は、標準の訓練損失を支えるELBOをもたらす。
論文 参考訳(メタデータ) (2025-12-04T18:55:36Z) - MissHDD: Hybrid Deterministic Diffusion for Hetrogeneous Incomplete Data Imputation [4.935498694293104]
異種特徴を2つの相補的生成チャネルに分離するハイブリッド決定論的拡散フレームワークを提案する。
DDIMに基づく連続チャネルは、数値変数に対して効率的で安定な決定論的記述を提供する。
ループホリングに基づく離散拡散にインスパイアされた離散潜在経路拡散チャネルは、有効なサンプルを残さずにカテゴリー的および離散的特徴をモデル化する。
2つのチャネルは、統一された条件計算目的の下で訓練され、混合型不完全データのコヒーレントな再構成を可能にする。
論文 参考訳(メタデータ) (2025-11-18T14:44:49Z) - Authentic Discrete Diffusion Model [72.31371542619121]
認証離散拡散(ADD)フレームワークは、従来の擬似離散的アプローチを再定義する。
ADDはフロートエンコードされたワンホットクラスデータを直接使用して拡散入力を再構成する。
実験により、ADDはベースラインと比較して分類タスクにおいて優れた性能を発揮することが示された。
論文 参考訳(メタデータ) (2025-10-01T15:51:10Z) - Absorb and Converge: Provable Convergence Guarantee for Absorbing Discrete Diffusion Models [66.0716790920952]
吸収率行列を用いた離散拡散モデルに対する第1次有限時間誤差境界と収束速度解析を提供する。
我々は、吸収率行列の下での$tau$-leapingと均一化サンプリングの双方に対する最初の収束保証を確立する。
適切な仮定の下では、早期に停止することなく収束保証を提供する。
論文 参考訳(メタデータ) (2025-06-02T23:14:35Z) - Kernel-Smoothed Scores for Denoising Diffusion: A Bias-Variance Study [3.265950484493743]
拡散モデルは暗記しがちである。
スコアの正規化は、トレーニングデータセットのサイズを増やすのと同じ効果がある。
この視点は、拡散をデノナイズする2つの規則化機構を強調する。
論文 参考訳(メタデータ) (2025-05-28T20:22:18Z) - Improving the Euclidean Diffusion Generation of Manifold Data by Mitigating Score Function Singularity [18.79543239655411]
一般的な多様体構造データに対するユークリッド拡散モデルの直接サンプリングについて検討する。
周辺空間におけるスコア関数のマルチスケール特異点を明らかにすることで,拡散生成サンプルの精度を損なうことができる。
本稿では、点関数の特異点構造を、多様体の接方向と正規方向に沿って分解することによって、精巧に理論的に解析する。
論文 参考訳(メタデータ) (2025-05-15T03:12:27Z) - Towards Unified and Lossless Latent Space for 3D Molecular Latent Diffusion Modeling [90.23688195918432]
3次元分子生成は、薬物発見と物質科学に不可欠である。
既存のアプローチは、典型的には不変かつ同変なモジュラリティに対して別々のラテント空間を保持する。
我々は,3次元分子を潜在空間から潜在配列に圧縮するマルチモーダルVAEである textbfUAE-3D を提案する。
論文 参考訳(メタデータ) (2025-03-19T08:56:13Z) - Broadening Target Distributions for Accelerated Diffusion Models via a Novel Analysis Approach [49.97755400231656]
本研究では,新しいDDPMサンプリング器が,これまで考慮されていなかった3種類の分散クラスに対して高速化性能を実現することを示す。
この結果から, DDPM型加速サンプリング器におけるデータ次元$d$への依存性が改善された。
論文 参考訳(メタデータ) (2024-02-21T16:11:47Z) - Interpreting diffusion score matching using normalizing flow [22.667661526643265]
拡散スコアマッチング (DSM) は, 正規化フローで評価された元のスコアマッチング (Stein discrepancy) と等価であることを示す。
具体的には、DSM(またはDSD)が正規化フローによって定義される変換空間で評価された元のスコアマッチング(またはスタイン差分)と等価であることを示す。
論文 参考訳(メタデータ) (2021-07-21T13:27:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。