論文の概要: Latent Nonlinear Denoising Score Matching for Enhanced Learning of Structured Distributions
- arxiv url: http://arxiv.org/abs/2512.06615v1
- Date: Sun, 07 Dec 2025 01:17:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-09 22:03:54.432941
- Title: Latent Nonlinear Denoising Score Matching for Enhanced Learning of Structured Distributions
- Title(参考訳): 構造分布学習のための潜在非線形Denoising Score Matching
- Authors: Kaichen Shen, Wei Zhu,
- Abstract要約: 遅延非線形 denoising score matching (LNDSM) を提案する。
LNDSMは、非線形フォワードダイナミクスとVAEベースの潜在SGMフレームワークを統合するスコアベース生成モデルの新たなトレーニング目標である。
MNISTデータセットの変種に関する実験により、提案手法は自然に構造化された分布のより高速な合成と学習を実現することを示した。
- 参考スコア(独自算出の注目度): 3.060720241524644
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present latent nonlinear denoising score matching (LNDSM), a novel training objective for score-based generative models that integrates nonlinear forward dynamics with the VAE-based latent SGM framework. This combination is achieved by reformulating the cross-entropy term using the approximate Gaussian transition induced by the Euler-Maruyama scheme. To ensure numerical stability, we identify and remove two zero-mean but variance exploding terms arising from small time steps. Experiments on variants of the MNIST dataset demonstrate that the proposed method achieves faster synthesis and enhanced learning of inherently structured distributions. Compared to benchmark structure-agnostic latent SGMs, LNDSM consistently attains superior sample quality and variability.
- Abstract(参考訳): 本稿では, 非線形フォワードダイナミクスをVOEベースの潜在SGMフレームワークと統合したスコアベース生成モデルのための新しい学習目標である潜時非線形復調スコアマッチング(LNDSM)を提案する。
この組み合わせは、オイラー・丸山スキームによって誘導される近似ガウス遷移を用いて、クロスエントロピー項を再構成することで達成される。
数値安定性を確保するため、小さな時間ステップから生じる2つのゼロ平均/分散爆発項を同定・除去する。
MNISTデータセットの変種に関する実験により、提案手法は自然に構造化された分布のより高速な合成と学習を実現することを示した。
ベンチマーク構造に依存しない潜伏型SGMと比較して、LNDSMはより優れたサンプル品質と可変性が得られる。
関連論文リスト
- Inference-Time Scaling of Diffusion Language Models with Particle Gibbs Sampling [70.8832906871441]
我々は、モデルを再訓練することなく、所望の報酬に向けて世代を操る方法を研究する。
従来の手法では、通常は1つの認知軌道内でサンプリングやフィルタを行い、軌道レベルの改善なしに報酬をステップバイステップで最適化する。
本稿では,拡散言語モデル(PG-DLM)の粒子ギブスサンプリングについて紹介する。
論文 参考訳(メタデータ) (2025-07-11T08:00:47Z) - Nonlinear Assimilation via Score-based Sequential Langevin Sampling [5.107329143106734]
本稿ではスコアベースシーケンシャルランゲヴィンサンプリング(SSLS)を提案する。
提案手法は,同化過程を交互に予測・更新ステップに分解する。
特定の条件下での総変動(TV)距離におけるSSLS収束の理論的保証を提供する。
論文 参考訳(メタデータ) (2024-11-20T16:31:46Z) - Nonlinear denoising score matching for enhanced learning of structured distributions [12.428200977408817]
非線形ドリフトに一般化することで、追加構造を力学に組み込むことができる。
本手法は,データセットに生じる構造を柔軟に組み込むことで,より少ないデータでスコアベースの生成モデルを学習する。
論文 参考訳(メタデータ) (2024-05-24T15:14:23Z) - Ensemble Kalman Filtering Meets Gaussian Process SSM for Non-Mean-Field and Online Inference [47.460898983429374]
我々は,非平均場(NMF)変動推定フレームワークにアンサンブルカルマンフィルタ(EnKF)を導入し,潜在状態の後方分布を近似する。
EnKFとGPSSMのこの新しい結婚は、変分分布の学習における広範なパラメータ化の必要性をなくすだけでなく、エビデンスの下限(ELBO)の解釈可能でクローズドな近似を可能にする。
得られたEnKF支援オンラインアルゴリズムは、データ適合精度を確保しつつ、モデル正規化を組み込んで過度適合を緩和し、目的関数を具現化する。
論文 参考訳(メタデータ) (2023-12-10T15:22:30Z) - CoLiDE: Concomitant Linear DAG Estimation [12.415463205960156]
観測データから線形方程式への非巡回グラフ構造学習の問題に対処する。
本稿では,空間認識学習DAGのための新しい凸スコア関数を提案する。
論文 参考訳(メタデータ) (2023-10-04T15:32:27Z) - Regularizing with Pseudo-Negatives for Continual Self-Supervised Learning [62.40718385934608]
効果的な継続型自己教師型学習(CSSL)のためのPNR(Pseudo-Negative Regularization)フレームワークを提案する。
我々のPNRは,新たに学習した表現が過去の学習と矛盾しないように,モデルに基づく拡張によって得られた擬陰性情報を活用する。
論文 参考訳(メタデータ) (2023-06-08T10:59:35Z) - Conditional Denoising Diffusion for Sequential Recommendation [62.127862728308045]
GAN(Generative Adversarial Networks)とVAE(VAE)の2つの顕著な生成モデル
GANは不安定な最適化に苦しむ一方、VAEは後続の崩壊と過度に平らな世代である。
本稿では,シーケンスエンコーダ,クロスアテンティブデノナイジングデコーダ,ステップワイズディフューザを含む条件付きデノナイジング拡散モデルを提案する。
論文 参考訳(メタデータ) (2023-04-22T15:32:59Z) - Spectral Unmixing With Multinomial Mixture Kernel and Wasserstein
Generative Adversarial Loss [4.56877715768796]
本研究では1次元畳み込みカーネルとスペクトル不確実性を用いたスペクトルアンミックスのための新しいフレームワークを提案する。
高レベルの表現はデータから計算され、さらに多項混合モデルでモデル化される。
実データと合成データの両方で実験を行う。
論文 参考訳(メタデータ) (2020-12-12T16:49:01Z) - Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。
AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。
本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文 参考訳(メタデータ) (2020-10-24T07:01:24Z) - Adaptive Correlated Monte Carlo for Contextual Categorical Sequence
Generation [77.7420231319632]
我々は,モンテカルロ (MC) ロールアウトの集合を分散制御のために評価する政策勾配推定器に,カテゴリー列の文脈的生成を適用する。
また,二分木ソフトマックスモデルに相関したMCロールアウトを用いることで,大語彙シナリオにおける高生成コストを低減できることを示す。
論文 参考訳(メタデータ) (2019-12-31T03:01:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。