論文の概要: Implicit score matching meets denoising score matching: improved rates of convergence and log-density Hessian estimation
- arxiv url: http://arxiv.org/abs/2512.24378v1
- Date: Tue, 30 Dec 2025 17:39:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-01 23:27:28.447085
- Title: Implicit score matching meets denoising score matching: improved rates of convergence and log-density Hessian estimation
- Title（参考訳）: Implicit score matchings meets denoising score matching: improve rate of convergence and log-density Hessian Estimation
- Authors: Konstantin Yakovlev, Anna Markovich, Nikita Puchkin,
- Abstract要約: 暗黙的スコアマッチングと復調的スコアマッチングの両方を用いてスコア関数を推定する問題について検討する。
暗黙的なスコアマッチングは、本質的な次元に適応するだけでなく、デノイングスコアマッチングと同じ収束率を達成することができることを証明している。
- 参考スコア（独自算出の注目度）: 5.773269033551628
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study the problem of estimating the score function using both implicit score matching and denoising score matching. Assuming that the data distribution exhibiting a low-dimensional structure, we prove that implicit score matching is able not only to adapt to the intrinsic dimension, but also to achieve the same rates of convergence as denoising score matching in terms of the sample size. Furthermore, we demonstrate that both methods allow us to estimate log-density Hessians without the curse of dimensionality by simple differentiation. This justifies convergence of ODE-based samplers for generative diffusion models. Our approach is based on Gagliardo-Nirenberg-type inequalities relating weighted $L^2$-norms of smooth functions and their derivatives.
- Abstract（参考訳）: 暗黙的スコアマッチングと復調的スコアマッチングの両方を用いてスコア関数を推定する問題について検討する。
低次元構造を示すデータ分布を仮定すると、暗黙のスコアマッチングは本質的な次元に適応するだけでなく、サンプルサイズでスコアマッチングを復調するのと同じ収束率を達成することができる。
さらに,両手法が単純な微分による次元の呪いを伴わずに,対数密度ヘッセンを推定できることを示した。
これは、生成拡散モデルに対するODEベースのサンプルの収束を正当化する。
我々のアプローチは、滑らかな函数とその微分の重み付き$L^2$-ノルムに関するガリアルド・ニーレンバーグ型不等式に基づいている。
関連論文リスト
- Convergence of Deterministic and Stochastic Diffusion-Model Samplers: A Simple Analysis in Wasserstein Distance [0.0]
本稿では,拡散型生成モデルに対するワッサーシュタイン距離の収束保証を行い,DDPMライク(英語版)法とDDIMライク(英語版)法の両方をカバーする。
特に、Hun のサンプル値に対する最初の Wasserstein 収束を導出し、確率フローODE のサンプル値に対する既存の結果を改善する。
論文 参考訳（メタデータ） (2025-08-05T08:37:58Z) - On diffusion-based generative models and their error bounds: The log-concave case with full convergence estimates [5.13323375365494]
我々は,強い対数対数データの下での拡散に基づく生成モデルの収束挙動を理論的に保証する。
スコア推定に使用される関数のクラスは、スコア関数上のリプシッツネスの仮定を避けるために、リプシッツ連続関数からなる。
この手法はサンプリングアルゴリズムにおいて最もよく知られた収束率をもたらす。
論文 参考訳（メタデータ） (2023-11-22T18:40:45Z) - Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。
本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
論文 参考訳（メタデータ） (2023-06-13T01:18:16Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳（メタデータ） (2022-11-30T05:33:29Z) - Concrete Score Matching: Generalized Score Matching for Discrete Data [109.12439278055213]
コンクレトスコア(Concrete score)とは、個別の設定のためのスコア(ステイン)の一般化である。
コンクレトスコアマッチング(Concrete Score Matching)は、サンプルからこのようなスコアを学習するフレームワークである。
論文 参考訳（メタデータ） (2022-11-02T00:41:37Z) - Neural Score Matching for High-Dimensional Causal Inference [5.696039065328919]
ニューラルネットワークを用いて選択された粗いレベルの非自明なバランススコアを得る理論的結果を開発した。
本手法は, 半合成高次元データセットにおける他のマッチング手法と競合することを示す。
論文 参考訳（メタデータ） (2022-03-01T15:36:12Z) - Estimating High Order Gradients of the Data Distribution by Denoising [81.24581325617552]
スコアマッチングを復調することにより、データ密度の第1次微分を効率的に推定することができる。
サンプルからデータ密度の高次微分(スコア)を直接推定する手法を提案する。
論文 参考訳（メタデータ） (2021-11-08T18:59:23Z) - Denoising Score Matching with Random Fourier Features [11.60130641443281]
Kernel Exponential Family を用いたDenoising Score matching の解析式をモデル分布として導出する。
得られた式はノイズのばらつきに明示的に依存するため、バリデーション損失はノイズレベルを調整するために簡単に使用できる。
論文 参考訳（メタデータ） (2021-01-13T18:02:39Z) - Nonparametric Score Estimators [49.42469547970041]
未知分布によって生成されたサンプルの集合からスコアを推定することは確率モデルの推論と学習における基本的なタスクである。
正規化非パラメトリック回帰の枠組みの下で、これらの推定器の統一的なビューを提供する。
カールフリーカーネルと高速収束による計算効果を享受する反復正規化に基づくスコア推定器を提案する。
論文 参考訳（メタデータ） (2020-05-20T15:01:03Z) - Generative Modeling with Denoising Auto-Encoders and Langevin Sampling [88.83704353627554]
DAEとDSMの両方がスムーズな人口密度のスコアを推定することを示した。
次に、この結果をarXiv:1907.05600のホモトピー法に適用し、その経験的成功を理論的に正当化する。
論文 参考訳（メタデータ） (2020-01-31T23:50:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。