論文の概要: Diffusion-based Denoising Beats Vanilla Score Matching in Parameter Estimation: A Theoretical Explanation

• arxiv url: http://arxiv.org/abs/2605.22950v1
• Date: Thu, 21 May 2026 18:25:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-25 17:29:20.055834
• Title: Diffusion-based Denoising Beats Vanilla Score Matching in Parameter Estimation: A Theoretical Explanation
• Title（参考訳）: パラメータ推定における拡散型デノイングビートバニラスコアマッチングの理論的説明
• Authors: Benedikt Lütke Schwienhorst, Nadja Klein, Johannes Lederer,
• Abstract要約: バニラスコアマッチングはマルチモーダル分布の最大推定値に対して非効率であることが示されている。 両推定器の統計的保証を証明し,モード間の分離が増加すると,バニラの誤差が悪化することを示した。 これは、バニラ版よりも拡散ベースのスコアマッチングの優れた振る舞いについて、新しい理論的な説明を提供する。
• 参考スコア（独自算出の注目度）: 7.404568009919419
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Score matching is an alternative to maximum likelihood estimation when the normalizing constant is unknown or too costly to evaluate. However, vanilla score matching has shown to be inefficient relative to maximum likelihood estimation for multimodal distributions with well-separated modes, which are commonly encountered in practical applications. We compare a novel diffusion-based denoising score matching estimator (DDSME) to the vanilla score matching estimator (SME) in this scenario. In particular, we prove statistical guarantees for both estimators, showing that the error bound for the vanilla SME worsens when the separation between the modes increases, which can be avoided in case of the DDSME with suitable hyperparameter tuning. This provides a novel theoretical explanation for the superior behavior of diffusion-based score matching over the vanilla version.
• Abstract（参考訳）: スコアマッチングは、正規化定数が未知であるか、評価するのにコストがかかりすぎる場合に、最大推定の代替となる。 しかしながら、バニラスコアマッチングは、よく区切られたモードを持つマルチモーダル分布の最大推定値に対して非効率であることが示されており、実際的な応用でよく見られる。 このシナリオでは,拡散に基づく新しいスコアマッチング推定器 (DDSME) とバニラスコアマッチング推定器 (SME) を比較した。 特に,両推定器の統計的保証を証明し,モード間の分離が大きくなるとバニラSMEの誤差が悪化することを示した。 これは、バニラ版よりも拡散ベースのスコアマッチングの優れた振る舞いに関する新しい理論的な説明を提供する。

関連論文リスト

• Variance-Reduced Diffusion Sampling via Target Score Identity [0.0]
  クリーンな(ターゲット)スコアが利用可能か,あるいは近似可能な設定において,スコア推定と拡散に基づくサンプリングの分散化について検討した。 我々は、標準の逆時間解法と互換性のあるプラグアンドプレイ非パラメトリックな自己正規化重要度サンプリング推定器を開発した。 PDE-Governed Inverse問題と合成ターゲット実験により, 固定シミュレーション予算に対する試料品質の改善が示された。
  論文  参考訳（メタデータ） (2026-01-04T16:46:31Z)
• Implicit score matching meets denoising score matching: improved rates of convergence and log-density Hessian estimation [5.773269033551628]
  暗黙的スコアマッチングと復調的スコアマッチングの両方を用いてスコア関数を推定する問題について検討する。 暗黙的なスコアマッチングは、本質的な次元に適応するだけでなく、デノイングスコアマッチングと同じ収束率を達成することができることを証明している。
  論文  参考訳（メタデータ） (2025-12-30T17:39:48Z)
• ScoreMatchingRiesz: Auto-DML with Infinitesimal Classification [6.44705221140412]
  Riesz表現子は、$sqrtn$-consistentと効率的な推定器を構築するための機械学習の重要なコンポーネントである。 スコアマッチングに基づくDRE手法をRiesz表現子推定に拡張する。
  論文  参考訳（メタデータ） (2025-12-23T17:14:14Z)
• Control Variate Score Matching for Diffusion Models [34.30408848157335]
  雑音スペクトル全体の分散最小化を理論的に保証する最適時間依存制御係数を導出したCVSIを導入する。 CVSIは,データフリーサンプリング学習と推論時間拡散サンプリングの両方において,サンプル効率を大幅に向上させる,堅牢で低分散なプラグイン推定器として機能することが実証された。
  論文  参考訳（メタデータ） (2025-12-23T02:55:14Z)
• Lower Bounds on the MMSE of Adversarially Inferring Sensitive Features [4.8998185508205765]
  本稿では,有限標本サイズと線形予測モデルに基づく,感度の高い特徴推論のための逆評価フレームワークを提案する。 提案手法は,他の相関特徴の雑音観測から感度特性を推定する真のMMSEの理論的下界を確立する。
  論文  参考訳（メタデータ） (2025-05-13T22:39:24Z)
• In-Context Parametric Inference: Point or Distribution Estimators? [66.22308335324239]
  償却点推定器は一般に後部推論より優れているが、後者は低次元問題では競争力がある。 実験の結果, 償却点推定器は一般に後部推定より優れているが, 後者は低次元問題では競争力があることがわかった。
  論文  参考訳（メタデータ） (2025-02-17T10:00:24Z)
• Diffusion models for probabilistic programming [56.47577824219207]
  拡散モデル変分推論(DMVI)は確率型プログラミング言語(PPL)における自動近似推論手法である DMVIは実装が容易で、例えば正規化フローを用いた変分推論の欠点を伴わずに、PPLでヘイズルフリー推論が可能であり、基礎となるニューラルネットワークモデルに制約を課さない。
  論文  参考訳（メタデータ） (2023-11-01T12:17:05Z)
• Statistical Efficiency of Score Matching: The View from Isoperimetry [96.65637602827942]
  本研究では, スコアマッチングの統計的効率と推定される分布の等尺性との間に, 密接な関係を示す。 これらの結果はサンプル状態と有限状態の両方で定式化する。
  論文  参考訳（メタデータ） (2022-10-03T06:09:01Z)
• Autoregressive Score Matching [113.4502004812927]
  自動回帰条件スコアモデル(AR-CSM)を提案する。 AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。 本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
  論文  参考訳（メタデータ） (2020-10-24T07:01:24Z)
• SUMO: Unbiased Estimation of Log Marginal Probability for Latent Variable Models [80.22609163316459]
  無限級数のランダム化トランケーションに基づく潜在変数モデルに対して、ログ境界確率の非バイアス推定器とその勾配を導入する。 推定器を用いてトレーニングしたモデルは、同じ平均計算コストに対して、標準的な重要度サンプリングに基づくアプローチよりも優れたテストセット確率を与えることを示す。
  論文  参考訳（メタデータ） (2020-04-01T11:49:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。