論文の概要: Variance-Reduced Diffusion Sampling via Conditional Score Expectation Identity
- arxiv url: http://arxiv.org/abs/2601.01594v1
- Date: Sun, 04 Jan 2026 16:46:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-06 16:25:22.553797
- Title: Variance-Reduced Diffusion Sampling via Conditional Score Expectation Identity
- Title(参考訳): 条件付きスコア期待値による拡散サンプリング
- Authors: Alois Duston, Tan Bui-Thanh,
- Abstract要約: 本研究では,前向き力学の下での条件付き期待条件を通じて,時間にわたってスコアをリンクするアフィン拡散過程の限界スコアについて,正確な関係を証明した。
そこで本研究では,事前サンプルと前方雑音を用いた自己Normalized Importance Smpling (SNIS) 手法を用いて,CSEに基づくスコアの統計的推定手法を提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce and prove a \textbf{Conditional Score Expectation (CSE)} identity: an exact relation for the marginal score of affine diffusion processes that links scores across time via a conditional expectation under the forward dynamics. Motivated by this identity, we propose a CSE-based statistical estimator for the score using a Self-Normalized Importance Sampling (SNIS) procedure with prior samples and forward noise. We analyze its relationship to the standard Tweedie estimator, proving anti-correlation for Gaussian targets and establishing the same behavior for general targets in the small time-step regime. Exploiting this structure, we derive a variance-minimizing blended score estimator given by a state--time dependent convex combination of the CSE and Tweedie estimators. Numerical experiments show that this optimal-blending estimator reduces variance and improves sample quality for a fixed computational budget compared to either baseline. We further extend the framework to Bayesian inverse problems via likelihood-informed SNIS weights, and demonstrate improved reconstruction quality and sample diversity on high-dimensional image reconstruction tasks and PDE-governed inverse problems.
- Abstract(参考訳): 本稿では,前向きの動的条件下での条件付き期待値を通じて,時間にわたってスコアをリンクするアフィン拡散過程の辺りのスコアの正確な関係を,textbf{Conditional Score expectation (CSE) アイデンティティを導入し,証明する。
そこで本研究では,事前サンプルと前方雑音を用いた自己Normalized Importance Smpling (SNIS) 手法を用いて,CSEに基づくスコアの統計的推定手法を提案する。
我々は、標準ツイーディー推定器との関係を分析し、ガウス目標に対する反相関を証明し、小さな時間段階体制における一般目標に対する同じ挙動を確立する。
本研究では,CSEとTweedie推定器の時間依存性凸結合により得られる分散最小化混合スコア推定器を導出する。
数値実験により, この最適振動推定器は, 偏差を低減し, 固定された計算予算のサンプル品質を向上させることを示した。
さらに,確率インフォームドSNIS重みによるベイズ逆問題にも拡張し,高次元画像再構成タスクとPDE重み付き逆問題に対する再構成品質とサンプルの多様性の向上を実証した。
関連論文リスト
- Sharp Convergence Rates for Masked Diffusion Models [53.117058231393834]
制約を克服するオイラー法に対する全変分に基づく解析法を開発した。
その結果、スコア推定の仮定を緩和し、パラメータ依存性を改善し、収束保証を確立する。
全体としては,CTMC軌道に沿った直接テレビによる誤り分解と,FHSのためのデカップリングに基づく経路解析を導入している。
論文 参考訳(メタデータ) (2026-02-26T00:47:51Z) - Inference-Time Alignment for Diffusion Models via Doob's Matching [16.416975860645724]
拡散モデルの推論時間アライメントは,ベーススコアネットワークを再学習することなく,事前学習した拡散モデルを目標分布に適応することを目的としている。
本稿では,Doobの$h$-transformをベースとしたガイダンス推定フレームワークであるDoobのマッチングについて紹介する。
2-ワッサーシュタイン距離における生成分布の非漸近収束を保証する。
論文 参考訳(メタデータ) (2026-01-10T10:28:06Z) - Control Variate Score Matching for Diffusion Models [34.30408848157335]
雑音スペクトル全体の分散最小化を理論的に保証する最適時間依存制御係数を導出したCVSIを導入する。
CVSIは,データフリーサンプリング学習と推論時間拡散サンプリングの両方において,サンプル効率を大幅に向上させる,堅牢で低分散なプラグイン推定器として機能することが実証された。
論文 参考訳(メタデータ) (2025-12-23T02:55:14Z) - Likelihood Matching for Diffusion Models [2.17741936620649]
学習拡散モデルのためのLikelihood Matchingアプローチを提案する。
準類似性は、ガウス分布によって各逆遷移密度を近似すると考えられる。
推定スコアとヘッセン情報の両方を利用する計算を容易にするために、サンプリング器が導入された。
論文 参考訳(メタデータ) (2025-08-05T16:51:29Z) - The Effect of Stochasticity in Score-Based Diffusion Sampling: a KL Divergence Analysis [0.0]
我々はKL(Kulback-Leibler)の生成過程に及ぼすばらつきの影響について検討する。
本研究の主な成果は、加算雑音とリプシッツ連続スコア関数を持つ線形前方SDEに適用する。
論文 参考訳(メタデータ) (2025-06-13T01:01:07Z) - Beyond Log-Concavity and Score Regularity: Improved Convergence Bounds for Score-Based Generative Models in W2-distance [0.0]
生成モデル(SGM)における$mathcalW$-convergenceを解析するための新しいフレームワークを提案する。
データ分布の弱い対数共振器は時間とともに対数共振器へと進化することを示す。
本手法は,スコア関数とその推定器上での厳密な規則性条件の必要性を回避するものである。
論文 参考訳(メタデータ) (2025-01-04T14:33:27Z) - Semiparametric conformal prediction [79.6147286161434]
ベクトル値の非整合性スコアの結合相関構造を考慮した共形予測セットを構築する。
スコアの累積分布関数(CDF)を柔軟に推定する。
提案手法は,現実の回帰問題に対して,所望のカバレッジと競争効率をもたらす。
論文 参考訳(メタデータ) (2024-11-04T14:29:02Z) - Unveiling the Statistical Foundations of Chain-of-Thought Prompting Methods [59.779795063072655]
CoT(Chain-of-Thought)の促進とその変種は、多段階推論問題を解決する効果的な方法として人気を集めている。
統計的推定の観点からCoTのプロンプトを解析し,その複雑さを包括的に評価する。
論文 参考訳(メタデータ) (2024-08-25T04:07:18Z) - Prognostic Covariate Adjustment for Logistic Regression in Randomized
Controlled Trials [1.5020330976600735]
本研究では, 確率的スコア調整により, 条件付オッズ比のウォルド試験のパワーを一定のサンプルサイズで向上させることができることを示す。
我々はg-computationを用いて、確率的スコア調整の範囲を、限界リスク差、相対リスク、確率比推定に基づいて拡張する。
論文 参考訳(メタデータ) (2024-02-29T06:53:16Z) - An analysis of the noise schedule for score-based generative models [7.180235086275926]
スコアベース生成モデル(SGM)は、目標からのノイズ摂動サンプルのみを用いてスコア関数を学習することにより、目標データ分布を推定することを目的としている。
近年の文献では、ターゲットと推定分布の誤差を評価し、KL(Kulback-Leibler)の発散とワッサーシュタイン距離を通じて生成品質を測ることに重点を置いている。
対象と推定分布のKL分散の上限を時間依存ノイズスケジュールによって明確に設定する。
論文 参考訳(メタデータ) (2024-02-07T08:24:35Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - FP-Diffusion: Improving Score-based Diffusion Models by Enforcing the
Underlying Score Fokker-Planck Equation [72.19198763459448]
雑音が増大する傾向にあるデータ密度に対応する雑音条件スコア関数の族を学習する。
これらの摂動データ密度は、密度の時空間進化を管理する偏微分方程式(PDE)であるフォッカー・プランク方程式(Fokker-Planck equation, FPE)によって結合される。
我々は、摂動データ密度の雑音条件スコアを特徴付けるスコアFPEと呼ばれる対応する方程式を導出する。
論文 参考訳(メタデータ) (2022-10-09T16:27:25Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - Comparing Probability Distributions with Conditional Transport [63.11403041984197]
新しい発散として条件輸送(CT)を提案し、償却されたCT(ACT)コストと近似します。
ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。
さまざまなベンチマークデータセットのジェネレーティブモデリングでは、既存のジェネレーティブ敵対ネットワークのデフォルトの統計距離をACTに置き換えることで、一貫してパフォーマンスを向上させることが示されています。
論文 参考訳(メタデータ) (2020-12-28T05:14:22Z) - Nonparametric Score Estimators [49.42469547970041]
未知分布によって生成されたサンプルの集合からスコアを推定することは確率モデルの推論と学習における基本的なタスクである。
正規化非パラメトリック回帰の枠組みの下で、これらの推定器の統一的なビューを提供する。
カールフリーカーネルと高速収束による計算効果を享受する反復正規化に基づくスコア推定器を提案する。
論文 参考訳(メタデータ) (2020-05-20T15:01:03Z) - Estimating Gradients for Discrete Random Variables by Sampling without
Replacement [93.09326095997336]
我々は、置換のないサンプリングに基づいて、離散確率変数に対する期待値の偏りのない推定器を導出する。
推定器は3つの異なる推定器のラオ・ブラックウェル化として導出可能であることを示す。
論文 参考訳(メタデータ) (2020-02-14T14:15:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。