論文の概要: Efficient Approximate Posterior Sampling with Annealed Langevin Monte Carlo
- arxiv url: http://arxiv.org/abs/2508.07631v1
- Date: Mon, 11 Aug 2025 05:25:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-12 21:23:28.954953
- Title: Efficient Approximate Posterior Sampling with Annealed Langevin Monte Carlo
- Title(参考訳): Annealed Langevin Monte Carlo による効率的な近似後腹膜サンプリング
- Authors: Advait Parulekar, Litu Rout, Karthikeyan Shanmugam, Sanjay Shakkottai,
- Abstract要約: スコアベース生成モデルの文脈における後部サンプリングの問題について検討する。
我々は,KLの発散前とFisherの発散後とにおいて,ノイズの後部に近い分布から抽出できることを示す。
- 参考スコア(独自算出の注目度): 37.23427847538788
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study the problem of posterior sampling in the context of score based generative models. We have a trained score network for a prior $p(x)$, a measurement model $p(y|x)$, and are tasked with sampling from the posterior $p(x|y)$. Prior work has shown this to be intractable in KL (in the worst case) under well-accepted computational hardness assumptions. Despite this, popular algorithms for tasks such as image super-resolution, stylization, and reconstruction enjoy empirical success. Rather than establishing distributional assumptions or restricted settings under which exact posterior sampling is tractable, we view this as a more general "tilting" problem of biasing a distribution towards a measurement. Under minimal assumptions, we show that one can tractably sample from a distribution that is simultaneously close to the posterior of a noised prior in KL divergence and the true posterior in Fisher divergence. Intuitively, this combination ensures that the resulting sample is consistent with both the measurement and the prior. To the best of our knowledge these are the first formal results for (approximate) posterior sampling in polynomial time.
- Abstract(参考訳): スコアベース生成モデルの文脈における後部サンプリングの問題について検討する。
我々は、事前の$p(x)$、測定モデル$p(y|x)$に対してトレーニングされたスコアネットワークを持ち、後方の$p(x|y)$からサンプリングを行う。
以前の研究は、よく受け入れられた計算硬度仮定の下で、KL(最悪の場合)においてこれを難解であることを示した。
それにもかかわらず、画像の超解像、スタイリゼーション、再構成といったタスクの一般的なアルゴリズムは経験的な成功を享受している。
正確な後方サンプリングが可能な分布仮定や制限された設定を確立するのではなく、我々はこれを、分布を測定に向けて偏見付けるより一般的な「試行問題」と見なしている。
最小限の仮定の下では、KLの発散およびフィッシャー発散における真の発散前のノイズの後部に近い分布から、抽出可能なサンプルを抽出できることが示される。
直感的には、この組み合わせは結果のサンプルが測定値と先行値の両方と一致していることを保証する。
我々の知る限り、これらは多項式時間における(近似的な)後続サンプリングのための最初の公式な結果である。
関連論文リスト
- Enhancing Diffusion Posterior Sampling for Inverse Problems by Integrating Crafted Measurements [46.03835001280626]
現在の後方サンプリング法は、測定結果を後方サンプリングに取り込み、対象データの分布を推定する。
我々は,早期に高周波情報を早期に導入し,より大きな後部推定誤差を生じさせることを示す。
本稿では, 後方推定法として, 工法計測(逆演示法による雑音測定)を取り入れた新しい拡散後サンプリング法DPS-CMを提案する。
論文 参考訳(メタデータ) (2024-11-15T00:06:57Z) - Online Posterior Sampling with a Diffusion Prior [20.24212000441531]
ガウス事前の文脈的包帯における後方サンプリングは、ラプラス近似を用いて正確にあるいはほぼ実施することができる。
そこで本研究では,拡散モデルを用いた文脈帯域に対する近似的な後方サンプリングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-10-04T20:47:16Z) - Bayesian evidence estimation from posterior samples with normalizing flows [0.0]
本研究では,非正規化後分布から得られたサンプル群からベイズ証拠(およびその数値的不確実性)を推定する新しい手法を提案する。
解析的に証拠が知られている分布において最大15個のパラメータ空間次元を検証し、2つの最先端技術と比較する。
$floZ$は、例えば変分推論、マルコフ・チェイン・モンテカルロのサンプル、あるいは非正規化後密度からサンプルとそれらの可能性を提供する他の方法から証拠を推定するために幅広い適用性を持つ。
論文 参考訳(メタデータ) (2024-04-18T16:16:02Z) - Posterior samples of source galaxies in strong gravitational lenses with
score-based priors [107.52670032376555]
我々はスコアベースモデルを用いて、背景銀河の歪みのない画像の事前推定を符号化する。
アウト・オブ・ディストリビューション・データを用いた実験において、可能性と事前のバランスが、我々の期待にどのように合致しているかを示す。
論文 参考訳(メタデータ) (2022-11-07T19:00:42Z) - Langevin Monte Carlo for Contextual Bandits [72.00524614312002]
Langevin Monte Carlo Thompson Sampling (LMC-TS) が提案されている。
提案アルゴリズムは,文脈的帯域幅の特別な場合において,最高のトンプソンサンプリングアルゴリズムと同じサブ線形残差を達成できることを示す。
論文 参考訳(メタデータ) (2022-06-22T17:58:23Z) - Efficient Bayesian Sampling Using Normalizing Flows to Assist Markov
Chain Monte Carlo Methods [13.649384403827359]
正規化フローは複雑なターゲット分布を生成でき、ベイズ統計学における多くの応用において有望であることを示す。
対象の後方分布からのデータセットは事前に入手できないため、フローは通常、基底分布からのサンプルのみを必要とする逆のKullback-Leibler(KL)分散を用いて訓練される。
ここでは, 直接KL偏差を損失として用い, (i) 後部の局所MCMCアルゴリズムを正規化流で支援し, (ii) 混合速度を高速化し, (ii) この方法で生成されたデータを用いて流のトレーニングを行う。
論文 参考訳(メタデータ) (2021-07-16T16:40:36Z) - Instance-Optimal Compressed Sensing via Posterior Sampling [101.43899352984774]
後部サンプリング推定器がほぼ最適回復保証を達成できることを示す。
本稿では,Langevin dynamics を用いた深部生成前駆体の後方サンプリング推定器を実装し,MAP よりも精度の高い推定値が得られることを実証的に見出した。
論文 参考訳(メタデータ) (2021-06-21T22:51:56Z) - Efficiently Sampling Functions from Gaussian Process Posteriors [76.94808614373609]
高速後部サンプリングのための簡易かつ汎用的なアプローチを提案する。
分離されたサンプルパスがガウス過程の後部を通常のコストのごく一部で正確に表現する方法を実証する。
論文 参考訳(メタデータ) (2020-02-21T14:03:16Z) - Distributionally Robust Bayesian Quadrature Optimization [60.383252534861136]
確率分布が未知な分布の不確実性の下でBQOについて検討する。
標準的なBQOアプローチは、固定されたサンプル集合が与えられたときの真の期待目標のモンテカルロ推定を最大化する。
この目的のために,新しい後方サンプリングに基づくアルゴリズム,すなわち分布的に堅牢なBQO(DRBQO)を提案する。
論文 参考訳(メタデータ) (2020-01-19T12:00:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。