論文の概要: Score-Based Variational Inference for Inverse Problems
- arxiv url: http://arxiv.org/abs/2410.05646v1
- Date: Tue, 8 Oct 2024 02:55:16 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-01 17:29:06.763682
- Title: Score-Based Variational Inference for Inverse Problems
- Title(参考訳): 逆問題に対するスコアベース変分推論
- Authors: Zhipeng Xue, Penghao Cai, Xiaojun Yuan, Xiqi Gao,
- Abstract要約: 後部平均値が好ましいアプリケーションでは、時間を要する後部から複数のサンプルを生成する必要がある。
後部平均を直接対象とするフレームワークであるリバース平均伝搬(RMP)を確立する。
スコア関数を用いて逆KL分散を自然な勾配降下で最適化し,各逆ステップで平均を伝搬するアルゴリズムを開発した。
- 参考スコア(独自算出の注目度): 19.848238197979157
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Existing diffusion-based methods for inverse problems sample from the posterior using score functions and accept the generated random samples as solutions. In applications that posterior mean is preferred, we have to generate multiple samples from the posterior which is time-consuming. In this work, by analyzing the probability density evolution of the conditional reverse diffusion process, we prove that the posterior mean can be achieved by tracking the mean of each reverse diffusion step. Based on that, we establish a framework termed reverse mean propagation (RMP) that targets the posterior mean directly. We show that RMP can be implemented by solving a variational inference problem, which can be further decomposed as minimizing a reverse KL divergence at each reverse step. We further develop an algorithm that optimizes the reverse KL divergence with natural gradient descent using score functions and propagates the mean at each reverse step. Experiments demonstrate the validity of the theory of our framework and show that our algorithm outperforms state-of-the-art algorithms on reconstruction performance with lower computational complexity in various inverse problems.
- Abstract(参考訳): 既存の拡散法は、スコア関数を用いて後方からサンプリングされた逆問題に対して、生成したランダムサンプルを解として受け入れる。
後部平均値が好ましいアプリケーションでは、時間を要する後部から複数のサンプルを生成する必要がある。
本研究では,条件付き逆拡散過程の確率密度進化を解析することにより,各逆拡散過程の平均を追跡することにより,後進平均が達成できることを実証する。
そこで我々は,後部平均を直接対象とするRMP(Reverse mean propagation)というフレームワークを構築した。
RMPは,各逆ステップにおける逆KLの発散を最小限に抑えることで,さらに分解可能な変分推論問題を解くことで実現可能であることを示す。
さらに、スコア関数を用いて、逆KL分散を自然な勾配降下で最適化し、各逆ステップで平均を伝搬するアルゴリズムを開発した。
実験により, 提案手法の妥当性を実証し, 逆問題における計算複雑性の低い再構成性能において, アルゴリズムが最先端のアルゴリズムより優れていることを示す。
関連論文リスト
- Think Twice Before You Act: Improving Inverse Problem Solving With MCMC [40.5682961122897]
事前学習した拡散モデルを用いて逆問題を解決するためにtextbfDiffusion textbfPosterior textbfDPMC(textbfDPMC)を提案する。
提案アルゴリズムは,ほぼすべてのタスクにおいてDPSよりも性能が優れており,既存手法と競合する。
論文 参考訳(メタデータ) (2024-09-13T06:10:54Z) - Diffusion Prior-Based Amortized Variational Inference for Noisy Inverse Problems [12.482127049881026]
そこで本稿では, 償却変分推論の観点から, 拡散による逆問題の解法を提案する。
我々の償却推論は、測定結果を対応するクリーンデータの暗黙の後方分布に直接マッピングする関数を学習し、未知の計測でも単一ステップの後方サンプリングを可能にする。
論文 参考訳(メタデータ) (2024-07-23T02:14:18Z) - ODE-DPS: ODE-based Diffusion Posterior Sampling for Inverse Problems in Partial Differential Equation [1.8356973269166506]
本稿では, PDE から生じる逆問題を解決するために, 教師なし逆転法を提案する。
提案手法はベイズ逆転フレームワーク内で動作し,後続分布の解法を条件付き生成過程として扱う。
インバージョン結果の精度を高めるために,ODEベースの拡散インバージョンアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-04-21T00:57:13Z) - Divide-and-Conquer Posterior Sampling for Denoising Diffusion Priors [21.0128625037708]
提案手法は, 分割・分散型後方サンプリング方式である。
これにより、再トレーニングを必要とせずに、現在のテクニックに関連する近似誤差を低減することができる。
ベイズ逆問題に対するアプローチの汎用性と有効性を示す。
論文 参考訳(メタデータ) (2024-03-18T01:47:24Z) - Improving Diffusion Models for Inverse Problems Using Optimal Posterior Covariance [52.093434664236014]
近年の拡散モデルは、特定の逆問題に対して再訓練することなく、ノイズの多い線形逆問題に対する有望なゼロショット解を提供する。
この発見に触発されて、我々は、最大推定値から決定されるより原理化された共分散を用いて、最近の手法を改善することを提案する。
論文 参考訳(メタデータ) (2024-02-03T13:35:39Z) - Solving Linear Inverse Problems Provably via Posterior Sampling with
Latent Diffusion Models [98.95988351420334]
本稿では,事前学習した潜在拡散モデルを利用した線形逆問題の解法を初めて提案する。
線形モデル設定において,証明可能なサンプル回復を示すアルゴリズムを理論的に解析する。
論文 参考訳(メタデータ) (2023-07-02T17:21:30Z) - A Variational Perspective on Solving Inverse Problems with Diffusion
Models [101.831766524264]
逆タスクは、データ上の後続分布を推測するものとして定式化することができる。
しかし、拡散過程の非線形的かつ反復的な性質が後部を引き付けるため、拡散モデルではこれは困難である。
そこで我々は,真の後続分布を近似する設計手法を提案する。
論文 参考訳(メタデータ) (2023-05-07T23:00:47Z) - Variational Laplace Autoencoders [53.08170674326728]
変分オートエンコーダは、遅延変数の後部を近似するために、償却推論モデルを用いる。
完全分解ガウス仮定の限定的後部表現性に対処する新しい手法を提案する。
また、深部生成モデルのトレーニングのための変分ラプラスオートエンコーダ(VLAE)という一般的なフレームワークも提示する。
論文 参考訳(メタデータ) (2022-11-30T18:59:27Z) - Diffusion Posterior Sampling for General Noisy Inverse Problems [50.873313752797124]
我々は、後方サンプリングの近似により、雑音(非線形)逆問題に対処するために拡散解法を拡張した。
本手法は,拡散モデルが様々な計測ノイズ統計を組み込むことができることを示す。
論文 参考訳(メタデータ) (2022-09-29T11:12:27Z) - Improving Diffusion Models for Inverse Problems using Manifold Constraints [55.91148172752894]
我々は,現在の解法がデータ多様体からサンプルパスを逸脱し,エラーが蓄積することを示す。
この問題に対処するため、多様体の制約に着想を得た追加の補正項を提案する。
本手法は理論上も経験上も従来の方法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-06-02T09:06:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。