論文の概要: Transport Reversible Jump Markov Chain Monte Carlo with proposals generated by Variational Inference with Normalizing Flows
- arxiv url: http://arxiv.org/abs/2512.12742v1
- Date: Sun, 14 Dec 2025 15:38:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-16 17:54:56.412909
- Title: Transport Reversible Jump Markov Chain Monte Carlo with proposals generated by Variational Inference with Normalizing Flows
- Title(参考訳): 移動可逆ジャンプマルコフチェインモンテカルロと正規化流れによる変分推論による提案
- Authors: Pingping Yin, Xiyun Jiao,
- Abstract要約: 本稿では,正則化フロー (VI-NFs) を用いた変分推論を用いて,可逆ジャンプ型マルコフ連鎖モンテカルロ (RJMCMC) の提案を行う。
提案手法は, ベース分布からのサンプルのみを必要とする逆KL分散を最小化し, コストのかかるターゲットサンプリングを除去する。
提案アルゴリズムは, モデル間での償却空調推論のために, 条件付き流れに拡張することができる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present a framework using variational inference with normalizing flows (VI-NFs) to generate proposals of reversible jump Markov chain Monte Carlo (RJMCMC) for efficient trans-dimensional Bayesian inference. Unlike transport reversible jump methods relying on forward KL minimization with pilot MCMC samples, our approach minimizes the reverse KL divergence which requires only samples from a base distribution, eliminating costly target sampling. The method employs RealNVP-based flows to learn model-specific transport maps, enabling construction of both between-model and within-model proposals. Our framework provides accurate marginal likelihood estimates from the variational approximation. This facilitates efficient model comparison and proposal adaptation in RJMCMC. Experiments on illustrative example, factor analysis and variable selection tasks in linear regression show that TRJ designed by VI-NFs achieves faster mixing and more efficient model space exploration compared to existing baselines. The proposed algorithm can be extended to conditional flows for amortized vairiational inference across models. Code is available at https://github.com/YinPingping111/TRJ_VINFs.
- Abstract(参考訳): 本稿では, 正規化フロー (VI-NFs) を用いた変分推論を用いて, 効率的な半次元ベイズ推論のための可逆ジャンプ型マルコフ連鎖モンテカルロ (RJMCMC) の提案を行う。
パイロットMCMCサンプルによる前方KL最小化に依存する輸送可逆ジャンプ法とは異なり,本手法は,基地分布からのサンプルのみを必要とする逆KL分散を最小化し,コストの高い目標サンプリングを不要とする。
この手法はRealNVPベースのフローを用いてモデル固有のトランスポートマップを学習し、モデル間とモデル内の両方の提案の構築を可能にする。
我々のフレームワークは、変動近似から正確な限界推定値を提供する。
これにより、RJMCMCにおける効率的なモデル比較と提案適応が容易となる。
線形回帰における因子分析および変数選択タスクの実験により、VI-NFによって設計されたTRJは、既存のベースラインと比較してより高速な混合とより効率的なモデル空間探索を実現することが示された。
提案アルゴリズムは, モデル間での償却空調推論のために, 条件付き流れに拡張することができる。
コードはhttps://github.com/YinPingping111/TRJ_VINFsで入手できる。
関連論文リスト
- Beyond Optimal Transport: Model-Aligned Coupling for Flow Matching [59.97254029720877]
フローマッチング(FM)は、サンプルをソース分布からターゲット分布へ輸送するベクトル場を学習するモデルを訓練するための効果的なフレームワークである。
本稿では,幾何距離に基づく学習結合を効果的にマッチングするモデル結合結合(MAC)を提案する。
実験により、MACは既存の手法と比較して、数ステップ設定で生成品質と効率を著しく改善することが示された。
論文 参考訳(メタデータ) (2025-05-29T11:10:41Z) - Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。
本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。
我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
論文 参考訳(メタデータ) (2025-05-21T07:16:44Z) - Markovian Flow Matching: Accelerating MCMC with Continuous Normalizing Flows [2.2530496464901106]
連続正規化フロー(CNF)は、ニューラルネットワークを用いて前記経路を生成するベクトル場をモデル化することにより、基準分布と目標分布の間の確率経路を学習する。
近年,Lipman et al. (2022) は生成モデルにおけるCNFsの簡易かつ安価な学習法であるフローマッチング (FM) を導入した。
本稿では,この手法をマルコフサンプリング法をFM目標評価に応用し,学習したCNFを用いてモンテカルロサンプリングを改善することにより,確率的推論に再利用する。
論文 参考訳(メタデータ) (2024-05-23T10:08:19Z) - Diffusion models for probabilistic programming [56.47577824219207]
拡散モデル変分推論(DMVI)は確率型プログラミング言語(PPL)における自動近似推論手法である
DMVIは実装が容易で、例えば正規化フローを用いた変分推論の欠点を伴わずに、PPLでヘイズルフリー推論が可能であり、基礎となるニューラルネットワークモデルに制約を課さない。
論文 参考訳(メタデータ) (2023-11-01T12:17:05Z) - On Sampling with Approximate Transport Maps [22.03230737620495]
輸送地図は、非自明な測地による分布のサンプリングを容易にし、それらを扱いやすい分布に変換する。
このアプローチのポテンシャルは、ターゲットに向かって参照分布をプッシュするようにトレーニングされたディープニューラルネットワークでパラメータ化されたマップである正規化フロー(NF)の開発によって高まっている。
NF型サンプリング器は先日,フローから引き出された (i) モンテカルロ法または (ii) フローベース再パラメータ化法をブレンドした(マルコフ連鎖)モンテカルロ法を提案した。
論文 参考訳(メタデータ) (2023-02-09T16:52:52Z) - Online Probabilistic Model Identification using Adaptive Recursive MCMC [8.465242072268019]
適応再帰的マルコフ連鎖モンテカルロ法(ARMCMC)を提案する。
モデルパラメータの確率密度関数全体を計算しながら、従来のオンライン手法の欠点を解消する。
本研究では,ソフト曲げアクチュエータとハント・クロスリー動的モデルを用いてパラメータ推定を行った。
論文 参考訳(メタデータ) (2022-10-23T02:06:48Z) - Transport Reversible Jump Proposals [0.8399688944263843]
本稿では,参照分布を含む3次元ジャンプを行うことにより,RJMCMCサンプリングの効率を向上させる手法を示す。
正確な輸送が使用される環境では、我々のRJMCMC提案は、受理確率がモデル確率のみに依存するという望ましい性質を持っていることが示されている。
論文 参考訳(メタデータ) (2022-10-22T23:48:04Z) - Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。
パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
論文 参考訳(メタデータ) (2022-04-13T12:43:12Z) - Comparing Probability Distributions with Conditional Transport [63.11403041984197]
新しい発散として条件輸送(CT)を提案し、償却されたCT(ACT)コストと近似します。
ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。
さまざまなベンチマークデータセットのジェネレーティブモデリングでは、既存のジェネレーティブ敵対ネットワークのデフォルトの統計距離をACTに置き換えることで、一貫してパフォーマンスを向上させることが示されています。
論文 参考訳(メタデータ) (2020-12-28T05:14:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。