論文の概要: Flow-Transformed Implicit Processes for Function-Space Variational Inference
- arxiv url: http://arxiv.org/abs/2606.01954v1
- Date: Mon, 01 Jun 2026 09:14:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:31.690299
- Title: Flow-Transformed Implicit Processes for Function-Space Variational Inference
- Title(参考訳): 関数空間変動推論のためのフロー変換型インシシットプロセス
- Authors: Luis A. Ortega, Andrés R. Masegosa, Thomas D. Nielsen,
- Abstract要約: インプリシットプロセスはフレキシブルな生成機構を通じて関数上の分布を定義する。
1つの実践的戦略は、サンプル関数の有限集合を用いて事前を近似し、後続関数をこれらのサンプルの学習的な組み合わせとして表現することである。
本稿では,この有限次元関数空間近似をより表現力良くするための変分推論法であるFluse-Transformed Implicit Processes (FTIP)を提案する。
- 参考スコア(独自算出の注目度): 4.970364068620607
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Implicit-process priors define distributions over functions through flexible generative mechanisms, making them attractive for Bayesian function-space modelling. However, performing posterior inference with such priors is challenging because their induced function-space distributions are typically not available in closed form. One practical strategy is to approximate the prior using a finite collection of sampled functions, and then represent posterior functions as learned combinations of these samples. Existing approaches commonly place a Gaussian variational distribution over the combination weights. While tractable, this choice limits the shapes of posterior uncertainty that can be represented, especially when the true posterior is asymmetric, heavy-tailed, or multimodal. We propose Flow-Transformed Implicit Processes (FTIP), a variational inference method that makes this finite-dimensional function-space approximation more expressive. Instead of using a Gaussian distribution over the combination weights, FTIP uses a normalizing flow to define a richer variational distribution. This induces a flexible posterior distribution over functions while preserving tractable optimization. We train the model using a Black-Box α objective, allowing us to compare mass-covering and mode-seeking variational behaviour. Experiments show that FTIP captures asymmetric and multimodal posterior structure in function space that Gaussian coefficient approximations tend to smooth or collapse.
- Abstract(参考訳): Implicit-process priors はフレキシブルな生成機構を通じて関数上の分布を定義し、ベイズ関数空間のモデリングに魅力的である。
しかし、それらの関数空間分布は一般に閉形式では利用できないため、そのような事前で後部推論を行うことは困難である。
1つの実践的戦略は、サンプル関数の有限集合を用いて事前を近似し、後続関数をこれらのサンプルの学習的な組み合わせとして表現することである。
既存のアプローチでは、結合重みに関するガウス変分分布が一般的である。
トラクタブルであるにもかかわらず、この選択は、特に真の後部が非対称、重み付き、あるいはマルチモーダルである場合に、表現できる後部不確実性の形状を制限する。
本稿では,この有限次元関数空間近似をより表現力良くするための変分推論法であるFluse-Transformed Implicit Processes (FTIP)を提案する。
組み合わせ重みの上にガウス分布を使う代わりに、FTIPはよりリッチな変分分布を定義するために正規化フローを使用する。
これにより、トラクタブルな最適化を保ちながら、関数上の柔軟な後続分布を誘導する。
我々は、Black-Box αの目的を用いてモデルをトレーニングし、質量被覆とモード探索の変動挙動を比較する。
実験により、FTIPはガウス係数近似が滑らかあるいは崩壊する傾向にある関数空間の非対称および多モード後部構造をキャプチャすることを示した。
関連論文リスト
- Amortized Variational Inference for Joint Posterior and Predictive Distributions in Bayesian Uncertainty Quantification [1.0742675209112622]
本研究では, 後方予測分布を直接対象とし, 後方予測分布と対応する予測分布の両方の変動近似を共同で学習する変分ベイズフレームワークを提案する。
提案手法は,従来の2段階変動予測よりも精度の高い予測分布を実現するとともに,オンライン予測推定のコストを大幅に削減する。
論文 参考訳(メタデータ) (2026-05-05T12:56:00Z) - Supervised Guidance Training for Infinite-Dimensional Diffusion Models [47.65586147952857]
逆問題では、先行条件付き関数上の後続分布からサンプリングすることを目的とする。
モデルがDoobの$h$-変換の無限次元拡張を用いて条件付けできることを証明する。
シミュレーション不要なスコアマッチング目標(Supervised Guidance Training)を提案する。
論文 参考訳(メタデータ) (2026-01-28T16:39:39Z) - An Elementary Approach to Scheduling in Generative Diffusion Models [55.171367482496755]
生成拡散モデルにおけるノイズスケジューリングと時間離散化の影響を特徴付けるための基礎的手法を開発した。
異なるデータセットと事前訓練されたモデルにわたる実験により、我々のアプローチによって選択された時間離散化戦略が、ベースラインとサーチベースの戦略を一貫して上回ることを示した。
論文 参考訳(メタデータ) (2026-01-20T05:06:26Z) - Sequential Function-Space Variational Inference via Gaussian Mixture Approximation [0.6827423171182154]
ニューラルネットワークにおける継続的な学習は、古いタスクを忘れずに新しいタスクを学習することを目的としている。
ガウス混合変分分布に基づくSFSVI法を提案する。
最終平均精度では、確率中心のガウス混合 SFSVI が他の逐次変分推定法より優れていることが分かる。
論文 参考訳(メタデータ) (2025-03-10T09:38:35Z) - Improving Diffusion Models for Inverse Problems Using Optimal Posterior Covariance [52.093434664236014]
近年の拡散モデルは、特定の逆問題に対して再訓練することなく、ノイズの多い線形逆問題に対する有望なゼロショット解を提供する。
この発見に触発されて、我々は、最大推定値から決定されるより原理化された共分散を用いて、最近の手法を改善することを提案する。
論文 参考訳(メタデータ) (2024-02-03T13:35:39Z) - Diffusion models for probabilistic programming [56.47577824219207]
拡散モデル変分推論(DMVI)は確率型プログラミング言語(PPL)における自動近似推論手法である
DMVIは実装が容易で、例えば正規化フローを用いた変分推論の欠点を伴わずに、PPLでヘイズルフリー推論が可能であり、基礎となるニューラルネットワークモデルに制約を課さない。
論文 参考訳(メタデータ) (2023-11-01T12:17:05Z) - Noise-Free Sampling Algorithms via Regularized Wasserstein Proximals [3.4240632942024685]
ポテンシャル関数が支配する分布からサンプリングする問題を考察する。
本研究は, 決定論的な楽譜に基づくMCMC法を提案し, 粒子に対する決定論的進化をもたらす。
論文 参考訳(メタデータ) (2023-08-28T23:51:33Z) - Neural Diffusion Processes [12.744250155946503]
そこで我々は, 関数上の豊富な分布から, 有限限界を通してサンプルを学習するニューラル拡散過程 (NDP) を提案する。
我々はNDPが真のベイズ後部に近い機能的分布を捉えることを実証的に示す。
NDPは、回帰、暗黙のハイパーマージン化、非ガウスの後方予測、グローバル最適化など、様々な下流タスクを可能にする。
論文 参考訳(メタデータ) (2022-06-08T16:13:04Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。