論文の概要: Adaptive Heterogeneous Mixtures of Normalising Flows for Robust Variational Inference
- arxiv url: http://arxiv.org/abs/2510.02056v1
- Date: Thu, 02 Oct 2025 14:25:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-03 16:59:21.16508
- Title: Adaptive Heterogeneous Mixtures of Normalising Flows for Robust Variational Inference
- Title(参考訳): ロバスト変分推論のための正規化流れの適応的不均一混合
- Authors: Benjamin Wiriyapong, Oktay Karakuş, Kirill Sidorov,
- Abstract要約: 適応混合流変分推論(AMF-VI)を提案する。
AMF-VIは、(i)個別フローの逐次的専門訓練、(ii)確率駆動更新による適応的グローバルウェイト推定の2段階で訓練される。
アラバマ,X-シェープ,2-ムーン,リング,バイモーダル,5-ムドの6種類の標準後縁系についてAMF-VIを評価した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Normalising-flow variational inference (VI) can approximate complex posteriors, yet single-flow models often behave inconsistently across qualitatively different distributions. We propose Adaptive Mixture Flow Variational Inference (AMF-VI), a heterogeneous mixture of complementary flows (MAF, RealNVP, RBIG) trained in two stages: (i) sequential expert training of individual flows, and (ii) adaptive global weight estimation via likelihood-driven updates, without per-sample gating or architectural changes. Evaluated on six canonical posterior families of banana, X-shape, two-moons, rings, a bimodal, and a five-mode mixture, AMF-VI achieves consistently lower negative log-likelihood than each single-flow baseline and delivers stable gains in transport metrics (Wasserstein-2) and maximum mean discrepancy (MDD), indicating improved robustness across shapes and modalities. The procedure is efficient and architecture-agnostic, incurring minimal overhead relative to standard flow training, and demonstrates that adaptive mixtures of diverse flows provide a reliable route to robust VI across diverse posterior families whilst preserving each expert's inductive bias.
- Abstract(参考訳): 正規化フロー変分推論 (VI) は複雑な後部を近似することができるが、単一フローモデルは定性的に異なる分布で不整合に振る舞うことが多い。
相補流(MAF, RealNVP, RBIG)の異種混合である適応混合流変分推論(AMF-VI)を提案する。
一 個別の流れの連続した専門家の訓練、及び
(II) 確率駆動型更新による適応的グローバルウェイト推定は、サンプルごとのゲーティングやアーキテクチャの変更を伴わない。
バナナ,X字形,2モード,リング,2モード,および5モード混合の6種類の正準後流を評価したところ,AMF-VIは単一フローベースラインよりも一貫して負の対数類似度を低くし,輸送量(Wasserstein-2)と最大平均不一致(MDD)を安定的に増加させ,形状とモード間の堅牢性の向上を示唆した。
この手順は効率的でアーキテクチャに依存しないため、標準的なフロートレーニングと比較して最小限のオーバーヘッドを発生させ、様々なフローの適応的な混合が、各専門家の誘導バイアスを保ちながら、様々な後続のファミリーにわたるロバストVIへの信頼性の高い経路を提供することを示した。
関連論文リスト
- Asymptotically exact variational flows via involutive MCMC kernels [16.137032831974174]
Involutive MCMCカーネルから,チューニング不要で,表現的に正確な変動フローを構築するための一般的なレシピを提案する。
これにより、証明可能な全変分収束を持つ3つの新しい変分族が導かれる。
後続近似,モンテカルロ推定,正規化定数推定など,タスク間のフローの競合性能を実証する。
論文 参考訳(メタデータ) (2025-06-02T18:44:35Z) - Stable Derivative Free Gaussian Mixture Variational Inference for Bayesian Inverse Problems [4.842853252452336]
主な課題は、フォワードモデルのコストがかかる評価、マルチモーダリティ、フォワードモデルの到達不能勾配である。
我々は,フィッシャー・ラオ自然勾配と特殊二次規則を組み合わせた変分推論フレームワークを開発し,ガウス混合変分族に対する微分自由更新を可能にする。
導関数自由ガウス混合変分推論 (DF-GMVI) と呼ばれるこの手法は共分散陽性とアフィン不変性を保証し、複素後続分布を近似するための安定かつ効率的なフレームワークを提供する。
論文 参考訳(メタデータ) (2025-01-08T03:50:15Z) - Consistency Flow Matching: Defining Straight Flows with Velocity Consistency [97.28511135503176]
本稿では,速度場の自己整合性を明示する新しいFM法であるConsistency Flow Matching(Consistency-FM)を紹介する。
予備実験により、一貫性FMは、一貫性モデルよりも4.4倍速く収束することにより、トレーニング効率を著しく向上することが示された。
論文 参考訳(メタデータ) (2024-07-02T16:15:37Z) - Stable Training of Normalizing Flows for High-dimensional Variational
Inference [2.139348034155473]
正規化フロー(NFs)による変分推論は、MCMC法の代替としてますます人気が高まっている。
実際には、勾配のばらつきが大きいため、高次元分布を近似するための深い正規化フローの訓練は不可能であることが多い。
本研究では, 勾配勾配勾配の分散を安定化させる従来の手法は, 実NVPの安定トレーニングを実現するには不十分であることを示す。
論文 参考訳(メタデータ) (2024-02-26T09:04:07Z) - MGF: Mixed Gaussian Flow for Diverse Trajectory Prediction [72.70572835589158]
本稿では,軌道予測のための正規化フローモデルに対して,混合ガウス前駆体を構築することを提案する。
提案手法は,一般的な UCY/ETH および SDD データセットにおける軌道アライメントと多様性の評価において,最先端の性能を実現する。
論文 参考訳(メタデータ) (2024-02-19T15:48:55Z) - Manifold Gaussian Variational Bayes on the Precision Matrix [70.44024861252554]
複雑なモデルにおける変分推論(VI)の最適化アルゴリズムを提案する。
本研究では,変分行列上の正定値制約を満たすガウス変分推論の効率的なアルゴリズムを開発した。
MGVBPはブラックボックスの性質のため、複雑なモデルにおけるVIのための準備が整ったソリューションである。
論文 参考訳(メタデータ) (2022-10-26T10:12:31Z) - SurVAE Flows: Surjections to Bridge the Gap between VAEs and Flows [78.77808270452974]
SurVAE Flowsは、VAEと正規化フローを含む構成可能な変換のためのモジュラーフレームワークである。
提案手法は,SurVAE フローとして表現できることが示唆された。
論文 参考訳(メタデータ) (2020-07-06T13:13:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。