論文の概要: Rènyi-Regularized Flow-Based Variational Inference for Bayesian Calibration

• arxiv url: http://arxiv.org/abs/2610.37169v1
• Date: Tue, 27 Oct 2026 12:57:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-28 21:04:31.629096
• Title: Rènyi-Regularized Flow-Based Variational Inference for Bayesian Calibration
• Title（参考訳）: Rènyi-regularized Flow-based Variational Inference for Bayesian Calibration
• Abstract要約: 低質量領域で複数のモードが分離される問題について検討する。 我々は、前者の支持をカバーするように近似後続を奨励するレニイ発散に基づく正規化項を導入する。 この実験では、正規化はモードカバレッジを改善するが、ベイズ変分目標を変更し、近似精度のトレードオフを導入し、モード崩壊に対する一般的な解決策を提供しない。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Variational inference with normalizing flows provides a flexible posterior approximation for Bayesian model calibration, but struggles when the posterior has several modes separated by regions of low probability mass. We study this behavior in a two-parameter twin experiment and regularize the variational objective. Under Gaussian observation errors and a Gaussian prior, the corresponding minimization objective is the expected Tikhonov calibration objective minus the differential entropy of the approximating distribution. However, the expected Tikhonov term favors concentration near one of the modes, while entropy maximization does not guarantee multimodality. We introduce a regularization term based on Rényi divergence that encourages the approximate posterior to cover the prior support. In the connected bimodal case, a flow approximation represents both modes; in the case with well-separated modes, the flow and Gaussian mixture frequently miss one mode. The introduced regularization reduces the near-collapse fraction from 50% to 25%. While the regularization improves mode coverage in this experiment, it changes the Bayesian variational objective, introduces a trade-off in approximation accuracy, and does not provide a general solution to mode collapse.
• Abstract（参考訳）: 正規化フローによる変分推論はベイズ模型のキャリブレーションに柔軟な後部近似を与えるが、後部が低確率質量の領域で分離された複数のモードを持つ場合には困難である。 本研究では,この挙動を2パラメータの双対実験で研究し,変動目標を正規化する。 ガウス観測誤差とガウス先行の下では、対応する最小化目的は、近似分布の微分エントロピーを除いたチコノフ校正目標である。 しかし、予想されるチホノフ項はモードの1つに近い濃度を好むが、エントロピーの最大化は多重モダリティを保証しない。 我々は、前者の支持をカバーするように近似後続を奨励するレニイ発散に基づく正規化項を導入する。 連結双モードの場合、フロー近似は両方のモードを表すが、よく分離されたモードの場合、フローとガウス混合はしばしば1つのモードを欠く。 導入された正則化は、ほぼ崩壊率を50%から25%に下げる。 この実験では、正規化はモードカバレッジを改善するが、ベイズ変分目標を変更し、近似精度のトレードオフを導入し、モード崩壊に対する一般的な解決策を提供しない。

関連論文リスト

• Constrained Diffusion Models with Primal-Dual Inference [76.64466170898369]
  我々はPDI(primal-Dual Inference)を用いた制約付き拡散モデルを開発する。 PDIは最適原始分布とそのパラメトリゼーション双対変数を推定する。 我々は、ガウシアン、無線リソースアロケーション、ポートフォリオ管理の混合による制約サンプリングに基づくPDIを評価する。
  論文  参考訳（メタデータ） (2026-06-15T18:32:33Z)
• Amortized Variational Inference for Joint Posterior and Predictive Distributions in Bayesian Uncertainty Quantification [1.0742675209112622]
  本研究では, 後方予測分布を直接対象とし, 後方予測分布と対応する予測分布の両方の変動近似を共同で学習する変分ベイズフレームワークを提案する。 提案手法は,従来の2段階変動予測よりも精度の高い予測分布を実現するとともに,オンライン予測推定のコストを大幅に削減する。
  論文  参考訳（メタデータ） (2026-05-05T12:56:00Z)
• Multivariate Latent Recalibration for Conditional Normalizing Flows [6.932606401614012]
  ラテント校正は、ラテントキャリブレーション上の有限サンプル境界を持つラテント空間の変換を学ぶ。 LRは再校正モデルの潜時校正誤差と負の対数類似度を一貫して改善する。
  論文  参考訳（メタデータ） (2025-05-22T13:08:20Z)
• Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
  一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。 その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。 この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
  論文  参考訳（メタデータ） (2024-10-17T16:42:12Z)
• Amortized Posterior Sampling with Diffusion Prior Distillation [55.03585818289934]
  Amortized Posterior Smplingは、逆問題における効率的な後方サンプリングのための新しい変分推論手法である。 本手法は,拡散モデルにより暗黙的に定義された変動分布と後続分布とのばらつきを最小限に抑えるために条件付き流れモデルを訓練する。 既存の手法とは異なり、我々のアプローチは教師なしであり、ペア化されたトレーニングデータを必要としておらず、ユークリッドと非ユークリッドの両方のドメインに適用できる。
  論文  参考訳（メタデータ） (2024-07-25T09:53:12Z)
• Sequential Monte Carlo for Inclusive KL Minimization in Amortized Variational Inference [3.126959812401426]
  SMC-Wakeは,モンテカルロの連続検層を用いて包摂的KL偏差の勾配を推定する補正式である。 シミュレーションと実データの両方を用いた実験では、SMC-Wakeは既存の手法よりも後方を正確に近似する変動分布に適合する。
  論文  参考訳（メタデータ） (2024-03-15T18:13:48Z)
• Robust scalable initialization for Bayesian variational inference with multi-modal Laplace approximations [0.0]
  フル共分散構造を持つ変分混合は、パラメータ数による変動パラメータによる二次的な成長に苦しむ。 本稿では,変分推論のウォームスタートに使用できる初期ガウスモデル近似を構築する方法を提案する。
  論文  参考訳（メタデータ） (2023-07-12T19:30:04Z)
• Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
  正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。 一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
  論文  参考訳（メタデータ） (2022-02-23T06:11:49Z)
• Variational Refinement for Importance Sampling Using the Forward Kullback-Leibler Divergence [77.06203118175335]
  変分推論(VI)はベイズ推論における正確なサンプリングの代替として人気がある。 重要度サンプリング(IS)は、ベイズ近似推論手順の推定を微調整し、偏りを逸脱するためにしばしば用いられる。 近似ベイズ推論のための最適化手法とサンプリング手法の新たな組み合わせを提案する。
  論文  参考訳（メタデータ） (2021-06-30T11:00:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。