論文の概要: Revisiting Unbiased Implicit Variational Inference

• arxiv url: http://arxiv.org/abs/2506.03839v1
• Date: Wed, 04 Jun 2025 11:16:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-05 21:20:14.300637
• Title: Revisiting Unbiased Implicit Variational Inference
• Title（参考訳）: 偏見のない暗黙的変分推論の再検討
• Authors: Tobias Pielok, Bernd Bischl, David Rügamer,
• Abstract要約: 重要サンプリングにより, 暗黙的変分推論 (UIVI) を効果的に置き換えることができ, 最適な提案分布を安定して学習できることを示す。 我々の洗練されたアプローチは、確立されたSIVIベンチマークにおける最先端の手法よりも優れた性能または同等性を示す。
• 参考スコア（独自算出の注目度）: 12.300415631357406
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent years have witnessed growing interest in semi-implicit variational inference (SIVI) methods due to their ability to rapidly generate samples from complex distributions. However, since the likelihood of these samples is non-trivial to estimate in high dimensions, current research focuses on finding effective SIVI training routines. Although unbiased implicit variational inference (UIVI) has largely been dismissed as imprecise and computationally prohibitive because of its inner MCMC loop, we revisit this method and show that UIVI's MCMC loop can be effectively replaced via importance sampling and the optimal proposal distribution can be learned stably by minimizing an expected forward Kullback-Leibler divergence without bias. Our refined approach demonstrates superior performance or parity with state-of-the-art methods on established SIVI benchmarks.
• Abstract（参考訳）: 近年、複雑な分布からサンプルを迅速に生成する能力により、半単純変分推論(SIVI)手法への関心が高まっている。 しかし、これらのサンプルは高次元での推定が簡単ではないため、現在の研究は効果的なSIVIトレーニングルーチンの発見に重点を置いている。 非バイアス型暗黙的変分推論(UIVI)は、内部MCMCループが不正確で計算的に禁止されているため、ほとんど無視されているが、我々はこの手法を再検討し、UIVIのMCMCループが重要サンプリングによって効果的に置き換えられることを示す。 我々の洗練されたアプローチは、確立されたSIVIベンチマークにおける最先端の手法よりも優れた性能または同等性を示す。

関連論文リスト

• Semi-Implicit Variational Inference via Score Matching [9.654640791869431]
  半単純変分推論(SIVI)は、変分家族の表現性を大いに豊かにする。 現在のSIVIアプローチでは、サロゲートエビデンスローバウンド(ELBO)を使用したり、高価なインナーループMCMCをトレーニングに使用する場合が多い。 スコアマッチングによる代替学習目標に基づくSIVI-SMを提案する。
  論文  参考訳（メタデータ） (2023-08-19T13:32:54Z)
• Piecewise Deterministic Markov Processes for Bayesian Neural Networks [20.865775626533434]
  現代のベイズニューラルネットワーク(BNN)の推論は、しばしば変分推論処理に依存し、独立性や後部の形態に反する仮定を示唆する。 新しいPiecewise Deterministic Markov Process (PDMP) サンプリングはサブサンプリングを許容するが、サンプリングが難しい不均一なPoisson Process (IPP) モデルを導入する。 本研究はIPPからのサンプリングのための新しい汎用的かつ適応的なスライニング手法を導入し、BNNにおける推論のためのPDMPの適用をいかに加速するかを示す。
  論文  参考訳（メタデータ） (2023-02-17T06:38:16Z)
• Asymptotically Unbiased Instance-wise Regularized Partial AUC Optimization: Theory and Algorithm [101.44676036551537]
  One-way partial AUC (OPAUC) と Two-way partial AUC (TPAUC) はバイナリ分類器の平均性能を測定する。 既存の手法のほとんどはPAUCをほぼ最適化するしかなく、制御不能なバイアスにつながる。 本稿では,分散ロバスト最適化AUCによるPAUC問題の簡易化について述べる。
  論文  参考訳（メタデータ） (2022-10-08T08:26:22Z)
• Rethinking Collaborative Metric Learning: Toward an Efficient Alternative without Negative Sampling [156.7248383178991]
  コラボレーティブ・メトリック・ラーニング(CML)パラダイムはレコメンデーション・システム(RS)分野に広く関心を集めている。 負のサンプリングが一般化誤差のバイアス付き推定に繋がることがわかった。 そこで我々は,SFCML (textitSampling-Free Collaborative Metric Learning) という名前のCMLに対して,負のサンプリングを伴わない効率的な手法を提案する。
  論文  参考訳（メタデータ） (2022-06-23T08:50:22Z)
• Surrogate Likelihoods for Variational Annealed Importance Sampling [11.144915453864854]
  我々は他の変分パラメータと共同で学習できる代理可能性を導入する。 本手法は,確率的プログラミングフレームワークにおけるブラックボックス推論に適していることを示す。
  論文  参考訳（メタデータ） (2021-12-22T19:49:45Z)
• Regularizing Variational Autoencoder with Diversity and Uncertainty Awareness [61.827054365139645]
  変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。 よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
  論文  参考訳（メタデータ） (2021-10-24T07:58:13Z)
• Variational Refinement for Importance Sampling Using the Forward Kullback-Leibler Divergence [77.06203118175335]
  変分推論(VI)はベイズ推論における正確なサンプリングの代替として人気がある。 重要度サンプリング(IS)は、ベイズ近似推論手順の推定を微調整し、偏りを逸脱するためにしばしば用いられる。 近似ベイズ推論のための最適化手法とサンプリング手法の新たな組み合わせを提案する。
  論文  参考訳（メタデータ） (2021-06-30T11:00:24Z)
• Efficient Semi-Implicit Variational Inference [65.07058307271329]
  効率的でスケーラブルな半単純外挿 (SIVI) を提案する。 本手法はSIVIの証拠を低勾配値の厳密な推測にマッピングする。
  論文  参考訳（メタデータ） (2021-01-15T11:39:09Z)
• Recursive Inference for Variational Autoencoders [34.552283758419506]
  従来の変分オートエンコーダ(VAE)の推論ネットワークは典型的に償却される。 この欠点に対処するために、最近の半修正アプローチが提案されている。 精度の高い償却推論アルゴリズムを導入する。
  論文  参考訳（メタデータ） (2020-11-17T10:22:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。