論文の概要: How to Approximate Inference with Subtractive Mixture Models
- arxiv url: http://arxiv.org/abs/2604.16714v1
- Date: Fri, 17 Apr 2026 21:28:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-21 21:52:52.139747
- Title: How to Approximate Inference with Subtractive Mixture Models
- Title（参考訳）: 抽出混合モデルを用いた近似推論法
- Authors: Lena Zellinger, Nicola Branchini, Lennert De Smet, Víctor Elvira, Nikolay Malkin, Antonio Vergari,
- Abstract要約: 変動推論 (VI) や重要サンプリング (IS) などの近似推論設定に, 減算混合モデル (SMM) を効果的に活用する方法を検討する。
評価安定性と学習効率のさらなる課題について検討し,その克服方法を提案する。
- 参考スコア（独自算出の注目度）: 35.41848896315461
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Classical mixture models (MMs) are widely used tractable proposals for approximate inference settings such as variational inference (VI) and importance sampling (IS). Recently, mixture models with negative coefficients, called subtractive mixture models (SMMs), have been proposed as a potentially more expressive alternative. However, how to effectively use SMMs for VI and IS is still an open question as they do not provide latent variable semantics and therefore cannot use sampling schemes for classical MMs. In this work, we study how to circumvent this issue by designing several expectation estimators for IS and learning schemes for VI with SMMs, and we empirically evaluate them for distribution approximation. Finally, we discuss the additional challenges in estimation stability and learning efficiency that they carry and propose ways to overcome them. Code is available at: https://github.com/april-tools/delta-vi.
- Abstract（参考訳）: 古典混合モデル (MM) は、変動推論 (VI) や重要サンプリング (IS) のような近似推論設定のための抽出可能な提案法として広く用いられている。
近年, 減算混合モデル (Subtractive Mixed Model, SMM) と呼ばれる負係数の混合モデルが, より表現力のある代替案として提案されている。
しかし、VI や IS で SMM を効果的に活用する方法は、潜時変数のセマンティクスを提供しておらず、したがって古典的 MM のサンプリングスキームを使用できないため、まだ未解決の問題である。
本研究では,ISの予測推定器を設計し,SMMを用いたVIの学習スキームを設計することにより,この問題を回避する方法について検討し,分布近似を実証的に評価する。
最後に、それらが持つ安定性と学習効率のさらなる課題について論じ、それらを克服する方法を提案する。
コードは、https://github.com/april-tools/delta-vi.comで入手できる。
関連論文リスト
- Variational Inference for Latent Variable Models in High Dimensions [4.3012765978447565]
平均場変動推定(MFVI)の統計的精度を定量化するための一般的な枠組みを導入する。
我々は、有名なディリクレ割当てモデルのためのMFVIの「作業」を正確に把握する。
非線形な大きな偏差の枠組みを拡張した証明手法は,他の潜伏変数モデルにおけるMFVIの解析の扉を開く。
論文 参考訳（メタデータ） (2025-06-02T17:19:58Z) - Scalable Expectation Estimation with Subtractive Mixture Models [11.150301369804664]
負の混合モデル(SMM)はサンプリングを複雑にし、高次元ではスケールしないコストのかかる自己回帰手法やアセプション・リジェクトアルゴリズムを必要とする。
本研究では、SMMの差分表現を用いて、SMMからサンプルを除去する非バイアスのIS推定器(DeltatextEx$)を構築する。
実験の結果,$DeltatextEx$は自動回帰サンプリングに匹敵する推定精度を達成できるが,MC推定ではかなり高速であることがわかった。
論文 参考訳（メタデータ） (2025-03-27T10:25:03Z) - Recursive Learning of Asymptotic Variational Objectives [49.69399307452126]
一般状態空間モデル(英: General State-space Model, SSM)は、統計機械学習において広く用いられ、時系列データに対して最も古典的な生成モデルの一つである。
オンラインシーケンシャルIWAE(OSIWAE)は、潜在状態の推測のためのモデルパラメータとマルコフ認識モデルの両方のオンライン学習を可能にする。
このアプローチは、最近提案されたオンライン変分SMC法よりも理論的によく確立されている。
論文 参考訳（メタデータ） (2024-11-04T16:12:37Z) - Adversarial Schrödinger Bridge Matching [66.39774923893103]
反復マルコフフィッティング(IMF)手順は、マルコフ過程の相互射影と相互射影を交互に交互に行う。
本稿では、プロセスの学習を離散時間でほんの少しの遷移確率の学習に置き換える新しい離散時間IMF(D-IMF)手順を提案する。
D-IMFの手続きは、数百ではなく数世代のステップで、IMFと同じ品質の未完成のドメイン翻訳を提供できることを示す。
論文 参考訳（メタデータ） (2024-05-23T11:29:33Z) - Fast Semisupervised Unmixing Using Nonconvex Optimization [80.11512905623417]
半/ライブラリベースのアンミックスのための新しい凸凸モデルを提案する。
スパース・アンミキシングの代替手法の有効性を実証する。
論文 参考訳（メタデータ） (2024-01-23T10:07:41Z) - Mixture of Coupled HMMs for Robust Modeling of Multivariate Healthcare
Time Series [7.5986411724707095]
隠れマルコフモデル(M-CHMM)を結合した新しいモデルのクラスを提案する。
モデル学習を実現するために、CHMM内の潜伏変数のシーケンスをサンプリングする2つのアルゴリズムを導出する。
既存の推論手法と比較して,アルゴリズムは計算可能であり,混合性が向上し,推定精度が向上する。
論文 参考訳（メタデータ） (2023-11-14T02:55:37Z) - Diffusion models for probabilistic programming [56.47577824219207]
拡散モデル変分推論(DMVI)は確率型プログラミング言語(PPL)における自動近似推論手法である
DMVIは実装が容易で、例えば正規化フローを用いた変分推論の欠点を伴わずに、PPLでヘイズルフリー推論が可能であり、基礎となるニューラルネットワークモデルに制約を課さない。
論文 参考訳（メタデータ） (2023-11-01T12:17:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。