論文の概要: Rethinking Variational Inference for Probabilistic Programs with Stochastic Support

• arxiv url: http://arxiv.org/abs/2311.00594v1
• Date: Wed, 1 Nov 2023 15:38:51 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-02 13:04:48.333872
• Title: Rethinking Variational Inference for Probabilistic Programs with Stochastic Support
• Title（参考訳）: 確率的支援をもつ確率的プログラムに対する変分推論の再考
• Authors: Tim Reichelt, Luke Ong, Tom Rainforth
• Abstract要約: 本稿では,確率的プログラムのための新しい変分推論(VI)アプローチであるSDVI(Support Decomposition Vari Inference)を導入する。 SDVIは、プログラムを静的サポート付きサブプログラムに分割し、個別のサブガイドを自動的に作成する。 この分解は適切な変分族の構築に大いに役立ち、推論性能が大幅に向上する。
• 参考スコア（独自算出の注目度）: 23.07504711090434
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce Support Decomposition Variational Inference (SDVI), a new variational inference (VI) approach for probabilistic programs with stochastic support. Existing approaches to this problem rely on designing a single global variational guide on a variable-by-variable basis, while maintaining the stochastic control flow of the original program. SDVI instead breaks the program down into sub-programs with static support, before automatically building separate sub-guides for each. This decomposition significantly aids in the construction of suitable variational families, enabling, in turn, substantial improvements in inference performance.
• Abstract（参考訳）: 確率的支援を伴う確率的プログラムに対する新しい変分推論(VI)アプローチであるSDVI(Support Decomposition Variational Inference)を導入する。 この問題に対する既存のアプローチは、元のプログラムの確率的制御フローを維持しながら、変数ごとに単一のグローバルな変動ガイドを設計することに依存している。 SDVIはプログラムを静的サポート付きサブプログラムに分割し、各サブガイドを自動的に作成する。 この分解は適切な変分族の構築に大きく寄与し、推論性能が大幅に向上する。

関連論文リスト

• Probabilistic Programming with Programmable Variational Inference [45.593974530502095]
  本稿では,構成プログラム変換に基づくPPLの変分推論を支援するための,よりモジュラーなアプローチを提案する。 我々の設計は、自動微分、密度、トレーシング、偏りのない勾配推定戦略の適用など、多くの相互作用する関心事に関するモジュラー推論を可能にする。 我々は、JAXで実装されたGen確率型プログラミングシステム(genjax.vi)の拡張として、我々のアプローチを実装し、いくつかの深い生成モデリングタスクを評価する。
  論文  参考訳（メタデータ） (2024-06-22T05:49:37Z)
• Semi-Implicit Variational Inference via Score Matching [9.654640791869431]
  半単純変分推論(SIVI)は、変分家族の表現性を大いに豊かにする。 現在のSIVIアプローチでは、サロゲートエビデンスローバウンド(ELBO)を使用したり、高価なインナーループMCMCをトレーニングに使用する場合が多い。 スコアマッチングによる代替学習目標に基づくSIVI-SMを提案する。
  論文  参考訳（メタデータ） (2023-08-19T13:32:54Z)
• Recursive Monte Carlo and Variational Inference with Auxiliary Variables [64.25762042361839]
  再帰的補助変数推論(RAVI)はフレキシブルな提案を利用するための新しいフレームワークである。 RAVIは、表現力のある表現力のある家族を推論するためのいくつかの既存の手法を一般化し、統一する。 RAVIの設計枠組みと定理を,SalimansらによるMarkov Chain Variational Inferenceを用いて解析し,改良することにより示す。
  論文  参考訳（メタデータ） (2022-03-05T23:52:40Z)
• A Variational Inference Approach to Inverse Problems with Gamma Hyperpriors [60.489902135153415]
  本稿では,ガンマハイパープライヤを用いた階層的逆問題に対する変分反復交替方式を提案する。 提案した変分推論手法は正確な再構成を行い、意味のある不確実な定量化を提供し、実装が容易である。
  論文  参考訳（メタデータ） (2021-11-26T06:33:29Z)
• Regularizing Variational Autoencoder with Diversity and Uncertainty Awareness [61.827054365139645]
  変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。 よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
  論文  参考訳（メタデータ） (2021-10-24T07:58:13Z)
• Automatic variational inference with cascading flows [6.252236971703546]
  フォワードパスを埋め込んだ変分プログラムのファミリーを新たに提示する。 カスケードフロープログラムは、前プログラムの条件分布の間に新しく設計されたハイウェイフローアーキテクチャを介する。 我々は,一連の構造的推論問題において,新しい変分プログラムの性能を評価する。
  論文  参考訳（メタデータ） (2021-02-09T12:44:39Z)
• Posterior Differential Regularization with f-divergence for Improving Model Robustness [95.05725916287376]
  クリーン入力とノイズ入力のモデル後部差を規則化する手法に着目する。 後微分正則化を$f$-divergencesの族に一般化する。 実験の結果, 後方微分を$f$-divergenceで正規化することで, モデルロバスト性の向上が期待できることがわかった。
  論文  参考訳（メタデータ） (2020-10-23T19:58:01Z)
• Meta-Learning Divergences of Variational Inference [49.164944557174294]
  変分推論(VI)は、近似ベイズ推論において重要な役割を果たす。 本稿では,興味ある課題に適した分散度を学習するためのメタ学習アルゴリズムを提案する。 提案手法はガウス混合分布近似の標準VIより優れていることを示す。
  論文  参考訳（メタデータ） (2020-07-06T17:43:01Z)
• Stochastically Differentiable Probabilistic Programs [18.971852464650144]
  離散確率変数の存在は、多くの基本的な勾配に基づく推論エンジンを禁止している。 我々はマルコフ・チェイン・モンテカルロのアルゴリズム群を用いて,このようなプログラムにおいて推論を効率的かつ堅牢に実行するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-03-02T08:04:41Z)
• Automatic structured variational inference [12.557212589634112]
  自動構造化変分推論(ASVI)を導入する。 ASVIは、構造化変動族を構築するための完全に自動化された方法である。 私たちは、ASVIは他の一般的なアプローチと比較して、パフォーマンスが明らかに改善されていることに気付きました。
  論文  参考訳（メタデータ） (2020-02-03T10:52:30Z)
• Target-Embedding Autoencoders for Supervised Representation Learning [111.07204912245841]
  本稿では,対象空間が高次元な純粋教師付き環境における一般化の枠組みを解析する。 我々は、教師付き予測のための目標埋め込みオートエンコーダ(TEA)の一般的なフレームワークのモチベーションと形式化を行い、特徴とターゲットの予測の両方から予測可能なように最適化された中間潜在表現を学習する。
  論文  参考訳（メタデータ） (2020-01-23T02:37:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。