論文の概要: Learning Proposals for Probabilistic Programs with Inference Combinators
- arxiv url: http://arxiv.org/abs/2103.00668v2
- Date: Wed, 3 Mar 2021 18:47:15 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-04 12:27:45.900270
- Title: Learning Proposals for Probabilistic Programs with Inference Combinators
- Title(参考訳): Inference Combinatorによる確率的プログラムの学習提案
- Authors: Sam Stites, Heiko Zimmermann, Hao Wu, Eli Sennesh, Jan-Willem van de
Meent
- Abstract要約: 確率プログラムの提案構築事業者を育成します。
推論サンプリングにおける提案はニューラルネットワークを用いてパラメータ化できる。
このフレームワークの柔軟性を、高度な変分法によって実証する。
- 参考スコア(独自算出の注目度): 9.227032708135617
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We develop operators for construction of proposals in probabilistic programs,
which we refer to as inference combinators. Inference combinators define a
grammar over importance samplers that compose primitive operations such as
application of a transition kernel and importance resampling. Proposals in
these samplers can be parameterized using neural networks, which in turn can be
trained by optimizing variational objectives. The result is a framework for
user-programmable variational methods that are correct by construction and can
be tailored to specific models. We demonstrate the flexibility of this
framework by implementing advanced variational methods based on amortized Gibbs
sampling and annealing.
- Abstract(参考訳): 推論コンビネーター(inference combinator)と呼ばれる確率的プログラムにおける提案の構築のためのオペレータを開発しています。
推論コンビネータは、遷移核の適用や重要再サンプリングといったプリミティブ演算を構成する重要スペーサよりも文法を定義する。
これらのサンプラーの提案はニューラルネットワークを使ってパラメータ化することができ、変動目標を最適化することでトレーニングすることができる。
その結果、ユーザプログラマブルな変分法のためのフレームワークが構築によって修正され、特定のモデルに合わせることができる。
Amortized Gibbsサンプリングとアニーリングに基づく高度な変分法を実装することにより、このフレームワークの柔軟性を実証する。
関連論文リスト
- A tutorial on learning from preferences and choices with Gaussian Processes [0.7234862895932991]
このチュートリアルは、既存の文献の特定のギャップに対処する新しいGPベースのモデルを導入しながら、確立された研究の上に構築されている。
このフレームワークは、ランダムなユーティリティモデル、識別の限界、およびオブジェクトとラベルの両方に矛盾するユーティリティを持つシナリオを含む嗜好学習モデルの構築を可能にする。
論文 参考訳(メタデータ) (2024-03-18T13:40:48Z) - Amortizing intractable inference in large language models [56.92471123778389]
難治性後部分布のサンプルとして, 償却ベイズ推定を用いる。
我々は,LLMファインチューニングの分散マッチングパラダイムが,最大習熟の代替となることを実証的に実証した。
重要な応用として、チェーン・オブ・ソート推論を潜在変数モデリング問題として解釈する。
論文 参考訳(メタデータ) (2023-10-06T16:36:08Z) - Exploiting Inferential Structure in Neural Processes [15.058161307401864]
ニューラルネットワーク(NP)は、コンテキストセットに基づいて高速な適応を行う能力によって、魅力的である。
我々は、NPの潜伏変数にグラフィカルモデルで定義されたリッチな事前定義を与えることができるフレームワークを提供する。
論文 参考訳(メタデータ) (2023-06-27T03:01:43Z) - Compositional Probabilistic and Causal Inference using Tractable Circuit
Models [20.07977560803858]
我々は、構造化分解可能なPCにおける(マルジナル)決定性の新規な定式化であるmd-vtreesを紹介する。
我々は,PC上でのバックドア調整などの因果推論クエリに対して,最初のpolytimeアルゴリズムを導出する。
論文 参考訳(メタデータ) (2023-04-17T13:48:16Z) - Variable Importance Matching for Causal Inference [73.25504313552516]
これらの目標を達成するためのModel-to-Matchと呼ばれる一般的なフレームワークについて説明する。
Model-to-Matchは、距離メートル法を構築するために変数重要度測定を使用する。
LASSO を用いて Model-to-Match フレームワークを運用する。
論文 参考訳(メタデータ) (2023-02-23T00:43:03Z) - Federated Variational Inference Methods for Structured Latent Variable
Models [1.0312968200748118]
フェデレートされた学習方法は、データが元の場所を離れることなく、分散データソースをまたいだモデルトレーニングを可能にする。
本稿では,ベイズ機械学習において広く用いられている構造的変分推論に基づく汎用的でエレガントな解を提案する。
また、標準FedAvgアルゴリズムに類似した通信効率のよい変種も提供する。
論文 参考訳(メタデータ) (2023-02-07T08:35:04Z) - Object Representations as Fixed Points: Training Iterative Refinement
Algorithms with Implicit Differentiation [88.14365009076907]
反復的洗練は表現学習に有用なパラダイムである。
トレーニングの安定性とトラクタビリティを向上させる暗黙の差別化アプローチを開発する。
論文 参考訳(メタデータ) (2022-07-02T10:00:35Z) - Recursive Monte Carlo and Variational Inference with Auxiliary Variables [64.25762042361839]
再帰的補助変数推論(RAVI)はフレキシブルな提案を利用するための新しいフレームワークである。
RAVIは、表現力のある表現力のある家族を推論するためのいくつかの既存の手法を一般化し、統一する。
RAVIの設計枠組みと定理を,SalimansらによるMarkov Chain Variational Inferenceを用いて解析し,改良することにより示す。
論文 参考訳(メタデータ) (2022-03-05T23:52:40Z) - Instance-Based Neural Dependency Parsing [56.63500180843504]
依存関係解析のための解釈可能な推論プロセスを持つニューラルモデルを開発する。
私たちのモデルはインスタンスベースの推論を採用しており、トレーニングセットのエッジと比較することで、依存関係のエッジを抽出し、ラベル付けします。
論文 参考訳(メタデータ) (2021-09-28T05:30:52Z) - Control as Hybrid Inference [62.997667081978825]
本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。
連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
論文 参考訳(メタデータ) (2020-07-11T19:44:09Z) - Generalized Adversarially Learned Inference [42.40405470084505]
我々は、画像生成器とエンコーダを逆向きにトレーニングし、画像と潜時ベクトル対の2つの結合分布を一致させることにより、GAN内の潜時変数を推定する方法を開発した。
我々は、望まれるソリューションに関する事前または学習知識に基づいて、再構築、自己監督、その他の形式の監督に関する複数のフィードバック層を組み込んだ。
論文 参考訳(メタデータ) (2020-06-15T02:18:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。