論文の概要: flip-hoisting: Exploiting Repeated Parameters in Discrete Probabilistic
Programs
- arxiv url: http://arxiv.org/abs/2110.10284v1
- Date: Tue, 19 Oct 2021 22:04:26 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-22 16:10:06.898291
- Title: flip-hoisting: Exploiting Repeated Parameters in Discrete Probabilistic
Programs
- Title(参考訳): flip-hoisting: 離散確率プログラムにおける繰り返しパラメータの活用
- Authors: Yu-Hsi Cheng, Todd Millstein, Guy Van den Broeck, Steven Holtzen
- Abstract要約: 本稿では、離散確率的プログラムにおいて繰り返しパラメータを分解し、推論性能を向上させるプログラム解析とそれに伴う最適化について述べる。
既存の確率型プログラミング言語でフリップホスティングを実装し,推論性能が著しく向上することを示す。
- 参考スコア(独自算出の注目度): 25.320181572646135
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Probabilistic programming is emerging as a popular and effective means of
probabilistic modeling and an alternative to probabilistic graphical models.
Probabilistic programs provide greater expressivity and flexibility in modeling
probabilistic systems than graphical models, but this flexibility comes at a
cost: there remains a significant disparity in performance between specialized
Bayesian network solvers and probabilistic program inference algorithms. In
this work we present a program analysis and associated optimization,
flip-hoisting, that collapses repetitious parameters in discrete probabilistic
programs to improve inference performance. flip-hoisting generalizes parameter
sharing - a well-known important optimization from discrete graphical models -
to probabilistic programs. We implement flip-hoisting in an existing
probabilistic programming language and show empirically that it significantly
improves inference performance, narrowing the gap between the performances of
probabilistic programs and probabilistic graphical models.
- Abstract(参考訳): 確率的プログラミングは確率的モデリングの一般的かつ効果的な方法として現れており、確率的グラフィカルモデルに代わるものである。
確率的プログラムは、グラフィカルモデルよりも確率的システムのモデリングにおいて、より表現力と柔軟性を提供するが、この柔軟性はコストがかかる。
本研究では,プログラム解析とそれに関連する最適化,フリップホスティングを提案し,離散確率プログラムにおける繰り返しパラメータを分解し,推論性能を向上させる。
flip-hoistingはパラメータ共有を一般化する - 離散グラフィカルモデルから確率的プログラムまで、よく知られた重要な最適化である。
既存の確率型プログラミング言語でフリップホスティングを実装し、確率型プログラムの性能と確率型グラフィカルモデルとのギャップを狭め、推論性能を著しく改善することを示す。
関連論文リスト
- A Heavy-Tailed Algebra for Probabilistic Programming [53.32246823168763]
本稿では,確率変数の尾を解析するための体系的アプローチを提案する。
本稿では,確率型プログラミング言語コンパイラの静的解析(サンプル作成前)において,この手法をどのように利用できるかを示す。
実験結果から,重み付き代数を利用する推論アルゴリズムは,多数の密度モデリングおよび変分推論タスクにおいて優れた性能が得られることを確認した。
論文 参考訳(メタデータ) (2023-06-15T16:37:36Z) - $\omega$PAP Spaces: Reasoning Denotationally About Higher-Order,
Recursive Probabilistic and Differentiable Programs [64.25762042361839]
$omega$PAP 空間は表現的微分可能および確率的プログラミング言語についての推論のための空間である。
我々の意味論は、最も実践的な確率的で微分可能なプログラムに意味を割り当てるのに十分である。
確率プログラムのトレース密度関数のほぼすべての微分可能性を確立する。
論文 参考訳(メタデータ) (2023-02-21T12:50:05Z) - Multi-Model Probabilistic Programming [0.0]
本稿では,各プログラムが関係する確率モデルのネットワークを表現できる確率計画の拡張について述べる。
本稿では,これらの多モデル確率型プログラムの形式的意味論,ネットワーク・オブ・モデル演算のための効率的なアルゴリズムの集合,および一般的な確率型言語であるStan上に構築されたサンプル実装について述べる。
このネットワーク・オブ・モデル表現は、モデル空間における検索と自動化、モデル開発の追跡とコミュニケーション、pハックのような問題を緩和する明示的なモデラー自由度を含む、多くの扉を開く。
論文 参考訳(メタデータ) (2022-08-12T15:38:15Z) - Program Analysis of Probabilistic Programs [3.299672391663527]
プログラム解析を用いて確率的プログラミングを改善するための3つの新しい手法を提案する。
このテクニックは確率的プログラムを分析し、推論をより効率的にするためにそれを適用する。
論文 参考訳(メタデータ) (2022-04-14T10:40:54Z) - Distributional Gradient Boosting Machines [77.34726150561087]
私たちのフレームワークはXGBoostとLightGBMをベースにしています。
我々は,このフレームワークが最先端の予測精度を実現することを示す。
論文 参考訳(メタデータ) (2022-04-02T06:32:19Z) - Probabilistic Gradient Boosting Machines for Large-Scale Probabilistic
Regression [51.770998056563094]
PGBM(Probabilistic Gradient Boosting Machines)は、確率的予測を生成する手法である。
既存の最先端手法と比較してPGBMの利点を実証的に示す。
論文 参考訳(メタデータ) (2021-06-03T08:32:13Z) - Probabilistic Generating Circuits [50.98473654244851]
効率的な表現のための確率的生成回路(PGC)を提案する。
PGCは、非常に異なる既存モデルを統一する理論的なフレームワークであるだけでなく、現実的なデータをモデル化する大きな可能性も示している。
我々はPCとDPPの単純な組み合わせによって簡単に仮定されない単純なPGCのクラスを示し、一連の密度推定ベンチマークで競合性能を得る。
論文 参考訳(メタデータ) (2021-02-19T07:06:53Z) - Probabilistic Circuits for Variational Inference in Discrete Graphical
Models [101.28528515775842]
変分法による離散的グラフィカルモデルの推論は困難である。
エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。
Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。
選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
論文 参考訳(メタデータ) (2020-10-22T05:04:38Z) - Transforming Probabilistic Programs for Model Checking [0.0]
確率的プログラムに静的解析を適用し、2つの重要なモデル検査手法の大部分を自動化する。
本手法は,密度関数を指定する確率的プログラムを,効率的なフォワードサンプリング形式に変換する。
本稿では,一般的なStan確率型プログラミング言語を対象とする実装を提案する。
論文 参考訳(メタデータ) (2020-08-21T21:06:34Z) - Stochastically Differentiable Probabilistic Programs [18.971852464650144]
離散確率変数の存在は、多くの基本的な勾配に基づく推論エンジンを禁止している。
我々はマルコフ・チェイン・モンテカルロのアルゴリズム群を用いて,このようなプログラムにおいて推論を効率的かつ堅牢に実行するための新しい手法を提案する。
論文 参考訳(メタデータ) (2020-03-02T08:04:41Z) - Stochastic Probabilistic Programs [1.90365714903665]
本稿では,確率的プログラムの概念を導入し,プログラムの仕様と推論を支援する確率的プログラミング施設のリファレンス実装を提案する。
確率プログラムのいくつかの例を示し、モデル仕様と推論の観点から、決定論的確率プログラムと対応する決定論的確率プログラムを比較した。
論文 参考訳(メタデータ) (2020-01-08T17:54:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。