論文の概要: DynamicPPL: Stan-like Speed for Dynamic Probabilistic Models
- arxiv url: http://arxiv.org/abs/2002.02702v1
- Date: Fri, 7 Feb 2020 10:21:49 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-03 04:16:55.023852
- Title: DynamicPPL: Stan-like Speed for Dynamic Probabilistic Models
- Title（参考訳）: DynamicPPL:動的確率モデルのためのスタンライクな速度
- Authors: Mohamed Tarek, Kai Xu, Martin Trapp, Hong Ge, Zoubin Ghahramani
- Abstract要約: 本稿では,動的PPL.jlの設計と機能について述べる。
完全にJuliaで記述されているDynamicPPLは、Juliaエコシステムを通じて利用可能な豊富な機能群を継承している。
DynamicPPL は Stan に近いかそれ以上の計算性能を達成する。
- 参考スコア（独自算出の注目度）: 18.109996020624724
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present the preliminary high-level design and features of DynamicPPL.jl, a
modular library providing a lightning-fast infrastructure for probabilistic
programming. Besides a computational performance that is often close to or
better than Stan, DynamicPPL provides an intuitive DSL that allows the rapid
development of complex dynamic probabilistic programs. Being entirely written
in Julia, a high-level dynamic programming language for numerical computing,
DynamicPPL inherits a rich set of features available through the Julia
ecosystem. Since DynamicPPL is a modular, stand-alone library, any
probabilistic programming system written in Julia, such as Turing.jl, can use
DynamicPPL to specify models and trace their model parameters. The main
features of DynamicPPL are: 1) a meta-programming based DSL for specifying
dynamic models using an intuitive tilde-based notation; 2) a tracing
data-structure for tracking RVs in dynamic probabilistic models; 3) a rich
contextual dispatch system allowing tailored behaviour during model execution;
and 4) a user-friendly syntax for probabilistic queries. Finally, we show in a
variety of experiments that DynamicPPL, in combination with Turing.jl, achieves
computational performance that is often close to or better than Stan.
- Abstract（参考訳）: 本稿では,確率的プログラミングのためのlightning-fastインフラストラクチャを提供するモジュールライブラリであるdynamicppl.jlの事前設計と機能を紹介する。
Stanに近いかそれ以上の計算性能の他に、DynamicPPLは複雑な動的確率プログラムの迅速な開発を可能にする直感的なDSLを提供する。
数値計算のためのハイレベルな動的プログラミング言語であるJuliaで完全に書かれており、DynamicPPLはJuliaエコシステムを通じて利用可能な豊富な機能を継承している。
DynamicPPLはモジュラーでスタンドアロンのライブラリであるため、Turing.jlのようなJuliaで記述された確率的プログラミングシステムはDynamicPPLを使用してモデルを特定し、モデルパラメータをトレースすることができる。
DynamicPPLの主な特徴は次のとおりである。
1)直観的なチルドベースの表記法を用いて動的モデルを特定するメタプログラミングベースのdsl
2)動的確率モデルにおけるRV追跡のためのトレースデータ構造
3) モデル実行時の仕立て動作が可能な豊富なコンテキストディスパッチシステム。
4)確率的クエリに対するユーザフレンドリな構文。
最後に,DynamicPPL が Turing.jl と組み合わせることで,Stan に近い,あるいはより優れた計算性能が得られることを示す。
関連論文リスト
- COrAL: Order-Agnostic Language Modeling for Efficient Iterative Refinement [80.18490952057125]
反復改良は、複雑なタスクにおける大規模言語モデル(LLM)の能力を高める効果的なパラダイムとして登場した。
我々はこれらの課題を克服するために、コンテキストワイズ順序非依存言語モデリング(COrAL)を提案する。
当社のアプローチでは、管理可能なコンテキストウィンドウ内で複数のトークン依存関係をモデル化しています。
論文 参考訳（メタデータ） (2024-10-12T23:56:19Z) - Scalable Inference for Bayesian Multinomial Logistic-Normal Dynamic Linear Models [0.5735035463793009]
この記事では、$textitFenrir$と呼ばれる、後続状態推定に対する効率的で正確なアプローチを開発します。
我々の実験から、フェンリルはスタンよりも3桁効率が良いことが示唆された。
当社のメソッドは,C++で記述されたユーザフレンドリなソフトウェアライブラリとして,Rインターフェースを備えたコミュニティで利用可能です。
論文 参考訳（メタデータ） (2024-10-07T23:20:14Z) - DyPyBench: A Benchmark of Executable Python Software [18.129031749321058]
我々は、Pythonプロジェクトの最初のベンチマークであるDyPyBenchを紹介します。
ベンチマークには、さまざまなアプリケーションドメインから50の人気のあるオープンソースプロジェクトが含まれており、合計681万行のPythonコードと30万のテストケースが含まれている。
我々は、DyPyBenchが他の動的解析の基礎を提供し、Pythonコードの実行時の振る舞いを研究することを想定する。
論文 参考訳（メタデータ） (2024-03-01T13:53:15Z) - Sample Complexity Characterization for Linear Contextual MDPs [67.79455646673762]
文脈決定プロセス(CMDP)は、遷移カーネルと報酬関数がコンテキスト変数によってインデックス付けされた異なるMDPで時間とともに変化できる強化学習のクラスを記述する。
CMDPは、時間とともに変化する環境で多くの現実世界のアプリケーションをモデル化するための重要なフレームワークとして機能する。
CMDPを2つの線形関数近似モデルで検討する: 文脈変化表現とすべての文脈に対する共通線形重み付きモデルIと、すべての文脈に対する共通表現と文脈変化線形重み付きモデルIIである。
論文 参考訳（メタデータ） (2024-02-05T03:25:04Z) - Sorted LLaMA: Unlocking the Potential of Intermediate Layers of Large
Language Models for Dynamic Inference [32.62084449979531]
SortedNet を Sorted Fine-Tuning (SoFT) に置き換えることで生成 NLP タスクに拡張する。
我々のアプローチはモデル効率を向上し、推論中に様々なシナリオに対する複数のモデルの必要性を排除します。
以上の結果から,SFT+ICT(Early-Exit)と標準ファインチューニング(SFT+ICT)と比較して,サブモデルの優れた性能を示す。
論文 参考訳（メタデータ） (2023-09-16T11:58:34Z) - ML-driven Hardware Cost Model for MLIR [1.2987894327817158]
高レベルMLIRのための機械学習に基づくコストモデルを開発した。
MLIRをラ・NLPモデルのテキスト入力として考えることにより、現代のNLP研究からよく知られた技術を適用することができる。
これらのモデルにより,種々のハードウェア特性に対する誤差境界が低く,合理的に優れた推定値が得られることを示す。
論文 参考訳（メタデータ） (2023-02-14T11:32:47Z) - Meta-Learning Fast Weight Language Models [105.66999854213724]
我々は、動的評価の利点をより効率的に提供するニューラルネットワークコンポーネントであるFWL(Fast Weight Layers)を提示する。
FWLはトレーニング時に適用でき、モデルが勾配更新をうまく活用することを学ぶ。
論文 参考訳（メタデータ） (2022-12-05T18:37:09Z) - ProDMPs: A Unified Perspective on Dynamic and Probabilistic Movement
Primitives [0.0]
ムーブメントプリミティブ(英: Movement Primitives、MP)はモジュラー軌跡を表現・生成するためのよく知られた概念である。
MPは、ダイナミック・ムーブメント・プリミティブ(DMP)と確率的ムーブメント・プリミティブ(ProMP)の2つのタイプに分類される。
論文 参考訳（メタデータ） (2022-10-04T11:20:20Z) - Language Model Cascades [72.18809575261498]
テスト時に1つのモデルで繰り返し対話する、あるいは複数のモデルの合成は、さらに機能を拡張する。
制御フローと動的構造を持つ場合、確率的プログラミングのテクニックが必要となる。
この観点から、スクラッチパッド/思考連鎖、検証器、STaR、選択推論、ツール利用など、いくつかの既存のテクニックを定式化します。
論文 参考訳（メタデータ） (2022-07-21T07:35:18Z) - High-performance symbolic-numerics via multiple dispatch [52.77024349608834]
Symbolics.jlは拡張可能なシンボルシステムで、動的多重ディスパッチを使用してドメインのニーズに応じて振る舞いを変更する。
実装に依存しないアクションでジェネリックapiを形式化することで、システムに最適化されたデータ構造を遡及的に追加できることを示します。
従来の用語書き換えシンプリファイアと電子グラフベースの用語書き換えシンプリファイアをスワップする機能を実証する。
論文 参考訳（メタデータ） (2021-05-09T14:22:43Z) - Explicitly Modeling Syntax in Language Models with Incremental Parsing
and a Dynamic Oracle [88.65264818967489]
我々は新しい構文認識型言語モデル、Syntactic Ordered Memory (SOM)を提案する。
モデルは、構造をインクリメンタルにモデル化し、標準言語モデルの条件付き確率設定を維持する。
実験により、SOMは言語モデリング、インクリメンタル解析、構文一般化テストにおいて強力な結果が得られることが示された。
論文 参考訳（メタデータ） (2020-10-21T17:39:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。