論文の概要: Going NUTS with ADVI: Exploring various Bayesian Inference techniques with Facebook Prophet
- arxiv url: http://arxiv.org/abs/2601.20120v1
- Date: Tue, 27 Jan 2026 23:27:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-29 15:46:06.69804
- Title: Going NUTS with ADVI: Exploring various Bayesian Inference techniques with Facebook Prophet
- Title(参考訳): ADVIによるNUTSの活用 - Facebook Prophetによるベイズ推論テクニックの探索
- Authors: Jovan Krajevski, Biljana Tojtovska Ribarski,
- Abstract要約: 我々は、PyMCに基づく実装を提案し、異なるベイズ推論手法の実装について詳細に分析する。
時系列予測問題に対して,完全なMCMC手法,MAP推定,変分推論手法を検討する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Since its introduction, Facebook Prophet has attracted positive attention from both classical statisticians and the Bayesian statistics community. The model provides two built-in inference methods: maximum a posteriori estimation using the L-BFGS-B algorithm, and Markov Chain Monte Carlo (MCMC) sampling via the No-U-Turn Sampler (NUTS). While exploring various time-series forecasting problems using Bayesian inference with Prophet, we encountered limitations stemming from the inability to apply alternative inference techniques beyond those provided by default. Additionally, the fluent API design of Facebook Prophet proved insufficiently flexible for implementing our custom modeling ideas. To address these shortcomings, we developed a complete reimplementation of the Prophet model in PyMC, which enables us to extend the base model and evaluate and compare multiple Bayesian inference methods. In this paper, we present our PyMC-based implementation and analyze in detail the implementation of different Bayesian inference techniques. We consider full MCMC techniques, MAP estimation and Variational inference techniques on a time-series forecasting problem. We discuss in details the sampling approach, convergence diagnostics, forecasting metrics as well as their computational efficiency and detect possible issues which will be addressed in our future work.
- Abstract(参考訳): 導入以来、Facebook Prophetは古典統計学者とベイズ統計コミュニティから肯定的な注目を集めてきた。
このモデルでは、L-BFGS-Bアルゴリズムを用いた後方推定の最大化と、No-U-Turn Sampler (NUTS)によるマルコフ・チェイン・モンテカルロ(MCMC)サンプリングの2つの手法が組み込まれている。
預言者によるベイズ的推論を用いた様々な時系列予測問題を探りながら、我々は、デフォルトによって提供されるものを超える代替推論技術を適用することができないことに起因する制限に遭遇した。
さらに、Facebook Prophetの流動的なAPI設計は、私たちのカスタムモデリングアイデアを実装する上で十分な柔軟性があることが分かりました。
これらの欠点に対処するため、我々はPyMCでProphetモデルを完全に再実装し、ベースモデルを拡張し、複数のベイズ推論手法を評価し比較することができるようにした。
本稿では,PyMCに基づく実装について述べるとともに,ベイズ推論手法の多種多様な実装について詳細に分析する。
時系列予測問題に対して,完全なMCMC手法,MAP推定,変分推論手法を検討する。
本稿では, サンプリング手法, 収束診断, メトリクスの予測, 計算効率を詳細に検討し, 今後の課題に対処する。
関連論文リスト
- Inference-Time Alignment in Diffusion Models with Reward-Guided Generation: Tutorial and Review [59.856222854472605]
このチュートリアルは、拡散モデルにおける下流の報酬関数を最適化するための推論時ガイダンスとアライメント方法に関する詳細なガイドを提供する。
生物学のような分野における実践的な応用は、しばしば特定の指標を最大化するサンプル生成を必要とする。
本稿では,(1)推論時と組み合わせた微調整手法,(2)モンテカルロ木探索などの探索アルゴリズムに基づく推論時アルゴリズム,(3)言語モデルと拡散モデルにおける推論時アルゴリズムの接続について論じる。
論文 参考訳(メタデータ) (2025-01-16T17:37:35Z) - MAP: Low-compute Model Merging with Amortized Pareto Fronts via Quadratic Approximation [80.47072100963017]
Amortized Pareto Front (MAP) を用いた新しい低演算アルゴリズム Model Merging を導入する。
MAPは、複数のモデルをマージするためのスケーリング係数のセットを効率的に識別し、関連するトレードオフを反映する。
また,タスク数が比較的少ないシナリオではベイジアンMAP,タスク数の多い状況ではNested MAPを導入し,計算コストを削減した。
論文 参考訳(メタデータ) (2024-06-11T17:55:25Z) - Predictive Churn with the Set of Good Models [61.00058053669447]
本稿では,予測的不整合という2つの無関係な概念の関連性について考察する。
予測多重性(英: predictive multiplicity)は、個々のサンプルに対して矛盾する予測を生成するモデルである。
2つ目の概念である予測チャーン(英: predictive churn)は、モデル更新前後の個々の予測の違いを調べるものである。
論文 参考訳(メタデータ) (2024-02-12T16:15:25Z) - Diffusion models for probabilistic programming [56.47577824219207]
拡散モデル変分推論(DMVI)は確率型プログラミング言語(PPL)における自動近似推論手法である
DMVIは実装が容易で、例えば正規化フローを用いた変分推論の欠点を伴わずに、PPLでヘイズルフリー推論が可能であり、基礎となるニューラルネットワークモデルに制約を課さない。
論文 参考訳(メタデータ) (2023-11-01T12:17:05Z) - Variational Inference for GARCH-family Models [84.84082555964086]
変分推論は、機械学習モデルにおけるベイズ推論の堅牢なアプローチである。
本研究では,変分推論がベイズ学習の魅力的な,極めてよく校正された,競争力のある方法であることを示す。
論文 参考訳(メタデータ) (2023-10-05T10:21:31Z) - Fast post-process Bayesian inference with Variational Sparse Bayesian Quadrature [13.36200518068162]
本稿では,既存の目標密度評価から高速な後続近似を得る手段として,プロセス後ベイズ推定の枠組みを提案する。
この枠組みでは,ブラックボックスと潜在的ノイズの可能性のあるモデルに対して,プロセス後近似推定法である変分スパースベイズ近似(VSBQ)を導入する。
本手法は,計算神経科学による難解な合成シナリオと実世界の応用について検証する。
論文 参考訳(メタデータ) (2023-03-09T13:58:35Z) - Eryn : A multi-purpose sampler for Bayesian inference [0.0]
tt Erynはベイズ推論のためのユーザフレンドリーで多目的なツールボックスである。
本稿では, このサンプルパッケージについて述べるとともに, 様々なユースケースにおけるその機能について述べる。
論文 参考訳(メタデータ) (2023-03-03T12:45:03Z) - PRISM: Probabilistic Real-Time Inference in Spatial World Models [52.878769723544615]
PRISMはエージェントの動きと視覚知覚の確率的生成モデルにおけるリアルタイムフィルタリングの手法である。
提案手法は10Hzでリアルタイムに動作し,小型・中型屋内環境における最先端SLAMと同等に精度が高い。
論文 参考訳(メタデータ) (2022-12-06T13:59:06Z) - TACTiS: Transformer-Attentional Copulas for Time Series [76.71406465526454]
時間変化量の推定は、医療や金融などの分野における意思決定の基本的な構成要素である。
本稿では,アテンションベースデコーダを用いて関節分布を推定する多元的手法を提案する。
本研究では,本モデルが実世界の複数のデータセットに対して最先端の予測を生成することを示す。
論文 参考訳(メタデータ) (2022-02-07T21:37:29Z) - Contributions to Large Scale Bayesian Inference and Adversarial Machine
Learning [0.0]
ML手法の急速な採用により、モデルは通常、予測の不確実性を考慮せずに決定を下すために採用されていることが明らかになった。
我々は,予測的説明の不確実性を考慮したMLシステムの開発が現実のタスクにとって必須であると考えている。
論文 参考訳(メタデータ) (2021-09-25T23:02:47Z) - MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood
Inference from Sampled Trajectories [61.3299263929289]
シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。
あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。
モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
論文 参考訳(メタデータ) (2021-06-03T12:59:16Z) - Approximate Bayesian inference from noisy likelihoods with Gaussian
process emulated MCMC [0.24275655667345403]
ガウス過程(GP)を用いた対数様関数をモデル化する。
主な方法論的革新は、正確なメトロポリス・ハスティングス(MH)サンプリングが行う進歩をエミュレートするためにこのモデルを適用することである。
得られた近似サンプリング器は概念的には単純で、試料効率が高い。
論文 参考訳(メタデータ) (2021-04-08T17:38:02Z) - A Practical Introduction to Bayesian Estimation of Causal Effects:
Parametric and Nonparametric Approaches [0.0]
統計学の実践における因果関係のベイズ推定について紹介する。
パラメトリックモデルにおいて、先行モデルが縮尺と空間性を引き出す方法を示す。
ポイント処理および時間変化処理設定における推論について考察する。
論文 参考訳(メタデータ) (2020-04-15T22:32:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。