論文の概要: Going NUTS with ADVI: Exploring various Bayesian Inference techniques with Facebook Prophet
- arxiv url: http://arxiv.org/abs/2601.20120v1
- Date: Tue, 27 Jan 2026 23:27:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-29 15:46:06.69804
- Title: Going NUTS with ADVI: Exploring various Bayesian Inference techniques with Facebook Prophet
- Title(参考訳): ADVIによるNUTSの活用 - Facebook Prophetによるベイズ推論テクニックの探索
- Authors: Jovan Krajevski, Biljana Tojtovska Ribarski,
- Abstract要約: 我々は、PyMCに基づく実装を提案し、異なるベイズ推論手法の実装について詳細に分析する。
時系列予測問題に対して,完全なMCMC手法,MAP推定,変分推論手法を検討する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Since its introduction, Facebook Prophet has attracted positive attention from both classical statisticians and the Bayesian statistics community. The model provides two built-in inference methods: maximum a posteriori estimation using the L-BFGS-B algorithm, and Markov Chain Monte Carlo (MCMC) sampling via the No-U-Turn Sampler (NUTS). While exploring various time-series forecasting problems using Bayesian inference with Prophet, we encountered limitations stemming from the inability to apply alternative inference techniques beyond those provided by default. Additionally, the fluent API design of Facebook Prophet proved insufficiently flexible for implementing our custom modeling ideas. To address these shortcomings, we developed a complete reimplementation of the Prophet model in PyMC, which enables us to extend the base model and evaluate and compare multiple Bayesian inference methods. In this paper, we present our PyMC-based implementation and analyze in detail the implementation of different Bayesian inference techniques. We consider full MCMC techniques, MAP estimation and Variational inference techniques on a time-series forecasting problem. We discuss in details the sampling approach, convergence diagnostics, forecasting metrics as well as their computational efficiency and detect possible issues which will be addressed in our future work.
- Abstract(参考訳): 導入以来、Facebook Prophetは古典統計学者とベイズ統計コミュニティから肯定的な注目を集めてきた。
このモデルでは、L-BFGS-Bアルゴリズムを用いた後方推定の最大化と、No-U-Turn Sampler (NUTS)によるマルコフ・チェイン・モンテカルロ(MCMC)サンプリングの2つの手法が組み込まれている。
預言者によるベイズ的推論を用いた様々な時系列予測問題を探りながら、我々は、デフォルトによって提供されるものを超える代替推論技術を適用することができないことに起因する制限に遭遇した。
さらに、Facebook Prophetの流動的なAPI設計は、私たちのカスタムモデリングアイデアを実装する上で十分な柔軟性があることが分かりました。
これらの欠点に対処するため、我々はPyMCでProphetモデルを完全に再実装し、ベースモデルを拡張し、複数のベイズ推論手法を評価し比較することができるようにした。
本稿では,PyMCに基づく実装について述べるとともに,ベイズ推論手法の多種多様な実装について詳細に分析する。
時系列予測問題に対して,完全なMCMC手法,MAP推定,変分推論手法を検討する。
本稿では, サンプリング手法, 収束診断, メトリクスの予測, 計算効率を詳細に検討し, 今後の課題に対処する。
関連論文リスト
- Inference-Time Alignment in Diffusion Models with Reward-Guided Generation: Tutorial and Review [59.856222854472605]
このチュートリアルは、拡散モデルにおける下流の報酬関数を最適化するための推論時ガイダンスとアライメント方法に関する詳細なガイドを提供する。
生物学のような分野における実践的な応用は、しばしば特定の指標を最大化するサンプル生成を必要とする。
本稿では,(1)推論時と組み合わせた微調整手法,(2)モンテカルロ木探索などの探索アルゴリズムに基づく推論時アルゴリズム,(3)言語モデルと拡散モデルにおける推論時アルゴリズムの接続について論じる。
論文 参考訳(メタデータ) (2025-01-16T17:37:35Z) - MAP: Low-compute Model Merging with Amortized Pareto Fronts via Quadratic Approximation [80.47072100963017]
Amortized Pareto Front (MAP) を用いた新しい低演算アルゴリズム Model Merging を導入する。
MAPは、複数のモデルをマージするためのスケーリング係数のセットを効率的に識別し、関連するトレードオフを反映する。
また,タスク数が比較的少ないシナリオではベイジアンMAP,タスク数の多い状況ではNested MAPを導入し,計算コストを削減した。
論文 参考訳(メタデータ) (2024-06-11T17:55:25Z) - Predictive Churn with the Set of Good Models [61.00058053669447]
本稿では,予測的不整合という2つの無関係な概念の関連性について考察する。
予測多重性(英: predictive multiplicity)は、個々のサンプルに対して矛盾する予測を生成するモデルである。
2つ目の概念である予測チャーン(英: predictive churn)は、モデル更新前後の個々の予測の違いを調べるものである。
論文 参考訳(メタデータ) (2024-02-12T16:15:25Z) - Fast post-process Bayesian inference with Variational Sparse Bayesian Quadrature [13.36200518068162]
本稿では,既存の目標密度評価から高速な後続近似を得る手段として,プロセス後ベイズ推定の枠組みを提案する。
この枠組みでは,ブラックボックスと潜在的ノイズの可能性のあるモデルに対して,プロセス後近似推定法である変分スパースベイズ近似(VSBQ)を導入する。
本手法は,計算神経科学による難解な合成シナリオと実世界の応用について検証する。
論文 参考訳(メタデータ) (2023-03-09T13:58:35Z) - Contributions to Large Scale Bayesian Inference and Adversarial Machine
Learning [0.0]
ML手法の急速な採用により、モデルは通常、予測の不確実性を考慮せずに決定を下すために採用されていることが明らかになった。
我々は,予測的説明の不確実性を考慮したMLシステムの開発が現実のタスクにとって必須であると考えている。
論文 参考訳(メタデータ) (2021-09-25T23:02:47Z) - Approximate Bayesian inference from noisy likelihoods with Gaussian
process emulated MCMC [0.24275655667345403]
ガウス過程(GP)を用いた対数様関数をモデル化する。
主な方法論的革新は、正確なメトロポリス・ハスティングス(MH)サンプリングが行う進歩をエミュレートするためにこのモデルを適用することである。
得られた近似サンプリング器は概念的には単純で、試料効率が高い。
論文 参考訳(メタデータ) (2021-04-08T17:38:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。