論文の概要: Fast Riemannian-manifold Hamiltonian Monte Carlo for hierarchical Gaussian-process models
- arxiv url: http://arxiv.org/abs/2511.06407v1
- Date: Sun, 09 Nov 2025 14:44:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-11 21:18:44.928336
- Title: Fast Riemannian-manifold Hamiltonian Monte Carlo for hierarchical Gaussian-process models
- Title(参考訳): 階層ガウス過程モデルのための高速リーマン多様体ハミルトンモンテカルロ
- Authors: Takashi Hayakawa, Satoshi Asai,
- Abstract要約: 既存のプログラムライブラリで達成された遅延推論と比較して、性能が劇的に改善できることが示される。
我々は,RMHMCが後部から効果的に試料を採取し,モデル証拠の計算を可能にすることを実証した。
ユーザが動的にプログラムされたオブジェクトを組み込めるように,カスタマイズ可能なライブラリセットを開発する必要性を強調した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Hierarchical Bayesian models based on Gaussian processes are considered useful for describing complex nonlinear statistical dependencies among variables in real-world data. However, effective Monte Carlo algorithms for inference with these models have not yet been established, except for several simple cases. In this study, we show that, compared with the slow inference achieved with existing program libraries, the performance of Riemannian-manifold Hamiltonian Monte Carlo (RMHMC) can be drastically improved by optimising the computation order according to the model structure and dynamically programming the eigendecomposition. This improvement cannot be achieved when using an existing library based on a naive automatic differentiator. We numerically demonstrate that RMHMC effectively samples from the posterior, allowing the calculation of model evidence, in a Bayesian logistic regression on simulated data and in the estimation of propensity functions for the American national medical expenditure data using several Bayesian multiple-kernel models. These results lay a foundation for implementing effective Monte Carlo algorithms for analysing real-world data with Gaussian processes, and highlight the need to develop a customisable library set that allows users to incorporate dynamically programmed objects and finely optimises the mode of automatic differentiation depending on the model structure.
- Abstract(参考訳): ガウス過程に基づく階層ベイズモデルは、実世界のデータにおける変数間の複雑な非線形統計的依存関係を記述するのに有用であると考えられている。
しかし、これらのモデルによる推論に有効なモンテカルロアルゴリズムは、いくつかの単純なケースを除いてまだ確立されていない。
本研究では、既存のプログラムライブラリーで達成された遅い推論と比較して、モデル構造に従って計算順序を最適化し、固有分解を動的にプログラムすることで、リーマン多様体ハミルトニアンモンテカルロ(RMHMC)の性能を劇的に改善できることを示す。
この改善は、単純で自動微分器に基づく既存のライブラリを使用する場合には達成できない。
本研究では, RMHMCが後方から効果的にサンプルを採取し, モデル証拠の計算, シミュレーションデータに基づくベイジアンロジスティック回帰, および複数のベイジアンマルチカーネルモデルを用いたアメリカの医療費データに対する妥当性関数の推定を行う。
これらの結果は,実世界のデータをガウスのプロセスで分析するためのモンテカルロアルゴリズムの実装の基礎となり,動的にプログラムされたオブジェクトを組み込んで,モデル構造に応じて自動微分のモードを微妙に最適化する,カスタマイズ可能なライブラリセットの開発の必要性を強調した。
関連論文リスト
- FBMS: An R Package for Flexible Bayesian Model Selection and Model Averaging [14.487258585834374]
FBMSパッケージは、効率的なMode Jumping Markov Chain Monte Carlo (MJMCMC)アルゴリズムを実装している。
この枠組みの中で、アルゴリズムは変換された特徴の集団を維持・更新し、その後部確率を計算し、それらから構築されたモデルの後部確率を評価する。
ガウス回帰における推論モデルと予測モデルの両方にFBMSを効果的に利用することを示し、BGNLMモデルの異なるインスタンスに着目した。
論文 参考訳(メタデータ) (2025-08-31T09:04:01Z) - Bayesian Data Sketching for Varying Coefficient Regression Models [1.6727186769396276]
本研究では, 様々な係数モデルに対するベイジアンデータスケッチを導入し, 大きなサンプルサイズで表される計算課題を回避した。
提案手法は,大規模関数型データを解析するための既存手法と相違する。
圧縮されたデータに様々な係数回帰モデルの確立された方法とアルゴリズムを適用することができる。
論文 参考訳(メタデータ) (2025-05-30T22:09:06Z) - Fusion of Gaussian Processes Predictions with Monte Carlo Sampling [61.31380086717422]
科学と工学において、私たちはしばしば興味のある変数の正確な予測のために設計されたモデルで作業します。
これらのモデルが現実の近似であることを認識し、複数のモデルを同じデータに適用し、結果を統合することが望ましい。
論文 参考訳(メタデータ) (2024-03-03T04:21:21Z) - Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳(メタデータ) (2023-12-19T21:45:38Z) - Adaptive LASSO estimation for functional hidden dynamic geostatistical
model [69.10717733870575]
関数型隠れ統計モデル(f-HD)のためのペナル化極大推定器(PMLE)に基づく新しいモデル選択アルゴリズムを提案する。
このアルゴリズムは反復最適化に基づいており、適応最小限の収縮・セレクタ演算子(GMSOLAS)ペナルティ関数を用いており、これは不給付のf-HD最大線量推定器によって得られる。
論文 参考訳(メタデータ) (2022-08-10T19:17:45Z) - Low-variance estimation in the Plackett-Luce model via quasi-Monte Carlo
sampling [58.14878401145309]
PLモデルにおいて,より標本効率の高い予測値を生成するための新しい手法を開発した。
Amazon MusicのリアルなレコメンデーションデータとYahooの学習からランクへの挑戦を理論的にも実証的にも使用しています。
論文 参考訳(メタデータ) (2022-05-12T11:15:47Z) - Spike-and-Slab Generalized Additive Models and Scalable Algorithms for
High-Dimensional Data [0.0]
本稿では,高次元データに対応するため,階層型一般化加法モデル(GAM)を提案する。
曲線の適切な縮退と滑らか化関数線型空間と非線形空間の分離に対する平滑化ペナルティを考察する。
2つの決定論的アルゴリズム、EM-Coordinate Descent と EM-Iterative Weighted Least Squares は異なるユーティリティ向けに開発された。
論文 参考訳(メタデータ) (2021-10-27T14:11:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。