論文の概要: Scalable Logistic Gaussian Process Density Regression with Kinetic Langevin Sampling
- arxiv url: http://arxiv.org/abs/2610.09591v1
- Date: Wed, 07 Oct 2026 07:35:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:22.777319
- Title: Scalable Logistic Gaussian Process Density Regression with Kinetic Langevin Sampling
- Title(参考訳): Kinetic Langevin Smpling を用いたスケーラブルロジスティックガウスプロセス密度回帰
- Abstract要約: 我々はロジスティックなガウス過程に基づくスケーラブルなベイズ推定器を開発する。
単一のGPUでトレーニングされた最大390万のトレーニング観察を備えた測光赤方偏移ベンチマークでは、推定器は競争力がある。
- 参考スコア(独自算出の注目度): 2.523415604068924
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Conditional density estimation targets the full distribution of a response given covariates, as required, for example, for per-galaxy photometric redshifts. We develop a scalable Bayesian estimator based on the logistic Gaussian process. The log conditional density has a separable covariance: a Matérn kernel along the response, represented in a truncated Fourier basis on a circle, and a covariate kernel represented by Nyström features, which accommodate non-stationary kernels with input-dependent amplitudes and length scales. Instead of a Laplace or variational approximation, we sample the latent field of this finite-feature model. Given the hyperparameters, its posterior is strongly log-concave with a uniformly bounded Hessian, and we draw from it by simulating kinetic Langevin dynamics with symmetric minibatch splitting in Kronecker-whitened coordinates. Marginal-likelihood gradients follow from Fisher's identity as posterior expectations. Under the conditions of our analysis their bias is controlled by the sampler's step size and run length, and the predictive averages over the non-Gaussian latent posterior instead of a Gaussian around its mode. On photometric-redshift benchmarks with up to 3.9 million training observations, trained on a single GPU, the estimator is competitive with state-of-the-art tabular foundation models on density and calibration metrics.
- Abstract(参考訳): 条件密度推定は、例えば銀河ごとの測光赤方偏移など、与えられた共変量に対する応答の完全な分布を目標とする。
我々はロジスティックなガウス過程に基づくスケーラブルなベイズ推定器を開発する。
対数条件密度は、応答に沿ったマテラン核と、入出力依存の振幅と長さスケールで非定常核を収容するナイストローム特徴で表される共変核との分離共分散を持つ。
ラプラスあるいは変分近似の代わりに、この有限函数モデルの潜在体をサンプリングする。
ハイパーパラメータが与えられたとき、その後部は一様有界ヘシアンと強く対合しており、Kronecker-whitened coordinates における対称ミニバッチ分割を伴う運動論的ランゲヴィン力学をシミュレートすることによってそこから導かれる。
マージナル様勾配はフィッシャーが後続の期待として同一視していることから導かれる。
解析条件下では,これらのバイアスはサンプルのステップサイズとラン長によって制御され,非ガウス潜伏後部の予測平均はガウスの周囲のガウス平均ではなくガウス平均である。
単一のGPUでトレーニングされた最大390万のトレーニング観察を備えた測光赤方偏移ベンチマークでは、この推定器は密度とキャリブレーションのメトリクスに関する最先端の表層基礎モデルと競合する。
関連論文リスト
- A Unified Framework for Bayesian Data Assimilation with Generative Models and Observation Interpolants [0.0]
本研究では,事前学習した補間材,フローマッチング,拡散モデルを再学習せずに後部サンプルに変換する観察補間フレームワークを提案する。
我々は, 線形および二次元力学, 2次元ナビエ・ストークス, 都市気流の枠組みを最大自由度$O(104)$まで評価した。
論文 参考訳(メタデータ) (2026-10-02T14:46:44Z) - Wasserstein Bounds for generative diffusion models with Gaussian tail targets [1.540806558564153]
本稿では,データ分布とスコアベース生成モデルの生成の間のワッサースタイン距離を推定する。
データ分布のガウス型テール挙動と、スコアの正確な近似を$epsilon$-accurate approximationと仮定する。
論文 参考訳(メタデータ) (2024-12-15T17:20:42Z) - Bayesian Circular Regression with von Mises Quasi-Processes [57.88921637944379]
本研究では、円値ランダム関数上の表現的および解釈可能な分布の族を探索する。
後部推論のために,高速ギブズサンプリングに寄与するストラトノビッチ様拡張法を導入する。
本研究では,このモデルを用いて風向予測と走行歩行周期のパーセンテージを関節角度の関数として適用する実験を行った。
論文 参考訳(メタデータ) (2024-06-19T01:57:21Z) - Symmetric Mean-field Langevin Dynamics for Distributional Minimax
Problems [78.96969465641024]
平均場ランゲヴィンのダイナミクスを、対称で証明可能な収束した更新で、初めて確率分布に対する最小の最適化に拡張する。
また,時間と粒子の離散化機構について検討し,カオス結果の新たな均一時間伝播を証明した。
論文 参考訳(メタデータ) (2023-12-02T13:01:29Z) - Unbiased Kinetic Langevin Monte Carlo with Inexact Gradients [0.8749675983608172]
動力学的ランゲヴィンダイナミクスに基づく後進手段の非バイアス化手法を提案する。
提案した推定器は偏りがなく、有限分散となり、中心極限定理を満たす。
以上の結果から、大規模アプリケーションでは、非バイアスアルゴリズムは「ゴールドスタンダード」なハミルトニアン・モンテカルロよりも2~3桁効率が良いことが示された。
論文 参考訳(メタデータ) (2023-11-08T21:19:52Z) - Spectral clustering under degree heterogeneity: a case for the random
walk Laplacian [83.79286663107845]
本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。
次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
論文 参考訳(メタデータ) (2021-05-03T16:36:27Z) - Faster Convergence of Stochastic Gradient Langevin Dynamics for
Non-Log-Concave Sampling [110.88857917726276]
我々は,非log-concaveとなる分布のクラスからサンプリングするために,勾配ランゲヴィンダイナミクス(SGLD)の新たな収束解析を行う。
我々のアプローチの核心は、補助的時間反転型マルコフ連鎖を用いたSGLDのコンダクタンス解析である。
論文 参考訳(メタデータ) (2020-10-19T15:23:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。