論文の概要: Empirical Bayes for correlated Gaussian sequence model

• arxiv url: http://arxiv.org/abs/2607.03596v1
• Date: Fri, 03 Jul 2026 20:35:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:29.663663
• Title: Empirical Bayes for correlated Gaussian sequence model
• Title（参考訳）: 相関ガウス列モデルのための経験的ベイズ
• Authors: Qiyang Han, Cun-Hui Zhang,
• Abstract要約: ガウス列モデルにおける依存的な観測から経験的ベイズ推定を行う。 重み付けされたヘリンガー距離において,CML推定器の最大値が$n_*-1/2$で収束することを示す。 補的ミニマックス下限は、$n_*$が確かに正しい複雑性測度であることを示している。
• 参考スコア（独自算出の注目度）: 5.228101935101477
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Empirical Bayes methods are among the most widely used statistical methods for large-scale inference. A central paradigm is the NPMLE, whose theoretical guarantees are by now well understood for the independent Gaussian sequence model. In this paper, we study empirical Bayes estimation from dependent observations in the Gaussian sequence model. We show that the maximum Composite Marginal Likelihood (CML) estimator, which ignores all correlations in the likelihood, converges in weighted Hellinger distance at the rate $n_*^{-1/2}$, where $n_*=n/κ_0$ is the `effective sample size' determined solely by the number of observations $n$ and the spectral radius $κ_0$ of the correlation matrix of the Gaussian observations. A complementary minimax lower bound shows that $n_*$ indeed serves as the right complexity measure, and that the CML estimator is nearly rate optimal under general dependence. We consider two concrete applications. In the first, we consider Bayesian linear regression, where the signal prior is estimated via CML applied to the least squares estimator. In the second, we consider the more challenging Bayesian nonlinear single-index model, where prior is estimated by CML applied to a one-step debiased gradient descent. In both applications, although the full likelihood landscape can be arbitrarily complicated and intractable, our CML method is facilitated by exploiting the high-dimensional distribution of the auxiliary statistics through a correlated Gaussian sequence model. The key ingredient in the proof of our results is a sharp local maximal inequality for the log composite marginal likelihood process under dependent Gaussian observations. In contrast to standard empirical process methods, we prove this inequality by leveraging a recent geometric Brascamp-Lieb inequality for Gaussian measures.
• Abstract（参考訳）: 経験的ベイズ法は大規模推論において最も広く用いられている統計手法の一つである。 中心となるパラダイムは NPMLE であり、理論上の保証は現在、独立したガウス列モデルに対してよく理解されている。 本稿では,ガウス列モデルにおける依存的な観測からベイズ推定を実証的に検討する。 ここでは, ガウス観測の相関行列のスペクトル半径$κ_0$, $n_*=n/κ_0$のみで決定される「有効試料サイズ」として, 重み付きヘリンジャー距離を$n_*^{-1/2}$で収束させる。 補的ミニマックスの下界は、$n_*$が真の複雑性測度であり、CML推定器が一般依存下でほぼ最適であることを示している。 具体的な応用を2つ検討する。 まず,最小二乗推定器に適用したCMLにより先行信号が推定されるベイズ線形回帰を考える。 第二に、より挑戦的なベイズ非線形単一指数モデルについて考察する。 どちらのアプリケーションにおいても、完全な可能性ランドスケープは任意に複雑で難解であるが、我々のCML法は、相関ガウス列モデルを用いて補助統計量の高次元分布を利用することにより容易である。 この結果の証明の鍵となる要素は、依存ガウス観測の下での対数合成限界確率過程の急激な局所的最大値不等式である。 標準的な経験過程法とは対照的に、ガウス測度に対する最近の幾何学的ブラスカンプ・リーブの不等式を活用することにより、この不等式を証明する。

関連論文リスト

• Pivotal CLTs for Pseudolikelihood via Conditional Centering in Dependent Random Fields [1.3875545441867139]
  N-1/2sum_i=1N c_i(g(sigma_i)-mathbbE_N[g(sigma_i)|sigma_j,jneq i])$$ ここでは、依存確率場から$(sigma_j,ldots,sigma_N)をサンプリングする。 従属確率場における擬似的推論の最大化のための一般的な枠組みを開発する。
  論文  参考訳（メタデータ） (2025-10-06T16:06:45Z)
• Bayesian Circular Regression with von Mises Quasi-Processes [57.88921637944379]
  本研究では、円値ランダム関数上の表現的および解釈可能な分布の族を探索する。 後部推論のために,高速ギブズサンプリングに寄与するストラトノビッチ様拡張法を導入する。 本研究では,このモデルを用いて風向予測と走行歩行周期のパーセンテージを関節角度の関数として適用する実験を行った。
  論文  参考訳（メタデータ） (2024-06-19T01:57:21Z)
• Unbiased Kinetic Langevin Monte Carlo with Inexact Gradients [0.8749675983608172]
  動力学的ランゲヴィンダイナミクスに基づく後進手段の非バイアス化手法を提案する。 提案した推定器は偏りがなく、有限分散となり、中心極限定理を満たす。 以上の結果から、大規模アプリケーションでは、非バイアスアルゴリズムは「ゴールドスタンダード」なハミルトニアン・モンテカルロよりも2～3桁効率が良いことが示された。
  論文  参考訳（メタデータ） (2023-11-08T21:19:52Z)
• Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood Estimation for Latent Gaussian Models [69.22568644711113]
  我々は,モンテカルロサンプリングと反復線形解法を組み合わせた確率的アンローリングを導入し,行列逆転を回避した。 理論的解析により,解法の繰り返しによる解法の解法と逆転が最大値推定の勾配推定を高速化することを示した。 シミュレーションおよび実データ実験において、確率的アンロールは、モデル性能の損失を最小限に抑えながら、勾配EMよりも桁違いに高速な潜在ガウスモデルを学習することを示した。
  論文  参考訳（メタデータ） (2023-06-05T21:08:34Z)
• Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
  カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。 我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。 MRP のサブクラスに対する minimax の下位境界を証明する。
  論文  参考訳（メタデータ） (2021-09-24T14:48:20Z)
• Laplace Matching for fast Approximate Inference in Generalized Linear Models [27.70274403550477]
  本論文では,高い近似品質を実現しつつ,計算的に安価に設計した近似推論フレームワークを提案する。 我々が emphLaplace Matching と呼ぶこの概念は、指数群のパラメータ空間間の閉形式、近似、双方向変換を含む。 これにより、GLMにおける推論を(小さな近似誤差で)共役推論に変換する。
  論文  参考訳（メタデータ） (2021-05-07T08:25:17Z)
• On Linear Stochastic Approximation: Fine-grained Polyak-Ruppert and Non-Asymptotic Concentration [115.1954841020189]
  The inequality and non-asymptotic properties of approximation procedure with Polyak-Ruppert averaging。 一定のステップサイズと無限大となる反復数を持つ平均的反復数に対する中心極限定理(CLT)を証明する。
  論文  参考訳（メタデータ） (2020-04-09T17:54:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。