論文の概要: W-Kernel and Its Principal Space for Frequentist Evaluation of Bayesian Estimators

• arxiv url: http://arxiv.org/abs/2311.13017v5
• Date: Wed, 16 Apr 2025 08:30:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-17 18:06:24.526369
• Title: W-Kernel and Its Principal Space for Frequentist Evaluation of Bayesian Estimators
• Title（参考訳）: ベイズ推定器の周波数特性評価のためのWケルネルとその主空間
• Authors: Yukito Iba,
• Abstract要約: 各観測の対数類似度を用いて定義される後続共分散行列Wに焦点をあてる。 We show that the principal space of W is also relevant to frequentist evaluation。 W の主空間へのブートストラップ投影が頻繁な評価を促進することを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Evaluating the variability of posterior estimates is a key aspect of Bayesian model assessment. In this study, we focus on the posterior covariance matrix W, defined using the log-likelihood of each observation. Previous studies have examined the role of the principal space of W in Bayesian sensitivity analysis, notably MacEachern and Peruggia (2002) and Thomas et al. (2018). In this work, we show that the principal space of W is also relevant for frequentist evaluation, using the recently proposed Bayesian infinitesimal jackknife (IJ) approximation Giordano and Broderick (2023) as a key tool. We next consider the relationship between the matrix W and the Fisher kernel. We show that the Fisher kernel can be regarded as an approximation to W; the matrix W, in itself, can be interpreted as a reproducing kernel, which we refer to as the W-kernel. Based on this connection, we examine the dual relationship between the W-kernel formulation in the data space and the classical asymptotic formulation in the parameter space. These ideas suggest a form of Bayesian-frequentist duality that emerges through the dual structure of kernel PCA, where posterior and frequentist covariances serve as inner products in their respective spaces. As an application, we consider an approximate bootstrap of posterior means based on posterior samples generated by MCMC. We show that the projection onto the principal space of W facilitates frequentist evaluation, particularly of the higher-order term in this procedure. In one of the appendices, we introduce incomplete Cholesky decomposition as an efficient method for computing the principal space of W and discuss the related concept of representative subsets of the observations.
• Abstract（参考訳）: 後方推定の変動性を評価することはベイズモデル評価の重要な側面である。 本研究では,各観測の対数類似度を用いて定義した後続共分散行列Wに着目した。 ベイズ感度解析におけるWの主空間の役割、特に MacEachern と Peruggia (2002) と Thomas et al (2018) について研究されている。 本稿では、最近提案されたベイズ無限小ジャックニフェ(IJ)近似をキーツールとして、W の主空間が頻繁な評価にも関係していることを示す。 次に、行列 W とフィッシャー核の関係を考える。 我々は、フィッシャーカーネルをWの近似と見なすことができ、行列 W 自体を再生カーネルと解釈することができ、それをWカーネルと呼ぶ。 この関係に基づき、データ空間におけるWカーネルの定式化とパラメータ空間における古典的漸近の定式化の二重関係について検討する。 これらの考えは、後続および頻繁な共分散がそれぞれの空間の内部積として機能する核PCAの双対構造を通して現れるベイズ-周波数双対性(Bayes-frequentist duality)の形式を示唆している。 応用例として,MCMC が生成した後部サンプルに基づく後部平均値の近似ブートストラップを考える。 W の主空間への射影は、特にこの手順における高次項の頻繁な評価を促進することを示す。 付録の1つでは、W の主空間を計算するための効率的な方法として不完全コレスキー分解を導入し、観測の代表的な部分集合の関連概念について議論する。

関連論文リスト

• In-Context Parametric Inference: Point or Distribution Estimators? [66.22308335324239]
  償却点推定器は一般に後部推論より優れているが、後者は低次元問題では競争力がある。 実験の結果, 償却点推定器は一般に後部推定より優れているが, 後者は低次元問題では競争力があることがわかった。
  論文  参考訳（メタデータ） (2025-02-17T10:00:24Z)
• Concentration properties of fractional posterior in 1-bit matrix completion [0.0]
  この研究は、しばしば1ビット行列完備化と呼ばれるバイナリ観測のシナリオに特に対処する。 一般の非一様サンプリング方式を考慮し、分数後方の有効性に関する理論的保証を提供することにより、このギャップに対処する。 我々の結果は、頻繁な文献に見られるものと同等であるが、制限的な仮定は少ない。
  論文  参考訳（メタデータ） (2024-04-13T11:22:53Z)
• On the Sublinear Regret of GP-UCB [58.25014663727544]
  ガウス過程上信頼境界 (GP-UCB) アルゴリズムは, ほぼ最適の後悔率を有することを示す。 私たちの改善は、基盤となるカーネルの滑らかさに比例してカーネルリッジ推定を正規化するという、重要な技術的貢献に依存しています。
  論文  参考訳（メタデータ） (2023-07-14T13:56:11Z)
• Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
  線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。 ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
  論文  参考訳（メタデータ） (2023-04-17T14:23:43Z)
• Non-separable Covariance Kernels for Spatiotemporal Gaussian Processes based on a Hybrid Spectral Method and the Harmonic Oscillator [0.0]
  物理引数に基づいて共分散カーネルを生成するためのハイブリッドスペクトル手法を提案する。 3つの発振器系における共分散核(アンダーダッピング、臨界減衰、オーバーダッピング)の明示的な関係を導出し、それらの特性について検討する。
  論文  参考訳（メタデータ） (2023-02-19T14:12:48Z)
• Kernel Subspace and Feature Extraction [7.424262881242935]
  特徴部分空間の観点から,機械学習におけるカーネル手法について検討する。 我々は、ヒルシュフェルト-ゲベライン-レーニの最大相関関数からカーネルを構築し、最大相関カーネルを作成し、その情報理論の最適性を示す。
  論文  参考訳（メタデータ） (2023-01-04T02:46:11Z)
• Learning "best" kernels from data in Gaussian process regression. With application to aerodynamics [0.4588028371034406]
  本稿では,ガウス過程の回帰/クリギングサロゲートモデリング手法におけるカーネルの選択/設計アルゴリズムを紹介する。 アルゴリズムの最初のクラスはカーネルフローであり、機械学習の分類の文脈で導入された。 アルゴリズムの第2のクラスはスペクトル核リッジ回帰と呼ばれ、近似される関数のノルムが最小となるような「最良の」カーネルを選択することを目的としている。
  論文  参考訳（メタデータ） (2022-06-03T07:50:54Z)
• On the Benefits of Large Learning Rates for Kernel Methods [110.03020563291788]
  本稿では,カーネル手法のコンテキストにおいて,現象を正確に特徴付けることができることを示す。 分離可能なヒルベルト空間における2次対象の最小化を考慮し、早期停止の場合、学習速度の選択が得られた解のスペクトル分解に影響を及ぼすことを示す。
  論文  参考訳（メタデータ） (2022-02-28T13:01:04Z)
• Revisiting Memory Efficient Kernel Approximation: An Indefinite Learning Perspective [0.8594140167290097]
  マトリックス近似は、大規模機械学習アプローチにおいて重要な要素である。 我々はMEKAをシフト不変カーネルだけでなく、非定常カーネルにも適用できるように拡張する。 我々は、安定な正の半定値MEKA近似を開発するために、スペクトルシフトのランツォスに基づく推定を提案する。
  論文  参考訳（メタデータ） (2021-12-18T10:01:34Z)
• Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
  カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。 我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。 MRP のサブクラスに対する minimax の下位境界を証明する。
  論文  参考訳（メタデータ） (2021-09-24T14:48:20Z)
• Kernel Mean Estimation by Marginalized Corrupted Distributions [96.9272743070371]
  カーネル平均をヒルベルト空間で推定することは、多くのカーネル学習アルゴリズムにおいて重要な要素である。 本稿では,カーネル平均推定器としてカーネル平均推定器を提案する。
  論文  参考訳（メタデータ） (2021-07-10T15:11:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。