論文の概要: Pointwise uncertainty quantification for sparse variational Gaussian
process regression with a Brownian motion prior
- arxiv url: http://arxiv.org/abs/2310.00097v1
- Date: Fri, 29 Sep 2023 19:11:47 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-05 06:40:42.957298
- Title: Pointwise uncertainty quantification for sparse variational Gaussian
process regression with a Brownian motion prior
- Title(参考訳): ブラウン運動前のスパース変分ガウス過程回帰のポイントワイズ不確実性定量化
- Authors: Luke Travis, Kolyan Ray
- Abstract要約: 固有ベクトル誘導変数を持つスパース変分ガウス過程の点推定と不確実性定量化について検討した。
十分多くの変数を誘導するために、我々は、この変分法から信頼された集合が保守的であるとき、そして過信/誤解のとき、頻繁なカバレッジを正確に特徴づける。
- 参考スコア(独自算出の注目度): 3.9886149789339336
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study pointwise estimation and uncertainty quantification for a sparse
variational Gaussian process method with eigenvector inducing variables. For a
rescaled Brownian motion prior, we derive theoretical guarantees and
limitations for the frequentist size and coverage of pointwise credible sets.
For sufficiently many inducing variables, we precisely characterize the
asymptotic frequentist coverage, deducing when credible sets from this
variational method are conservative and when overconfident/misleading. We
numerically illustrate the applicability of our results and discuss connections
with other common Gaussian process priors.
- Abstract(参考訳): 固有ベクトル誘導変数を用いたスパース変分ガウス過程の点推定と不確実性定量化について検討した。
再スケールされたブラウン運動は、理論的な保証と、ポイントワイズ信頼集合の頻繁なサイズとカバレッジの限界を導出する。
十分多くの変数を誘導するために、我々は漸近的頻繁なカバレッジを正確に特徴付け、この変分法から信頼できる集合が保守的であるとき、そして過信/誤解しているときを推論する。
結果の適用性を数値的に説明し、他の一般的なガウス過程との関連性について議論する。
関連論文リスト
- SoftCVI: Contrastive variational inference with self-generated soft labels [2.5398014196797614]
変分推論とマルコフ連鎖モンテカルロ法がこのタスクの主要なツールである。
ソフトコントラスト変動推論(SoftCVI)を導入し、コントラスト推定フレームワークを用いて変動対象のファミリーを導出する。
我々は、SoftCVIを用いて、訓練や大量発見に安定な目標を定式化することができ、他の変分アプローチよりも頻繁に優れた推論が可能であることを発見した。
論文 参考訳(メタデータ) (2024-07-22T14:54:12Z) - Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳(メタデータ) (2023-11-08T00:10:21Z) - Robust scalable initialization for Bayesian variational inference with
multi-modal Laplace approximations [0.0]
フル共分散構造を持つ変分混合は、パラメータ数による変動パラメータによる二次的な成長に苦しむ。
本稿では,変分推論のウォームスタートに使用できる初期ガウスモデル近似を構築する方法を提案する。
論文 参考訳(メタデータ) (2023-07-12T19:30:04Z) - Provable convergence guarantees for black-box variational inference [19.421222110188605]
ブラックボックスの変分推論は、最適化が成功する証拠がない状況で広く使われている。
我々は,現実的な推論問題に実際に用いられている手法と同様の手法が収束するという厳密な保証を提供する。
論文 参考訳(メタデータ) (2023-06-04T11:31:41Z) - Sharp Calibrated Gaussian Processes [58.94710279601622]
キャリブレーションされたモデルを設計するための最先端のアプローチは、ガウス過程の後方分散を膨らませることに依存している。
本稿では,バニラガウス過程の後方分散にインスパイアされた計算を用いて,予測量子化を生成するキャリブレーション手法を提案する。
我々のアプローチは合理的な仮定の下で校正されたモデルが得られることを示す。
論文 参考訳(メタデータ) (2023-02-23T12:17:36Z) - Instance-Dependent Generalization Bounds via Optimal Transport [51.71650746285469]
既存の一般化境界は、現代のニューラルネットワークの一般化を促進する重要な要因を説明することができない。
データ空間における学習予測関数の局所リプシッツ正則性に依存するインスタンス依存の一般化境界を導出する。
ニューラルネットワークに対する一般化境界を実験的に解析し、有界値が有意義であることを示し、トレーニング中の一般的な正規化方法の効果を捉える。
論文 参考訳(メタデータ) (2022-11-02T16:39:42Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - Sigma-Delta and Distributed Noise-Shaping Quantization Methods for
Random Fourier Features [73.25551965751603]
我々は、量子化 RFF が基礎となるカーネルの高精度な近似を可能にすることを証明した。
量子化 RFF はさらに圧縮され,メモリ使用量と精度のトレードオフに優れることを示す。
本手法は,この文脈におけるアート量子化手法の他の状態と比較し,いくつかの機械学習タスクにおいて,提案手法の性能を実証的に示す。
論文 参考訳(メタデータ) (2021-06-04T17:24:47Z) - Moment-Based Variational Inference for Stochastic Differential Equations [31.494103873662343]
我々は,前処理の制御バージョンとして変分過程を構築する。
我々は、モーメント関数のセットによって後部を近似する。
モーメント閉包と組み合わせて、平滑化問題は決定論的最適制御問題に還元される。
論文 参考訳(メタデータ) (2021-03-01T13:20:38Z) - The Variational Method of Moments [65.91730154730905]
条件モーメント問題は、観測可能量の観点から構造因果パラメータを記述するための強力な定式化である。
OWGMMの変動最小値再構成により、条件モーメント問題に対する非常に一般的な推定器のクラスを定義する。
同じ種類の変分変換に基づく統計的推測のためのアルゴリズムを提供する。
論文 参考訳(メタデータ) (2020-12-17T07:21:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。