論文の概要: Practical Global and Local Bounds in Gaussian Process Regression via Chaining
- arxiv url: http://arxiv.org/abs/2511.09144v2
- Date: Mon, 17 Nov 2025 13:26:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-18 14:36:22.378581
- Title: Practical Global and Local Bounds in Gaussian Process Regression via Chaining
- Title(参考訳): 連鎖によるガウス過程回帰の実践的グローバル・ローカル境界
- Authors: Junyi Liu, Stanley Kok,
- Abstract要約: 本稿では,予期しないデータに対する期待値の上限値と下限値を推定するための連鎖に基づくフレームワークを提案する。
また,特定入力における局所不確実性定量化手法を開発した。
- 参考スコア(独自算出の注目度): 4.500208956289746
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Gaussian process regression (GPR) is a popular nonparametric Bayesian method that provides predictive uncertainty estimates and is widely used in safety-critical applications. While prior research has introduced various uncertainty bounds, most existing approaches require access to specific input features, and rely on posterior mean and variance estimates or the tuning of hyperparameters. These limitations hinder robustness and fail to capture the model's global behavior in expectation. To address these limitations, we propose a chaining-based framework for estimating upper and lower bounds on the expected extreme values over unseen data, without requiring access to specific input features. We provide kernel-specific refinements for commonly used kernels such as RBF and Matérn, in which our bounds are tighter than generic constructions. We further improve numerical tightness by avoiding analytical relaxations. In addition to global estimation, we also develop a novel method for local uncertainty quantification at specified inputs. This approach leverages chaining geometry through partition diameters, adapting to local structures without relying on posterior variance scaling. Our experimental results validate the theoretical findings and demonstrate that our method outperforms existing approaches on both synthetic and real-world datasets.
- Abstract(参考訳): ガウス過程回帰(英: Gaussian process regression、GPR)は、予測の不確実性推定を提供する一般的な非パラメトリックベイズ法であり、安全クリティカルな用途で広く利用されている。
従来の研究では様々な不確実性境界が導入されたが、既存のほとんどのアプローチでは特定の入力特徴へのアクセスが必要であり、後進平均と分散推定やハイパーパラメータのチューニングに依存している。
これらの制限は頑丈さを妨げ、予測におけるモデルのグローバルな振る舞いを捉えるのに失敗する。
これらの制約に対処するために、特定の入力機能にアクセスすることなく、予期しないデータに対する期待値の上限値と上限値の上限値を推定するチェリングベースのフレームワークを提案する。
我々は、RBF や Matérn のようなよく使われるカーネルに対して、カーネル固有の洗練された機能を提供し、その境界は一般的な構成よりも厳密である。
さらに解析的緩和を回避して数値的密度を向上する。
グローバルな推定に加えて,特定入力における局所不確実性定量化手法も開発している。
このアプローチは、分割直径を通した鎖状形状を利用し、後続の分散スケーリングに頼ることなく局所構造に適応する。
実験により, 提案手法は, 合成データセットと実世界のデータセットの両方において, 既存の手法よりも優れていることを示した。
関連論文リスト
- Conformal and kNN Predictive Uncertainty Quantification Algorithms in Metric Spaces [3.637162892228131]
オラクル推定器の有限サンプルカバレッジ保証と高速収束率を提供する共形予測アルゴリズムを開発した。
不整合性の設定では、統計的効率を得るためにこれらの非漸近性保証を強制する。
ランダム応答オブジェクトを含むパーソナライズ・メディカルアプリケーションにおいて,本手法の実用性を実証する。
論文 参考訳(メタデータ) (2025-07-21T15:54:13Z) - Model-Free Kernel Conformal Depth Measures Algorithm for Uncertainty Quantification in Regression Models in Separable Hilbert Spaces [9.504740492278003]
本研究では,条件付き深度測定と統合深度測定に基づくモデルフリー不確実性定量化アルゴリズムを提案する。
新しいアルゴリズムは、予測器と応答が分離可能なヒルベルト空間で定義されるとき、予測領域と許容領域を定義するのに使うことができる。
身体活動に関するデジタルヘルスアプリケーションを通じて、我々のアプローチの実践的妥当性を実証する。
論文 参考訳(メタデータ) (2025-06-10T01:25:37Z) - Principled Input-Output-Conditioned Post-Hoc Uncertainty Estimation for Regression Networks [1.4671424999873808]
不確実性は安全性に敏感なアプリケーションでは重要であるが、予測性能に悪影響を及ぼすため、市販のニューラルネットワークから排除されることが多い。
本稿では,従来の入力と凍結モデルの両方に補助モデルを適用することにより,回帰タスクにおけるポストホック不確実性推定のための理論的基盤となるフレームワークを提案する。
論文 参考訳(メタデータ) (2025-06-01T09:13:27Z) - Fixed-Mean Gaussian Processes for Post-hoc Bayesian Deep Learning [11.22428369342346]
普遍カーネルを用いた場合、後続平均を任意の連続関数に固定する、スパース変分ガウス過程(GP)の新たなファミリを導入する。
具体的には、このGPの平均値を事前学習したDNNの出力に固定し、GPの予測分散を効果的に適合させて予測の不確かさを推定する。
実験の結果,FMGPは最先端手法と比較して不確実性評価と計算効率を両立させることがわかった。
論文 参考訳(メタデータ) (2024-12-05T14:17:16Z) - Information-Theoretic Safe Exploration with Gaussian Processes [89.31922008981735]
未知の(安全でない)制約に反するパラメータを評価できないような、逐次的な意思決定タスクについて検討する。
現在のほとんどのメソッドはドメインの離散化に依存しており、連続ケースに直接拡張することはできない。
本稿では,GP後部を直接利用して,最も情報に富む安全なパラメータを識別する情報理論的安全な探索基準を提案する。
論文 参考訳(メタデータ) (2022-12-09T15:23:58Z) - Instance-Dependent Generalization Bounds via Optimal Transport [51.71650746285469]
既存の一般化境界は、現代のニューラルネットワークの一般化を促進する重要な要因を説明することができない。
データ空間における学習予測関数の局所リプシッツ正則性に依存するインスタンス依存の一般化境界を導出する。
ニューラルネットワークに対する一般化境界を実験的に解析し、有界値が有意義であることを示し、トレーニング中の一般的な正規化方法の効果を捉える。
論文 参考訳(メタデータ) (2022-11-02T16:39:42Z) - Simple Calibration via Geodesic Kernels [9.999034479498889]
決定の森やディープニューラルネットワークのような深い差別的アプローチは、最近、多くの重要な現実世界のシナリオで応用を見出した。
しかし、これらの学習アルゴリズムを安全クリティカルなアプリケーションにデプロイすることは、特に分布内領域と分布外領域の両方のキャリブレーションを確保することに懸念を生じさせる。
論文 参考訳(メタデータ) (2022-01-31T05:07:16Z) - Learning to Estimate Without Bias [57.82628598276623]
ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。
本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。
BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
論文 参考訳(メタデータ) (2021-10-24T10:23:51Z) - Gaussian Process Uniform Error Bounds with Unknown Hyperparameters for
Safety-Critical Applications [71.23286211775084]
未知のハイパーパラメータを持つ設定において、ロバストなガウス過程の均一なエラー境界を導入する。
提案手法はハイパーパラメータの空間における信頼領域を計算し,モデル誤差に対する確率的上限を求める。
実験により、バニラ法やベイズ法よりもバニラ法の方がはるかに優れていることが示された。
論文 参考訳(メタデータ) (2021-09-06T17:10:01Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。