Fugu-MT 論文翻訳(概要): Support Collapse of Deep Gaussian Processes with Polynomial Kernels for a Wide Regime of Hyperparameters

論文の概要: Support Collapse of Deep Gaussian Processes with Polynomial Kernels for a Wide Regime of Hyperparameters

arxiv url: http://arxiv.org/abs/2503.12266v1
Date: Sat, 15 Mar 2025 21:29:45 GMT
ステータス: 翻訳完了
システム内更新日: 2025-03-18 12:35:41.804579
Title: Support Collapse of Deep Gaussian Processes with Polynomial Kernels for a Wide Regime of Hyperparameters
Title（参考訳）: ポリノミアルカーネルを用いた高パラメータの広い正規化のための深いガウス過程の支援崩壊
Authors: Daryna Chernobrovkina, Steffen Grünewälder,
Abstract要約: 我々は、カーネルを持つディープガウス過程が引き起こす前者を解析する。比較的小さな深さであっても、そのような深いガウス過程の中で平均的な効果が生じることを観察する。
参考スコア（独自算出の注目度）: 4.005483185111992
License:
Abstract: We analyze the prior that a Deep Gaussian Process with polynomial kernels induces. We observe that, even for relatively small depths, averaging effects occur within such a Deep Gaussian Process and that the prior can be analyzed and approximated effectively by means of the Berry-Esseen Theorem. One of the key findings of this analysis is that, in the absence of careful hyper-parameter tuning, the prior of a Deep Gaussian Process either collapses rapidly towards zero as the depth increases or places negligible mass on low norm functions. This aligns well with experimental findings and mirrors known results for convolution based Deep Gaussian Processes.
Abstract（参考訳）: 多項式カーネルを持つディープガウス過程が導出する前もっての解析を行う。比較的小さな深さであっても、そのような深いガウス過程の中で平均的な効果が生じ、Berry-Esseen Theorem を用いて事前解析と近似が効果的に可能であることを観察する。この分析の重要な発見の1つは、注意深いハイパーパラメータチューニングがない場合、深さが増加するにつれてディープガウス過程の先行が急速にゼロに崩壊するか、あるいは低ノルム関数に無視可能な質量を置くことである。これは、畳み込みに基づくディープ・ガウス過程の実験的発見とミラーによる既知の結果とよく一致している。

関連論文リスト

Deep Horseshoe Gaussian Processes [0.0]
直交指数核を持つディープ・ガウス過程に基づく新しい単純前処理であるディープ・ホースシュー・ガウス過程(Deep Horseshoe Gaussian process)を紹介する。ランダムな設計による非パラメトリック回帰では、関連する後続分布が2次損失の点で未知の真の回帰曲線を復元することを示す。収束速度は、回帰関数の滑らかさと組成の両面に同時に適応する。
論文参考訳（メタデータ） (2024-03-04T05:30:43Z)
Gaussian Process Regression under Computational and Epistemic Misspecification [4.5656369638728656]
大規模データアプリケーションでは、カーネルの低ランクあるいはスパース近似を用いて計算コストを削減できる。本稿では,そのようなカーネル近似が要素誤差に与える影響について検討する。
論文参考訳（メタデータ） (2023-12-14T18:53:32Z)
Posterior Contraction Rates for Mat\'ern Gaussian Processes on Riemannian Manifolds [51.68005047958965]
我々は,本質的なガウス過程が実際により優れた性能を発揮することを示す。我々の研究は、データ効率の異なるレベルを区別するために、よりきめ細かい分析が必要であることを示している。
論文参考訳（メタデータ） (2023-09-19T20:30:58Z)
On the Sublinear Regret of GP-UCB [58.25014663727544]
ガウス過程上信頼境界 (GP-UCB) アルゴリズムは, ほぼ最適の後悔率を有することを示す。私たちの改善は、基盤となるカーネルの滑らかさに比例してカーネルリッジ推定を正規化するという、重要な技術的貢献に依存しています。
論文参考訳（メタデータ） (2023-07-14T13:56:11Z)
Sparse Gaussian Processes with Spherical Harmonic Features Revisited [19.104057413538612]
球面調和特性を持つガウス過程モデルを再検討し、関連するRKHS、固有構造および深部モデル間の接続について検討する。連続深さの深いモデルに対応する新しいカーネルのクラスを導入する。機械学習ベンチマークデータセットに対する我々のアプローチを検証する。
論文参考訳（メタデータ） (2023-03-28T13:02:48Z)
Gaussian Process Uniform Error Bounds with Unknown Hyperparameters for Safety-Critical Applications [71.23286211775084]
未知のハイパーパラメータを持つ設定において、ロバストなガウス過程の均一なエラー境界を導入する。提案手法はハイパーパラメータの空間における信頼領域を計算し,モデル誤差に対する確率的上限を求める。実験により、バニラ法やベイズ法よりもバニラ法の方がはるかに優れていることが示された。
論文参考訳（メタデータ） (2021-09-06T17:10:01Z)
Scalable Variational Gaussian Processes via Harmonic Kernel Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文参考訳（メタデータ） (2021-06-10T18:17:57Z)
Pathwise Conditioning of Gaussian Processes [72.61885354624604]
ガウス過程後部をシミュレーションするための従来のアプローチでは、有限個の入力位置のプロセス値の限界分布からサンプルを抽出する。この分布中心の特徴づけは、所望のランダムベクトルのサイズで3次スケールする生成戦略をもたらす。条件付けのこのパスワイズ解釈が、ガウス過程の後部を効率的にサンプリングするのに役立てる近似の一般族をいかに生み出すかを示す。
論文参考訳（メタデータ） (2020-11-08T17:09:37Z)
Marginalised Gaussian Processes with Nested Sampling [10.495114898741203]
ガウス過程(GP)モデルは、カーネル関数によって制御される帰納バイアスを持つ関数上の豊富な分布である。本研究は,Nested Smpling (NS) を用いてカーネル関数のハイパーパラメータを疎外する学習手法を提案する。
論文参考訳（メタデータ） (2020-10-30T16:04:35Z)
Characterizing Deep Gaussian Processes via Nonlinear Recurrence Systems [34.910533903800115]
本稿では, 対応する非線形力学系の研究により, DGPの新しい解析法を提案する。本研究は,4種類の共通定常カーネル関数に拡張する。
論文参考訳（メタデータ） (2020-10-19T08:24:11Z)
SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for Gaussian Process Regression with Derivatives [86.01677297601624]
本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
論文参考訳（メタデータ） (2020-03-05T14:33:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。