論文の概要: Towards new cross-validation-based estimators for Gaussian process
regression: efficient adjoint computation of gradients
- arxiv url: http://arxiv.org/abs/2002.11543v2
- Date: Thu, 6 Aug 2020 11:25:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-28 15:26:43.941664
- Title: Towards new cross-validation-based estimators for Gaussian process
regression: efficient adjoint computation of gradients
- Title(参考訳): ガウス過程回帰のための新しいクロスバリデーションベース推定器に向けて:勾配の効率的な随伴計算
- Authors: S\'ebastien Petit (L2S, GdR MASCOT-NUM), Julien Bect (L2S, GdR
MASCOT-NUM), S\'ebastien da Veiga (GdR MASCOT-NUM), Paul Feliot (GdR
MASCOT-NUM), Emmanuel Vazquez (L2S, GdR MASCOT-NUM)
- Abstract要約: スコアリングルールの文献から得られた新しいクロスバリデーション基準を用いることを提案する。
また、クロスバリデーション基準の勾配を計算するための効率的な方法も提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider the problem of estimating the parameters of the covariance
function of a Gaussian process by cross-validation. We suggest using new
cross-validation criteria derived from the literature of scoring rules. We also
provide an efficient method for computing the gradient of a cross-validation
criterion. To the best of our knowledge, our method is more efficient than what
has been proposed in the literature so far. It makes it possible to lower the
complexity of jointly evaluating leave-one-out criteria and their gradients.
- Abstract(参考訳): 本稿では,ガウス過程の共分散関数のパラメータをクロスバリデーションにより推定する問題を考察する。
スコアリングルールの文献から得られた新しいクロスバリデーション基準を用いることを提案する。
また、クロスバリデーション基準の勾配を計算する効率的な方法を提案する。
我々の知る限りでは、我々の手法はこれまでの文献で提案された方法よりも効率的である。
これにより、アウトアウト基準とその勾配を共同で評価する複雑性を低くすることができる。
関連論文リスト
- Online Estimation with Rolling Validation: Adaptive Nonparametric Estimation with Streaming Data [13.069717985067937]
そこで本稿では,オンラインの相互検証方式である重み付き転がりバリデーション手法を提案する。
バッチクロスバリデーションと同様に、ベース推定器を強化して、より優れた適応収束率を達成することができる。
論文 参考訳(メタデータ) (2023-10-18T17:52:57Z) - Stochastic Optimization for Non-convex Problem with Inexact Hessian
Matrix, Gradient, and Function [99.31457740916815]
信頼領域(TR)と立方体を用いた適応正則化は、非常に魅力的な理論的性質を持つことが証明されている。
TR法とARC法はヘッセン関数,勾配関数,関数値の非コンパクトな計算を同時に行うことができることを示す。
論文 参考訳(メタデータ) (2023-10-18T10:29:58Z) - Stability-Adjusted Cross-Validation for Sparse Linear Regression [5.156484100374059]
k倍のクロスバリデーションのようなクロスバリデーション技術はスパース回帰の計算コストを大幅に増大させる。
クロスバリデーションメトリックの重み付け和とモデルの出力安定性を最小化するハイパーパラメータの選択を提案する。
我々の信頼度調整手順は、13の実世界のデータセット上で、テストセットエラーを平均で2%削減する。
論文 参考訳(メタデータ) (2023-06-26T17:02:45Z) - Positive definite nonparametric regression using an evolutionary
algorithm with application to covariance function estimation [0.0]
定常過程の共分散関数を推定するための新しい非パラメトリック回帰フレームワークを提案する。
提案手法は, 正定性, 等方性, 単調性を推定者に課すことができる。
提案手法は,長距離依存に対する信頼性の高い推定値を提供する。
論文 参考訳(メタデータ) (2023-04-25T22:01:14Z) - Scalable Gaussian-process regression and variable selection using
Vecchia approximations [3.4163060063961255]
ヴェッキアをベースとしたミニバッチサブサンプリングは、偏りのない勾配推定器を提供する。
偏りのない勾配推定器を提供するVecchiaベースのミニバッチサブサンプリングを提案する。
論文 参考訳(メタデータ) (2022-02-25T21:22:38Z) - Differentiable Annealed Importance Sampling and the Perils of Gradient
Noise [68.44523807580438]
Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。
差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。
我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
論文 参考訳(メタデータ) (2021-07-21T17:10:14Z) - Scalable Personalised Item Ranking through Parametric Density Estimation [53.44830012414444]
暗黙のフィードバックから学ぶことは、一流問題の難しい性質のために困難です。
ほとんどの従来の方法は、一級問題に対処するためにペアワイズランキングアプローチとネガティブサンプラーを使用します。
本論文では,ポイントワイズと同等の収束速度を実現する学習対ランクアプローチを提案する。
論文 参考訳(メタデータ) (2021-05-11T03:38:16Z) - Scalable Marginal Likelihood Estimation for Model Selection in Deep
Learning [78.83598532168256]
階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。
本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
論文 参考訳(メタデータ) (2021-04-11T09:50:24Z) - Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box
Optimization Framework [100.36569795440889]
この作業は、一階情報を必要としない零次最適化(ZO)の反復である。
座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
論文 参考訳(メタデータ) (2020-12-21T17:29:58Z) - Calibrated Adaptive Probabilistic ODE Solvers [31.442275669185626]
不確実性の推定を校正するいくつかの確率的動機づけのある方法を紹介し,議論し,評価する。
本手法は,従来の4/5 runge-kutta法に対してベンチマークを行い,その効率性を示す。
論文 参考訳(メタデータ) (2020-12-15T10:48:55Z) - Fast OSCAR and OWL Regression via Safe Screening Rules [97.28167655721766]
順序付き$L_1$ (OWL)正規化回帰は、高次元スパース学習のための新しい回帰分析である。
近勾配法はOWL回帰を解くための標準手法として用いられる。
未知の順序構造を持つ原始解の順序を探索することにより、OWL回帰の最初の安全なスクリーニングルールを提案する。
論文 参考訳(メタデータ) (2020-06-29T23:35:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。