論文の概要: On the Laplace Approximation as Model Selection Criterion for Gaussian Processes

• arxiv url: http://arxiv.org/abs/2403.09215v1
• Date: Thu, 14 Mar 2024 09:28:28 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-15 21:07:03.508230
• Title: On the Laplace Approximation as Model Selection Criterion for Gaussian Processes
• Title（参考訳）: ガウス過程のモデル選択基準としてのラプラス近似について
• Authors: Andreas Besginow, Jan David Hüwel, Thomas Pawellek, Christian Beecks, Markus Lange-Hegermann,
• Abstract要約: ラプラス近似に基づく複数の指標を導入する。 実験により、我々のメトリクスはゴールド標準の動的ネストサンプリングに匹敵する品質を示している。
• 参考スコア（独自算出の注目度）: 6.990493129893112
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Model selection aims to find the best model in terms of accuracy, interpretability or simplicity, preferably all at once. In this work, we focus on evaluating model performance of Gaussian process models, i.e. finding a metric that provides the best trade-off between all those criteria. While previous work considers metrics like the likelihood, AIC or dynamic nested sampling, they either lack performance or have significant runtime issues, which severely limits applicability. We address these challenges by introducing multiple metrics based on the Laplace approximation, where we overcome a severe inconsistency occuring during naive application of the Laplace approximation. Experiments show that our metrics are comparable in quality to the gold standard dynamic nested sampling without compromising for computational speed. Our model selection criteria allow significantly faster and high quality model selection of Gaussian process models.
• Abstract（参考訳）: モデル選択は、正確性、解釈可能性、単純さの観点から最良のモデルを見つけることを目的としています。 本研究では,ガウス過程モデルのモデル性能を評価することに集中する。 以前の作業では、AICや動的ネストサンプリングの可能性が考慮されていたが、パフォーマンスに欠けるか、重大なランタイムの問題があり、適用性が著しく制限されている。 ラプラス近似に基づく複数のメトリクスを導入することでこれらの課題に対処し、ラプラス近似の単純適用時に発生する深刻な不整合を克服する。 実験の結果,我々の測定値は計算速度を犠牲にすることなく,ゴールド標準の動的ネストサンプリングと同等であることがわかった。 我々のモデル選択基準はガウス過程モデルの大幅な高速かつ高品質なモデル選択を可能にする。

関連論文リスト

• Precision-Recall Divergence Optimization for Generative Modeling with GANs and Normalizing Flows [54.050498411883495]
  本研究では,ジェネレーティブ・アドバイサル・ネットワークや正規化フローなどの生成モデルのための新しいトレーニング手法を開発した。 指定された精度-リコールトレードオフを達成することは、textitPR-divergencesと呼ぶ家族からのユニークな$f$-divergenceを最小化することを意味する。 当社のアプローチは,ImageNetなどのデータセットでテストした場合の精度とリコールの両面で,BigGANのような既存の最先端モデルの性能を向上させる。
  論文  参考訳（メタデータ） (2023-05-30T10:07:17Z)
• Sharp Calibrated Gaussian Processes [58.94710279601622]
  キャリブレーションされたモデルを設計するための最先端のアプローチは、ガウス過程の後方分散を膨らませることに依存している。 本稿では,バニラガウス過程の後方分散にインスパイアされた計算を用いて,予測量子化を生成するキャリブレーション手法を提案する。 我々のアプローチは合理的な仮定の下で校正されたモデルが得られることを示す。
  論文  参考訳（メタデータ） (2023-02-23T12:17:36Z)
• Out-of-sample scoring and automatic selection of causal estimators [0.0]
  本稿では,CATEの場合と器楽変数問題の重要な部分集合に対する新しいスコアリング手法を提案する。 私たちはそれを、DoWhyとEconMLライブラリに依存するオープンソースパッケージで実装しています。
  論文  参考訳（メタデータ） (2022-12-20T08:29:18Z)
• A moment-matching metric for latent variable generative models [0.0]
  グッドハートの法則の範囲では、計量が対象となるとき、それは良い計量になるのをやめる。 モーメントに依存するモデル比較や正規化のための新しい指標を提案する。 潜時変動モデルを評価する際に, 適応分布からサンプルを抽出することが一般的である。
  論文  参考訳（メタデータ） (2021-10-04T17:51:08Z)
• Oops I Took A Gradient: Scalable Sampling for Discrete Distributions [53.3142984019796]
  このアプローチは、多くの困難な設定において、ジェネリックサンプリングよりも優れていることを示す。 また,高次元離散データを用いた深部エネルギーモデルトレーニングのための改良型サンプリング器についても実演した。
  論文  参考訳（メタデータ） (2021-02-08T20:08:50Z)
• Community Detection in the Stochastic Block Model by Mixed Integer Programming [3.8073142980733]
  Degree-Corrected Block Model (DCSBM) は、コミュニティ構造を持つランダムグラフを生成する一般的なモデルである。 DCSBMに基づくコミュニティ検出の標準的なアプローチは、最大推定(MLE)により観測されたネットワークデータを生成する可能性が最も高いモデルパラメータを探索することである。 本稿では,モデルパラメータと最大確率のコミュニティ割当を観測グラフから確実に求める数学的計画式と厳密解法を提案する。
  論文  参考訳（メタデータ） (2021-01-26T22:04:40Z)
• Autoregressive Score Matching [113.4502004812927]
  自動回帰条件スコアモデル(AR-CSM)を提案する。 AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。 本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
  論文  参考訳（メタデータ） (2020-10-24T07:01:24Z)
• Goal-directed Generation of Discrete Structures with Conditional Generative Models [85.51463588099556]
  本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。 提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
  論文  参考訳（メタデータ） (2020-10-05T20:03:13Z)
• Referenced Thermodynamic Integration for Bayesian Model Selection: Application to COVID-19 Model Selection [1.9599274203282302]
  ベイズ係数と呼ばれる2つのモデルの正規化定数の比率を計算する方法を示す。 本稿では,単一のモデルの正規化定数を効率よく計算するTI法を,参照TI法(referenceed TI)に応用する。 この手法は、実際の問題に適用した場合、韓国の半機械的階層的ベイズモデルのモデル選択を行うのに有用であることが示されている。
  論文  参考訳（メタデータ） (2020-09-08T16:32:06Z)
• Maximum Entropy Model Rollouts: Fast Model Based Policy Optimization without Compounding Errors [10.906666680425754]
  我々は、最大エントロピーモデルロールアウト(MEMR)と呼ばれるダイナスタイルモデルに基づく強化学習アルゴリズムを提案する。 複雑なエラーをなくすために、我々はモデルを使って単一ステップのロールアウトを生成する。
  論文  参考訳（メタデータ） (2020-06-08T21:38:15Z)
• Nonparametric Estimation in the Dynamic Bradley-Terry Model [69.70604365861121]
  カーネルのスムース化に依存する新しい推定器を開発し、時間とともにペア比較を前処理する。 モデルに依存しない設定における推定誤差と余剰リスクの両方について時間変化のオラクル境界を導出する。
  論文  参考訳（メタデータ） (2020-02-28T21:52:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。