論文の概要: Healing Products of Gaussian Processes

• arxiv url: http://arxiv.org/abs/2102.07106v1
• Date: Sun, 14 Feb 2021 08:53:43 GMT
• ステータス: 処理完了
• システム内更新日: 2021-02-16 16:04:36.148118
• Title: Healing Products of Gaussian Processes
• Title（参考訳）: ガウス過程の治癒生成物
• Authors: Samuel Cohen, Rendani Mbuvha, Tshilidzi Marwala, Marc Peter Deisenroth
• Abstract要約: 現地の専門家の予測をWassersteinバリセンタの計算により組み合わせた,新たなエキスパートモデルを提案する。 特に,wasserstein barycenterを計算し,現地の専門家の予測を組み合わせる新しい経験則モデルを提案する。
• 参考スコア（独自算出の注目度）: 21.892542043785845
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Gaussian processes (GPs) are nonparametric Bayesian models that have been applied to regression and classification problems. One of the approaches to alleviate their cubic training cost is the use of local GP experts trained on subsets of the data. In particular, product-of-expert models combine the predictive distributions of local experts through a tractable product operation. While these expert models allow for massively distributed computation, their predictions typically suffer from erratic behaviour of the mean or uncalibrated uncertainty quantification. By calibrating predictions via a tempered softmax weighting, we provide a solution to these problems for multiple product-of-expert models, including the generalised product of experts and the robust Bayesian committee machine. Furthermore, we leverage the optimal transport literature and propose a new product-of-expert model that combines predictions of local experts by computing their Wasserstein barycenter, which can be applied to both regression and classification.
• Abstract（参考訳）: ガウス過程 (GP) は回帰問題や分類問題に適用された非パラメトリックベイズモデルである。 キューブトレーニングコストを軽減するためのアプローチの1つは、データのサブセットで訓練されたローカルGP専門家の使用です。 特に、製品のエキスパートモデルは、トラクタブルな製品操作を通じて地元の専門家の予測分布を結合します。 これらの専門家モデルは大規模に分散した計算を可能にするが、その予測は平均または未校正の不確実性定量化の不安定な振る舞いに悩まされるのが普通である。 温和なソフトマックス重み付けによる予測の校正により、専門家の一般化された積や頑健なベイズ委員会機械を含む複数の専門家モデルに対するこれらの問題の解を提供する。 さらに, 最適輸送文献を活用し, 回帰と分類の両方に適用可能なwasserstein barycenterを計算し, 現地専門家の予測を組み合わせる新しい経験則モデルを提案する。

関連論文リスト

• On Least Square Estimation in Softmax Gating Mixture of Experts [78.3687645289918]
  決定論的MoEモデルに基づく最小二乗推定器(LSE)の性能について検討する。 我々は,多種多様な専門家関数の収束挙動を特徴付けるために,強い識別可能性という条件を確立する。 本研究は,専門家の選択に重要な意味を持つ。
  論文  参考訳（メタデータ） (2024-02-05T12:31:18Z)
• Conformal Approach To Gaussian Process Surrogate Evaluation With Coverage Guarantees [47.22930583160043]
  適応型クロスコンフォーマル予測区間を構築する手法を提案する。 結果として生じる共形予測区間は、ベイズ的信頼性集合に類似した適応性のレベルを示す。 原子炉の蒸気発生器における閉鎖現象の高コスト・評価シミュレータのサロゲートモデリングの文脈において, 本手法の適用可能性を示す。
  論文  参考訳（メタデータ） (2024-01-15T14:45:18Z)
• Mixtures of Gaussian process experts based on kernel stick-breaking processes [0.6396288020763143]
  本稿では,カーネルスティックブレーキングプロセスに基づくガウスプロセスエキスパートの混合モデルを提案する。 我々のモデルは直感的な魅力を維持しつつ、既存のモデルの性能を改善している。 モデル挙動と予測性能の改善は、6つのデータセットを用いた実験で実証された。
  論文  参考訳（メタデータ） (2023-04-26T21:23:01Z)
• Sharp Calibrated Gaussian Processes [58.94710279601622]
  キャリブレーションされたモデルを設計するための最先端のアプローチは、ガウス過程の後方分散を膨らませることに依存している。 本稿では,バニラガウス過程の後方分散にインスパイアされた計算を用いて,予測量子化を生成するキャリブレーション手法を提案する。 我々のアプローチは合理的な仮定の下で校正されたモデルが得られることを示す。
  論文  参考訳（メタデータ） (2023-02-23T12:17:36Z)
• MRCLens: an MRC Dataset Bias Detection Toolkit [82.44296974850639]
  MRCLensは,ユーザがフルモデルをトレーニングする前に,バイアスが存在するかどうかを検出するツールキットである。 ツールキットの導入の便宜のために,MDCにおける共通バイアスの分類も提供する。
  論文  参考訳（メタデータ） (2022-07-18T21:05:39Z)
• Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
  3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。 パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
  論文  参考訳（メタデータ） (2022-04-13T12:43:12Z)
• Correlated Product of Experts for Sparse Gaussian Process Regression [2.466065249430993]
  そこで本研究では,複数の地域および関連専門家からの予測の集約に基づく新しいアプローチを提案する。 本手法は, 独立系エキスパート製品, スパースGP, フルGPを限定例で回収する。 提案手法は,最先端GP近似法に対して,時間対精度で優れた性能を示す。
  論文  参考訳（メタデータ） (2021-12-17T14:14:08Z)
• Scalable Marginal Likelihood Estimation for Model Selection in Deep Learning [78.83598532168256]
  階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。 本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
  論文  参考訳（メタデータ） (2021-04-11T09:50:24Z)
• Gaussian Experts Selection using Graphical Models [7.530615321587948]
  ローカル近似は、元のデータセットをサブセットに分割し、各サブセットでローカル専門家を訓練することで、時間の複雑さを低減する。 我々は、専門家間の条件依存を符号化するスパース精度行列を用いて、非方向性のグラフィカルモデルに関する文献からのテクニックを活用し、最も重要な専門家を選択する。
  論文  参考訳（メタデータ） (2021-02-02T14:12:11Z)
• Aggregating Dependent Gaussian Experts in Local Approximation [8.4159776055506]
  我々は,条件付き独立の強い違反を検出することによって,ガウスの専門家を集結させる新しいアプローチを提案する。 専門家間の依存関係は、精度行列を生成するガウス図形モデルを用いて決定される。 我々の新しい手法は、SOTAアプローチよりもはるかに時間効率が高く、他の最先端(SOTA)DGP手法よりも優れている。
  論文  参考訳（メタデータ） (2020-10-17T21:49:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。