論文の概要: Gaussian Graphical Models as an Ensemble Method for Distributed Gaussian
Processes
- arxiv url: http://arxiv.org/abs/2202.03287v1
- Date: Mon, 7 Feb 2022 15:22:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-08 17:23:42.454922
- Title: Gaussian Graphical Models as an Ensemble Method for Distributed Gaussian
Processes
- Title(参考訳): 分布ガウス過程のアンサンブル法としてのガウス図形モデル
- Authors: Hamed Jalali, Gjergji Kasneci
- Abstract要約: 我々はガウスの専門家の予測をガウス図形モデル(GGM)により集約する新しいアプローチを提案する。
まず、予測最大化(EM)アルゴリズムを用いて、潜伏変数と観測変数の合同分布を推定する。
我々の新しい手法は他の最先端のDGP手法よりも優れている。
- 参考スコア(独自算出の注目度): 8.4159776055506
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Distributed Gaussian process (DGP) is a popular approach to scale GP to big
data which divides the training data into some subsets, performs local
inference for each partition, and aggregates the results to acquire global
prediction. To combine the local predictions, the conditional independence
assumption is used which basically means there is a perfect diversity between
the subsets. Although it keeps the aggregation tractable, it is often violated
in practice and generally yields poor results. In this paper, we propose a
novel approach for aggregating the Gaussian experts' predictions by Gaussian
graphical model (GGM) where the target aggregation is defined as an unobserved
latent variable and the local predictions are the observed variables. We first
estimate the joint distribution of latent and observed variables using the
Expectation-Maximization (EM) algorithm. The interaction between experts can be
encoded by the precision matrix of the joint distribution and the aggregated
predictions are obtained based on the property of conditional Gaussian
distribution. Using both synthetic and real datasets, our experimental
evaluations illustrate that our new method outperforms other state-of-the-art
DGP approaches.
- Abstract(参考訳): 分散ガウス過程(DGP)はGPをビッグデータにスケールする一般的な手法であり、トレーニングデータをいくつかのサブセットに分割し、各パーティションに対して局所的な推論を行い、その結果を集約してグローバルな予測を得る。
局所的な予測を組み合わせるために、条件付き独立仮定が使用され、基本的にはサブセット間に完全な多様性が存在することを意味する。
アグリゲーションは扱いやすいが、実際にはしばしば違反し、一般的には結果に乏しい。
本稿では,ガウス的専門家の予測をガウス的グラフィカルモデル(ggm)によって集約する新しい手法を提案する。
まず,期待最大化(em)アルゴリズムを用いて潜在変数と観測変数の合同分布を推定する。
専門家間の相互作用は結合分布の精度行列によって符号化することができ、条件付きガウス分布の性質に基づいて集約された予測が得られる。
合成データと実データの両方を用いて,本手法が他の最先端DGP手法より優れていることを示す。
関連論文リスト
- Aggregation Models with Optimal Weights for Distributed Gaussian Processes [6.408773096179187]
本稿では,分散GPにおける集約予測のための新しい手法を提案する。
提案手法は, 専門家間の相関関係を取り入れ, 管理可能な計算条件で予測精度を向上する。
実証的な研究によって実証されたように、提案手法は、最先端の一貫した集約モデルよりも少ない時間でより安定した予測をもたらす。
論文 参考訳(メタデータ) (2024-08-01T23:32:14Z) - Collaborative Heterogeneous Causal Inference Beyond Meta-analysis [68.4474531911361]
異種データを用いた因果推論のための協調的逆確率スコア推定器を提案する。
異質性の増加に伴うメタアナリシスに基づく手法に対して,本手法は有意な改善を示した。
論文 参考訳(メタデータ) (2024-04-24T09:04:36Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Conformal inference for regression on Riemannian Manifolds [49.7719149179179]
回帰シナリオの予測セットは、応答変数が$Y$で、多様体に存在し、Xで表される共変数がユークリッド空間にあるときに検討する。
我々は、多様体上のこれらの領域の経験的バージョンが、その集団に対するほぼ確実に収束していることを証明する。
論文 参考訳(メタデータ) (2023-10-12T10:56:25Z) - Compound Batch Normalization for Long-tailed Image Classification [77.42829178064807]
本稿では,ガウス混合に基づく複合バッチ正規化法を提案する。
機能空間をより包括的にモデル化し、ヘッドクラスの優位性を減らすことができる。
提案手法は,画像分類における既存の手法よりも優れている。
論文 参考訳(メタデータ) (2022-12-02T07:31:39Z) - B\'ezier Curve Gaussian Processes [8.11969931278838]
本稿では,確率的B'ezier曲線上に構築された新しい確率的シーケンスモデルを提案する。
混合密度ネットワークと組み合わせることで、平均場変動近似を必要とせずにベイズ条件推論を行うことができる。
このモデルは歩行者の軌跡予測に使われ、生成した予測はGP前でも機能する。
論文 参考訳(メタデータ) (2022-05-03T19:49:57Z) - A Robust and Flexible EM Algorithm for Mixtures of Elliptical
Distributions with Missing Data [71.9573352891936]
本稿では、ノイズや非ガウス的なデータに対するデータ計算の欠如に対処する。
楕円分布と潜在的な欠落データを扱う特性を混合した新しいEMアルゴリズムについて検討した。
合成データの実験的結果は,提案アルゴリズムが外れ値に対して頑健であり,非ガウスデータで使用可能であることを示す。
論文 参考訳(メタデータ) (2022-01-28T10:01:37Z) - Non-Gaussian Gaussian Processes for Few-Shot Regression [71.33730039795921]
乱変数ベクトルの各成分上で動作し,パラメータを全て共有する可逆なODEベースのマッピングを提案する。
NGGPは、様々なベンチマークとアプリケーションに対する競合する最先端のアプローチよりも優れています。
論文 参考訳(メタデータ) (2021-10-26T10:45:25Z) - Gaussian Process Regression with Local Explanation [28.90948136731314]
本稿では,各サンプルの予測に寄与する特徴を明らかにするため,局所的な説明を伴うGPRを提案する。
提案モデルでは,各サンプルの予測と説明を,容易に解釈可能な局所線形モデルを用いて行う。
新しい試験サンプルでは, 対象変数と重みベクトルの値と不確かさを予測できる。
論文 参考訳(メタデータ) (2020-07-03T13:22:24Z) - Mean-Field Approximation to Gaussian-Softmax Integral with Application
to Uncertainty Estimation [23.38076756988258]
ディープニューラルネットワークにおける不確実性を定量化するための,新しい単一モデルに基づくアプローチを提案する。
平均場近似式を用いて解析的に難解な積分を計算する。
実験的に,提案手法は最先端の手法と比較して競合的に機能する。
論文 参考訳(メタデータ) (2020-06-13T07:32:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。