論文の概要: Energy Score-Guided Neural Gaussian Mixture Model for Predictive Uncertainty Quantification
- arxiv url: http://arxiv.org/abs/2603.27672v1
- Date: Sun, 29 Mar 2026 12:46:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-31 23:18:45.067133
- Title: Energy Score-Guided Neural Gaussian Mixture Model for Predictive Uncertainty Quantification
- Title(参考訳): 予測不確かさ定量化のためのエネルギースコア誘導型ニューラルガウス混合モデル
- Authors: Yang Yang, Chunlin Ji, Haoyang Li, Ke Deng,
- Abstract要約: 予測の不確実性の定量化は、現実世界の機械学習アプリケーションにとって不可欠である。
本稿では,予測不確実性を定量化するニューラルエネルギーガウス混合モデル(NE-GMM)を提案する。
- 参考スコア(独自算出の注目度): 11.86700614076245
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Quantifying predictive uncertainty is essential for real world machine learning applications, especially in scenarios requiring reliable and interpretable predictions. Many common parametric approaches rely on neural networks to estimate distribution parameters by optimizing the negative log likelihood. However, these methods often encounter challenges like training instability and mode collapse, leading to poor estimates of the mean and variance of the target output distribution. In this work, we propose the Neural Energy Gaussian Mixture Model (NE-GMM), a novel framework that integrates Gaussian Mixture Model (GMM) with Energy Score (ES) to enhance predictive uncertainty quantification. NE-GMM leverages the flexibility of GMM to capture complex multimodal distributions and leverages the robustness of ES to ensure well calibrated predictions in diverse scenarios. We theoretically prove that the hybrid loss function satisfies the properties of a strictly proper scoring rule, ensuring alignment with the true data distribution, and establish generalization error bounds, demonstrating that the model's empirical performance closely aligns with its expected performance on unseen data. Extensive experiments on both synthetic and real world datasets demonstrate the superiority of NE-GMM in terms of both predictive accuracy and uncertainty quantification.
- Abstract(参考訳): 予測の不確実性の定量化は、特に信頼性と解釈可能な予測を必要とするシナリオにおいて、現実世界の機械学習アプリケーションにとって不可欠である。
多くの一般的なパラメトリックアプローチは、負の対数確率を最適化することで分布パラメータを推定するためにニューラルネットワークに依存している。
しかし、これらの手法は、トレーニング不安定性やモード崩壊といった課題にしばしば遭遇し、目標出力分布の平均と分散の予測が不十分になる。
本研究では,ニューラル・エナジー・ガウス混合モデル(NE-GMM)を提案する。これは,ガウス混合モデル(GMM)とエナジースコア(ES)を統合し,予測不確実性定量化を強化する新しいフレームワークである。
NE-GMMはGMMの柔軟性を活用し、複雑なマルチモーダル分布を捕捉し、ESの堅牢性を活用し、多様なシナリオで適切に調整された予測を保証する。
理論的には、ハイブリッド損失関数は厳密な適切なスコアリング則の性質を満足し、真のデータ分布との整合性を確保し、一般化誤差境界を確立し、モデルの実証的性能が予期しないデータ上の期待性能と密接に一致していることを証明する。
合成と実世界の両方のデータセットに対する大規模な実験は、予測精度と不確実性定量化の両方の観点からNE-GMMの優位性を示す。
関連論文リスト
- Gaussian Joint Embeddings For Self-Supervised Representation Learning [0.0]
自己パラメトリック表現学習は、しばしば決定論的予測アーキテクチャに頼り、潜在空間におけるコンテキストとターゲットビューを整列させる。
生成的関節モデルに基づく確率的代替案を提案する。
論文 参考訳(メタデータ) (2026-03-26T00:54:54Z) - Beyond the Mean: Distribution-Aware Loss Functions for Bimodal Regression [13.50774354486614]
正規化RMSEとワッサースタイン距離とクラメール距離を組み合わせた分布認識損失関数のファミリーを提案する。
我々のフレームワークは、信頼性と堅牢性の両方においてMDNを厳格に支配し、信頼できるAIシステムにおけるアレタリック不確実性推定のための信頼性の高いツールを提供する。
論文 参考訳(メタデータ) (2026-03-20T18:37:05Z) - Analyzing Uncertainty Quantification in Statistical and Deep Learning Models for Probabilistic Electricity Price Forecasting [0.0]
本研究では,最先端統計・深層学習確率予測モデルにおける不確実性の定量化について検討する。
我々は、ディープ分散ニューラルネットワーク(DDNN)を考察し、それらをアンサンブルアプローチ、モンテカルロ(MC)ドロップアウト、共形予測で強化する。
様々な性能指標から、LEARベースのモデルは確率的予測において良好に機能することがわかった。
論文 参考訳(メタデータ) (2025-09-23T15:20:03Z) - Personalized Federated Learning under Mixture of Distributions [98.25444470990107]
本稿では,ガウス混合モデル(GMM)を用いたPFL(Personalized Federated Learning)を提案する。
FedGMMはオーバーヘッドを最小限に抑え、新しいクライアントに適応する付加的なアドバンテージを持ち、不確実な定量化を可能にします。
PFL分類と新しいサンプル検出の両方において, 合成データセットとベンチマークデータセットの実証評価により, 提案手法の優れた性能を示した。
論文 参考訳(メタデータ) (2023-05-01T20:04:46Z) - Ensemble Multi-Quantiles: Adaptively Flexible Distribution Prediction
for Uncertainty Quantification [4.728311759896569]
本稿では,機械学習における不確実性を定量化するために,分布予測の新しい,簡潔かつ効果的な手法を提案する。
これは回帰タスクにおいて$mathbbP(mathbfy|mathbfX=x)$の適応的に柔軟な分布予測を組み込む。
UCIデータセットからの大規模な回帰タスクでは、EMQが最先端のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2022-11-26T11:45:32Z) - Trustworthy Multimodal Regression with Mixture of Normal-inverse Gamma
Distributions [91.63716984911278]
このアルゴリズムは、異なるモードの適応的統合の原理における不確かさを効率的に推定し、信頼できる回帰結果を生成する。
実世界のデータと実世界のデータの両方に対する実験結果から,多モード回帰タスクにおける本手法の有効性と信頼性が示された。
論文 参考訳(メタデータ) (2021-11-11T14:28:12Z) - Information Theoretic Structured Generative Modeling [13.117829542251188]
構造生成モデル (Structured Generative Model, SGM) と呼ばれる新しい生成モデルフレームワークが提案され, 簡単な最適化が可能となった。
この実装では、無限のガウス混合モデルを学習するために適合した単一白色ノイズ源への正則入力によって駆動される1つのニューラルネットワークを採用している。
予備的な結果は、SGMがデータ効率と分散、従来のガウス混合モデルと変分混合モデル、および敵ネットワークのトレーニングにおいてMINE推定を著しく改善することを示している。
論文 参考訳(メタデータ) (2021-10-12T07:44:18Z) - CovarianceNet: Conditional Generative Model for Correct Covariance
Prediction in Human Motion Prediction [71.31516599226606]
本稿では,将来の軌道の予測分布に関連する不確かさを正確に予測する手法を提案する。
我々のアプローチであるCovariaceNetは、ガウス潜在変数を持つ条件付き生成モデルに基づいている。
論文 参考訳(メタデータ) (2021-09-07T09:38:24Z) - Cauchy-Schwarz Regularized Autoencoder [68.80569889599434]
変分オートエンコーダ(VAE)は、強力で広く使われている生成モデルのクラスである。
GMMに対して解析的に計算できるCauchy-Schwarz分散に基づく新しい制約対象を導入する。
本研究の目的は,密度推定,教師なしクラスタリング,半教師なし学習,顔分析における変分自動エンコーディングモデルの改善である。
論文 参考訳(メタデータ) (2021-01-06T17:36:26Z) - Probabilistic electric load forecasting through Bayesian Mixture Density
Networks [70.50488907591463]
確率的負荷予測(PLF)は、スマートエネルギーグリッドの効率的な管理に必要な拡張ツールチェーンの重要なコンポーネントです。
ベイジアン混合密度ネットワークを枠とした新しいPLFアプローチを提案する。
後方分布の信頼性と計算にスケーラブルな推定を行うため,平均場変動推定と深層アンサンブルを統合した。
論文 参考訳(メタデータ) (2020-12-23T16:21:34Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。