論文の概要: Accurate and Reliable Forecasting using Stochastic Differential
Equations
- arxiv url: http://arxiv.org/abs/2103.15041v1
- Date: Sun, 28 Mar 2021 04:18:11 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-31 14:17:09.268663
- Title: Accurate and Reliable Forecasting using Stochastic Differential
Equations
- Title(参考訳): 確率微分方程式を用いた精度・信頼性予測
- Authors: Peng Cui, Zhijie Deng, Wenbo Hu and Jun Zhu
- Abstract要約: ディープラーニングモデルにとって、現実世界の環境に浸透する不確実性を適切に特徴付けることは、非常に困難である。
本論文では,HNNの予測平均と分散の相互作用を特徴づけるSDE-HNNを開発した。
本手法は,予測性能と不確実性定量化の両方の観点から,最先端のベースラインを著しく上回ることを示す。
- 参考スコア(独自算出の注目度): 48.21369419647511
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: It is critical yet challenging for deep learning models to properly
characterize uncertainty that is pervasive in real-world environments. Although
a lot of efforts have been made, such as heteroscedastic neural networks
(HNNs), little work has demonstrated satisfactory practicability due to the
different levels of compromise on learning efficiency, quality of uncertainty
estimates, and predictive performance. Moreover, existing HNNs typically fail
to construct an explicit interaction between the prediction and its associated
uncertainty. This paper aims to remedy these issues by developing SDE-HNN, a
new heteroscedastic neural network equipped with stochastic differential
equations (SDE) to characterize the interaction between the predictive mean and
variance of HNNs for accurate and reliable regression. Theoretically, we show
the existence and uniqueness of the solution to the devised neural SDE.
Moreover, based on the bias-variance trade-off for the optimization in SDE-HNN,
we design an enhanced numerical SDE solver to improve the learning stability.
Finally, to more systematically evaluate the predictive uncertainty, we present
two new diagnostic uncertainty metrics. Experiments on the challenging datasets
show that our method significantly outperforms the state-of-the-art baselines
in terms of both predictive performance and uncertainty quantification,
delivering well-calibrated and sharp prediction intervals.
- Abstract(参考訳): ディープラーニングモデルにとって、現実世界の環境に浸透する不確実性を適切に特徴付けることは、非常に困難である。
ヘテロシドスティックニューラルネットワーク(hnn)など多くの努力がなされているが、学習効率、不確実性推定の質、予測性能の異なるレベルの妥協によって、実用性が満足できる成果は少ない。
さらに、既存のHNNは予測と関連する不確実性の間に明確な相互作用を構築することができない。
本稿では、確率微分方程式(SDE)を備えた新しいヘテロ代用ニューラルネットワークであるSDE-HNNを開発し、HNNの予測平均と分散の相互作用を正確にかつ信頼性の高い回帰のために特徴付けることにより、これらの問題を解決することを目的とする。
理論的には、考案されたニューラルSDEに対する解の存在と特異性を示す。
さらに、SDE-HNNにおける最適化のためのバイアス分散トレードオフに基づいて、学習安定性を向上させるために、改良された数値SDEソルバを設計する。
最後に、予測の不確かさをより体系的に評価するために、2つの新しい診断不確実性指標を示す。
本手法は,予測性能と不確実性定量化の両方の観点から,最先端のベースラインを著しく上回り,良好な校正と鋭い予測間隔を提供することを示す。
関連論文リスト
- Probabilistic neural operators for functional uncertainty quantification [14.08907045605149]
本稿では,ニューラル演算子の出力関数空間上の確率分布を学習するフレームワークである確率論的ニューラル演算子(PNO)を紹介する。
PNOは、厳密な適切なスコアリングルールに基づく生成モデリングにより、ニューラル演算子を拡張し、不確実性情報をトレーニングプロセスに直接統合する。
論文 参考訳(メタデータ) (2025-02-18T14:42:11Z) - Average-Over-Time Spiking Neural Networks for Uncertainty Estimation in Regression [3.409728296852651]
本稿では,AOT-SNN(Average-Over-Time Spiking Neural Network)フレームワークを回帰タスクに適用する2つの手法を提案する。
おもちゃのデータセットといくつかのベンチマークデータセットの両方に対して、我々のアプローチを評価します。
論文 参考訳(メタデータ) (2024-11-29T23:13:52Z) - Adversarial Learning for Neural PDE Solvers with Sparse Data [4.226449585713182]
本研究では,ロバストトレーニングのためのシステムモデル拡張(Systematic Model Augmentation for Robust Training)という,ニューラルネットワークPDEの普遍的学習戦略を紹介する。
モデルの弱点に挑戦し改善することに集中することにより、SMARTはデータスカース条件下でのトレーニング中の一般化エラーを低減する。
論文 参考訳(メタデータ) (2024-09-04T04:18:25Z) - Uncertainty Calibration with Energy Based Instance-wise Scaling in the Wild Dataset [23.155946032377052]
エネルギーモデルに基づく新しいインスタンスワイドキャリブレーション手法を提案する。
本手法は,ソフトマックス信頼性スコアの代わりにエネルギースコアを組み込むことにより,不確実性を考慮した適応的な検討を可能にする。
実験では,提案手法はスペクトル間のロバストな性能を一貫して維持することを示した。
論文 参考訳(メタデータ) (2024-07-17T06:14:55Z) - Uncertainty in Graph Neural Networks: A Survey [50.63474656037679]
グラフニューラルネットワーク(GNN)は、様々な現実世界のアプリケーションで広く使われている。
しかし、多様な情報源から生じるGNNの予測的不確実性は、不安定で誤った予測につながる可能性がある。
本調査は,不確実性の観点からGNNの概要を概観することを目的としている。
論文 参考訳(メタデータ) (2024-03-11T21:54:52Z) - Uncertainty Quantification for Forward and Inverse Problems of PDEs via
Latent Global Evolution [110.99891169486366]
本稿では,効率的かつ高精度な不確実性定量化を深層学習に基づく代理モデルに統合する手法を提案する。
本手法は,フォワード問題と逆問題の両方に対して,堅牢かつ効率的な不確実性定量化機能を備えたディープラーニングに基づく代理モデルを提案する。
提案手法は, 長期予測を含むシナリオに適合し, 拡張された自己回帰ロールアウトに対する不確かさの伝播に優れる。
論文 参考訳(メタデータ) (2024-02-13T11:22:59Z) - DiffHybrid-UQ: Uncertainty Quantification for Differentiable Hybrid
Neural Modeling [4.76185521514135]
本稿では,ハイブリッドニューラル微分可能モデルにおける有効かつ効率的な不確実性伝播と推定のための新しい手法DiffHybrid-UQを提案する。
具体的には,データノイズとてんかんの不確かさから生じるアレタリック不確かさと,モデル形状の相違やデータ空間のばらつきから生じるエピステマティック不確かさの両方を効果的に識別し,定量化する。
論文 参考訳(メタデータ) (2023-12-30T07:40:47Z) - Variational Voxel Pseudo Image Tracking [127.46919555100543]
不確実性推定は、ロボット工学や自律運転といった重要な問題にとって重要なタスクである。
本稿では,3次元物体追跡のためのVoxel Pseudo Image Tracking (VPIT) の変分ニューラルネットワークによるバージョンを提案する。
論文 参考訳(メタデータ) (2023-02-12T13:34:50Z) - The Unreasonable Effectiveness of Deep Evidential Regression [72.30888739450343]
不確実性を考慮した回帰ベースニューラルネットワーク(NN)による新しいアプローチは、従来の決定論的手法や典型的なベイズ的NNよりも有望であることを示している。
我々は、理論的欠点を詳述し、合成および実世界のデータセットのパフォーマンスを分析し、Deep Evidential Regressionが正確な不確実性ではなく定量化であることを示す。
論文 参考訳(メタデータ) (2022-05-20T10:10:32Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。