論文の概要: Deep Ensembles Meets Quantile Regression: Uncertainty-aware Imputation
for Time Series
- arxiv url: http://arxiv.org/abs/2312.01294v1
- Date: Sun, 3 Dec 2023 05:52:30 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-05 18:06:35.883072
- Title: Deep Ensembles Meets Quantile Regression: Uncertainty-aware Imputation
for Time Series
- Title（参考訳）: 量子レグレッションの深層アンサンブル:不確かさを意識した時系列計算
- Authors: Ying Liu, Peng Cui, Wenbo Hu, Richang Hong
- Abstract要約: 時系列データは、しばしば多くの欠落した値を示し、これは時系列計算タスクである。
従来の深層学習法は時系列計算に有効であることが示されている。
本研究では,不確実性のある高精度な計算を行う非生成時系列計算法を提案する。
- 参考スコア（独自算出の注目度）: 49.992908221544624
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multivariate time series are everywhere. Nevertheless, real-world time series
data often exhibit numerous missing values, which is the time series imputation
task. Although previous deep learning methods have been shown to be effective
for time series imputation, they are shown to produce overconfident
imputations, which might be a potentially overlooked threat to the reliability
of the intelligence system. Score-based diffusion method(i.e., CSDI) is
effective for the time series imputation task but computationally expensive due
to the nature of the generative diffusion model framework. In this paper, we
propose a non-generative time series imputation method that produces accurate
imputations with inherent uncertainty and meanwhile is computationally
efficient. Specifically, we incorporate deep ensembles into quantile regression
with a shared model backbone and a series of quantile discrimination
functions.This framework combines the merits of accurate uncertainty estimation
of deep ensembles and quantile regression and above all, the shared model
backbone tremendously reduces most of the computation overhead of the multiple
ensembles. We examine the performance of the proposed method on two real-world
datasets: air quality and health-care datasets and conduct extensive
experiments to show that our method excels at making deterministic and
probabilistic predictions. Compared with the score-based diffusion method:
CSDI, we can obtain comparable forecasting results and is better when more data
is missing. Furthermore, as a non-generative model compared with CSDI, the
proposed method consumes a much smaller computation overhead, yielding much
faster training speed and fewer model parameters.
- Abstract（参考訳）: 多変量時系列は至る所にある。
それにもかかわらず、現実世界の時系列データは、しばしば多くの欠落した値を示し、それは時系列インプテーションタスクである。
従来の深層学習手法は時系列の計算に有効であることが示されているが、情報システムの信頼性に対する潜在的に見過ごされた脅威である、過信的な計算を発生させることが示されている。
スコアベース拡散法(CSDI)は時系列計算作業には有効であるが,生成拡散モデルフレームワークの性質から計算コストがかかる。
本稿では,固有不確実性と計算効率を両立させる非生成時系列インプテーション手法を提案する。
具体的には,共用モデルバックボーンと分位数識別関数の連成による分位数回帰にディープアンサンブルを組み込んだ。この枠組みは,ディープアンサンブルの正確な不確実性推定と分位数回帰の利点を組み合わせることにより,共有モデルバックボーンは,複数のアンサンブルの計算オーバーヘッドの大部分を大幅に削減する。
提案手法は, 空気質と医療データセットの2つの実世界のデータセットにおいて, 提案手法の性能を検証し, 決定論的および確率論的予測に優れることを示す。
スコアベース拡散法と比較すると、CSDI は同等の予測結果を得ることができ、より多くのデータが欠落した場合により良い結果が得られる。
さらに, csdiと比較した非生成モデルとして, 提案手法は計算オーバーヘッドを大幅に削減し, 学習速度の高速化とモデルパラメータの低減を実現している。
関連論文リスト
- SoftDedup: an Efficient Data Reweighting Method for Speeding Up Language Model Pre-training [12.745160748376794]
本稿では,データセットの整合性を維持しつつ,データのサンプリング重量を高い共通度で選択的に削減するソフトデ重複手法を提案する。
このアプローチの中心にあるのは、重複の度合いを定量化する指標である"データ共通性"(data commonness)の概念です。
経験的分析により、この手法はトレーニング効率を著しく改善し、必要なトレーニングステップを少なくとも26%減らすことなく、同等のパープレキシティスコアを達成できることが示されている。
論文 参考訳（メタデータ） (2024-07-09T08:26:39Z) - Uncertainty-Aware Deep Attention Recurrent Neural Network for
Heterogeneous Time Series Imputation [0.25112747242081457]
欠落は多変量時系列においてユビキタスであり、信頼できる下流分析の障害となる。
本稿では、欠落した値とその関連不確かさを共同で推定するDeep Attention Recurrent Imputation (Imputation)を提案する。
実験の結果,実世界のデータセットを用いた多様な計算タスクにおいて,SOTAを上回っていることがわかった。
論文 参考訳（メタデータ） (2024-01-04T13:21:11Z) - ImDiffusion: Imputed Diffusion Models for Multivariate Time Series
Anomaly Detection [44.21198064126152]
我々はImDiffusionという新しい異常検出フレームワークを提案する。
ImDiffusionは時系列計算と拡散モデルを組み合わせて、正確で堅牢な異常検出を実現する。
我々はImDiffusionの性能をベンチマークデータセットの広範な実験により評価する。
論文 参考訳（メタデータ） (2023-07-03T04:57:40Z) - Adapting to Continuous Covariate Shift via Online Density Ratio Estimation [64.8027122329609]
分散シフトへの対処は、現代の機械学習における中心的な課題の1つだ。
歴史的情報を適切に再利用するオンライン手法を提案する。
我々の密度比推定法は, ダイナミックなリセットバウンドを楽しむことにより, 良好に動作できることが証明された。
論文 参考訳（メタデータ） (2023-02-06T04:03:33Z) - ZigZag: Universal Sampling-free Uncertainty Estimation Through Two-Step Inference [54.17205151960878]
汎用的でデプロイが容易なサンプリング不要のアプローチを導入します。
我々は,最先端手法と同等の信頼性のある不確実性推定を,計算コストを著しく低減した形で生成する。
論文 参考訳（メタデータ） (2022-11-21T13:23:09Z) - HyperImpute: Generalized Iterative Imputation with Automatic Model
Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。
既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文 参考訳（メタデータ） (2022-06-15T19:10:35Z) - Multiple Imputation via Generative Adversarial Network for
High-dimensional Blockwise Missing Value Problems [6.123324869194195]
本稿では,GAN(Generative Adversarial Network)による多重インプットを提案する。
MI-GANは、高次元データセット上で既存の最先端計算手法と高い性能を示す。
特に、MI-GANは統計的推測と計算速度の点で他の計算方法よりも優れている。
論文 参考訳（メタデータ） (2021-12-21T20:19:37Z) - CSDI: Conditional Score-based Diffusion Models for Probabilistic Time
Series Imputation [107.63407690972139]
Conditional Score-based Diffusion Model for Imputation (CSDI) は、観測データに条件付きスコアベース拡散モデルを利用する新しい時系列計算法である。
CSDIは、一般的なパフォーマンスメトリクスの既存の確率論的計算方法よりも40-70%改善されている。
さらに、Cは最先端の決定論的計算法と比較して誤差を5-20%削減する。
論文 参考訳（メタデータ） (2021-07-07T22:20:24Z) - Quantifying Uncertainty in Deep Spatiotemporal Forecasting [67.77102283276409]
本稿では,正規格子法とグラフ法という2種類の予測問題について述べる。
我々はベイジアンおよび頻繁な視点からUQ法を解析し、統計的決定理論を通じて統一的な枠組みを提示する。
実際の道路ネットワークのトラフィック、疫病、空気質予測タスクに関する広範な実験を通じて、異なるUQ手法の統計計算トレードオフを明らかにする。
論文 参考訳（メタデータ） (2021-05-25T14:35:46Z) - Multi-Loss Sub-Ensembles for Accurate Classification with Uncertainty
Estimation [1.2891210250935146]
本稿では,ディープニューラルネットワーク(DNN)の高精度な不確実性推定手法を提案する。
我々は,Deep-Sub-Ensembles法によって提案される利点を利用して,推定時間を比較的低く保つ。
その結果,いくつかの不確実性対策における分類課題と競争結果の精度が向上した。
論文 参考訳（メタデータ） (2020-10-05T10:59:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。