論文の概要: Learning Differential Operators for Interpretable Time Series Modeling

• arxiv url: http://arxiv.org/abs/2209.01491v1
• Date: Sat, 3 Sep 2022 20:14:31 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-07 15:38:09.568848
• Title: Learning Differential Operators for Interpretable Time Series Modeling
• Title（参考訳）: 解釈可能な時系列モデリングのための学習微分演算子
• Authors: Yingtao Luo, Chang Xu, Yang Liu, Weiqing Liu, Shun Zheng and Jiang Bian
• Abstract要約: 逐次データから解釈可能なPDEモデルを自動的に取得できる学習フレームワークを提案する。 我々のモデルは、貴重な解釈可能性を提供し、最先端モデルに匹敵する性能を達成することができる。
• 参考スコア（独自算出の注目度）: 34.32259687441212
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Modeling sequential patterns from data is at the core of various time series forecasting tasks. Deep learning models have greatly outperformed many traditional models, but these black-box models generally lack explainability in prediction and decision making. To reveal the underlying trend with understandable mathematical expressions, scientists and economists tend to use partial differential equations (PDEs) to explain the highly nonlinear dynamics of sequential patterns. However, it usually requires domain expert knowledge and a series of simplified assumptions, which is not always practical and can deviate from the ever-changing world. Is it possible to learn the differential relations from data dynamically to explain the time-evolving dynamics? In this work, we propose an learning framework that can automatically obtain interpretable PDE models from sequential data. Particularly, this framework is comprised of learnable differential blocks, named $P$-blocks, which is proved to be able to approximate any time-evolving complex continuous functions in theory. Moreover, to capture the dynamics shift, this framework introduces a meta-learning controller to dynamically optimize the hyper-parameters of a hybrid PDE model. Extensive experiments on times series forecasting of financial, engineering, and health data show that our model can provide valuable interpretability and achieve comparable performance to state-of-the-art models. From empirical studies, we find that learning a few differential operators may capture the major trend of sequential dynamics without massive computational complexity.
• Abstract（参考訳）: データからのシーケンシャルパターンのモデリングは、様々な時系列予測タスクの中核である。 ディープラーニングモデルは、多くの伝統的なモデルを大きく上回っているが、これらのブラックボックスモデルは、一般的に予測と意思決定における説明可能性に欠けている。 理解可能な数学的表現で基礎となる傾向を明らかにするために、科学者や経済学者は偏微分方程式(pdes)を使ってシーケンシャルパターンの高度に非線形なダイナミクスを説明する傾向がある。 しかし、通常、ドメインエキスパートの知識と一連の単純化された仮定が必要であり、それは必ずしも実用的ではなく、絶えず変化する世界から逸脱することができる。 時間進化力学を説明するためにデータから微分関係を動的に学習することは可能か? 本研究では,逐次データから解釈可能なPDEモデルを自動的に取得する学習フレームワークを提案する。 特に、このフレームワークは $p$-blocks と呼ばれる学習可能な微分ブロックで構成されており、理論上、任意の時間発展する複素連続関数を近似できることが証明されている。 さらに,動的シフトを捉えるために,ハイブリッドPDEモデルのハイパーパラメータを動的に最適化するメタ学習コントローラを導入する。 ファイナンシャル、エンジニアリング、ヘルスデータの時系列予測に関する大規模な実験は、我々のモデルが貴重な解釈可能性を提供し、最先端のモデルに匹敵する性能を達成できることを示している。 実験的な研究から、数個の微分作用素の学習が、膨大な計算複雑性を伴わないシーケンシャルダイナミクスの大きなトレンドを捉えていることが分かる。

関連論文リスト

• Latent Space Energy-based Neural ODEs [73.01344439786524]
  本稿では,連続時間シーケンスデータを表現するために設計された深部力学モデルの新しいファミリを紹介する。 マルコフ連鎖モンテカルロの最大推定値を用いてモデルを訓練する。 発振システム、ビデオ、実世界の状態シーケンス(MuJoCo)の実験は、学習可能なエネルギーベース以前のODEが既存のものより優れていることを示している。
  論文  参考訳（メタデータ） (2024-09-05T18:14:22Z)
• PDETime: Rethinking Long-Term Multivariate Time Series Forecasting from the perspective of partial differential equations [49.80959046861793]
  本稿では,ニューラルPDEソルバの原理に着想を得た新しいLMTFモデルであるPDETimeを提案する。 7つの異なる時間的実世界のLMTFデータセットを用いた実験により、PDETimeがデータ固有の性質に効果的に適応できることが判明した。
  論文  参考訳（メタデータ） (2024-02-25T17:39:44Z)
• Generative learning for nonlinear dynamics [7.6146285961466]
  生成機械学習モデルは、トレーニングデータを超えて、現実的なアウトプットを生成します。 これらの成功は、生成モデルが任意の複雑な分布を効果的にパラメータ化し、サンプリングすることを学ぶことを示唆している。 我々は,これらの古典作品と大規模生成統計学習の新たなテーマを結びつけることを目的としている。
  論文  参考訳（メタデータ） (2023-11-07T16:53:56Z)
• Anamnesic Neural Differential Equations with Orthogonal Polynomial Projections [6.345523830122166]
  本稿では,長期記憶を強制し,基礎となる力学系の大域的表現を保存する定式化であるPolyODEを提案する。 提案手法は理論的保証に支えられ,過去と将来のデータの再構築において,過去の成果よりも優れていたことを実証する。
  論文  参考訳（メタデータ） (2023-03-03T10:49:09Z)
• Learning PDE Solution Operator for Continuous Modeling of Time-Series [1.39661494747879]
  この研究は、動的モデリング能力を改善する偏微分方程式(PDE)に基づくフレームワークを提案する。 時間的離散化の反復的操作や特定のグリッドを必要とせずに連続的に処理できるニューラル演算子を提案する。 我々のフレームワークは、現実世界のアプリケーションに容易に適用可能な、ニューラルネットワークの継続的な表現のための新しい方法を開く。
  論文  参考訳（メタデータ） (2023-02-02T03:47:52Z)
• Dynamic Latent Separation for Deep Learning [67.62190501599176]
  機械学習の中核的な問題は、複雑なデータに対するモデル予測のための表現力のある潜在変数を学習することである。 本稿では,表現性を向上し,部分的解釈を提供し,特定のアプリケーションに限定されないアプローチを開発する。
  論文  参考訳（メタデータ） (2022-10-07T17:56:53Z)
• Learning continuous models for continuous physics [94.42705784823997]
  本研究では,科学技術応用のための機械学習モデルを検証する数値解析理論に基づくテストを開発する。 本研究は,従来のMLトレーニング/テスト手法と一体化して,科学・工学分野におけるモデルの検証を行う方法である。
  論文  参考訳（メタデータ） (2022-02-17T07:56:46Z)
• Closed-form Continuous-Depth Models [99.40335716948101]
  連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。 我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
  論文  参考訳（メタデータ） (2021-06-25T22:08:51Z)
• Generative Temporal Difference Learning for Infinite-Horizon Prediction [101.59882753763888]
  我々は、無限確率的地平線を持つ環境力学の予測モデルである$gamma$-modelを導入する。 トレーニングタイムとテストタイムの複合的なエラーの間には、そのトレーニングが避けられないトレードオフを反映しているかについて議論する。
  論文  参考訳（メタデータ） (2020-10-27T17:54:12Z)
• Variational Dynamic Mixtures [18.730501689781214]
  逐次潜伏変数を推定するための変分動的混合(VDM)を開発した。 実証実験により、VDMは、高マルチモーダルデータセットにおける競合するアプローチよりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-10-20T16:10:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。