論文の概要: Multimodal Teacher Forcing for Reconstructing Nonlinear Dynamical Systems

• arxiv url: http://arxiv.org/abs/2212.07892v1
• Date: Thu, 15 Dec 2022 15:21:28 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-16 18:18:20.411186
• Title: Multimodal Teacher Forcing for Reconstructing Nonlinear Dynamical Systems
• Title（参考訳）: 非線形力学系再構築のためのマルチモーダル教師強制
• Authors: Manuel Brenner and Georgia Koppe and Daniel Durstewitz
• Abstract要約: マルチモーダル変分オートエンコーダ(MVAE)に基づくDS再構成のための新しいリカレントニューラルネットワーク(RNN)トレーニングフレームワークを提案する。 本手法は,様々な代替手法よりも,カオスDSベンチマークから生成されたマルチモーダルデータセットの再構成を著しく向上することを示す。
• 参考スコア（独自算出の注目度）: 5.715103211247915
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Many, if not most, systems of interest in science are naturally described as nonlinear dynamical systems (DS). Empirically, we commonly access these systems through time series measurements, where often we have time series from different types of data modalities simultaneously. For instance, we may have event counts in addition to some continuous signal. While by now there are many powerful machine learning (ML) tools for integrating different data modalities into predictive models, this has rarely been approached so far from the perspective of uncovering the underlying, data-generating DS (aka DS reconstruction). Recently, sparse teacher forcing (TF) has been suggested as an efficient control-theoretic method for dealing with exploding loss gradients when training ML models on chaotic DS. Here we incorporate this idea into a novel recurrent neural network (RNN) training framework for DS reconstruction based on multimodal variational autoencoders (MVAE). The forcing signal for the RNN is generated by the MVAE which integrates different types of simultaneously given time series data into a joint latent code optimal for DS reconstruction. We show that this training method achieves significantly better reconstructions on multimodal datasets generated from chaotic DS benchmarks than various alternative methods.
• Abstract（参考訳）: 科学に関心のある多くのシステムは自然に非線形力学系(英語版)(ds)と呼ばれる。 経験的に、我々はこれらのシステムに時系列測定を通してアクセスし、異なるタイプのデータモーダルから時系列を同時に取得することが多い。 例えば、連続的な信号に加えて、イベントカウントがあるかもしれません。 現在までに、さまざまなデータモダリティを予測モデルに統合する強力な機械学習(ml)ツールが数多く存在するが、基礎となるデータ生成ds(dsリコンストラクション)を明らかにするという観点からは、これがアプローチされることはほとんどない。 近年,カオスDS上でMLモデルをトレーニングする際,分散教師強制(TF)は,爆発的損失勾配を扱うための効率的な制御理論として提案されている。 本稿では,このアイデアをマルチモーダル変分オートエンコーダ(MVAE)に基づくDS再構成のための新しいリカレントニューラルネットワーク(RNN)トレーニングフレームワークに組み込む。 RNNの強制信号は、異なる種類の与えられた時系列データをDS再構成に最適なジョイント潜在コードに統合するMVAEによって生成される。 本手法は,様々な代替手法よりも,カオスDSベンチマークから生成されたマルチモーダルデータセットの大幅な再構築を実現する。

関連論文リスト

• Learning Interpretable Hierarchical Dynamical Systems Models from Time Series Data [6.3128614613706295]
  単一ドメインの動的特性を維持しつつ,グループレベル(複数ドメイン)情報を効率的に取得する方法を示す。 全ての動的状態の忠実な再構築に加えて、我々の教師なし方法論は共通の低次元特徴空間を発見する。
  論文  参考訳（メタデータ） (2024-10-07T07:54:53Z)
• Learning System Dynamics without Forgetting [60.08612207170659]
  未知の力学を持つ系の軌道予測は、物理学や生物学を含む様々な研究分野において重要である。 本稿では,モードスイッチンググラフODE (MS-GODE) の新たなフレームワークを提案する。 生体力学の異なる多様な系を特徴とする生体力学システムの新しいベンチマークを構築した。
  論文  参考訳（メタデータ） (2024-06-30T14:55:18Z)
• Neural Koopman prior for data assimilation [7.875955593012905]
  ニューラルネットワークアーキテクチャを使って、潜在空間に動的システムを埋め込む。 本研究では,このようなモデルを長期の継続的再構築のために訓練する手法を提案する。 また,変動データ同化手法の先行として,訓練された動的モデルの有望な利用を示すとともに,自己教師型学習の可能性も示された。
  論文  参考訳（メタデータ） (2023-09-11T09:04:36Z)
• Learning Latent Dynamics via Invariant Decomposition and (Spatio-)Temporal Transformers [0.6767885381740952]
  本研究では,高次元経験データから力学系を学習する手法を提案する。 我々は、システムの複数の異なるインスタンスからデータが利用できる設定に焦点を当てる。 我々は、単純な理論的分析と、合成および実世界のデータセットに関する広範な実験を通して行動を研究する。
  論文  参考訳（メタデータ） (2023-06-21T07:52:07Z)
• Capturing dynamical correlations using implicit neural representations [85.66456606776552]
  実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。 そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
  論文  参考訳（メタデータ） (2023-04-08T07:55:36Z)
• Capturing Actionable Dynamics with Structured Latent Ordinary Differential Equations [68.62843292346813]
  本稿では,その潜在表現内でのシステム入力の変動をキャプチャする構造付き潜在ODEモデルを提案する。 静的変数仕様に基づいて,本モデルではシステムへの入力毎の変動要因を学習し,潜在空間におけるシステム入力の影響を分離する。
  論文  参考訳（メタデータ） (2022-02-25T20:00:56Z)
• Leveraging the structure of dynamical systems for data-driven modeling [111.45324708884813]
  トレーニングセットとその構造が長期予測の品質に与える影響を考察する。 トレーニングセットのインフォームドデザインは,システムの不変性と基盤となるアトラクションの構造に基づいて,結果のモデルを大幅に改善することを示す。
  論文  参考訳（メタデータ） (2021-12-15T20:09:20Z)
• Identifying nonlinear dynamical systems from multi-modal time series data [3.721528851694675]
  物理学、生物学、医学における経験的に観察された時系列は、一般的に、基礎となる力学系(DS)によって生成される。 完全にデータ駆動で教師なしの方法で、この潜伏するDSを再構築するための機械学習手法の収集への関心が高まっている。 本稿では,非線形DS識別とクロスモーダル予測を目的としたマルチモーダルデータ統合のための汎用フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-11-04T14:59:28Z)
• Continuous-in-Depth Neural Networks [107.47887213490134]
  まず最初に、このリッチな意味では、ResNetsは意味のある動的でないことを示します。 次に、ニューラルネットワークモデルが連続力学系を表現することを実証する。 ResNetアーキテクチャの詳細な一般化としてContinuousNetを紹介します。
  論文  参考訳（メタデータ） (2020-08-05T22:54:09Z)
• Variational Hyper RNN for Sequence Modeling [69.0659591456772]
  本稿では,時系列データにおける高変数の取得に優れる新しい確率的シーケンスモデルを提案する。 提案手法では,時間潜時変数を用いて基礎となるデータパターンに関する情報をキャプチャする。 提案手法の有効性を,合成および実世界のシーケンシャルデータに示す。
  論文  参考訳（メタデータ） (2020-02-24T19:30:32Z)
• Relational State-Space Model for Stochastic Multi-Object Systems [24.234120525358456]
  本稿では、逐次階層型潜在変数モデルであるリレーショナル状態空間モデル(R-SSM)を紹介する。 R-SSMはグラフニューラルネットワーク(GNN)を用いて、複数の相関オブジェクトの結合状態遷移をシミュレートする。 R-SSMの実用性は、合成および実時間時系列データセットで実証的に評価される。
  論文  参考訳（メタデータ） (2020-01-13T03:45:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。