論文の概要: Invariant Neural Ordinary Differential Equations

• arxiv url: http://arxiv.org/abs/2302.13262v1
• Date: Sun, 26 Feb 2023 08:26:01 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-28 18:03:11.710361
• Title: Invariant Neural Ordinary Differential Equations
• Title（参考訳）: 不変神経常微分方程式
• Authors: Ilze Amanda Auzina, \c{C}a\u{g}atay Y{\i}ld{\i}z, Sara Magliacane, Matthias Bethge and Efstratios Gavves
• Abstract要約: 我々は、時間不変変数から完全にデータ駆動の方法で動的状態を切り離すことを提案する。 このような変数は、潜時微分関数を制御したり、潜時微分関数から観測へのマッピングをパラメータ化することができる。 低次元発振システムとビデオシーケンスの実験により,我々の不整合モデルが長期予測の改善を実現することが明らかとなった。
• 参考スコア（独自算出の注目度）: 32.28903073498105
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Latent neural ordinary differential equations have been proven useful for learning non-linear dynamics of arbitrary sequences. In contrast with their mechanistic counterparts, the predictive accuracy of neural ODEs decreases over longer prediction horizons (Rubanova et al., 2019). To mitigate this issue, we propose disentangling dynamic states from time-invariant variables in a completely data-driven way, enabling robust neural ODE models that can generalize across different settings. We show that such variables can control the latent differential function and/or parameterize the mapping from latent variables to observations. By explicitly modeling the time-invariant variables, our framework enables the use of recent advances in representation learning. We demonstrate this by introducing a straightforward self-supervised objective that enhances the learning of these variables. The experiments on low-dimensional oscillating systems and video sequences reveal that our disentangled model achieves improved long-term predictions, when the training data involve sequence-specific factors of variation such as different rotational speeds, calligraphic styles, and friction constants.
• Abstract（参考訳）: 潜在神経常微分方程式は任意の列の非線形ダイナミクスを学ぶのに有用であることが証明されている。 機械的手法とは対照的に、ニューラルODEの予測精度は長い予測地平線よりも低下する(Rubanova et al., 2019)。 この問題を緩和するために、時間不変変数から完全にデータ駆動の方法で動的状態の分離を提案し、異なる設定をまたいで一般化可能な堅牢なニューラルODEモデルを実現する。 このような変数は潜時微分関数を制御でき、また潜時変数から観測値へのマッピングをパラメータ化することができる。 時間不変変数を明示的にモデル化することにより,最近の表現学習の進歩を活用できる。 本稿では,これらの変数の学習を円滑に促進する自己指導的目的を導入することでこれを実証する。 低次元発振システムとビデオシーケンスの実験により, 異なる回転速度, 書式, 摩擦定数などの変動要因を学習データに含める場合, 遠絡モデルにより長期予測が向上することが判明した。

関連論文リスト

• Latent Space Energy-based Neural ODEs [73.01344439786524]
  本稿では,連続時間シーケンスデータを表現するために設計された深部力学モデルの新しいファミリを紹介する。 マルコフ連鎖モンテカルロの最大推定値を用いてモデルを訓練する。 発振システム、ビデオ、実世界の状態シーケンス(MuJoCo)の実験は、学習可能なエネルギーベース以前のODEが既存のものより優れていることを示している。
  論文  参考訳（メタデータ） (2024-09-05T18:14:22Z)
• Mamba-FSCIL: Dynamic Adaptation with Selective State Space Model for Few-Shot Class-Incremental Learning [113.89327264634984]
  FSCIL(Few-shot class-incremental Learning)は、最小限のトレーニングサンプルを持つモデルに新しいクラスを統合するという課題に直面している。 従来の手法では、固定パラメータ空間に依存する静的適応を広く採用し、逐次到着するデータから学習する。 本稿では、動的適応のための中間特徴に基づいてプロジェクションパラメータを動的に調整する2つの選択型SSMプロジェクタを提案する。
  論文  参考訳（メタデータ） (2024-07-08T17:09:39Z)
• Neural Context Flows for Meta-Learning of Dynamical Systems [0.7373617024876724]
  本稿では,不確実性推定を含むメタラーニングフレームワークであるNeural Context Flow (NCF)を紹介する。 NCFは6つの線形および非線形ベンチマーク問題のうち5つで最先端のOut-of-Distribution性能を達成する。 本研究は,NCFが物理科学の基礎モデルにもたらす影響を明らかにするものである。
  論文  参考訳（メタデータ） (2024-05-03T15:02:21Z)
• Equivariant Graph Neural Operator for Modeling 3D Dynamics [148.98826858078556]
  我々は,次のステップの予測ではなく,ダイナミックスを直接トラジェクトリとしてモデル化するために,Equivariant Graph Neural Operator (EGNO)を提案する。 EGNOは3次元力学の時間的進化を明示的に学習し、時間とともに関数として力学を定式化し、それを近似するためにニューラル演算子を学習する。 粒子シミュレーション、人間のモーションキャプチャー、分子動力学を含む複数の領域における総合的な実験は、既存の手法と比較して、EGNOの極めて優れた性能を示す。
  論文  参考訳（メタデータ） (2024-01-19T21:50:32Z)
• Learning Neural Constitutive Laws From Motion Observations for Generalizable PDE Dynamics [97.38308257547186]
  多くのNNアプローチは、支配的PDEと物質モデルの両方を暗黙的にモデル化するエンドツーエンドモデルを学ぶ。 PDEの管理はよく知られており、学習よりも明示的に実施されるべきである、と私たちは主張する。 そこで我々は,ネットワークアーキテクチャを利用したニューラル構成則(Neural Constitutive Laws,NCLaw)と呼ばれる新しいフレームワークを導入する。
  論文  参考訳（メタデータ） (2023-04-27T17:42:24Z)
• Human Trajectory Prediction via Neural Social Physics [63.62824628085961]
  軌道予測は多くの分野において広く研究され、多くのモデルベースおよびモデルフリーな手法が研究されている。 ニューラル微分方程式モデルに基づく新しい手法を提案する。 我々の新しいモデル(ニューラル社会物理学またはNSP)は、学習可能なパラメータを持つ明示的な物理モデルを使用するディープニューラルネットワークである。
  論文  参考訳（メタデータ） (2022-07-21T12:11:18Z)
• Neural Modal ODEs: Integrating Physics-based Modeling with Neural ODEs for Modeling High Dimensional Monitored Structures [9.065343126886093]
  本稿では、物理に基づくモデリングとディープラーニングを統合するためのフレームワーク、Neural Modal ODEを提案する。 オートエンコーダは、観測データの最初の数項目から潜伏変数の初期値までの抽象的なマッピングを学習する。 提案モデルの復号器は, 線形化部分に適用された固有解析から導出した固有モードを物理モデルに適用する。
  論文  参考訳（メタデータ） (2022-07-16T09:30:20Z)
• Incorporating NODE with Pre-trained Neural Differential Operator for Learning Dynamics [73.77459272878025]
  ニューラル微分演算子(NDO)の事前学習による動的学習における教師付き信号の強化を提案する。 NDOは記号関数のクラスで事前訓練され、これらの関数の軌跡サンプルとそれらの導関数とのマッピングを学習する。 我々は,NDOの出力が,ライブラリの複雑さを適切に調整することで,基礎となる真理微分を適切に近似できることを理論的に保証する。
  論文  参考訳（メタデータ） (2021-06-08T08:04:47Z)
• Go with the Flow: Adaptive Control for Neural ODEs [10.265713480189484]
  ニューラル制御ODE(N-CODE)と呼ばれる新しいモジュールについて述べる。 N-CODEモジュールは、初期または現在のアクティベーション状態からトレーニング可能なマップによって制御される動的変数である。 単一モジュールは、適応的に神経表現を駆動する非自律フロー上の分布を学ぶのに十分である。
  論文  参考訳（メタデータ） (2020-06-16T22:21:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。