論文の概要: Modulated Neural ODEs
- arxiv url: http://arxiv.org/abs/2302.13262v3
- Date: Mon, 13 Nov 2023 08:09:52 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-14 22:31:27.236640
- Title: Modulated Neural ODEs
- Title(参考訳): 変調ニューラルネットワーク
- Authors: Ilze Amanda Auzina, \c{C}a\u{g}atay Y{\i}ld{\i}z, Sara Magliacane,
Matthias Bethge and Efstratios Gavves
- Abstract要約: 変動の静的因子から動的状態を分離する新しいフレームワークであるModulated Neural ODEs (MoNODEs)を紹介する。
振動系,ビデオおよび人間の歩行軌跡でMoNODEを試験し,各軌跡に軌跡特異的な変調が認められた。
- 参考スコア(独自算出の注目度): 32.2290908839375
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural ordinary differential equations (NODEs) have been proven useful for
learning non-linear dynamics of arbitrary trajectories. However, current NODE
methods capture variations across trajectories only via the initial state value
or by auto-regressive encoder updates. In this work, we introduce Modulated
Neural ODEs (MoNODEs), a novel framework that sets apart dynamics states from
underlying static factors of variation and improves the existing NODE methods.
In particular, we introduce $\textit{time-invariant modulator variables}$ that
are learned from the data. We incorporate our proposed framework into four
existing NODE variants. We test MoNODE on oscillating systems, videos and human
walking trajectories, where each trajectory has trajectory-specific modulation.
Our framework consistently improves the existing model ability to generalize to
new dynamic parameterizations and to perform far-horizon forecasting. In
addition, we verify that the proposed modulator variables are informative of
the true unknown factors of variation as measured by $R^2$ scores.
- Abstract(参考訳): 神経常微分方程式(ノード)は任意の軌道の非線形ダイナミクスを学ぶのに有用であることが証明されている。
しかし、現在のNODEメソッドは、初期状態値または自動回帰エンコーダ更新によってのみ、トラジェクトリ間のバリエーションをキャプチャする。
本研究では,動的状態と変動の基本的な静的要因を分離し,既存のNODE法を改善する新しいフレームワークであるModulated Neural ODEs(MoNODEs)を紹介する。
特に、データから学習した$\textit{time-invariant modulator variables}$を紹介します。
提案するフレームワークを4つの既存のNODEに組み込む。
振動系,ビデオおよび人間の歩行軌跡でMoNODEを試験し,各軌跡は軌道特異的な変調を有することを示した。
我々のフレームワークは、新しい動的パラメータ化に一般化し、極水平予測を行う既存のモデル能力を一貫して改善する。
さらに,提案する変調器変数が,$r^2$スコアで測定した真の未知の変動要因について有意であることを確認した。
関連論文リスト
- Latent Space Energy-based Neural ODEs [73.01344439786524]
本稿では,連続時間シーケンスデータを表現するために設計された深部力学モデルの新しいファミリを紹介する。
マルコフ連鎖モンテカルロの最大推定値を用いてモデルを訓練する。
発振システム、ビデオ、実世界の状態シーケンス(MuJoCo)の実験は、学習可能なエネルギーベース以前のODEが既存のものより優れていることを示している。
論文 参考訳(メタデータ) (2024-09-05T18:14:22Z) - Mamba-FSCIL: Dynamic Adaptation with Selective State Space Model for Few-Shot Class-Incremental Learning [113.89327264634984]
FSCIL(Few-shot class-incremental Learning)は、最小限のトレーニングサンプルを持つモデルに新しいクラスを統合するという課題に直面している。
従来の手法では、固定パラメータ空間に依存する静的適応を広く採用し、逐次到着するデータから学習する。
本稿では、動的適応のための中間特徴に基づいてプロジェクションパラメータを動的に調整する2つの選択型SSMプロジェクタを提案する。
論文 参考訳(メタデータ) (2024-07-08T17:09:39Z) - Neural Context Flows for Meta-Learning of Dynamical Systems [0.7373617024876724]
本稿では,不確実性推定を含むメタラーニングフレームワークであるNeural Context Flow (NCF)を紹介する。
NCFは6つの線形および非線形ベンチマーク問題のうち5つで最先端のOut-of-Distribution性能を達成する。
本研究は,NCFが物理科学の基礎モデルにもたらす影響を明らかにするものである。
論文 参考訳(メタデータ) (2024-05-03T15:02:21Z) - Equivariant Graph Neural Operator for Modeling 3D Dynamics [148.98826858078556]
我々は,次のステップの予測ではなく,ダイナミックスを直接トラジェクトリとしてモデル化するために,Equivariant Graph Neural Operator (EGNO)を提案する。
EGNOは3次元力学の時間的進化を明示的に学習し、時間とともに関数として力学を定式化し、それを近似するためにニューラル演算子を学習する。
粒子シミュレーション、人間のモーションキャプチャー、分子動力学を含む複数の領域における総合的な実験は、既存の手法と比較して、EGNOの極めて優れた性能を示す。
論文 参考訳(メタデータ) (2024-01-19T21:50:32Z) - Learning Neural Constitutive Laws From Motion Observations for
Generalizable PDE Dynamics [97.38308257547186]
多くのNNアプローチは、支配的PDEと物質モデルの両方を暗黙的にモデル化するエンドツーエンドモデルを学ぶ。
PDEの管理はよく知られており、学習よりも明示的に実施されるべきである、と私たちは主張する。
そこで我々は,ネットワークアーキテクチャを利用したニューラル構成則(Neural Constitutive Laws,NCLaw)と呼ばれる新しいフレームワークを導入する。
論文 参考訳(メタデータ) (2023-04-27T17:42:24Z) - Human Trajectory Prediction via Neural Social Physics [63.62824628085961]
軌道予測は多くの分野において広く研究され、多くのモデルベースおよびモデルフリーな手法が研究されている。
ニューラル微分方程式モデルに基づく新しい手法を提案する。
我々の新しいモデル(ニューラル社会物理学またはNSP)は、学習可能なパラメータを持つ明示的な物理モデルを使用するディープニューラルネットワークである。
論文 参考訳(メタデータ) (2022-07-21T12:11:18Z) - Neural Modal ODEs: Integrating Physics-based Modeling with Neural ODEs
for Modeling High Dimensional Monitored Structures [9.065343126886093]
本稿では、物理に基づくモデリングとディープラーニングを統合するためのフレームワーク、Neural Modal ODEを提案する。
オートエンコーダは、観測データの最初の数項目から潜伏変数の初期値までの抽象的なマッピングを学習する。
提案モデルの復号器は, 線形化部分に適用された固有解析から導出した固有モードを物理モデルに適用する。
論文 参考訳(メタデータ) (2022-07-16T09:30:20Z) - Incorporating NODE with Pre-trained Neural Differential Operator for
Learning Dynamics [73.77459272878025]
ニューラル微分演算子(NDO)の事前学習による動的学習における教師付き信号の強化を提案する。
NDOは記号関数のクラスで事前訓練され、これらの関数の軌跡サンプルとそれらの導関数とのマッピングを学習する。
我々は,NDOの出力が,ライブラリの複雑さを適切に調整することで,基礎となる真理微分を適切に近似できることを理論的に保証する。
論文 参考訳(メタデータ) (2021-06-08T08:04:47Z) - Go with the Flow: Adaptive Control for Neural ODEs [10.265713480189484]
ニューラル制御ODE(N-CODE)と呼ばれる新しいモジュールについて述べる。
N-CODEモジュールは、初期または現在のアクティベーション状態からトレーニング可能なマップによって制御される動的変数である。
単一モジュールは、適応的に神経表現を駆動する非自律フロー上の分布を学ぶのに十分である。
論文 参考訳(メタデータ) (2020-06-16T22:21:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。