論文の概要: Generalizing Dynamics Modeling More Easily from Representation Perspective

• arxiv url: http://arxiv.org/abs/2603.22655v1
• Date: Tue, 24 Mar 2026 00:15:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.226943
• Title: Generalizing Dynamics Modeling More Easily from Representation Perspective
• Title（参考訳）: 表現の観点からより容易なダイナミクスモデリングの一般化
• Authors: Yiming Wang, Zhengnan Zhang, Genghe Zhang, Jiawen Dan, Changchun Li, Chenlong Hu, Chris Nugent, Jun Liu, Ximing Li, Bo Yang,
• Abstract要約: 我々はPDEDER(Generalized Pre-trained Dynamics EncoDER)を行う。 PDEDERは、元の状態の観測結果をより容易に取得できる潜在空間に埋め込む。 ドメイン内設定とクロスドメイン設定の両方で,PDEDERを短時間・長期の予測によって評価する。
• 参考スコア（独自算出の注目度）: 17.958624542632947
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Learning system dynamics from observations is a critical problem in many applications over various real-world complex systems, e.g., climate, ecology, and fluid systems. Recently, neural dynamics modeling method have become a prevalent solution that embeds the object's observations into a latent space before learning dynamics using neural methods such as neural Ordinary Differential Equations (ODE). Existing dynamics modeling methods induce a specific model for each observation of different complex systems, resulting in poor generalization across systems. Inspired by the great success of pre-trained models, we conduct a generalized Pre-trained Dynamics EncoDER (PDEDER) which can embed the original state observations into a latent space where the dynamics can be captured more easily. To conduct the generalized PDEDER, we pre-train any Pre-trained Language Model (PLM) by minimizing the Lyapunov exponent objective, which constrains the chaotic behavior of governing dynamics learned in the latent space. By penalizing the divergence of embedded observations, our PDEDER promotes locally stable and well-structured latent dynamics, thereby facilitating more effective dynamics modeling than in the original observation space. In addition, we incorporate reconstruction and forecasting objectives to mitigate the risk of obtaining an over-smoothed latent space. Specifically, we collect 152 sets of real-world and synthetic observations from 23 complex systems as pre-training corpora and employ them to pre-train PDEDER. Given any future dynamic observation, we can fine-tune PDEDER with any specific dynamics modeling method. We evaluate PDEDER on 12 dynamic systems by short/long-term forecasting under both in-domain and cross-domain settings, and the empirical results indicate the effectiveness and generalizability of PDEDER.
• Abstract（参考訳）: 観測からシステムダイナミクスを学ぶことは、様々な現実世界の複雑なシステム(例えば、気候、生態学、流体システム)にまたがる多くのアプリケーションにおいて重要な問題である。 近年,ニューラル・ダイナミクス・モデリング法は,ニューラル・ディファレンシャル・ディファレンシャル・方程式(ODE)のようなニューラル・ダイナミックスを学習する前に,物体の観測結果を潜時空間に埋め込む一般的な解となっている。 既存の力学モデリング手法は、異なる複雑なシステムの観測ごとに特定のモデルを誘導し、結果としてシステム全体の一般化が不十分になる。 事前学習モデルの大きな成功に触発されて、我々はPDEDER(Generalized Pre-trained Dynamics EncoDER)を実行し、元の状態の観測結果をより容易に取得できる潜在空間に埋め込むことができる。 一般化された PDEDER を実現するために,リアプノフ指数を最小化することにより,潜在空間で学習した制御力学のカオス的振る舞いを制限する,事前訓練済み言語モデル (PLM) を事前学習する。 組込み観測のばらつきをペナルティ化することにより、PDEDERは局所的に安定かつよく構造化された潜在力学を促進し、元の観測空間よりも効果的な動的モデリングを容易にする。 さらに,過度にスムーズな潜在空間を得るリスクを軽減するために,再建と予測の目的を取り入れた。 具体的には、23の複合系から152組の実世界および合成観測データを事前学習コーパスとして収集し、それらをPDEDERの事前訓練に使用する。 将来の動的観測を考慮すれば、任意の動的モデリング手法でPDEDERを微調整できる。 ドメイン内設定とドメイン間設定の両方において,PDEDERを短時間・長期予測することにより,12の動的システム上でのPDEDERの評価を行い,PDEDERの有効性と一般化性を示す実験結果を得た。

関連論文リスト

• Learning System Dynamics without Forgetting [60.08612207170659]
  本研究では,CDL(Continuous Dynamics Learning)の問題,タスク構成の検証,既存手法の適用性について検討する。 本稿では、LG-ODEとサブネットワーク学習の長所をモデムスイッチングモジュールと統合したモードスイッチンググラフODE(MS-GODE)モデルを提案する。 CDLのための生体動態システムの新しいベンチマーク、Bio-CDLを構築し、異なるダイナミクスを持つ多様なシステムを特徴付ける。
  論文  参考訳（メタデータ） (2024-06-30T14:55:18Z)
• eXponential FAmily Dynamical Systems (XFADS): Large-scale nonlinear Gaussian state-space modeling [9.52474299688276]
  非線形状態空間グラフィカルモデルのための低ランク構造化変分オートエンコーダフレームワークを提案する。 我々のアプローチは、より予測的な生成モデルを学ぶ能力を一貫して示している。
  論文  参考訳（メタデータ） (2024-03-03T02:19:49Z)
• Learning Neural Constitutive Laws From Motion Observations for Generalizable PDE Dynamics [97.38308257547186]
  多くのNNアプローチは、支配的PDEと物質モデルの両方を暗黙的にモデル化するエンドツーエンドモデルを学ぶ。 PDEの管理はよく知られており、学習よりも明示的に実施されるべきである、と私たちは主張する。 そこで我々は,ネットワークアーキテクチャを利用したニューラル構成則(Neural Constitutive Laws,NCLaw)と呼ばれる新しいフレームワークを導入する。
  論文  参考訳（メタデータ） (2023-04-27T17:42:24Z)
• Decomposed Linear Dynamical Systems (dLDS) for learning the latent components of neural dynamics [6.829711787905569]
  本稿では,時系列データの非定常および非線形の複雑なダイナミクスを表現した新しい分解力学系モデルを提案する。 我々のモデルは辞書学習によって訓練され、最近の結果を利用してスパースベクトルを時間とともに追跡する。 連続時間と離散時間の両方の指導例において、我々のモデルは元のシステムによく近似できることを示した。
  論文  参考訳（メタデータ） (2022-06-07T02:25:38Z)
• Learning Continuous System Dynamics from Irregularly-Sampled Partial Observations [33.63818978256567]
  グラフ構造を持つ多エージェント動的システムをモデル化するための潜在常微分方程式生成モデルLG-ODEを提案する。 高次元軌跡の埋め込みと連続潜伏系力学を同時に学習することができる。 我々のモデルは、教師なしの方法で初期状態を推論できるグラフニューラルネットワークによってパラメータ化された新しいエンコーダを採用している。
  論文  参考訳（メタデータ） (2020-11-08T01:02:22Z)
• S2RMs: Spatially Structured Recurrent Modules [105.0377129434636]
  モジュール構造とテンポラル構造の両方を同時に活用できる動的構造を利用するための一歩を踏み出します。 我々のモデルは利用可能なビューの数に対して堅牢であり、追加のトレーニングなしで新しいタスクに一般化できる。
  論文  参考訳（メタデータ） (2020-07-13T17:44:30Z)
• Context-aware Dynamics Model for Generalization in Model-Based Reinforcement Learning [124.9856253431878]
  グローバルなダイナミクスモデルを学習するタスクを,(a)ローカルなダイナミクスをキャプチャするコンテキスト潜在ベクトルを学習し,(b)次に条件付き状態を予測するという2つの段階に分割する。 本研究では,コンテキスト潜在ベクトルに動的情報をエンコードするために,コンテキスト潜在ベクトルを前方と後方の両方のダイナミクスを予測するのに役立つような新しい損失関数を導入する。 提案手法は,既存のRL方式と比較して,様々なシミュレーションロボットや制御タスクの一般化能力に優れる。
  論文  参考訳（メタデータ） (2020-05-14T08:10:54Z)
• Learning Stable Deep Dynamics Models [91.90131512825504]
  状態空間全体にわたって安定することが保証される力学系を学習するためのアプローチを提案する。 このような学習システムは、単純な力学系をモデル化することができ、複雑な力学を学習するために追加の深層生成モデルと組み合わせることができることを示す。
  論文  参考訳（メタデータ） (2020-01-17T00:04:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。