論文の概要: DDOT: A Derivative-directed Dual-decoder Ordinary Differential Equation Transformer for Dynamic System Modeling

• arxiv url: http://arxiv.org/abs/2506.18522v1
• Date: Mon, 23 Jun 2025 11:24:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-24 19:06:36.952779
• Title: DDOT: A Derivative-directed Dual-decoder Ordinary Differential Equation Transformer for Dynamic System Modeling
• Title（参考訳）: DDOT:動的システムモデリングのためのデリバティブ指向デュアルデコーダ正規微分方程式変換器
• Authors: Yang Chang, Kuang-Da Wang, Ping-Chun Hsieh, Cheng-Kuan Lin, Wen-Chih Peng,
• Abstract要約: 本稿では,多次元ODEをシンボル形式で再構成するトランスフォーマーモデルであるDDOTを紹介する。 ODEのデリバティブを予測する補助タスクを組み込むことで、DDOTは構造と動的挙動の両方を効果的にキャプチャする。 DDOTは既存のシンボリック回帰法よりも優れており、復元とタスクの一般化のために$P(R2 > 0.9)$で4.58%と1.62%の絶対的な改善を実現している。
• 参考スコア（独自算出の注目度）: 16.33495160112142
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Uncovering the underlying ordinary differential equations (ODEs) that govern dynamic systems is crucial for advancing our understanding of complex phenomena. Traditional symbolic regression methods often struggle to capture the temporal dynamics and intervariable correlations inherent in ODEs. ODEFormer, a state-of-the-art method for inferring multidimensional ODEs from single trajectories, has made notable progress. However, its focus on single-trajectory evaluation is highly sensitive to initial starting points, which may not fully reflect true performance. To address this, we propose the divergence difference metric (DIV-diff), which evaluates divergence over a grid of points within the target region, offering a comprehensive and stable analysis of the variable space. Alongside, we introduce DDOT (Derivative-Directed Dual-Decoder Ordinary Differential Equation Transformer), a transformer-based model designed to reconstruct multidimensional ODEs in symbolic form. By incorporating an auxiliary task predicting the ODE's derivative, DDOT effectively captures both structure and dynamic behavior. Experiments on ODEBench show DDOT outperforms existing symbolic regression methods, achieving an absolute improvement of 4.58% and 1.62% in $P(R^2 > 0.9)$ for reconstruction and generalization tasks, respectively, and an absolute reduction of 3.55% in DIV-diff. Furthermore, DDOT demonstrates real-world applicability on an anesthesia dataset, highlighting its practical impact.
• Abstract（参考訳）: 力学系を支配する基礎となる常微分方程式(ODE)を明らかにすることは、複雑な現象の理解を促進するために重要である。 伝統的な記号回帰法は、ODEに固有の時間的ダイナミクスと相互に異なる相関を捉えるのに苦労することが多い。 ODEFormerは、単一の軌道から多次元ODEを推定する最先端の手法であり、顕著な進歩を遂げている。 しかし、単軌道評価への焦点は初期開始点に非常に敏感であり、真の性能を十分に反映していない可能性がある。 そこで本研究では,変数空間の包括的かつ安定な解析を行い,対象領域内の点の格子上での偏差を評価する分散差分法(DIV-diff)を提案する。 DDOT(Derivative-Directed Dual-Decoder Ordinary Differential Equation Transformer)は,多次元ODEをシンボル形式で再構成するトランスフォーマモデルである。 ODEのデリバティブを予測する補助タスクを組み込むことで、DDOTは構造と動的挙動の両方を効果的にキャプチャする。 ODEBenchの実験では、DDOTは既存のシンボリック回帰法よりも優れており、それぞれP(R^2 > 0.9)$で4.58%と1.62%、DIV-diffで3.55%の絶対還元を実現している。 さらに、DDOTは麻酔データセットの現実的な適用性を示し、その実践的な影響を強調している。

関連論文リスト

• Flow-GRPO: Training Flow Matching Models via Online RL [75.70017261794422]
  本稿では,オンライン強化学習(RL)をフローマッチングモデルに統合する最初の方法であるFlow-GRPOを提案する。 提案手法では, 1 つの主要な戦略を用いる:(1) 決定論的正規方程式 (ODE) を, 1 つの時点における原モデルの限界分布に一致する等価な微分方程式 (SDE) に変換するODE-to-SDE 変換と、(2) 元の推論タイムステップ数を保ちながらトレーニングの段階を減らし,
  論文  参考訳（メタデータ） (2025-05-08T17:58:45Z)
• Tensor-Var: Efficient Four-Dimensional Variational Data Assimilation [30.63086465547801]
  4次元変分同化(4D-Var)は複雑な非線形系において高い計算コストに直面し、不完全な状態-観測写像に依存する。 深層学習(DL)は、より表現力のある近似器を提供する一方、DLモデルを4D-Varに統合することは、それらの非線形性と同化結果における理論的保証の欠如により困難である。 本稿では,カーネル条件付き平均埋め込み(CME)を4D-Varと統合して非線形力学を線形化し,学習した特徴空間における凸最適化を実現する新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-01-23T01:43:31Z)
• Wavelet Diffusion Neural Operator [17.617919636212445]
  本稿では,新しいPDEシミュレーションおよび制御フレームワークであるWavelet Neural Diffusion Operator (WDNO)を提案する。 WDNOはウェーブレット領域で拡散に基づく生成モデルを実行し、急激な変化と長期依存を効果的に処理する。 様々な解像度での一般化が不十分な問題に対処するために,マルチレゾリューショントレーニングを導入する。
  論文  参考訳（メタデータ） (2024-12-06T07:56:25Z)
• On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
  拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。 本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
  論文  参考訳（メタデータ） (2024-05-18T15:59:41Z)
• Enhancing Low-Order Discontinuous Galerkin Methods with Neural Ordinary Differential Equations for Compressible Navier--Stokes Equations [0.1578515540930834]
  圧縮可能なNavier-Stokes方程式を解くためのエンドツーエンドの微分可能なフレームワークを提案する。 この統合アプローチは、微分可能不連続なガレルキン解法とニューラルネットワークのソース項を組み合わせる。 提案するフレームワークの性能を2つの例で示す。
  論文  参考訳（メタデータ） (2023-10-29T04:26:23Z)
• ODEFormer: Symbolic Regression of Dynamical Systems with Transformers [47.75031734856786]
  本稿では,多次元常微分方程式(ODE)を記号形式で推定できる最初の変換器ODEFormerを紹介する。 i) 既存の2次元システムを含む「ストロガッツ」データセット、(ii) 1次元から4次元システムの集合であるODEBench。
  論文  参考訳（メタデータ） (2023-10-09T09:54:12Z)
• Reflected Diffusion Models [93.26107023470979]
  本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。 提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
  論文  参考訳（メタデータ） (2023-04-10T17:54:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。