論文の概要: A Hybridizable Neural Time Integrator for Stable Autoregressive Forecasting
- arxiv url: http://arxiv.org/abs/2604.21101v2
- Date: Tue, 28 Apr 2026 15:18:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-29 14:06:43.79496
- Title: A Hybridizable Neural Time Integrator for Stable Autoregressive Forecasting
- Title(参考訳): 安定自己回帰予測のためのハイブリダイズ可能なニューラル時間積分器
- Authors: Brooks Kinch, Xiaozhe Hu, Yilong Huang, Martine Dyring Hansen, Sunniva Meltzer, Nathaniel Donald Hamlin, David Sirajuddin, Eric C. Cyr, Nathaniel Trask,
- Abstract要約: 本稿では, 自己回帰変換器を新規なシューティングベース混合有限要素スキームに組み込むハイブリッド手法を提案する。
前方問題では離散的なエネルギーの保存が証明され、訓練では爆発的な勾配問題を回避するための勾配の均一な境界が証明される。
モデルパラメータの削減とカオスシステムの長期予測により,現代的な基礎モデルを65倍に向上させる。
- 参考スコア(独自算出の注目度): 3.33048567737285
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: For autoregressive modeling of chaotic dynamical systems over long time horizons, the stability of both training and inference is a major challenge in building scientific foundation models. We present a hybrid technique in which an autoregressive transformer is embedded within a novel shooting-based mixed finite element scheme, exposing topological structure that enables provable stability. For forward problems, we prove preservation of discrete energies, while for training we prove uniform bounds on gradients, provably avoiding the exploding gradient problem. Combined with a vision transformer, this yields latent tokens admitting structure-preserving dynamics. We outperform modern foundation models with a $65\times$ reduction in model parameters and long-horizon forecasting of chaotic systems. A "mini-foundation" model of a fusion component shows that 12 simulations suffice to train a real-time surrogate, achieving a $9{,}000\times$ speedup over particle-in-cell simulation.
- Abstract(参考訳): 長期間の地平線上でのカオス力学系の自己回帰モデリングでは、トレーニングと推論の両方の安定性が科学基盤モデルを構築する上で大きな課題である。
本稿では, 自己回帰変換器を新しい射出型混合有限要素スキームに組み込んで, 証明可能な安定性を実現するトポロジ構造を露呈するハイブリッド手法を提案する。
前方問題では離散エネルギーの保存を証明し、訓練では勾配の均一な境界を証明し、爆発的な勾配問題を確実に回避する。
視覚変換器と組み合わせることで、構造保存ダイナミクスを許容する潜在トークンが得られる。
モデルパラメータの削減とカオスシステムの長期予測で、モダンな基礎モデルよりも65\times$を上回りました。
核融合成分の「ミニ境界」モデルでは、12のシミュレーションが実時間サロゲートを訓練するのに十分であり、9$1,000\times$の速度アップを達成する。
関連論文リスト
- Towards Infinitely Long Neural Simulations: Self-Refining Neural Surrogate Models for Dynamical Systems [30.037248637148693]
自己精製型ニューラルサロゲートモデル(SNS)は、スタンドアロンモデルまたは既存のニューラルサロゲートの補完モデルとして実装することができる。
論文 参考訳(メタデータ) (2026-03-18T14:14:40Z) - Towards Efficient and Stable Ocean State Forecasting: A Continuous-Time Koopman Approach [17.986879367736762]
連続時間クープマンオートエンコーダ (CT-KAE) は, 長期海洋状態予測のための軽量サロゲートモデルである。
CT-KAEは、自己回帰トランスフォーマーベースラインとは対照的に、境界誤差成長と安定した大規模統計を示す。
このモデルでは,数値解法よりも高速な推定が可能である。
論文 参考訳(メタデータ) (2026-03-05T09:39:44Z) - Scalable Spatio-Temporal SE(3) Diffusion for Long-Horizon Protein Dynamics [51.85385061275941]
分子動力学(MD)シミュレーションは、タンパク質動力学研究のゴールドスタンダードのままである。
近年の生成モデルではシミュレーションの加速が期待できるが、長軸生成に苦慮している。
物理的に可塑性なタンパク質軌道をマイクロスケールの時間スケールで生成する拡張拡散モデルSTAR-MDを提案する。
論文 参考訳(メタデータ) (2026-02-02T14:13:28Z) - Physics-aware generative models for turbulent fluid flows through energy-consistent stochastic interpolants [0.0]
生成モデルは、テキスト、画像、ビデオなどの領域で顕著な成功を収めている。
本研究では, 生成モデルの流体力学への応用, 特に乱流シミュレーションについて検討する。
本稿では,物理制約を取り入れつつ確率的予測を可能にする補間子に基づく新しい生成モデルを提案する。
論文 参考訳(メタデータ) (2025-04-08T09:29:01Z) - Attractor Memory for Long-Term Time Series Forecasting: A Chaos Perspective [63.60312929416228]
textbftextitAttraosはカオス理論を長期時系列予測に取り入れている。
本研究では,AttraosがPatchTSTと比較して,パラメータの12分の1しか持たない主流データセットやカオスデータセットにおいて,LTSF法よりも優れていることを示す。
論文 参考訳(メタデータ) (2024-02-18T05:35:01Z) - Predicting Physics in Mesh-reduced Space with Temporal Attention [15.054026802351146]
本稿では,トランス方式の時間的アテンションモデルを用いて,長期的依存関係をキャプチャする手法を提案する。
本手法は, 複雑な流体力学予測タスクにおいて, 競合するGNNベースラインよりも優れる。
我々のアプローチは、高次元複雑な物理課題の解決に注意に基づくシーケンスモデルの利点をもたらす道を開いたと信じている。
論文 参考訳(メタデータ) (2022-01-22T18:32:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。