論文の概要: Learning Spatio-Temporal Foundation Models from Pure Synthetic Data
- arxiv url: http://arxiv.org/abs/2607.16251v1
- Date: Sat, 27 Jun 2026 02:56:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 00:46:13.057314
- Title: Learning Spatio-Temporal Foundation Models from Pure Synthetic Data
- Title(参考訳): 純合成データを用いた時空間モデル学習
- Abstract要約: NeoSTは、現実バイアスに対するスケーラブルな合成学習コーパスであり、複数の将来の軌跡を反復的に生成・洗練する潜在空間推論アーキテクチャであり、構造的ダイナミクスを強調し、分散シフトの下で推論時間補正を可能にする潜在空間目的である。
様々な実世界のベンチマークによる大規模な実験は、NeoSTが様々な実世界の時間系において既存のSTFMより一貫して優れていることを示している。
- 参考スコア(独自算出の注目度): 85.23980441738811
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Spatio-Temporal Foundation Models (STFMs) aim to learn generalizable representations of complex dynamical systems across space and time. However, existing approaches suffer from distributional bias in real-world pre-training data, structural bottlenecks of autoregressive or diffusion-based paradigms, and objectives that overemphasize point-wise reconstruction in noisy observation space.We propose \textbf{NeoST}, the first spatio-temporal foundation model pre-trained solely on procedurally generated synthetic systems. NeoST introduces a scalable synthetic pre-training corpus to mitigate real-world bias, a latent-space reasoning architecture that generates and iteratively refines multiple future trajectories without sequential error accumulation, and latent-space objectives that emphasize structural dynamics and enable inference-time correction under distribution shifts.Extensive experiments across diverse real-world benchmarks show that NeoST consistently outperforms existing STFMs in diverse real-world spatio-temporal systems, achieves superior long-horizon stability and inference efficiency.
- Abstract(参考訳): Spatio-Temporal Foundation Models (STFM) は、空間と時間にわたって複雑な力学系の一般化可能な表現を学習することを目的としている。
しかし,既存の手法は,実世界の事前学習データにおける分布バイアス,自己回帰的あるいは拡散的パラダイムの構造的ボトルネック,およびノイズの多い観測空間におけるポイントワイド再構成を過度に強調する目的に悩まされており,手続き的に生成された合成システムのみに事前訓練された最初の時空間基礎モデルである「textbf{NeoST}」を提案する。
NeoSTは、リアルタイムバイアスを緩和するスケーラブルな合成事前学習コーパスを導入し、逐次的なエラー蓄積を伴わずに複数の将来の軌道を反復的に洗練する潜時空間推論アーキテクチャと、構造的ダイナミクスを強調し、分散シフトによる推論時間補正を可能にする潜時空間目的を導入している。
関連論文リスト
- STKAN: Kolmogorov-Arnold Networks for Spatio-Temporal Forecasting [30.14175741484625]
本稿では,Kolmogo-Arnold Networkモジュールを空間的および時間的トークン混合に導入したTaylor-Nomial予測アーキテクチャSTKANを提案する。
実験の結果,STKANは5つの設定で評価された空間的相互作用ベンチマークよりも優れていた。
これらの結果から, 非線形関数近似器の設計は, 交通時空間予測におけるアーキテクチャ設計の補助となる可能性が示唆された。
論文 参考訳(メタデータ) (2026-07-14T10:18:54Z) - Decoupled Latent Optimization of Diffusion Models for Full Waveform Inversion [4.293965179144764]
フルウェーブフォーム・インバージョン(FWI)は、高度に不規則な2次PDE速度最適化を解くことで、記録から地下の速度を回復する。
最近の拡散優先法は、標準定式化と事前整合性の間の脆弱なトレードオフを犠牲にして現実性を改善する。
そこで本稿では,潜時費用目標を補助的物理変数と潜時変数に対する潜時費用目標に緩和するDe Latent Optimization (DLO)を提案する。
OpenFWIベンチマークでは、DLOは古典的正規化器や既存の拡散ベースのメソッドよりもクリーンでノイズがあり、トラスが不足している。
論文 参考訳(メタデータ) (2026-06-12T05:55:10Z) - EIDOS: Latent-Space Predictive Learning for Time Series Foundation Models [37.917978019436674]
EIDOSは、将来の価値予測から潜在空間予測学習に移行する基礎モデルファミリーである。
我々は、潜伏表現の進化を予測するために因果変換器を訓練し、構造化および時間的に整合した潜伏状態の出現を促す。
論文 参考訳(メタデータ) (2026-02-15T07:07:20Z) - Scalable Spatio-Temporal SE(3) Diffusion for Long-Horizon Protein Dynamics [51.85385061275941]
分子動力学(MD)シミュレーションは、タンパク質動力学研究のゴールドスタンダードのままである。
近年の生成モデルではシミュレーションの加速が期待できるが、長軸生成に苦慮している。
物理的に可塑性なタンパク質軌道をマイクロスケールの時間スケールで生成する拡張拡散モデルSTAR-MDを提案する。
論文 参考訳(メタデータ) (2026-02-02T14:13:28Z) - Online Bayesian Experimental Design for Partially Observed Dynamical Systems [10.774974720491565]
本研究では,部分可観測性を持つ動的システムにおけるデータ収集を最適化するための基本的フレームワークを開発する。
我々のフレームワークは、部分観測可能性とオンライン推論の両方をうまく処理します。
論文 参考訳(メタデータ) (2025-11-06T14:29:05Z) - A Deep Learning Approach for Spatio-Temporal Forecasting of InSAR Ground Deformation in Eastern Ireland [2.840858735842673]
地盤変位のモニタリングは、都市インフラと地質学的危険の軽減に不可欠である。
本稿では,スパース点計測を高密度時間テンソルに変換する新しいディープラーニングフレームワークを提案する。
その結果,提案アーキテクチャはより正確で空間的に整合性のある予測を提供することを示した。
論文 参考訳(メタデータ) (2025-09-17T17:10:18Z) - Learning to Dissipate Energy in Oscillatory State-Space Models [51.98491034847041]
状態空間モデル (SSM) はシーケンス学習のためのネットワークのクラスである。
我々は,D-LinOSSがLinOSSの手法を長距離学習タスクで一貫して上回っていることを示す。
論文 参考訳(メタデータ) (2025-05-17T23:15:17Z) - Attractor Memory for Long-Term Time Series Forecasting: A Chaos Perspective [63.60312929416228]
textbftextitAttraosはカオス理論を長期時系列予測に取り入れている。
本研究では,AttraosがPatchTSTと比較して,パラメータの12分の1しか持たない主流データセットやカオスデータセットにおいて,LTSF法よりも優れていることを示す。
論文 参考訳(メタデータ) (2024-02-18T05:35:01Z) - OpenSTL: A Comprehensive Benchmark of Spatio-Temporal Predictive
Learning [67.07363529640784]
提案するOpenSTLは,一般的なアプローチを再帰的モデルと再帰的モデルに分類する。
我々は, 合成移動物体軌道, 人間の動き, 運転シーン, 交通流, 天気予報など, さまざまな領域にわたるデータセットの標準評価を行う。
リカレントフリーモデルは、リカレントモデルよりも効率と性能のバランスが良いことがわかった。
論文 参考訳(メタデータ) (2023-06-20T03:02:14Z) - Supporting Optimal Phase Space Reconstructions Using Neural Network
Architecture for Time Series Modeling [68.8204255655161]
位相空間特性を暗黙的に学習する機構を持つ人工ニューラルネットワークを提案する。
私たちのアプローチは、ほとんどの最先端戦略と同じくらいの競争力があるか、あるいは優れているかのどちらかです。
論文 参考訳(メタデータ) (2020-06-19T21:04:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。