論文の概要: ChaosNexus: A Foundation Model for Universal Chaotic System Forecasting with Multi-scale Representations
- arxiv url: http://arxiv.org/abs/2509.21802v1
- Date: Fri, 26 Sep 2025 02:59:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-29 20:57:54.149186
- Title: ChaosNexus: A Foundation Model for Universal Chaotic System Forecasting with Multi-scale Representations
- Title(参考訳): ChaosNexus: マルチスケール表現を用いたユニバーサルカオスシステム予測の基礎モデル
- Authors: Chang Liu, Bohao Zhao, Jingtao Ding, Yong Li,
- Abstract要約: ChaosNexusは、カオス力学の多様なコーパスに基づいて事前訓練された基礎モデルである。
これは、合成ベンチマークと実世界のベンチマークの両方で最先端のゼロショットの一般化を実証している。
- 参考スコア(独自算出の注目度): 15.381819123860259
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Accurately forecasting chaotic systems, prevalent in domains such as weather prediction and fluid dynamics, remains a significant scientific challenge. The inherent sensitivity of these systems to initial conditions, coupled with a scarcity of observational data, severely constrains traditional modeling approaches. Since these models are typically trained for a specific system, they lack the generalization capacity necessary for real-world applications, which demand robust zero-shot or few-shot forecasting on novel or data-limited scenarios. To overcome this generalization barrier, we propose ChaosNexus, a foundation model pre-trained on a diverse corpus of chaotic dynamics. ChaosNexus employs a novel multi-scale architecture named ScaleFormer augmented with Mixture-of-Experts layers, to capture both universal patterns and system-specific behaviors. The model demonstrates state-of-the-art zero-shot generalization across both synthetic and real-world benchmarks. On a large-scale testbed comprising over 9,000 synthetic chaotic systems, it improves the fidelity of long-term attractor statistics by more than 40% compared to the leading baseline. This robust performance extends to real-world applications with exceptional data efficiency. For instance, in 5-day global weather forecasting, ChaosNexus achieves a competitive zero-shot mean error below 1 degree, a result that further improves with few-shot fine-tuning. Moreover, experiments on the scaling behavior of ChaosNexus provide a guiding principle for scientific foundation models: cross-system generalization stems from the diversity of training systems, rather than sheer data volume.
- Abstract(参考訳): 気象予知や流体力学などの領域でよく見られるカオスシステムの正確な予測は、依然として重要な科学的課題である。
これらのシステムの初期状態に対する本質的な感受性は、観測データの不足と相まって、従来のモデリングアプローチを厳しく制約する。
これらのモデルは、通常、特定のシステムのために訓練されているため、現実のアプリケーションに必要な一般化能力が欠如しており、新規またはデータ制限のシナリオに対して、堅牢なゼロショットまたは少数ショットの予測を必要とする。
この一般化障壁を克服するために,カオス力学の多種多様なコーパスに基づいて事前学習した基礎モデルChaosNexusを提案する。
ChaosNexusは、Mixture-of-Expertsレイヤを付加したScaleFormerという新しいマルチスケールアーキテクチャを採用し、ユニバーサルパターンとシステム固有の振る舞いの両方をキャプチャする。
このモデルは、合成ベンチマークと実世界のベンチマークの両方で最先端のゼロショット一般化を実証する。
9000以上の合成カオスシステムからなる大規模テストベッドでは、主要なベースラインに比べて長期トラクタ統計の忠実度が40%以上向上する。
この堅牢なパフォーマンスは、例外的なデータ効率で現実世界のアプリケーションに拡張されます。
例えば、5日間の世界的な天気予報では、ChaosNexusは1度未満の競争的なゼロショット平均誤差を達成し、その結果は数ショットの微調整によってさらに改善される。
さらに、ChaosNexusのスケーリング行動に関する実験は、科学基盤モデルの指針となる。
関連論文リスト
- Towards Efficient General Feature Prediction in Masked Skeleton Modeling [59.46799426434277]
マスクスケルトンモデリングのための新しい汎用特徴予測フレームワーク(GFP)を提案する。
我々の重要な革新は、局所的な動きパターンからグローバルな意味表現にまたがる、従来の低レベルな再構築を高レベルな特徴予測に置き換えることです。
論文 参考訳(メタデータ) (2025-09-03T18:05:02Z) - Scaling Collapse Reveals Universal Dynamics in Compute-Optimally Trained Neural Networks [59.552873049024775]
計算最適化モデルでは, 極めて高精度な普遍性を示すことを示す。
学習速度が減衰すると、崩壊は非常に厳しくなり、モデル間の正規化曲線の差はノイズフロアより下になる。
これらの現象は、典型的なニューラルスケーリング法則において、崩壊とパワー・ロー構造を結びつけることによって説明される。
論文 参考訳(メタデータ) (2025-07-02T20:03:34Z) - Consistent World Models via Foresight Diffusion [56.45012929930605]
我々は、一貫した拡散に基づく世界モデルを学習する上で重要なボトルネックは、最適下予測能力にあると主張している。
本稿では,拡散に基づく世界モデリングフレームワークであるForesight Diffusion(ForeDiff)を提案する。
論文 参考訳(メタデータ) (2025-05-22T10:01:59Z) - Hierarchically Disentangled Recurrent Network for Factorizing System Dynamics of Multi-scale Systems: An application on Hydrological Systems [4.634606500665259]
複数の時間スケールでシステムダイナミクスを分解する新しい階層的リカレントニューラルネットワークを提案する。
国立気象局ノース・セントラル・リバー・フォアキャスト・センターからの幾らかの捕獲実験では、FHNNが標準ベースラインを上回っていることを示している。
我々は,FHNNが,効果的な事前学習戦略とグローバルモデルの訓練を通じて,限られたトレーニングデータであっても精度を維持することができることを示す。
論文 参考訳(メタデータ) (2024-07-29T16:25:43Z) - Zero-shot Safety Prediction for Autonomous Robots with Foundation World Models [0.12499537119440243]
世界モデルは、コントローラを訓練し、システムの内部のダイナミックモデルを学ぶことによって安全違反を予測するために代理世界を作成する。
本稿では,観察を意味的かつ因果的に潜伏した表現に組み込む基礎世界モデルを提案する。
これにより、Surrogate dynamicsは、トレーニング不要な大規模言語モデルを活用することで、因果先状態を直接予測できる。
論文 参考訳(メタデータ) (2024-03-30T20:03:49Z) - eXponential FAmily Dynamical Systems (XFADS): Large-scale nonlinear Gaussian state-space modeling [9.52474299688276]
非線形状態空間グラフィカルモデルのための低ランク構造化変分オートエンコーダフレームワークを提案する。
我々のアプローチは、より予測的な生成モデルを学ぶ能力を一貫して示している。
論文 参考訳(メタデータ) (2024-03-03T02:19:49Z) - Learning Robust Precipitation Forecaster by Temporal Frame Interpolation [65.5045412005064]
本研究では,空間的不一致に対するレジリエンスを示す頑健な降水予測モデルを構築した。
提案手法は,textit4cast'23コンペティションの移行学習リーダーボードにおいて,textit1位を確保したモデルにおいて,予測精度が大幅に向上した。
論文 参考訳(メタデータ) (2023-11-30T08:22:08Z) - Model scale versus domain knowledge in statistical forecasting of
chaotic systems [7.6146285961466]
我々は17の予測指標を持つ135の低次元システムのクラウドソースデータベース上で24の最先端予測手法をベンチマークした。
大規模でドメインに依存しない予測手法は、常に2ダースのリャプノフ時間まで正確な予測を生成する。
長い水平状態以外のデータ制限設定では、物理学に基づくハイブリッド手法は、強い帰納バイアスのため、相対的な優位性を維持している。
論文 参考訳(メタデータ) (2023-03-13T03:03:17Z) - Physics-Inspired Temporal Learning of Quadrotor Dynamics for Accurate
Model Predictive Trajectory Tracking [76.27433308688592]
クオーロタのシステムダイナミクスを正確にモデル化することは、アジャイル、安全、安定したナビゲーションを保証する上で非常に重要です。
本稿では,ロボットの経験から,四重項系の力学を純粋に学習するための新しい物理インスパイアされた時間畳み込みネットワーク(PI-TCN)を提案する。
提案手法は,スパース時間的畳み込みと高密度フィードフォワード接続の表現力を組み合わせて,正確なシステム予測を行う。
論文 参考訳(メタデータ) (2022-06-07T13:51:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。