論文の概要: climt-paraformer: Stable Emulation of Convective Parameterization using a Temporal Memory-aware Transformer
- arxiv url: http://arxiv.org/abs/2604.21085v1
- Date: Wed, 22 Apr 2026 20:55:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-24 14:40:06.177197
- Title: climt-paraformer: Stable Emulation of Convective Parameterization using a Temporal Memory-aware Transformer
- Title(参考訳): climt-paraformer: 時空間メモリ対応変圧器を用いた対流パラメータ化の安定エミュレーション
- Authors: Shuochen Wang, Nishant Yadav, Joy Merwin Monteiro, Auroop R. Ganguly,
- Abstract要約: エマニュエル対流パラメータ化のための時間メモリ対応トランスフォーマーエミュレータを開発した。
トランスフォーマーは、連続した大気状態間の時間的相関と非線形相互作用をキャプチャする。
- 参考スコア(独自算出の注目度): 3.8491907908078917
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Accurate representation of moist convective sub-grid-scale processes remains a major challenge in global climate models, as traditional parameterization schemes are both computationally expensive and difficult to scale. Neural network (NN) emulators offer a promising alternative by learning efficient mappings between atmospheric states and convective tendencies while retaining fidelity to the underlying physics. However, most existing NN-based parameterizations are memory-less and rely only on instantaneous inputs, even though convection evolves over time and depends on prior atmospheric states. Recent studies have begun to incorporate convective memory, but they often treat past states as independent features rather than modeling temporal dependencies explicitly. In this work, we develop a temporal memory-aware Transformer emulator for the Emanuel convective parameterization and evaluate it in a single-column climate model (SCM) under both offline and online configurations. The Transformer captures temporal correlations and nonlinear interactions across consecutive atmospheric states. Compared with baseline emulators, including a memory-less multilayer perceptron and a recurrent long short-term memory model, the Transformer achieves lower offline errors. Sensitivity analysis indicates that a memory length of approximately 100 minutes yields the best performance, whereas longer memory degrades performance. We further test the emulator in long-term coupled simulations and show that it remains stable over 10 years. Overall, this study demonstrates the importance of explicit temporal modeling for NN-based parameterizations.
- Abstract(参考訳): 湿潤対流サブグリッドスケールプロセスの正確な表現は、伝統的なパラメータ化スキームが計算コストが高く、スケールが難しいため、地球規模の気候モデルでは依然として大きな課題である。
ニューラルネットワークエミュレータ(NNエミュレータ)は、大気の状態と対流傾向の効率的なマッピングを学習し、基礎となる物理への忠実さを維持しながら、有望な代替手段を提供する。
しかし、既存のNNベースのパラメータ化のほとんどはメモリレスであり、対流は時間とともに進化し、以前の大気状態に依存するにもかかわらず、瞬時に入力にのみ依存する。
最近の研究では、対流メモリが組み込まれ始めているが、時間的依存を明示的にモデル化するのではなく、過去の状態を独立した特徴として扱うことが多い。
本研究では,エマニュエル対流パラメータ化のための時空間メモリ対応トランスフォーマーエミュレータを開発し,オフライン・オンライン構成の単一カラム気候モデル(SCM)で評価する。
トランスフォーマーは、連続した大気状態間での時間的相関と非線形相互作用をキャプチャする。
メモリレス多層パーセプトロンや長時間の長期メモリモデルを含むベースラインエミュレータと比較して、Transformerは低いオフラインエラーを実現する。
感度分析は、メモリ長が約100分であるのに対して、メモリ長が性能を低下させることを示している。
さらに, 長期連成シミュレーションにおいてエミュレータの試験を行い, 10年以上安定していることを示す。
本研究は,NNに基づくパラメータ化における時間的明示的モデリングの重要性を実証するものである。
関連論文リスト
- MEMTS: Internalizing Domain Knowledge via Parameterized Memory for Retrieval-Free Domain Adaptation of Time Series Foundation Models [51.506429027626005]
Memory for Time Series (MEMTS) は、時系列予測における検索不要領域適応のための軽量かつプラグアンドプレイ方式である。
MEMTSの鍵となるコンポーネントは知識永続化モジュール(KPM)であり、ドメイン固有の時間力学を内部化する。
このパラダイムシフトにより、MEMTSは定数時間推論とニアゼロレイテンシによる正確なドメイン適応を実現することができる。
論文 参考訳(メタデータ) (2026-02-14T14:00:06Z) - Video Prediction of Dynamic Physical Simulations With Pixel-Space Spatiotemporal Transformers [3.951575888190684]
本研究は,ビデオ予測のためのトランスフォーマー適応を簡易なエンド・ツー・エンド・アプローチで検討し,種々の自己時間的アテンションレイアウトを比較した。
本稿では,自動回帰映像予測のための簡易かつ効果的な変換器を提案し,連続した画素空間表現をビデオ予測水平線に適用する。
論文 参考訳(メタデータ) (2025-10-23T17:58:45Z) - EntroPE: Entropy-Guided Dynamic Patch Encoder for Time Series Forecasting [50.794700596484894]
IntroPE(Entropy-Guided Dynamic Patch)は,条件付きエントロピーによる遷移点を動的に検出する新しい時間情報フレームワークである。
これは、パッチの計算上の利点を維持しながら、時間構造を保存する。
長期予測ベンチマークによる実験では、EntroPEは精度と効率の両方を改善している。
論文 参考訳(メタデータ) (2025-09-30T12:09:56Z) - MesaNet: Sequence Modeling by Locally Optimal Test-Time Training [67.45211108321203]
我々は,最近提案されたMesa層の数値的に安定かつチャンクワイズ可能な並列化版を導入する。
テストタイムの最適トレーニングにより、従来のRNNよりも言語モデリングの難易度が低く、ダウンストリームベンチマークのパフォーマンスが向上することを示す。
論文 参考訳(メタデータ) (2025-06-05T16:50:23Z) - Parsimony or Capability? Decomposition Delivers Both in Long-term Time Series Forecasting [46.63798583414426]
時系列予測(LTSF)は時系列分析において重要なフロンティアである。
本研究は, 分析的および実証的な証拠から, 分解が過剰なモデルインフレーションを包含する鍵であることを実証する。
興味深いことに、時系列データの本質的なダイナミクスに分解を合わせることで、提案モデルは既存のベンチマークより優れている。
論文 参考訳(メタデータ) (2024-01-22T13:15:40Z) - Convolutional State Space Models for Long-Range Spatiotemporal Modeling [65.0993000439043]
ConvS5は、長距離時間モデリングのための効率的な変種である。
トランスフォーマーとConvNISTTMは、長い水平移動実験において、ConvLSTMより3倍速く、トランスフォーマーより400倍速くサンプルを生成する一方で、大幅に性能が向上した。
論文 参考訳(メタデータ) (2023-10-30T16:11:06Z) - Navigating the Noise: Bringing Clarity to ML Parameterization Design with O(100) Ensembles [1.9199275795132604]
サブグリッドプロセスの機械学習(ML)パラメータ化は、いつか従来のパラメータ化を置き換えるかもしれない。
オフラインとオンラインのパフォーマンスの関係の不確実性は、彼らの開発を妨げる。
オフラインエラーの体系的削減がオンラインエラーやオンライン安定性の変化にどのように影響するかを示す。
論文 参考訳(メタデータ) (2023-09-28T05:34:29Z) - Temporal Subsampling Diminishes Small Spatial Scales in Recurrent Neural
Network Emulators of Geophysical Turbulence [0.0]
しばしば見過ごされる処理ステップがエミュレータの予測品質にどのように影響するかを検討する。
1)空間ベクトル自己回帰(NVAR)の形式、(2)エコー状態ネットワーク(ESN)の形式。
いずれの場合も、トレーニングデータのサブサンプリングは、数値拡散に類似した小さなスケールでのバイアスの増加につながる。
論文 参考訳(メタデータ) (2023-04-28T21:34:53Z) - Alternating ConvLSTM: Learning Force Propagation with Alternate State
Updates [29.011464047344614]
本稿では, 変形可能な物体の力伝達機構をモデル化した交互畳み込み長短期記憶(Alt-ConvLSTM)を提案する。
数値PDE解法のフォワード法において,この手法が第1項と第2項の交互更新を模倣することを示す。
ヒト軟組織シミュレーションにおけるAlt-ConvLSTMの有効性を検討した。
論文 参考訳(メタデータ) (2020-06-14T06:43:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。