論文の概要: ClimateLLM: Efficient Weather Forecasting via Frequency-Aware Large Language Models

• arxiv url: http://arxiv.org/abs/2502.11059v1
• Date: Sun, 16 Feb 2025 09:57:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-18 14:14:46.510034
• Title: ClimateLLM: Efficient Weather Forecasting via Frequency-Aware Large Language Models
• Title（参考訳）: ClimateLLM: 周波数対応大規模言語モデルによる効率的な天気予報
• Authors: Shixuan Li, Wei Yang, Peiyu Zhang, Xiongye Xiao, Defu Cao, Yuehan Qin, Xiaole Zhang, Yue Zhao, Paul Bogdan,
• Abstract要約: 天気予報の基礎モデルであるClimateLLMを提案する。 時間的および空間横断的な協調フレームワークを通じて、時間的依存関係をキャプチャする。 周波数分解と大言語モデルを統合し、空間的および時間的モデリングを強化する。
• 参考スコア（独自算出の注目度）: 13.740208247043258
• License:
• Abstract: Weather forecasting is crucial for public safety, disaster prevention and mitigation, agricultural production, and energy management, with global relevance. Although deep learning has significantly advanced weather prediction, current methods face critical limitations: (i) they often struggle to capture both dynamic temporal dependencies and short-term abrupt changes, making extreme weather modeling difficult; (ii) they incur high computational costs due to extensive training and resource requirements; (iii) they have limited adaptability to multi-scale frequencies, leading to challenges when separating global trends from local fluctuations. To address these issues, we propose ClimateLLM, a foundation model for weather forecasting. It captures spatiotemporal dependencies via a cross-temporal and cross-spatial collaborative modeling framework that integrates Fourier-based frequency decomposition with Large Language Models (LLMs) to strengthen spatial and temporal modeling. Our framework uses a Mixture-of-Experts (MoE) mechanism that adaptively processes different frequency components, enabling efficient handling of both global signals and localized extreme events. In addition, we introduce a cross-temporal and cross-spatial dynamic prompting mechanism, allowing LLMs to incorporate meteorological patterns across multiple scales effectively. Extensive experiments on real-world datasets show that ClimateLLM outperforms state-of-the-art approaches in accuracy and efficiency, as a scalable solution for global weather forecasting.
• Abstract（参考訳）: 気象予報は、公共の安全、防災、緩和、農業生産、エネルギー管理に不可欠である。 深層学習は天気予報が著しく進んでいるが、現在の手法には限界がある。 (i)動的時間的依存と短期的急激な変化の両方を捉えるのに苦労し、極端な気象モデリングを困難にすることも多い。 二 広範な訓練及び資源の要求により、高い計算コストがかかること。 第三に、マルチスケール周波数への適応性に制限があり、局所的な変動からグローバルトレンドを分離する際の課題となる。 これらの問題に対処するため,天気予報の基礎モデルであるClimateLLMを提案する。 空間的および時間的モデリングを強化するために、Fourierベースの周波数分解とLarge Language Models (LLM)を統合する、時間的・空間的協調モデリングフレームワークを通じて時空間依存性をキャプチャする。 我々のフレームワークはMixture-of-Experts (MoE) 機構を用いて、異なる周波数成分を適応的に処理し、大域的な信号と局所化された極端事象の効率的な処理を可能にする。 さらに,複数スケールの気象パターンを効果的に組み込むことのできる,時間的・空間的動的プロンプト機構を導入する。 実世界のデータセットに関する大規模な実験によると、ClimateLLMは、グローバルな天気予報のためのスケーラブルなソリューションとして、精度と効率の最先端のアプローチより優れている。

関連論文リスト

• Efficient Localized Adaptation of Neural Weather Forecasting: A Case Study in the MENA Region [62.09891513612252]
  地域レベルのダウンストリームタスクに特化して、リミテッド・エリア・モデリングに焦点を合わせ、モデルをトレーニングします。 我々は,気象予報が水資源の管理,農業,極度の気象事象の影響軽減に重要であるという,気象学的課題からMENA地域を考察する。 本研究では,パラメータ効率のよい微調整手法,特にローランド適応(LoRA)とその変種を統合することの有効性を検証することを目的とした。
  論文  参考訳（メタデータ） (2024-09-11T19:31:56Z)
• MambaDS: Near-Surface Meteorological Field Downscaling with Topography Constrained Selective State Space Modeling [68.69647625472464]
  気象予測において重要な課題であるダウンスケーリングは、ターゲット領域に対する高解像度気象状態の再構築を可能にする。 以前のダウンスケーリング手法には気象学のための調整された設計が欠けており、構造的な限界に遭遇した。 本稿では,多変数相関と地形情報の利用性を高める新しいモデルであるMambaDSを提案する。
  論文  参考訳（メタデータ） (2024-08-20T13:45:49Z)
• LightWeather: Harnessing Absolute Positional Encoding to Efficient and Scalable Global Weather Forecasting [21.048535830456363]
  絶対的な位置符号化がTransformerベースの天気予報モデルで実際に機能していることが示される。 本稿では,測候の軽量かつ効果的なモデルであるLightWeatherを提案する。
  論文  参考訳（メタデータ） (2024-08-19T04:23:40Z)
• Probabilistic Emulation of a Global Climate Model with Spherical DYffusion [15.460280166612119]
  本研究では, 高精度で物理的に整合した地球規模の気候アンサンブルシミュレーションを作成した最初の条件生成モデルを提案する。 我々のモデルは、動的インフォームド拡散フレームワーク(DYffusion)と、球状フーリエニューラル演算子(SFNO)アーキテクチャを統合する。 このモデルは、気候モデルエミュレーションのための金本位に近い性能を達成し、既存のアプローチを上回り、有望なアンサンブルスキルを実証する。
  論文  参考訳（メタデータ） (2024-06-21T00:16:55Z)
• SFANet: Spatial-Frequency Attention Network for Weather Forecasting [54.470205739015434]
  天気予報は様々な分野において重要な役割を担い、意思決定とリスク管理を推進している。 伝統的な手法は、しばしば気象系の複雑な力学を捉えるのに苦労する。 本稿では,これらの課題に対処し,天気予報の精度を高めるための新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2024-05-29T08:00:15Z)
• Earthfarseer: Versatile Spatio-Temporal Dynamical Systems Modeling in One Model [23.875981403451256]
  EarthFarseerは、並列ローカル畳み込みとグローバルなフーリエベースのトランスフォーマーアーキテクチャを組み合わせたフレームワークである。 提案手法は, 様々な収束, データセットに強い適応性を示し, 長期間の予測において, 高速で良好な局所忠実性を示す。
  論文  参考訳（メタデータ） (2023-12-13T07:20:24Z)
• Learning Robust Precipitation Forecaster by Temporal Frame Interpolation [65.5045412005064]
  本研究では,空間的不一致に対するレジリエンスを示す頑健な降水予測モデルを構築した。 提案手法は,textit4cast'23コンペティションの移行学習リーダーボードにおいて,textit1位を確保したモデルにおいて,予測精度が大幅に向上した。
  論文  参考訳（メタデータ） (2023-11-30T08:22:08Z)
• ClimaX: A foundation model for weather and climate [51.208269971019504]
  ClimaXは気象と気候科学のディープラーニングモデルである。 気候データセットの自己教師型学習目標で事前トレーニングすることができる。 気候や気候の様々な問題に対処するために、微調整が可能である。
  論文  参考訳（メタデータ） (2023-01-24T23:19:01Z)
• Prompt Federated Learning for Weather Forecasting: Toward Foundation Models on Meteorological Data [37.549578998407675]
  地球規模の気候問題に対処するためには、大規模な気象データに基づいて総合的な気象予報を行うための共同プラットフォームを開発する必要がある。 本稿では,複雑な気象データを理解し,天気予報を行う領域にまたがる基礎モデルを構築した。 低リソースセンサの通信と計算の制約を満たすために,新しいプロンプト学習機構が採用された。
  論文  参考訳（メタデータ） (2023-01-22T16:47:05Z)
• DeepClimGAN: A High-Resolution Climate Data Generator [60.59639064716545]
  地球系モデル(ESM)は、気候変動シナリオの将来の予測を生成するためにしばしば用いられる。 妥協として、エミュレータはかなり安価であるが、ESMの複雑さを全て備えているわけではない。 本稿では, ESMエミュレータとして, 条件付き生成逆数ネットワーク(GAN)の使用を実証する。
  論文  参考訳（メタデータ） (2020-11-23T20:13:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。