論文の概要: Meteorology-Driven GPT4AP: A Multi-Task Forecasting LLM for Atmospheric Air Pollution in Data-Scarce Settings
- arxiv url: http://arxiv.org/abs/2603.29974v1
- Date: Tue, 31 Mar 2026 16:37:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-01 15:25:03.865331
- Title: Meteorology-Driven GPT4AP: A Multi-Task Forecasting LLM for Atmospheric Air Pollution in Data-Scarce Settings
- Title(参考訳): 気象駆動型GPT4AP:データスカース設定における大気汚染のためのマルチタスク予測LLM
- Authors: Prasanjit Dey, Soumyabrata Dev, Bianca Schoen-Phelan,
- Abstract要約: 事前訓練GPT-2バックボーンとガウスランク安定化低ランク適応(rsLoRA)に基づく大気汚染のための気象駆動型GPT(GPT4AP)
モデルは、数ショット、ゼロショット、長期予測設定の下で6つの実世界の空気質監視データセットで評価される。
- 参考スコア(独自算出の注目度): 4.364999214109123
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Accurate forecasting of air pollution is important for environmental monitoring and policy support, yet data-driven models often suffer from limited generalization in regions with sparse observations. This paper presents Meteorology-Driven GPT for Air Pollution (GPT4AP), a parameter-efficient multi-task forecasting framework based on a pre-trained GPT-2 backbone and Gaussian rank-stabilized low-rank adaptation (rsLoRA). The model freezes the self-attention and feed-forward layers and adapts lightweight positional and output modules, substantially reducing the number of trainable parameters. GPT4AP is evaluated on six real-world air quality monitoring datasets under few-shot, zero-shot, and long-term forecasting settings. In the few-shot regime using 10% of the training data, GPT4AP achieves an average MSE/MAE of 0.686/0.442, outperforming DLinear (0.728/0.530) and ETSformer (0.734/0.505). In zero-shot cross-station transfer, the proposed model attains an average MSE/MAE of 0.529/0.403, demonstrating improved generalization compared with existing baselines. In long-term forecasting with full training data, GPT4AP remains competitive, achieving an average MAE of 0.429, while specialized time-series models show slightly lower errors. These results indicate that GPT4AP provides a data-efficient forecasting approach that performs robustly under limited supervision and domain shift, while maintaining competitive accuracy in data-rich settings.
- Abstract(参考訳): 大気汚染の正確な予測は、環境モニタリングや政策支援において重要であるが、データ駆動モデルは、希少な観測の少ない地域での限定的な一般化に悩まされることが多い。
本稿では,事前学習したGPT-2バックボーンとガウスランク安定化低ランク適応(rsLoRA)に基づくパラメータ効率のマルチタスク予測フレームワークである,大気汚染のための気象駆動型GPT(GPT4AP)を提案する。
モデルは自己保持層とフィードフォワード層を凍結し、軽量な位置および出力モジュールを適応させ、トレーニング可能なパラメータの数を著しく削減する。
GPT4APは、数ショット、ゼロショット、長期予測設定の6つの実世界の空気質監視データセットで評価される。
GPT4APはトレーニングデータの10%を使用し、平均MSE/MAEは0.686/0.442であり、DLinear (0.728/0.530)とETSformer (0.734/0.505)を上回っている。
ゼロショットクロスステーション転送では、提案モデルは0.529/0.403の平均MSE/MAEを達成し、既存のベースラインと比較して一般化が向上した。
完全なトレーニングデータによる長期予測では、GPT4APは競争力があり、平均MAEは0.429であり、特別な時系列モデルはわずかに低いエラーを示している。
これらの結果から、GPT4APは、データリッチな環境での競合精度を維持しつつ、限られた監督とドメインシフトの下で頑健に機能するデータ効率予測手法を提供することが示された。
関連論文リスト
- AIFL: A Global Daily Streamflow Forecasting Model Using Deterministic LSTM Pre-trained on ERA5-Land and Fine-tuned on IFS [0.39918810815847444]
本稿では,グローバルな日次ストリームフロー予測のための決定論的LSTMモデルであるAIFL(Artificial Intelligence for Floods)を紹介する。
CARAVANデータセットから算出された18,588の盆地で訓練されている。
ベンチマークの結果は、AIFLが現在の最先端のグローバルシステムと非常に競合していることを示している。
論文 参考訳(メタデータ) (2026-02-18T16:26:36Z) - Echo State Networks for Time Series Forecasting: Hyperparameter Sweep and Benchmarking [51.56484100374058]
我々は、完全に自動で純粋にフィードバック駆動のESNが、広く使われている統計的予測手法の代替となるかどうかを評価する。
予測精度は、MASEとsMAPEを用いて測定され、ドリフトや季節予測、統計モデルといった単純なベンチマークと比較される。
論文 参考訳(メタデータ) (2026-02-03T16:01:22Z) - CSU-PCAST: A Dual-Branch Transformer Framework for medium-range ensemble Precipitation Forecasting [6.540270371082014]
本研究では,多段階降水予測のための深層学習に基づくアンサンブルフレームワークを開発する。
アーキテクチャはパッチベースのSwin Transformerのバックボーンを使用し、周期的な畳み込みによって長手連続性を扱う。
トレーニングは、CRPS(Continuous Ranked Probability Score)と重み付きlog1p平均二乗誤差(log1pMSE)を組み合わせたハイブリッド損失を最小限にする
論文 参考訳(メタデータ) (2025-10-23T17:43:38Z) - How Effective Are Time-Series Models for Precipitation Nowcasting? A Comprehensive Benchmark for GNSS-based Precipitation Nowcasting [18.312964316878283]
RainfallBenchは、降水量計用に設計されたベンチマークである。
このデータセットは、6つの必須変数の時間間隔で記録された5年間の気象観測から導かれる。
降水性水蒸気(PWV)は、他のデータセットにない降雨の重要な指標である。
論文 参考訳(メタデータ) (2025-09-28T03:21:24Z) - Fourier Domain Adaptation for Traffic Light Detection in Adverse Weather [1.1411980034550504]
悪天候下での交通光検出は、ADASシステムでは未発見のままである。
本稿では、アーキテクチャの変更なしにデータ修正をトレーニングすることのみを必要とするフーリエドメイン適応(FDA)を提案する。
FDAは、ソースとターゲットドメイン間のドメインギャップを最小化し、悪天候下で信頼性の高いパフォーマンスのためのデータセットを作成する。
論文 参考訳(メタデータ) (2024-11-12T16:15:25Z) - FuXi-ENS: A machine learning model for medium-range ensemble weather forecasting [16.562512279873577]
我々は,最大15日間のグローバルアンサンブル天気予報を実現するために設計された,高度なMLモデルであるFuXi-ENSを紹介する。
FuXi-ENS は空間分解能が 0.25 度大きく向上し、13の圧力レベルで5つの大気変数と13の表面変数が組み込まれている。
その結果,FXi-ENSは360変数の98.1%のCRPSと予測リードタイムの組み合わせで,世界有数のNWPモデルであるECMWFのアンサンブル予測よりも優れていた。
論文 参考訳(メタデータ) (2024-05-09T17:15:09Z) - ExtremeCast: Boosting Extreme Value Prediction for Global Weather Forecast [57.6987191099507]
非対称な最適化を行い、極端な天気予報を得るために極端な値を強調する新しい損失関数であるExlossを導入する。
また,複数のランダムサンプルを用いて予測結果の不確かさをキャプチャするExBoosterについても紹介する。
提案手法は,上位中距離予測モデルに匹敵する全体的な予測精度を維持しつつ,極端気象予測における最先端性能を達成することができる。
論文 参考訳(メタデータ) (2024-02-02T10:34:13Z) - Long-term drought prediction using deep neural networks based on geospatial weather data [75.38539438000072]
農業計画や保険には1年前から予測される高品質の干ばつが不可欠だ。
私たちは、体系的なエンドツーエンドアプローチを採用するエンドツーエンドアプローチを導入することで、干ばつデータに取り組みます。
主な発見は、TransformerモデルであるEarthFormerが、正確な短期(最大6ヶ月)の予測を行う際の例外的なパフォーマンスである。
論文 参考訳(メタデータ) (2023-09-12T13:28:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。