論文の概要: VITA: Variational Pretraining of Transformers for Climate-Robust Crop Yield Forecasting
- arxiv url: http://arxiv.org/abs/2508.03589v1
- Date: Tue, 05 Aug 2025 15:56:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-06 18:18:56.058082
- Title: VITA: Variational Pretraining of Transformers for Climate-Robust Crop Yield Forecasting
- Title（参考訳）: VITA:気候変動作物収量予測のための変圧器の変分事前訓練
- Authors: Adib Hasan, Mardavij Roozbehani, Munther Dahleh,
- Abstract要約: 現在のAIモデルは、収穫が歴史的傾向から逸脱した場合、体系的に過小評価される。
この非対称性に対処する変分事前学習フレームワークであるVITAを導入する。
VITAは、事前訓練中に詳細な気象変数をプロキシターゲットとして使用し、自己監督された特徴マスキングを通じてリッチな大気状態を予測することを学ぶ。
- 参考スコア（独自算出の注目度）: 0.5735035463793009
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Accurate crop yield forecasting is essential for global food security. However, current AI models systematically underperform when yields deviate from historical trends. This issue arises from key data challenges, including a major asymmetry between rich pretraining weather datasets and the limited data available for fine-tuning. We introduce VITA (Variational Inference Transformer for Asymmetric data), a variational pretraining framework that addresses this asymmetry. Instead of relying on input reconstruction, VITA uses detailed weather variables as proxy targets during pretraining and learns to predict rich atmospheric states through self-supervised feature masking. This allows the model to be fine-tuned using only basic weather statistics during deployment. Applied to 763 counties in the U.S. Corn Belt, VITA achieves state-of-the-art performance in predicting corn and soybean yields across all evaluation scenarios. While it consistently delivers superior performance under normal conditions, its advantages are particularly pronounced during extreme weather years, with statistically significant improvements (paired t-test, $p \approx 0.01$). Importantly, VITA outperforms prior frameworks like GNN-RNN using less data, making it more practical for real-world use--particularly in data-scarce regions. This work highlights how domain-aware AI design can overcome data limitations and support resilient agricultural forecasting in a changing climate.
- Abstract（参考訳）: 世界の食料安全保障には正確な収穫量予測が不可欠である。
しかし、現在のAIモデルは、収穫が歴史的傾向から逸脱した場合、体系的に過小評価される。
この問題は、豊富な事前学習型気象データセットと、微調整に利用可能な限られたデータとの間の大きな非対称性を含む、重要なデータ課題から生じる。
この非対称性に対処する変分事前学習フレームワークであるVITA(Variational Inference Transformer for Asymmetric data)を導入する。
入力の再構成に頼る代わりに、VITAは事前訓練中に詳細な気象変数をプロキシーターゲットとして使用し、自己監督された特徴マスキングを通じてリッチな大気状態を予測することを学ぶ。
これにより、配置中の基本的な気象統計だけでモデルを微調整できる。
アメリカ・コーンベルトの763の郡に適用されるVITAは、すべての評価シナリオでトウモロコシと大豆の収量を予測する最先端のパフォーマンスを達成している。
常に正常な条件下では優れた性能を提供するが、その利点は特に極度の気象時代に顕著で、統計的に有意な改善(t-test、$p \approx 0.01$)がある。
重要な点として、VITAは、GNN-RNNのような従来のフレームワークよりも少ないデータを使用する場合の方が優れており、特にデータスカース領域において、現実世界での使用においてより実用的である。
この研究は、ドメイン認識AI設計がデータ制限を克服し、変化する気候における回復力のある農業予測をサポートする方法を強調している。
関連論文リスト
- Utilizing Strategic Pre-training to Reduce Overfitting: Baguan -- A Pre-trained Weather Forecasting Model [20.98899316909536]
本研究では,サイムズオートエンコーダを事前学習した中距離気象予報モデルであるBaguanを紹介する。
実験の結果、バグア語は従来の手法よりも優れており、より正確な予測を提供することが示された。
論文 参考訳（メタデータ） (2025-05-20T03:29:23Z) - Data-driven Seasonal Climate Predictions via Variational Inference and Transformers [31.98107454758077]
我々は季節予測のための気候モデル出力の生成モデルを訓練する。
気候変動に伴う傾向を超えた年次異常予測における手法の性能分析を行った。
論文 参考訳（メタデータ） (2025-03-26T11:51:23Z) - Deep Learning for Weather Forecasting: A CNN-LSTM Hybrid Model for Predicting Historical Temperature Data [7.559331742876793]
本研究では,畳み込みニューラルネットワーク(CNN)とLong Short-Term Memory(LSTM)を併用したハイブリッドモデルを提案する。
CNNは空間的特徴抽出に利用され、LSTMは時間的依存を処理し、予測精度と安定性が大幅に向上する。
論文 参考訳（メタデータ） (2024-10-19T03:38:53Z) - A Benchmark for AI-based Weather Data Assimilation [10.100157158477145]
本研究では,シミュレーション観測,実世界観測,ERA5再解析により構築したベンチマークであるDABenchを提案する。
実験の結果,4DVarFormerV2とSformerを統合したエンド・ツー・エンドの天気予報システムが実世界の観測を同化できることが確認された。
提案されているDABenchは、AIベースのDA、AIベースの天気予報、および関連するドメインの研究を大幅に前進させる。
論文 参考訳（メタデータ） (2024-08-21T08:50:19Z) - Forecast-PEFT: Parameter-Efficient Fine-Tuning for Pre-trained Motion Forecasting Models [68.23649978697027]
Forecast-PEFTは、モデルのパラメータの大部分を凍結し、新しく導入されたプロンプトとアダプタの調整に集中する微調整戦略である。
実験の結果,Forecast-PEFTは動作予測タスクにおいて従来のフルチューニング手法よりも優れていた。
Forecast-FTは予測性能をさらに改善し、従来のベースライン法よりも最大9.6%向上した。
論文 参考訳（メタデータ） (2024-07-28T19:18:59Z) - How far are today's time-series models from real-world weather forecasting applications? [22.68937280154092]
WEATHER-5Kは、現実世界のシナリオをよりよく反映した観測気象データの包括的収集である。
これにより、モデルのより良いトレーニングと、TSFモデルの現実の予測能力のより正確な評価が可能になる。
我々は,学術的TSFモデルと実世界の天気予報アプリケーションとのギャップを,研究者に明確に評価する。
論文 参考訳（メタデータ） (2024-06-20T15:18:52Z) - Generalizing Weather Forecast to Fine-grained Temporal Scales via Physics-AI Hybrid Modeling [55.13352174687475]
本稿では,天気予報をトレーニングデータセットを超える微細な時間スケールに一般化する物理AIハイブリッドモデル(WeatherGFT)を提案する。
具体的には、小さな時間スケールで物理進化をシミュレートするために、慎重に設計されたPDEカーネルを用いる。
また、異なるリードタイムでのモデルの一般化を促進するためのリードタイムアウェアトレーニングフレームワークも導入する。
論文 参考訳（メタデータ） (2024-05-22T16:21:02Z) - ExtremeCast: Boosting Extreme Value Prediction for Global Weather Forecast [57.6987191099507]
非対称な最適化を行い、極端な天気予報を得るために極端な値を強調する新しい損失関数であるExlossを導入する。
また,複数のランダムサンプルを用いて予測結果の不確かさをキャプチャするExBoosterについても紹介する。
提案手法は,上位中距離予測モデルに匹敵する全体的な予測精度を維持しつつ,極端気象予測における最先端性能を達成することができる。
論文 参考訳（メタデータ） (2024-02-02T10:34:13Z) - Towards an end-to-end artificial intelligence driven global weather forecasting system [57.5191940978886]
我々は,地球規模の気象変動に対するAIに基づくデータ同化モデル,すなわちAdasを提案する。
我々は,アダスが地球観測を同化して高品質な分析を行い,長期にわたって安定して運用できることを実証した。
この手法を現実のシナリオに適用するのは,私たちが初めてです。
論文 参考訳（メタデータ） (2023-12-18T09:05:28Z) - ClimaX: A foundation model for weather and climate [51.208269971019504]
ClimaXは気象と気候科学のディープラーニングモデルである。
気候データセットの自己教師型学習目標で事前トレーニングすることができる。
気候や気候の様々な問題に対処するために、微調整が可能である。
論文 参考訳（メタデータ） (2023-01-24T23:19:01Z) - Forecasting large-scale circulation regimes using deformable
convolutional neural networks and global spatiotemporal climate data [86.1450118623908]
変形可能な畳み込みニューラルネットワーク(deCNN)に基づく教師あり機械学習手法の検討
今後1～15日にわたって北大西洋-欧州の気象条件を予測した。
より広い視野で見れば、通常の畳み込みニューラルネットワークよりも5～6日を超えるリードタイムでかなり優れた性能を発揮することが分かる。
論文 参考訳（メタデータ） (2022-02-10T11:37:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。