論文の概要: 4D-Var using Hessian approximation and backpropagation applied to automatically-differentiable numerical and machine learning models
- arxiv url: http://arxiv.org/abs/2408.02767v1
- Date: Mon, 5 Aug 2024 18:36:13 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-07 15:48:37.022405
- Title: 4D-Var using Hessian approximation and backpropagation applied to automatically-differentiable numerical and machine learning models
- Title(参考訳): ヘッセン近似とバックプロパゲーションを用いた4D-Varの自動微分可能な数値モデルと機械学習モデルへの応用
- Authors: Kylen Solvik, Stephen G. Penny, Stephan Hoyer,
- Abstract要約: 本稿では,誤差のバックプロパゲーションとヘッセン近似を組み合わせることで,ガウスニュートン法を効率よく近似できることを示す。
この結果は、次世代の運用予測システムにおいて、モデリング、データ同化、および新しい技術のより深い統合の可能性を示している。
- 参考スコア(独自算出の注目度): 1.3142789604525646
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Constraining a numerical weather prediction (NWP) model with observations via 4D variational (4D-Var) data assimilation is often difficult to implement in practice due to the need to develop and maintain a software-based tangent linear model and adjoint model. One of the most common 4D-Var algorithms uses an incremental update procedure, which has been shown to be an approximation of the Gauss-Newton method. Here we demonstrate that when using a forecast model that supports automatic differentiation, an efficient and in some cases more accurate alternative approximation of the Gauss-Newton method can be applied by combining backpropagation of errors with Hessian approximation. This approach can be used with either a conventional numerical model implemented within a software framework that supports automatic differentiation, or a machine learning (ML) based surrogate model. We test the new approach on a variety of Lorenz-96 and quasi-geostrophic models. The results indicate potential for a deeper integration of modeling, data assimilation, and new technologies in a next-generation of operational forecast systems that leverage weather models designed to support automatic differentiation.
- Abstract(参考訳): 数値天気予知(NWP)モデルと4次元変動(4D-Var)データ同化による観測の制約は,ソフトウェアベースの接線モデルと随伴モデルの開発・保守の必要性から,実際に実施することがしばしば困難である。
最も一般的な4D-Varアルゴリズムの1つはインクリメンタルな更新手順を使用しており、ガウス・ニュートン法の近似であることが示されている。
ここでは, 自動微分をサポートする予測モデルを用いることで, より正確なガウス・ニュートン法の代替近似をヘッセン近似と組み合わせることで適用できることを実証する。
このアプローチは、自動微分をサポートするソフトウェアフレームワーク内で実装された従来の数値モデルや、機械学習(ML)ベースのサロゲートモデルで使用することができる。
我々は,ローレンツ96と準地球栄養モデルに対する新しいアプローチを検証した。
この結果から, 自動微分を支援するために設計された気象モデルを活用する次世代の運用予測システムにおいて, モデリング, データ同化, および新しい技術がより深く統合される可能性が示唆された。
関連論文リスト
- Supervised Score-Based Modeling by Gradient Boosting [49.556736252628745]
本稿では,スコアマッチングを組み合わせた勾配向上アルゴリズムとして,SSM(Supervised Score-based Model)を提案する。
推測時間と予測精度のバランスをとるため,SSMの学習とサンプリングに関する理論的解析を行った。
我々のモデルは、精度と推測時間の両方で既存のモデルより優れています。
論文 参考訳(メタデータ) (2024-11-02T07:06:53Z) - Bayesian Structural Model Updating with Multimodal Variational Autoencoder [2.4297252937957436]
提案手法は,マルチモーダル変分オートエンコーダ(VAE)のサロゲート・ユニモーダルエンコーダを利用する。
様々な動的解析モデルに適用可能な高次元相関同時観測に特に適している。
論文 参考訳(メタデータ) (2024-06-07T23:12:51Z) - Efficient modeling of sub-kilometer surface wind with Gaussian processes and neural networks [0.0]
風は、その空間的および時間的変動が高いため、モデルにとって特に困難な変数である。
本稿では,ガウス過程(GP)とニューラルネットワークを統合し,表面風洞をモデル化する新しい手法を提案する。
本稿では,異なるモデル選択の効果,および近似の度合いについて論じ,ケーススタディにおける結果について述べる。
論文 参考訳(メタデータ) (2024-05-21T09:07:47Z) - FengWu-4DVar: Coupling the Data-driven Weather Forecasting Model with 4D Variational Assimilation [67.20588721130623]
我々は,AIを用いた循環型天気予報システムFengWu-4DVarを開発した。
FengWu-4DVarは観測データをデータ駆動の天気予報モデルに組み込むことができる。
シミュレーションされた観測データセットの実験は、FengWu-4DVarが合理的な解析場を生成することができることを示した。
論文 参考訳(メタデータ) (2023-12-16T02:07:56Z) - Diffusion models for probabilistic programming [56.47577824219207]
拡散モデル変分推論(DMVI)は確率型プログラミング言語(PPL)における自動近似推論手法である
DMVIは実装が容易で、例えば正規化フローを用いた変分推論の欠点を伴わずに、PPLでヘイズルフリー推論が可能であり、基礎となるニューラルネットワークモデルに制約を課さない。
論文 参考訳(メタデータ) (2023-11-01T12:17:05Z) - Online model error correction with neural networks in the incremental
4D-Var framework [0.0]
我々は,オンラインモデル誤り訂正のためのニューラルネットワークのトレーニングに使用できる,新しい弱制約4D-Varの定式化を開発した。
本手法はECMWFオブジェクト指向予測システムに実装されている。
その結果,オンライン学習が有効であることが確認され,オフライン学習よりも精度の高いモデル誤差補正が得られた。
論文 参考訳(メタデータ) (2022-10-25T07:45:33Z) - RMFGP: Rotated Multi-fidelity Gaussian process with Dimension Reduction
for High-dimensional Uncertainty Quantification [12.826754199680474]
マルチフィデリティモデリングは、少量の正確なデータしか入手できない場合でも、正確な推測を可能にする。
高忠実度モデルと1つ以上の低忠実度モデルを組み合わせることで、多忠実度法は興味のある量の正確な予測を行うことができる。
本稿では,回転多要素ガウス過程の回帰に基づく新しい次元削減フレームワークとベイズ能動学習手法を提案する。
論文 参考訳(メタデータ) (2022-04-11T01:20:35Z) - Generalised Latent Assimilation in Heterogeneous Reduced Spaces with
Machine Learning Surrogate Models [10.410970649045943]
我々は,低次サロゲートモデルと新しいデータ同化手法を組み合わせたシステムを開発した。
一般化された潜在同化は、低次モデリングによって提供される効率とデータ同化の精度の両方の恩恵を受けることができる。
論文 参考訳(メタデータ) (2022-04-07T15:13:12Z) - Closed-form Continuous-Depth Models [99.40335716948101]
連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。
我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
論文 参考訳(メタデータ) (2021-06-25T22:08:51Z) - Anomaly Detection of Time Series with Smoothness-Inducing Sequential
Variational Auto-Encoder [59.69303945834122]
Smoothness-Inducing Sequential Variational Auto-Encoder (SISVAE) モデルを提案する。
我々のモデルは、フレキシブルニューラルネットワークを用いて各タイムスタンプの平均と分散をパラメータ化する。
合成データセットと公開実世界のベンチマークの両方において,本モデルの有効性を示す。
論文 参考訳(メタデータ) (2021-02-02T06:15:15Z) - Learning Gaussian Graphical Models via Multiplicative Weights [54.252053139374205]
乗算重み更新法に基づいて,Klivans と Meka のアルゴリズムを適用した。
アルゴリズムは、文献の他のものと質的に類似したサンプル複雑性境界を楽しみます。
ランタイムが低い$O(mp2)$で、$m$サンプルと$p$ノードの場合には、簡単にオンライン形式で実装できる。
論文 参考訳(メタデータ) (2020-02-20T10:50:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。