論文の概要: Towards mechanistic understanding in a data-driven weather model: internal activations reveal interpretable physical features
- arxiv url: http://arxiv.org/abs/2512.24440v1
- Date: Tue, 30 Dec 2025 19:50:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-01 23:27:28.477118
- Title: Towards mechanistic understanding in a data-driven weather model: internal activations reveal interpretable physical features
- Title（参考訳）: データ駆動型気象モデルにおける機械的理解に向けて--内部アクティベーションが解釈可能な物理的特徴を明らかにする
- Authors: Theodore MacMillan, Nicholas T. Ouellette,
- Abstract要約: 我々は、GraphCastの中間計算層を解析するために、Large Language Modelsにおける解釈可能性の研究からツールを適用する。
熱帯低気圧, 大気河川, 日・季節変動, 大規模降雨パターン, 特定地理的コーディング, 海氷範囲に対応する, 幅広い長さと時間スケールの異なる特徴を明らかにした。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large data-driven physics models like DeepMind's weather model GraphCast have empirically succeeded in parameterizing time operators for complex dynamical systems with an accuracy reaching or in some cases exceeding that of traditional physics-based solvers. Unfortunately, how these data-driven models perform computations is largely unknown and whether their internal representations are interpretable or physically consistent is an open question. Here, we adapt tools from interpretability research in Large Language Models to analyze intermediate computational layers in GraphCast, leveraging sparse autoencoders to discover interpretable features in the neuron space of the model. We uncover distinct features on a wide range of length and time scales that correspond to tropical cyclones, atmospheric rivers, diurnal and seasonal behavior, large-scale precipitation patterns, specific geographical coding, and sea-ice extent, among others. We further demonstrate how the precise abstraction of these features can be probed via interventions on the prediction steps of the model. As a case study, we sparsely modify a feature corresponding to tropical cyclones in GraphCast and observe interpretable and physically consistent modifications to evolving hurricanes. Such methods offer a window into the black-box behavior of data-driven physics models and are a step towards realizing their potential as trustworthy predictors and scientifically valuable tools for discovery.
- Abstract（参考訳）: DeepMindの天気モデルのような大規模なデータ駆動物理モデル GraphCast は、複雑な力学系の時間演算子をパラメータ化するのに経験的に成功した。
残念ながら、これらのデータ駆動モデルがどのように計算を実行するかはほとんど不明であり、内部表現が解釈可能か物理的に一貫性があるかは未解決である。
そこで我々は,大言語モデルにおける解釈可能性研究からのツールをGraphCastの中間計算層の解析に適用し,スパースオートエンコーダを活用して,モデルのニューロン空間における解釈可能な特徴を発見する。
熱帯低気圧, 大気河川, 日・季節変動, 大規模降雨パターン, 特定地理的コーディング, 海氷範囲などに対応する, 幅広い長さ・時間スケールの特徴を明らかにした。
さらに、これらの特徴の正確な抽象化が、モデルの予測ステップへの介入を通してどのように探索できるかを実証する。
ケーススタディでは,GraphCastの熱帯性サイクロンに対応する特徴を軽微に修正し,進化するハリケーンに対する解釈的かつ物理的に一貫した変化を観察する。
このような手法は、データ駆動物理モデルのブラックボックス行動の窓口を提供し、信頼性の高い予測器や科学的に価値のある発見ツールとしての可能性を実現するための一歩である。
関連論文リスト
- Stable Long-Horizon Spatiotemporal Prediction on Meshes Using Latent Multiscale Recurrent Graph Neural Networks [0.0]
メッシュ上での全温度履歴を直接予測するディープラーニングフレームワークを提案する。
このフレームワークは何千もの時間ステップを維持し、不均一なジオメトリをまたいで一般化する。
粉体層融合データのシミュレーション実験により, 高精度で時間的に安定な長水平予測が得られた。
論文 参考訳（メタデータ） (2026-02-20T11:22:47Z) - A Physics-guided Multimodal Transformer Path to Weather and Climate Sciences [59.05404971880922]
気象学における多くの問題は、AIモデルを使って解決できる。
データ駆動アルゴリズムは従来の手法に比べて精度が大幅に向上した。
本稿では,異なる視点からの観測データをマルチモーダルデータとして扱い,変換器を介して統合する新たなパラダイムを提案する。
論文 参考訳（メタデータ） (2025-04-19T04:31:35Z) - Learning Physically Interpretable Atmospheric Models from Data with WSINDy [0.0]
シミュレーションデータと同化データの両方から有効な大気モデルを学ぶことができることを示す。
提案手法は,任意の空間次元の高次元流体データを扱うための標準WSINDyアルゴリズムに適応する。
論文 参考訳（メタデータ） (2025-01-01T06:03:07Z) - Analyzing Deep Transformer Models for Time Series Forecasting via Manifold Learning [4.910937238451485]
トランスフォーマーモデルは、自然言語処理やコンピュータビジョンといった様々な領域において、一貫して顕著な成果を上げてきた。
これらのモデルをよりよく理解するための継続的な研究努力にもかかわらず、この分野はいまだに包括的な理解を欠いている。
画像やテキスト情報とは異なり、時系列データは解釈し分析することがより困難である。
論文 参考訳（メタデータ） (2024-10-17T17:32:35Z) - Comparing and Contrasting Deep Learning Weather Prediction Backbones on Navier-Stokes and Atmospheric Dynamics [41.00712556599439]
私たちは、最も顕著なディープラーニング天気予報モデルと背骨を比較し、対比します。
合成2次元非圧縮性ナビエストークスと実世界の気象動態を予測してこれを達成した。
365日間の長距離気象観測では、球面データ表現を定式化するアーキテクチャにおいて、優れた安定性と物理的健全性を観察する。
論文 参考訳（メタデータ） (2024-07-19T08:59:00Z) - Generalizing Weather Forecast to Fine-grained Temporal Scales via Physics-AI Hybrid Modeling [55.13352174687475]
本稿では,天気予報をトレーニングデータセットを超える微細な時間スケールに一般化する物理AIハイブリッドモデル(WeatherGFT)を提案する。
具体的には、小さな時間スケールで物理進化をシミュレートするために、慎重に設計されたPDEカーネルを用いる。
また、異なるリードタイムでのモデルの一般化を促進するためのリードタイムアウェアトレーニングフレームワークも導入する。
論文 参考訳（メタデータ） (2024-05-22T16:21:02Z) - ClimaX: A foundation model for weather and climate [51.208269971019504]
ClimaXは気象と気候科学のディープラーニングモデルである。
気候データセットの自己教師型学習目標で事前トレーニングすることができる。
気候や気候の様々な問題に対処するために、微調整が可能である。
論文 参考訳（メタデータ） (2023-01-24T23:19:01Z) - Leveraging the structure of dynamical systems for data-driven modeling [111.45324708884813]
トレーニングセットとその構造が長期予測の品質に与える影響を考察する。
トレーニングセットのインフォームドデザインは,システムの不変性と基盤となるアトラクションの構造に基づいて,結果のモデルを大幅に改善することを示す。
論文 参考訳（メタデータ） (2021-12-15T20:09:20Z) - Model discovery in the sparse sampling regime [0.0]
深層学習が部分微分方程式のモデル発見をいかに改善できるかを示す。
その結果、ディープラーニングに基づくモデル発見は、基礎となる方程式を復元することができる。
我々は合成集合と実験集合の両方について主張する。
論文 参考訳（メタデータ） (2021-05-02T06:27:05Z) - Physics-Integrated Variational Autoencoders for Robust and Interpretable
Generative Modeling [86.9726984929758]
我々は、不完全物理モデルの深部生成モデルへの統合に焦点を当てる。
本稿では,潜在空間の一部が物理によって基底づけられたVAEアーキテクチャを提案する。
合成および実世界のデータセットの集合に対して生成的性能改善を示す。
論文 参考訳（メタデータ） (2021-02-25T20:28:52Z) - Deducing neighborhoods of classes from a fitted model [68.8204255655161]
本稿では,新しいタイプの解釈可能な機械学習手法を提案する。
量子シフトを用いた分類モデルでは、特徴空間の予測クラスへの分割を理解するのに役立ちます。
基本的に、実際のデータポイント(または特定の関心点)を使用し、特定の特徴をわずかに引き上げたり減少させたりした後の予測の変化を観察する。
論文 参考訳（メタデータ） (2020-09-11T16:35:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。