論文の概要: Evaluating Transformer and LSTM Frameworks for Prediction in Ungauged Basins
- arxiv url: http://arxiv.org/abs/2606.02791v1
- Date: Mon, 01 Jun 2026 18:57:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-03 22:00:04.551578
- Title: Evaluating Transformer and LSTM Frameworks for Prediction in Ungauged Basins
- Title(参考訳): 未掘削盆地における変圧器とLSTMフレームワークの予測評価
- Authors: Taye Akinrele, James Halgren, Noorbakhsh Amiri Golilarz, Sudip Mittal, Shahram Rahimi,
- Abstract要約: 未掘削の盆地では、直接観測の欠如は不確実性を高め、極端な事象を予想する能力を制限する。
本研究は, エンコーダのみのトランスフォーマーが, 水文情報に制限された上流ストリームフロー推論において, LSTMよりも有利であるか否かを評価する。
- 参考スコア(独自算出の注目度): 4.077787659104315
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Watershed networks exhibit convergent topologies in which multiple tributaries merge into downstream channels,integrating diverse upstream hydrological processes. In ungauged basins, the absence of direct observations increases uncertainty and limits the ability to anticipate extreme events. This study evaluates whether an encoder-only Transformer provides an advantage over an LSTM for upstream streamflow inference under limited hydrologic information, using retrospective simulations from the NOAA National Water Model (NWM). Across both upstream-only and combined configurations, the LSTM showed stronger overall performance than the Transformer model across the two configurations. Incorporating downstream information further boosted performance for all models, increasing median NNSE by more than 60%. Rather than treating this as a leaderboard-style comparison, we interpret the experiments as a test of architectural inductive bias for hydrologic sequence inference. The results indicate that recurrent memory remains better aligned with this upstream reconstruction task than an encoder-only Transformer, while downstream hydrologic context provides a strong auxiliary constraint that substantially improves prediction skill across architectures
- Abstract(参考訳): 流域ネットワークは、複数の支流が下流の水路に合流する収束した地形を示し、様々な上流の水路を統合している。
未掘削の盆地では、直接観測の欠如は不確実性を高め、極端な事象を予想する能力を制限する。
本研究では,NOAA国立水モデル(NWM)の振り返りシミュレーションを用いて,エンコーダのみのトランスフォーマーが,限られた水理情報の下での上流流路推論においてLSTMよりも有利であるか否かを評価する。
上流のみの構成と複合構成の両方で、LSTMは2つの構成のトランスフォーマーモデルよりも全体的なパフォーマンスが高かった。
下流情報を組み込むことで全てのモデルの性能が向上し、NNSEの中央値が60%以上増加した。
これをリーダーボード型比較として扱うのではなく、我々は実験を水文シーケンス推論のためのアーキテクチャ誘導バイアスのテストとして解釈する。
以上の結果から,再帰記憶はエンコーダのみのトランスフォーマーよりも上流再構築作業に適しており,下流水理コンテキストはアーキテクチャ全体の予測能力を大幅に向上させる強力な補助的制約を提供することが示された。
関連論文リスト
- High-fidelity Modeling of Full-scale Pressurized Water Reactor Flow Fields for Machine Learning Applications [3.8347851078346427]
本研究は, 加圧水型原子炉における高忠実度計算流体力学(CFD)および組立レベル流動特性評価のためのデータ駆動モデリングフレームワークを提案する。
ポンプ誘起スワール境界条件による過渡的シミュレーションを可能にするために, 一般に利用可能な幾何学的条件と操作条件を用いて, フルロープルおよびコア・インレット領域を構築した。
その結果, コールドレッグスワールおよびロウアープレナム輸送は, 特に下部コア付近において, 組立方向のインレットフロー分布を強く均一に生成することがわかった。
3次元畳み込み型塗装モデルによる部分観察による組立レベル質量流量の復元に成功した
論文 参考訳(メタデータ) (2026-05-23T22:50:23Z) - Diffusion Bridge or Flow Matching? A Unifying Framework and Comparative Analysis [57.614436689939986]
拡散ブリッジとフローマッチングは、任意の分布間の変換において魅力的な経験的性能を示した。
我々は,これらのフレームワークを最適制御のレンズを通して再キャストし,拡散橋のコスト関数が低いことを証明した。
これらの理論的主張を裏付けるために,潜伏変圧器上に構築された拡散橋の新しい強力なアーキテクチャを提案する。
論文 参考訳(メタデータ) (2025-09-29T09:45:22Z) - Wavelet-SARIMA-Transformer: A Hybrid Model for Rainfall Forecasting [0.0]
本研究は,1971年から2023年の間にインド北東部の5つの気象区分にまたがる月間降雨量の予測を行うハイブリッドウェーブレットSARIMAトランスフォーマー(WST)を開発した。
論文 参考訳(メタデータ) (2025-09-15T13:27:19Z) - FLEX: A Backbone for Diffusion-Based Modeling of Spatio-temporal Physical Systems [51.15230303652732]
FLEX (F Low Expert) は、時間物理系の生成モデリングのためのバックボーンアーキテクチャである。
拡散モデルにおける速度場の分散を低減し、トレーニングの安定化に役立つ。
少数の特徴を2つの逆拡散ステップとして用いて、超解像および予測タスクの正確な予測を行う。
論文 参考訳(メタデータ) (2025-05-23T00:07:59Z) - Non-asymptotic Convergence of Training Transformers for Next-token Prediction [48.9399496805422]
トランスフォーマーは、シーケンシャルなデータを扱う優れた能力のために、現代の機械学習において驚くべき成功を収めています。
本稿では, 単層変圧器のトレーニング力学の微細な非漸近解析を行う。
トレーニングされたトランスフォーマーは,データセットシフトによる非トーケン予測能力を示すことを示す。
論文 参考訳(メタデータ) (2024-09-25T20:22:06Z) - Towards Generalized Hydrological Forecasting using Transformer Models for 120-Hour Streamflow Prediction [0.34530027457862006]
本研究では,米国アイオワ州における120時間流速予測のためのTransformerモデルの有効性について検討した。
我々はTransformerモデルの性能を3つのディープラーニングモデル(LSTM, GRU, Seq2Seq)とPersistenceアプローチと比較した。
本研究はトランスフォーマーモデルの優れた性能を示し、高い中央値のNSEおよびKGEスコアを維持し、最も低いNRMSE値を示す。
論文 参考訳(メタデータ) (2024-06-11T17:26:14Z) - Guided Flows for Generative Modeling and Decision Making [55.42634941614435]
その結果,ガイドフローは条件付き画像生成やゼロショット音声合成におけるサンプル品質を著しく向上させることがわかった。
特に、我々は、拡散モデルと比較して、オフライン強化学習設定axスピードアップにおいて、まず、計画生成にフローモデルを適用する。
論文 参考訳(メタデータ) (2023-11-22T15:07:59Z) - Probing the limit of hydrologic predictability with the Transformer
network [7.326504492614808]
我々は、広くベンチマークされたCAMELSデータセット上で、バニラトランスフォーマーアーキテクチャがLSTMと競合しないことを示す。
Transformerの再現性のない変種はLSTMとの混合比較を得ることができ、同じKling-Gupta効率係数(KGE)を他の指標とともに生成する。
Transformerの結果は現在の最先端のものほど高くはないが、それでもいくつかの貴重な教訓が得られた。
論文 参考訳(メタデータ) (2023-06-21T17:06:54Z) - Temporal Fusion Transformers for Streamflow Prediction: Value of
Combining Attention with Recurrence [0.0]
この研究は、繰り返しと注意を組み合わせることで、ストリームフロー予測を改善することができるという仮説をテストする。
我々はこれら2つの側面を組み合わせたTFT(Temporal Fusion Transformer)アーキテクチャを構築した。
その結果,TFT はストリームフロー予測のために LSTM と Transformer が設定した性能ベンチマークをはるかに上回っていることがわかった。
論文 参考訳(メタデータ) (2023-05-21T03:58:16Z) - GMFlow: Learning Optical Flow via Global Matching [124.57850500778277]
光フロー推定学習のためのGMFlowフレームワークを提案する。
機能拡張のためのカスタマイズトランスフォーマー、グローバル機能マッチングのための相関層とソフトマックス層、フロー伝搬のための自己保持層である。
我々の新しいフレームワークは、挑戦的なSintelベンチマークにおいて、32項目RAFTのパフォーマンスより優れています。
論文 参考訳(メタデータ) (2021-11-26T18:59:56Z) - What Matters in Unsupervised Optical Flow [51.45112526506455]
教師なし光流における鍵成分の集合を比較し解析する。
教師なしフローモデルに対する新しい改良点を多数構築する。
本稿では,従来の最先端技術よりもはるかに優れた非教師なしフロー技術を提案する。
論文 参考訳(メタデータ) (2020-06-08T19:36:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。