論文の概要: TyphoFormer: Language-Augmented Transformer for Accurate Typhoon Track Forecasting

• arxiv url: http://arxiv.org/abs/2506.17609v2
• Date: Sun, 29 Jun 2025 04:29:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-01 13:01:42.690833
• Title: TyphoFormer: Language-Augmented Transformer for Accurate Typhoon Track Forecasting
• Title（参考訳）: TyphoFormer: 正確なTyphoonトラック予測のための言語拡張トランスフォーマ
• Authors: Lincan Li, Eren Erman Ozguven, Yue Zhao, Guang Wang, Yiqun Xie, Yushun Dong,
• Abstract要約: 本稿では,自然言語記述を補助的プロンプトとして組み込んだTyphoFormerを提案する。 各時間ステップ毎に,北大西洋ハリケーンデータベースに記録された数値属性に基づいて,Large Language Model (LLM) を用いて簡潔なテキスト記述を生成する。 言語記述は、高レベルの気象学的意味を捉え、数値時系列入力に先立って、補助的な特別なトークンとして組み込まれている。
• 参考スコア（独自算出の注目度）: 20.97905433639971
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Accurate typhoon track forecasting is crucial for early system warning and disaster response. While Transformer-based models have demonstrated strong performance in modeling the temporal dynamics of dense trajectories of humans and vehicles in smart cities, they usually lack access to broader contextual knowledge that enhances the forecasting reliability of sparse meteorological trajectories, such as typhoon tracks. To address this challenge, we propose TyphoFormer, a novel framework that incorporates natural language descriptions as auxiliary prompts to improve typhoon trajectory forecasting. For each time step, we use Large Language Model (LLM) to generate concise textual descriptions based on the numerical attributes recorded in the North Atlantic hurricane database. The language descriptions capture high-level meteorological semantics and are embedded as auxiliary special tokens prepended to the numerical time series input. By integrating both textual and sequential information within a unified Transformer encoder, TyphoFormer enables the model to leverage contextual cues that are otherwise inaccessible through numerical features alone. Extensive experiments are conducted on HURDAT2 benchmark, results show that TyphoFormer consistently outperforms other state-of-the-art baseline methods, particularly under challenging scenarios involving nonlinear path shifts and limited historical observations.
• Abstract（参考訳）: 早期警戒・災害対応には,正確な台風予報が不可欠である。 トランスフォーマーベースのモデルは、スマートシティにおける人間や車両の高密度軌跡の時間的ダイナミクスをモデル化する上で、強い性能を示してきたが、通常、台風のような疎い気象軌跡の予測信頼性を高めるような、より広い文脈的知識へのアクセスは欠如している。 この課題に対処するために,自然言語記述を補助的プロンプトとして組み込んだ新しいフレームワークであるTyphoFormerを提案する。 各時間ステップ毎に,北大西洋ハリケーンデータベースに記録された数値属性に基づいて,Large Language Model (LLM) を用いて簡潔なテキスト記述を生成する。 言語記述は、高レベルの気象学的意味を捉え、数値時系列入力に先立って、補助的な特別なトークンとして組み込まれている。 統一されたTransformerエンコーダにテキスト情報とシーケンシャル情報を統合することで、TyphoFormerは数値機能だけではアクセスできないコンテキストキューをモデルに活用することができる。 HURDAT2ベンチマークで大規模な実験を行った結果、TyphoFormerは他の最先端のベースライン法、特に非線形パスシフトや限られた歴史観測を含む困難なシナリオにおいて、一貫して性能が向上していることが示された。

関連論文リスト

• Detecting Document-level Paraphrased Machine Generated Content: Mimicking Human Writing Style and Involving Discourse Features [57.34477506004105]
  機械生成コンテンツは、学術プラジャリズムや誤報の拡散といった課題を提起する。 これらの課題を克服するために、新しい方法論とデータセットを導入します。 人間の筆記スタイルをエミュレートするエンコーダデコーダモデルであるMhBARTを提案する。 また,PDTB前処理による談話解析を統合し,構造的特徴を符号化するモデルであるDTransformerを提案する。
  論文  参考訳（メタデータ） (2024-12-17T08:47:41Z)
• Enhancing Foundation Models for Time Series Forecasting via Wavelet-based Tokenization [74.3339999119713]
  我々はウェーブレットベースのトークンーザを開発し、時間局所化周波数の空間でモデルが複雑な表現を直接学習できるようにする。 提案手法は,まず入力時系列をスケール・分解し,次に閾値を設定し,ウェーブレット係数を定量化し,最後に予測水平方向の係数を予測する自己回帰モデルを事前学習する。
  論文  参考訳（メタデータ） (2024-12-06T18:22:59Z)
• RePST: Language Model Empowered Spatio-Temporal Forecasting via Semantic-Oriented Reprogramming [24.9561009415531]
  我々は,事前学習言語モデル(PLM)の推論と一般化能力を活用して,複雑な時間的予測を実現することを目的とする。 本稿では,時間的予測に適した意味指向型 PLM プログラミングフレームワーク RePST を提案する。
  論文  参考訳（メタデータ） (2024-08-24T07:59:36Z)
• WeatherFormer: A Pretrained Encoder Model for Learning Robust Weather Representations from Small Datasets [0.5735035463793009]
  WeatherFormerは、最小限の観測から堅牢な気象特徴を学習するために設計されたトランスフォーマーエンコーダベースのモデルである。 ウェザーホルマーは、アメリカ大陸の39年間の衛星観測による大規模な事前訓練データセットで事前訓練された。
  論文  参考訳（メタデータ） (2024-05-22T17:43:46Z)
• SCTc-TE: A Comprehensive Formulation and Benchmark for Temporal Event Forecasting [63.01035584154509]
  私たちは完全に自動化されたパイプラインを開発し、約0.6百万のニュース記事からMidEast-TEという大規模なデータセットを構築しました。 このデータセットは、2015年から2022年まで、主に中東地域での協力と紛争イベントに焦点を当てている。 そこで本稿では,SCTc-TE予測にローカルコンテキストとグローバルコンテキストの両方を活用可能なLoGoを提案する。
  論文  参考訳（メタデータ） (2023-12-02T07:40:21Z)
• Learning Robust Precipitation Forecaster by Temporal Frame Interpolation [65.5045412005064]
  本研究では,空間的不一致に対するレジリエンスを示す頑健な降水予測モデルを構築した。 提案手法は,textit4cast'23コンペティションの移行学習リーダーボードにおいて,textit1位を確保したモデルにおいて,予測精度が大幅に向上した。
  論文  参考訳（メタデータ） (2023-11-30T08:22:08Z)
• Leveraging Language Foundation Models for Human Mobility Forecasting [8.422257363944295]
  時相パターンマイニングに言語基盤モデルを活用する新しいパイプラインを提案する。 我々は、あらゆる種類の情報を含む自然言語入力を直接予測タスクを実行する。 数値時間列を文に変換するために特定のプロンプトを導入し、既存の言語モデルを直接適用できるようにしている。
  論文  参考訳（メタデータ） (2022-09-11T01:15:16Z)
• Temporal Embeddings and Transformer Models for Narrative Text Understanding [72.88083067388155]
  キャラクタ関係モデリングのための物語テキスト理解のための2つのアプローチを提案する。 これらの関係の時間的進化は動的単語埋め込みによって説明され、時間とともに意味的変化を学ぶように設計されている。 最新の変換器モデルBERTに基づく教師付き学習手法を用いて文字間の静的な関係を検出する。
  論文  参考訳（メタデータ） (2020-03-19T14:23:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。