論文の概要: HighFM: Towards a Foundation Model for Learning Representations from High-Frequency Earth Observation Data
- arxiv url: http://arxiv.org/abs/2604.04306v1
- Date: Sun, 05 Apr 2026 23:01:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-07 15:49:19.037286
- Title: HighFM: Towards a Foundation Model for Learning Representations from High-Frequency Earth Observation Data
- Title（参考訳）: 高FM:高頻度地球観測データから表現を学習するための基礎モデルを目指して
- Authors: Stella Girtsou, Konstantinos Alexis, Giorgos Giannopoulos, Harris Kontoes,
- Abstract要約: 我々は,高時間分解能マルチスペクトルEOデータのためのFMへの第1カットアプローチであるHighFMを提案する。
Meteosat Second Generation(MSG)プラットフォームから2TB以上のSEVIRI画像を活用することで、SatMAEマスク付き自動符号化フレームワークを適用し、ロバスト表現を学習する。
我々は、従来のベースラインと最近のFMに対して、SEVIRI事前訓練されたビジョントランスフォーマーをベンチマークし、バランスの取れた精度とIoUメトリクスの両方で一貫した利得を示す。
- 参考スコア（独自算出の注目度）: 0.7910818159147959
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The increasing frequency and severity of climate related disasters have intensified the need for real time monitoring, early warning, and informed decision-making. Earth Observation (EO), powered by satellite data and Machine Learning (ML), offers powerful tools to meet these challenges. Foundation Models (FMs) have revolutionized EO ML by enabling general-purpose pretraining on large scale remote sensing datasets. However most existing models rely on high-resolution satellite imagery with low revisit rates limiting their suitability for fast-evolving phenomena and time critical emergency response. In this work, we present HighFM, a first cut approach towards a FM for high temporal resolution, multispectral EO data. Leveraging over 2 TB of SEVIRI imagery from the Meteosat Second Generation (MSG) platform, we adapt the SatMAE masked autoencoding framework to learn robust spatiotemporal representations. To support real time monitoring, we enhance the original architecture with fine grained temporal encodings to capture short term variability. The pretrained models are then finetuned on cloud masking and active fire detection tasks. We benchmark our SEVIRI pretrained Vision Transformers against traditional baselines and recent geospatial FMs, demonstrating consistent gains across both balanced accuracy and IoU metrics. Our results highlight the potential of temporally dense geostationary data for real-time EO, offering a scalable path toward foundation models for disaster detection and tracking.
- Abstract（参考訳）: 気象関連災害の頻度と深刻度の増加は、リアルタイム監視、早期警戒、情報提供による意思決定の必要性を増している。
衛星データと機械学習(ML)を利用するEarth Observation(EO)は、これらの課題に対処するための強力なツールを提供する。
Foundation Models(FM)は、大規模なリモートセンシングデータセット上で汎用的な事前トレーニングを可能にすることで、EO MLに革命をもたらした。
しかし、既存のほとんどのモデルは高解像度の衛星画像に頼っており、視認率の低いため、急速に進化する現象や時間的危機的な緊急応答に対する適合性が制限されている。
本研究では,高時間分解能・マルチスペクトルEOデータのためのFMへの第1カットアプローチであるHighFMを提案する。
Meteosat Second Generation (MSG) プラットフォームから2TB以上のSEVIRI画像を活用することで、SatMAEマスク付き自動符号化フレームワークを適用し、堅牢な時空間表現を学習する。
リアルタイムモニタリングを支援するため,短時間の変動を捉えるために,微細な時間エンコーディングによるオリジナルアーキテクチャを改良する。
事前訓練されたモデルは、雲のマスキングとアクティブな火災検知タスクで微調整される。
我々は、従来のベースラインと最近の地理空間FMに対して、SEVIRI事前訓練されたビジョントランスフォーマーをベンチマークし、バランスの取れた精度とIoUメトリクスの両方で一貫した利得を示す。
本研究は,災害検出・追跡のための基盤モデルに向けたスケーラブルな経路を提供するとともに,リアルタイムEOのための時間的に密度の高い静止データの可能性を強調した。
関連論文リスト
- MEMTS: Internalizing Domain Knowledge via Parameterized Memory for Retrieval-Free Domain Adaptation of Time Series Foundation Models [51.506429027626005]
Memory for Time Series (MEMTS) は、時系列予測における検索不要領域適応のための軽量かつプラグアンドプレイ方式である。
MEMTSの鍵となるコンポーネントは知識永続化モジュール(KPM)であり、ドメイン固有の時間力学を内部化する。
このパラダイムシフトにより、MEMTSは定数時間推論とニアゼロレイテンシによる正確なドメイン適応を実現することができる。
論文 参考訳（メタデータ） (2026-02-14T14:00:06Z) - Real-Time Proactive Anomaly Detection via Forward and Backward Forecast Modeling [0.0]
本稿では,前向き予測モデル (FFM) と後向き再構成モデル (BRM) の2つの前向きな異常検出フレームワークを紹介する。
FFMは破壊を予想する将来のシーケンスを予測し、BRMは将来の状況から最近の歴史を再構築し、初期の前駆体を明らかにする。
我々のモデルは連続的および離散的多変量特徴の両方をサポートし、実環境における堅牢な性能を実現する。
論文 参考訳（メタデータ） (2026-02-12T03:57:41Z) - SEMPO: Lightweight Foundation Models for Time Series Forecasting [45.456949943052116]
SEMPOは比較的小規模なデータに対する事前トレーニングを必要とする軽量な基礎モデルであるが、強い時系列予測を示す。
SEMPOは、1)エネルギーを意識したSpEctral分解モジュールと、事前学習データの利用を大幅に改善する2つの重要なモジュールから構成される。
16のデータセットをカバーする2つの大規模ベンチマークの実験は、ゼロショットと少数ショットの予測シナリオの両方でSEMPOの優れたパフォーマンスを示している。
論文 参考訳（メタデータ） (2025-10-22T15:58:44Z) - A Deep Learning Approach for Spatio-Temporal Forecasting of InSAR Ground Deformation in Eastern Ireland [2.840858735842673]
地盤変位のモニタリングは、都市インフラと地質学的危険の軽減に不可欠である。
本稿では,スパース点計測を高密度時間テンソルに変換する新しいディープラーニングフレームワークを提案する。
その結果,提案アーキテクチャはより正確で空間的に整合性のある予測を提供することを示した。
論文 参考訳（メタデータ） (2025-09-17T17:10:18Z) - Observation-Guided Meteorological Field Downscaling at Station Scale: A
Benchmark and a New Method [66.80344502790231]
気象学的ダウンスケーリングを任意の散乱ステーションスケールに拡張し、新しいベンチマークとデータセットを確立する。
データ同化技術にインスパイアされた我々は、観測データをダウンスケーリングプロセスに統合し、マルチスケールの観測先行情報を提供する。
提案手法は、複数の曲面変数上で、他の特別に設計されたベースラインモデルよりも優れている。
論文 参考訳（メタデータ） (2024-01-22T14:02:56Z) - Learning Robust Precipitation Forecaster by Temporal Frame Interpolation [65.5045412005064]
本研究では,空間的不一致に対するレジリエンスを示す頑健な降水予測モデルを構築した。
提案手法は,textit4cast'23コンペティションの移行学習リーダーボードにおいて,textit1位を確保したモデルにおいて,予測精度が大幅に向上した。
論文 参考訳（メタデータ） (2023-11-30T08:22:08Z) - Deep learning-based deconvolution for interferometric radio transient
reconstruction [0.39259415717754914]
LOFAR、MeerKAT/SKA、ASKAP/SKA、そして将来のSKA-LOWのような電波天文学施設は、時間と周波数に大きな感度をもたらす。
これらの施設は、自然によって揮発し、データに検出または見逃される無線過渡現象の高度な研究を可能にする。
これらのトランジェントは、電子の高エネルギー加速のマーカーであり、幅広い時間スケールで表される。
論文 参考訳（メタデータ） (2023-06-24T08:58:52Z) - Transformer Inertial Poser: Attention-based Real-time Human Motion
Reconstruction from Sparse IMUs [79.72586714047199]
本研究では,6つのIMUセンサからリアルタイムに全体動作を再構築する,注意に基づく深層学習手法を提案する。
提案手法は, 実装が簡単で, 小型でありながら, 定量的かつ質的に新しい結果が得られる。
論文 参考訳（メタデータ） (2022-03-29T16:24:52Z) - Numerical Weather Forecasting using Convolutional-LSTM with Attention
and Context Matcher Mechanisms [10.759556555869798]
本稿では,高解像度気象データを予測するための新しいディープラーニングアーキテクチャを提案する。
我々の気象モデルは,ベースラインの深層学習モデルと比較して,大幅な性能向上を実現している。
論文 参考訳（メタデータ） (2021-02-01T08:30:42Z) - Federated Learning in the Sky: Aerial-Ground Air Quality Sensing
Framework with UAV Swarms [53.38353133198842]
空気質は人間の健康に大きく影響し、空気質指数(AQI)の正確かつタイムリーな予測がますます重要になっている。
本稿では, 精密な3次元空気質モニタリングと予測を行うための, 新たなフェデレーション学習型地上空気質検知フレームワークを提案する。
地中センシングシステムでは, グラフ畳み込みニューラルネットワークを用いたLong Short-Term Memory (GC-LSTM) モデルを提案し, 高精度, リアルタイム, 将来的なAQI推論を実現する。
論文 参考訳（メタデータ） (2020-07-23T13:32:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。