論文の概要: Towards Scalable and Generalizable Earth Observation Data Mining via Foundation Model Composition

• arxiv url: http://arxiv.org/abs/2506.20174v2
• Date: Thu, 26 Jun 2025 03:23:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-27 13:31:57.753786
• Title: Towards Scalable and Generalizable Earth Observation Data Mining via Foundation Model Composition
• Title（参考訳）: 基礎モデル構成によるスケーラブルで一般化可能な地球観測データマイニングを目指して
• Authors: Man Duc Chuc,
• Abstract要約: リモートセンシングと一般ビジョンデータセットに事前訓練された基礎モデルを効果的に組み合わせて性能を向上させることができるかを検討する。 その結果、より小さな事前訓練モデルの特徴レベルのアンサンブルは、はるかに大きなモデルの性能に適合するか、超える可能性があることがわかった。 この研究は、よりコンパクトなモデルにアンサンブルの強度を伝達するために知識蒸留を適用する可能性を強調している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Foundation models are rapidly transforming Earth Observation data mining by enabling generalizable and scalable solutions for key tasks such as scene classification and semantic segmentation. While most efforts in the geospatial domain have focused on developing large models trained from scratch using massive Earth Observation datasets, an alternative strategy that remains underexplored is the reuse and combination of existing pretrained models. In this study, we investigate whether foundation models pretrained on remote sensing and general vision datasets can be effectively combined to improve performance across a diverse set of key Earth Observation tasks. Using the GEO-Bench benchmark, we evaluate several prominent models, including Prithvi, Hiera, and DOFA, on eleven datasets covering a range of spatial resolutions, sensor modalities, and task types. The results show that feature-level ensembling of smaller pretrained models can match or exceed the performance of much larger models, while requiring less training time and computational resources. Moreover, the study highlights the potential of applying knowledge distillation to transfer the strengths of ensembles into more compact models, offering a practical path for deploying foundation models in real-world Earth Observation applications.
• Abstract（参考訳）: 基礎モデルは、シーン分類やセマンティックセグメンテーションといった重要なタスクに対して、一般化可能でスケーラブルなソリューションを可能にすることで、地球観測データマイニングを急速に変革している。 地理空間領域におけるほとんどの取り組みは、大規模な地球観測データセットを使用して、スクラッチからトレーニングされた大きなモデルの開発に重点を置いているが、まだ探索されていない別の戦略は、既存の事前訓練されたモデルの再利用と組み合わせである。 本研究では,リモートセンシングと一般ビジョンデータセットに事前訓練された基礎モデルを効果的に組み合わせて,様々な重要な地球観測タスクのパフォーマンス向上を図ることができるかを検討する。 GEO-Benchベンチマークを用いて,空間分解能,センサモダリティ,タスクタイプを含む11のデータセットに対して,Prithvi,Hiera,DOFAなどの著名なモデルを評価した。 その結果、より小さな事前学習モデルの特徴レベルのアンサンブルは、訓練時間や計算資源を少なくしながら、はるかに大きなモデルの性能に適合または超えることができることが示された。 さらに、この研究は、よりコンパクトなモデルにアンサンブルの強度を伝達するために知識蒸留を適用する可能性を強調し、実際の地球観測アプリケーションに基礎モデルを配置するための実践的な道を提供する。

関連論文リスト

• TerraFM: A Scalable Foundation Model for Unified Multisensor Earth Observation [65.74990259650984]
  本研究では,グローバルに分散したSentinel-1とSentinel-2画像を利用する,スケーラブルな自己教師型学習モデルTerraFMを紹介する。 我々のトレーニング戦略は、局所的・言語的コントラスト学習を統合し、二重中心化機構を導入する。 TerraFMは分類タスクとセグメンテーションタスクの両方において強力な一般化を実現し、GEO-BenchとCopernicus-Benchの先行モデルよりも優れている。
  論文  参考訳（メタデータ） (2025-06-06T17:59:50Z)
• Efficient Self-Supervised Learning for Earth Observation via Dynamic Dataset Curation [67.23953699167274]
  自己教師付き学習(SSL)により、地球観測のための視覚基盤モデルの開発が可能になった。 EOでは、この課題は衛星画像に共通する冗長性と重尾分布によって増幅される。 本稿では,データセットの多様性とバランスを最大化し,SSL事前トレーニングを改善するために設計された動的データセットプルーニング戦略を提案する。
  論文  参考訳（メタデータ） (2025-04-09T15:13:26Z)
• Assessment of a new GeoAI foundation model for flood inundation mapping [4.312965283062856]
  そこで本稿は,IBM-NASAのPrithviによる地空間基盤モデルの性能評価を行い,地空間解析の重要課題である洪水浸水マッピングを支援する。 実験では、ベンチマークデータセットであるSen1Floods11を使用し、モデルの予測可能性、一般化可能性、転送可能性を評価する。 以上の結果から, 未確認領域におけるセグメンテーションにおけるPrithviモデルの性能上の優位性が示された。
  論文  参考訳（メタデータ） (2023-09-25T19:50:47Z)
• GEO-Bench: Toward Foundation Models for Earth Monitoring [139.77907168809085]
  6つの分類と6つのセグメンテーションタスクからなるベンチマークを提案する。 このベンチマークは、さまざまな地球観測タスクの進行の原動力となる。
  論文  参考訳（メタデータ） (2023-06-06T16:16:05Z)
• Towards Geospatial Foundation Models via Continual Pretraining [22.825065739563296]
  資源コストと炭素の影響を最小限に抑えた高効率基礎モデルを構築するための新しいパラダイムを提案する。 まず、複数のソースからコンパクトだが多様なデータセットを構築し、GeoPileと呼ぶ特徴の多様性を促進する。 次に,大規模なImageNet-22kモデルからの継続事前学習の可能性について検討し,多目的連続事前学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2023-02-09T07:39:02Z)
• Toward Foundation Models for Earth Monitoring: Proposal for a Climate Change Benchmark [95.19070157520633]
  近年の自己スーパービジョンの進歩は、大量の教師なしデータ上で大規模なニューラルネットワークを事前訓練することで、下流タスクの一般化が著しく増加することを示している。 基礎モデルとして最近作られたそのようなモデルは、自然言語処理の分野に転換してきた。 気候変動に関連する様々な下流タスクからなる新しいベンチマークを開発することを提案する。
  論文  参考訳（メタデータ） (2021-12-01T15:38:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。