論文の概要: When GeoFMs Meet VHR: Benchmarking Foundation Models on Very High Resolution Earth Observation Imagery
- arxiv url: http://arxiv.org/abs/2611.08003v1
- Date: Thu, 05 Nov 2026 13:28:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.698901
- Title: When GeoFMs Meet VHR: Benchmarking Foundation Models on Very High Resolution Earth Observation Imagery
- Title(参考訳): GeoFMsがVHRと出会う時:超高解像度地球観測画像に基づく基礎モデルのベンチマーク
- Abstract要約: 超高分解能(VHR)画像への事前学習体制の伝達について検討した。
VHR-Benchは、1.5m GSDで10のデータセットのベンチマークスイートである。
大規模自然画像コレクションの事前訓練と,VHRタスクへのVHR固有の事前訓練が,相補的強度で効果的に行われていることが判明した。
- 参考スコア(独自算出の注目度): 6.863110810637282
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Geospatial foundation models are a widely adopted starting point for remote sensing tasks. Most are pretrained on Sentinel-1/2 and Landsat imagery at a ground sampling distance (GSD) of 10m or coarser. Many applications instead rely on very high resolution (VHR) imagery, where individual buildings, roads, and amenities are resolved. We study which pretraining regimes transfer well to this scale. We introduce VHR-Bench, a benchmark suite of ten datasets at 1.5m GSD or finer spanning five task families, eight application domains, and both satellite and aerial platforms. We evaluate twelve encoders in three pretraining tiers with frozen backbones at two training-data fractions. We find that both pretraining on large natural-image collections and VHR-specific pretraining transfer effectively to VHR tasks, with complementary strengths. SkySense leads when labels are scarce; at the full label fraction the web-pretrained DINOv3 ViT-L edges ahead, with the two close together there. Encoders pretrained only on Sentinel-scale imagery transfer least well under RGB input. Guided by these complementary results, we continue the self-supervised pretraining of DINOv3 ViT-L on 1.02 million held-out VHR tiles and evaluate the resulting encoder without changing the downstream protocol. The continued model gives a clear improvement over the released backbone when labels are scarce and a modest one at the full fraction, at no increase in inference parameters or compute. These findings support a generalize-then-specialize strategy: already strong, broad natural-image pretraining can be further improved by a short VHR continuation stage while preserving its general visual features.
- Abstract(参考訳): 地理空間基盤モデルはリモートセンシングタスクの出発点として広く採用されている。
ほとんどは、センチネル1/2とランドサットの画像で10m以上の地中サンプリング距離(GSD)で事前訓練されている。
多くのアプリケーションは、個々の建物、道路、アメニティが解決される、非常に高解像度(VHR)画像に依存している。
我々は、事前訓練体制がこの規模によく移行するか研究する。
VHR-Benchは、1.5m GSDで10のデータセットのベンチマークスイートである。
凍結した背骨を有する3つのプレトレーニング層における12個のエンコーダを2つのトレーニングデータ分画で評価した。
大規模自然画像コレクションの事前訓練と,VHRタスクへのVHR固有の事前訓練が,相補的強度で効果的に行われていることが判明した。
SkySenseはラベルが不足しているときにリードする。フルラベルでは、Webで事前訓練されたDINOv3 ViT-Lエッジが前方にあり、両者は近接している。
エンコーダは、RGB入力下では最小限にセンチネルスケールの画像転送のみを事前訓練した。
これらの相補的な結果に導かれて、1億200万個のVHRタイル上でDINOv3 ViT-Lの自己教師付き事前訓練を継続し、ダウンストリームプロトコルを変更することなく結果のエンコーダを評価する。
継続モデルは、ラベルが乏しく、完全なパーセンテージで、推論パラメータや計算量の増加がない場合に、リリース後のバックボーンに対して明確な改善を与える。
これらの知見は, 視覚的特徴を保ちながら, 短時間のVHR継続段階によって, より強く, より広い自然像の事前訓練がさらに改善されるという, 汎用的な戦略を支持している。
関連論文リスト
- Self-supervised training for high-resolution close-range multispectral remote sensing imagery [0.0]
自己教師付き学習(SSL)は、近距離リモートセンシングにおけるアノテーションの労力を減らすための有望な方法である。
本研究は,cmスケールマルチスペクトルドローン画像を用いた精密農業のためのSSL事前訓練の評価を行った。
トランスフォーマーベースのエンコーダはMomentum Contrast v3とMasked Autoencodersで事前訓練された。
論文 参考訳(メタデータ) (2026-07-13T10:31:35Z) - Detect Anything via Next Point Prediction [51.55967987350882]
Rex-Omniは最先端の物体認識性能を実現する3BスケールのMLLMである。
COCOやLVISのようなベンチマークでは、Rex-Omniは回帰ベースのモデルに匹敵するパフォーマンスを得る。
論文 参考訳(メタデータ) (2025-10-14T17:59:54Z) - Efficient Self-Supervised Learning for Earth Observation via Dynamic Dataset Curation [67.23953699167274]
自己教師付き学習(SSL)により、地球観測のための視覚基盤モデルの開発が可能になった。
EOでは、この課題は衛星画像に共通する冗長性と重尾分布によって増幅される。
本稿では,データセットの多様性とバランスを最大化し,SSL事前トレーニングを改善するために設計された動的データセットプルーニング戦略を提案する。
論文 参考訳(メタデータ) (2025-04-09T15:13:26Z) - ExPLoRA: Parameter-Efficient Extended Pre-Training to Adapt Vision Transformers under Domain Shifts [52.1635661239108]
本稿では,事前学習された視覚変換器(ViT)のドメインシフト下での伝達学習を改善するために,ExPLoRAを提案する。
我々の実験は、衛星画像の最先端の成果を実証し、完全な事前学習や微調整のViTよりも優れています。
論文 参考訳(メタデータ) (2024-06-16T15:14:56Z) - The Role of Pre-Training in High-Resolution Remote Sensing Scene
Classification [0.0]
我々は、新しいデータセットをスクラッチからトレーニングすることで、ImageNetで事前トレーニングされたモデルに匹敵する結果が得られることを示す。
多くの場合、最良の表現はドメイン内データを使った事前学習の第2ラウンドで得られる。
論文 参考訳(メタデータ) (2021-11-05T18:30:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。