GeoSET: Generalist Foundation Model for SAR-to-EO Image Translation
Abstractの概要
GeoSETは、「一度事前学習し、多様に適応する」フレームワークに基づく、SARからEO画像への変換のための汎用基盤モデルとして提案されています。本研究では、複数のセンサー、解像度、地域にまたがる1,000万件以上のSAR観測から精選された、フィルタリング済みの3,204,744組のSAR-EOペアからなる不均質な事前学習コーパスを構築しています。手法としては、スペックルに頑健なSARエンコーダと、再利用された事前学習済み画像生成器の条件付きフローベース事前学習を組み合わせ、フルファインチューニングまたはLoRAを用いて親モデルを下流データセットに適応させます。本研究は6つの下流ベンチマークでアプローチを評価し、FIDやDISTSなどの指標を通じて分布のリアリズムと知覚的忠実性を検証しています。
新規性
本論文は、大規模で不均質なペアコーパスで一度学習され、共通プロトコル下で下流データセット全体に適応される初の汎用SAR-to-EO変換モデルを導入しています。主な技術的貢献には、精選されたマルチソースSAR-EO事前学習コーパス、事前学習済み潜在空間と互換性のあるスペックル耐性SARエンコーダ、および空間的SAR条件付けに向けた事前学習済みフロー生成器の転用が含まれます。
成果
6つの下流ベンチマークにおいて、GeoSETはフルファインチューニングおよびLoRAモードの両方で、大部分のデータセットで最先端のFIDスコアと最高水準のDISTS性能を達成しました。下流のLoRA適応では、データセットあたり約1時間で生成器パラメータの約0.60%のみを更新しながら、フルファインチューニングに匹敵する性能を示しています。アブレーション実験により、大規模事前学習、SAR固有のエンコーディング、およびドメイン認識スペックル拡張による累積的な改善が確認されました。
論文の注目点
- GeoSETは、データセット固有の個別モデルではなく単一の汎用親モデルを使用する、SAR-to-EO変換のための「一度事前学習し、多様に適応する」フレームワークを確立している。
- 本フレームワークは、320万組以上のフィルタリング済みペアからなるマルチソース事前学習コーパスと、事前学習済み画像オートエンコーダに整合させたスペックル耐性SARエンコーダを統合している。
- 6つのデータセットにわたる実証ベンチマークにより優れた分布リアリズムと知覚的指標が示され、LoRAによって最小限の学習パラメータとストレージによる効率的な下流適応が可能となっている。