論文の概要: SPECTRA: Band-Routed Embedding and Stage-Wise LoRA for Cross-Sensor Fine-Tuning of Geospatial Foundation Models

• arxiv url: http://arxiv.org/abs/2608.01751v1
• Date: Mon, 03 Aug 2026 06:18:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-04 15:07:25.34869
• Title: SPECTRA: Band-Routed Embedding and Stage-Wise LoRA for Cross-Sensor Fine-Tuning of Geospatial Foundation Models
• Title（参考訳）: SPECTRA:地空間基礎モデルのクロスセンサファインチューニングのためのバンドロート埋め込みとステージワイズロラ
• Authors: Xingyan Li, Jordan A. Caraballo-Vega, Jie Gong, Mark L. Carroll, Jianwu Wang,
• Abstract要約: SPECTRAはスペクトルミスマッチと適応コストの両方に対処するパラメータ効率の良い微調整フレームワークである。 BREは全スペクトル帯域を利用して性能を向上し、ST-LoRAは完全な微調整や標準のLORAに比べてトレーニング可能なパラメータを削減した。
• 参考スコア（独自算出の注目度）: 4.791725541787843
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Geospatial foundation models (GeoFMs), pretrained on large-scale geospatial data such as Earth observation (EO), climate, and weather data, have shown promising performance when fine-tuned on diverse downstream tasks. However, there are two challenges of adapting EO-pretrained GeoFMs to practical downstream datasets. The first challenge is how to handle spectral mismatch: pretrained patch embeddings expect a fixed set of input bands, whereas downstream sensors may provide different channels. The second challenge is how to reduce fine-tuning cost and make it efficient. While existing work has made efforts on these challenges individually, jointly improving fine-tuning performance under spectral mismatch while reducing adaptation cost remains underexplored. We propose SPECTRA, a parameter-efficient fine-tuning framework that addresses both spectral mismatch and adaptation cost. To handle spectral mismatch, SPECTRA introduces Band-Routed Embedding (BRE), which maps all available downstream bands into the band space expected by the pretrained GeoFM. By using BRE, all available bands in the downstream dataset are utilized to improve the selected-band input without changing the pretrained patch embedding interface. To reduce adaptation cost, SPECTRA further introduces a Stage-wise Transferability-aware LoRA (ST-LoRA) fine-tuning. ST-LoRA estimates stage-wise transferability before fine-tuning and assigns stage-specific LoRA ranks, concentrating trainable parameters on the stages with high transferability for the target task. Across three EO-pretrained GeoFMs and four downstream segmentation datasets, experiments show that BRE improves performance by utilizing all spectral bands, while ST-LoRA reduces trainable parameters compared with full fine-tuning and standard LoRA. Code is available at https://github.com/big-data-lab-umbc/SPECTRA.
• Abstract（参考訳）: 地球観測(EO)、気候、気象データなどの大規模地理空間データに基づいて事前訓練された地球空間基盤モデル(GeoFMs)は、下流の様々なタスクを微調整した場合に有望な性能を示す。 しかし、実際の下流データセットにEOに制限されたGeoFMを適用するには、2つの課題がある。 事前トレーニングされたパッチ埋め込みは、入力バンドの固定セットを期待するが、下流センサーは異なるチャネルを提供する可能性がある。 第2の課題は、微調整コストを削減し、効率的にする方法です。 既存の研究は個別にこれらの課題に取り組んできたが、スペクトルミスマッチ下での微調整性能を共同で改善し、適応コストの低減を図っている。 スペクトルミスマッチと適応コストの両方に対処するパラメータ効率の良い微調整フレームワークであるSPECTRAを提案する。 スペクトルミスマッチに対処するため、SPECTRAはBRE(Band-Routed Embedding)を導入した。 BREを使用することで、ダウンストリームデータセットのすべての利用可能なバンドを利用して、事前訓練されたパッチ埋め込みインターフェイスを変更することなく、選択したバンド入力を改善する。 適応コストを削減するため、SPECTRAはさらにStage-wise Transferability-aware LoRA (ST-LoRA)ファインチューニングを導入した。 ST-LoRAは、微調整の前にステージワイズ転送可能性を推定し、ステージ固有のLoRAランクを割り当て、ターゲットタスクに対する高い転送可能性を持つステージ上のトレーニング可能なパラメータに集中する。 3つのEO事前トレーニングされたGeoFMと4つの下流セグメンテーションデータセットを用いて、実験により、BREは全スペクトル帯域を利用することで性能を向上させる一方、ST-LoRAはフル微調整と標準LORAと比較してトレーニング可能なパラメータを削減している。 コードはhttps://github.com/big-data-lab-umbc/SPECTRA.comで入手できる。

関連論文リスト

• iGSP:Implicit Gradient Subspace Projection for Efficient Continual Learning of Vision-Language Models [14.623213614166259]
  iGSPは暗黙の勾配部分空間投影による効率的な適応を実現する新しいフレームワークである。 MTILベンチマークの実験は、iGSPが最先端の精度を達成することを示した。
  論文  参考訳（メタデータ） (2026-05-19T03:22:14Z)
• GeoGS-CE: Learning Delay--Beam Channel Priors with 3D Gaussians for High-Mobility Scenarios [18.254264849970955]
  高速鉄道は、予定された軌道、予測可能な速度、および支配的な伝播経路の限られた数を示す。 これらの特性は、瞬時複素チャネル周波数応答よりも安定な遅延ビームパワースペクトルを誘導する。 スパースパイロットハイモビリティシナリオのための2段階チャネル推定フレームワークGeoGS-CEを提案する。
  論文  参考訳（メタデータ） (2026-05-15T15:49:42Z)
• Parameter-Efficient Adaptation of Pre-Trained Vision Foundation Models for Active and Passive Seismic Data Denoising [4.127374559128319]
  高解像度地下イメージングと連続した地球観測の需要は、活動的および受動的地震データを急速に増加させてきた。 この拡張により、特に信号の忠実性を維持する必要がある場合、複雑なノイズ抑制がますます困難になる。 スクラッチから事前訓練された地震基盤モデルは、膨大なドメイン固有データと相当な計算を必要とする。 本研究では、ファインチューニングによる物理タスクのための汎用ビジョン基礎モデル(VFM)を再利用する効率的なフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-04-30T15:28:51Z)
• Depth Completion as Parameter-Efficient Test-Time Adaptation [66.72360181325877]
  CAPAはパラメータ効率のよいテスト時間最適化フレームワークであり、深度補完のために事前訓練された3D基礎モデル(FM)を適用する。 ビデオの場合、CAPAはシーケンスレベルのパラメータ共有を導入し、時間的相関を利用して、堅牢性を改善し、複数フレームの一貫性を強制するために、すべてのフレームを共同で適用する。
  論文  参考訳（メタデータ） (2026-02-16T13:53:23Z)
• Decomposing and Composing: Towards Efficient Vision-Language Continual Learning via Rank-1 Expert Pool in a Single LoRA [50.97792275353563]
  単一低ランク適応 (LoRA) モジュールを分解可能な Rank-1 エキスパートプールとして再構成する,新しいフレームワークを提案する。 本手法では,このエキスパートプールから[Guided]トークンのセマンティクスに導かれて,疎結合でタスク固有の更新を動的に作成することを学ぶ。
  論文  参考訳（メタデータ） (2026-01-30T10:54:51Z)
• Parameter-Efficient Adaptation of Geospatial Foundation Models through Embedding Deflection [3.805591882842849]
  DEFLECTは、非常に少数のパラメータを持つマルチスペクトル衛星画像にGFMを適用するための新しい戦略である。 5-10$times$より少ないパラメータで、オンパーまたはより高い精度で分類とセグメンテーションタスクを実現する。
  論文  参考訳（メタデータ） (2025-03-12T15:53:58Z)
• Replay-Free Continual Low-Rank Adaptation with Dynamic Memory [62.85596937435928]
  我々は、事前学習された視覚変換器(ViT)が、時間とともに新しい下流タスクを逐次微調整できる連続学習を再考する。 近年の研究では、CL技術とパラメータ効率の良い微調整の交差が強調されている。 DualLoRA (Dual Low-Rank Adaptation) と呼ばれる新しいPEFT-CL法を提案する。
  論文  参考訳（メタデータ） (2024-11-01T14:28:39Z)
• Sensitivity-Aware Visual Parameter-Efficient Fine-Tuning [91.5113227694443]
  私たちは新しいビジュアルを提案します。 Sensuous-Aware Fine-Tuning (SPT) スキーム。 SPTはタスク固有の重要な位置にトレーニング可能なパラメータを割り当てる。 ダウンストリーム認識タスクの幅広い実験により,SPTは既存のPEFT法と相補的であることが示された。
  論文  参考訳（メタデータ） (2023-03-15T12:34:24Z)
• Automated classification of pre-defined movement patterns: A comparison between GNSS and UWB technology [55.41644538483948]
  リアルタイム位置情報システム(RTLS)は、人間の動きパターンからデータを収集することができる。 本研究の目的は、小さな領域における人間の動きパターンを分類する自動化された枠組みを設計し、評価することである。
  論文  参考訳（メタデータ） (2023-03-10T14:46:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。