論文の概要: LoCA: Enabling Multi-Modality in Geospatial Location Encoders

• arxiv url: http://arxiv.org/abs/2610.32894v1
• Date: Fri, 23 Oct 2026 17:01:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 01:38:06.616325
• Title: LoCA: Enabling Multi-Modality in Geospatial Location Encoders
• Title（参考訳）: LoCA:地理空間位置エンコーダにおけるマルチモードの実現
• Abstract要約: 位置エンコーダは、対照的なアライメント画像を通して、地理的座標を高次元ディスクリプタにマッピングする。 リプシッツの位置エンコーダは、アーキテクチャや帯域幅に関わらず、次元2の出力を生成する。 次元制限はあるものの、現在の位置エンコーダは凍結画像エンコーダに対するトレーニングによってこのスペクトル崩壊を横に進める。 どちらも満足できる2段階パイプラインであるLoCA(Location Contrastive Alignment)を提案する。
• 参考スコア（独自算出の注目度）: 18.583385746719348
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Location encoders map geographic coordinates to high-dimensional descriptors through contrastive alignment with paired Earth Observation imagery. We prove that this construction is structurally limited: any Lipschitz location encoder produces an output of intrinsic dimension at most 2, regardless of architecture or bandwidth, which forces the contrastive loss to strictly exceed its asymptotic optimum. Empirically, joint training also collapses the encoder's embedding covariance to low rank. Although dimension-limited, current location encoders sidestep this spectral collapse by training against a frozen image encoder, which we reinterpret as a covariance regularizer that supplies a high-rank target for the location encoder to fold onto. However, extending this approach to multimodal inputs is challenging, as location encoders should simultaneously map a single location to multiple, potentially incompatible, descriptors. We identify two requirements a regularizer must satisfy for location encoding in multimodal regimes: co-alignment across modalities, since adapters alone cannot align independently pretrained encoders; and high effective rank, since the location encoder inherits its target's spectrum. We propose LoCA (Location Contrastive Alignment), a two-stage pipeline that satisfies both. Stage 1 jointly trains Sentinel-1 and Sentinel-2 encoders with contrastive learning, producing a co-aligned, high-rank multimodal target. Stage 2 freezes the image encoders and trains a location and a tabular metadata encoder as projection adapters with multi-view contrastive learning. Against five state-of-the-art encoders on 17 tasks ranging from land cover and wildfire forecasting to geophysical, socio-economic, biodiversity and climate applications, LoCA achieves the most task wins, is the only model to outperform every other on a majority of tasks, and wins 68.8% of all per-task comparisons.
• Abstract（参考訳）: 位置エンコーダは、対の地球観測画像と対比して、地理的座標を高次元のディスクリプタにマッピングする。 任意のリプシッツ位置エンコーダは、アーキテクチャや帯域によらず、内在次元の出力を少なくとも2で生成し、コントラスト損失はその漸近的最適値を超えるように強制する。 経験的に、ジョイントトレーニングはエンコーダの埋め込み共分散を低ランクに分解する。 次元制限はあるものの、現在の位置エンコーダはこのスペクトル崩壊を、凍結画像エンコーダに対するトレーニングによって横取りし、位置エンコーダを折り畳むための高階ターゲットを供給する共分散正規化器として再解釈する。 しかし、ロケーションエンコーダは1つのロケーションを複数の互換性のない複数のディスクリプタに同時にマッピングする必要があるため、このアプローチをマルチモーダル入力に拡張することは難しい。 我々は、正規化器がマルチモーダル方式における位置符号化のために満たさなければならない2つの要件を識別する: 適応器だけで独立に事前訓練されたエンコーダを調整できないこと、位置符号化器が目標のスペクトルを継承していること、そして高い有効ランクである。 どちらも満足できる2段階パイプラインであるLoCA(Location Contrastive Alignment)を提案する。 ステージ1は、コントラスト学習でSentinel-1とSentinel-2エンコーダを共同で訓練し、協調して高階のマルチモーダルターゲットを生成する。 ステージ2はイメージエンコーダを凍結し、マルチビューコントラスト学習を備えたプロジェクションアダプタとして位置と表のメタデータエンコーダをトレーニングする。 土地被覆や山火事の予報から地球物理学、社会経済、生物多様性、気候の応用に至るまでの17のタスクに関する最先端のエンコーダ5つに対して、LoCAは最も多くのタスクを成功させ、タスクの過半数でお互いを上回り、全タスク比較の68.8%を獲得している唯一のモデルである。

関連論文リスト

• LeVJEPA: Efficient & Scalable Video Pretraining without the Heuristics [50.45297537821907]
  我々はLeJEPAの崩壊のない目的の下で訓練された最初のビデオエンコーダLeVJEPAを紹介する。 単一のエンコーダは、クリップのグローバルおよびローカルビューよりも分散損失で訓練される。 LeVJEPAはV-JEPA 2とVT-S/B/Lの5.6から20.8倍の速さで一致または超える。
  論文  参考訳（メタデータ） (2026-08-27T17:26:24Z)
• SLED: Scalable Location Encoding via Distillation [5.170990327019049]
  位置エンコーダは、地球観測を場所固有の埋め込みに圧縮する効率的な方法として登場した。 本研究では,蒸留法をベースとした位置情報エンコーダであるSLED(Scalable Location via Distillation)を導入する。 SLEDはバッチサイズが128まで小さく、現在の最先端モデルの計算コストのごく一部で事前トレーニングが可能である。 マルチモーダルSLEDモデルは、19種類の人間中心タスクの多様なセットにおいて、既存のアプローチに追随または性能を保っていることを示す。
  論文  参考訳（メタデータ） (2026-08-06T21:54:23Z)
• Multi-Modal Contrastive Learning for Implicit Earth Embeddings via Location Tying [6.393833349059462]
  空間予測のタスクは、しばしば、高品質なラベル付き地上観測の欠如によって制限される。 自己教師付き事前学習は、位置エンコーダにおいて対照的な学習が支配的なソリューションである。 位置情報タイリング(MELT)によるマルチモーダル埋め込みと,SALT(Sequential Alternating Location Training)という2つのマルチモーダル・コントラスト学習アーキテクチャを提案する。
  論文  参考訳（メタデータ） (2026-06-18T12:35:14Z)
• Beyond Encoder Accumulation: Measuring Encoder Roles in Multi-Encoder VLMs [50.3757247538081]
  我々は、統一パイプラインの下で、5つの共通ビジョンエンコーダの空でないサブセット31を再訓練し、評価する。 各エンコーダのコントリビューションを,容量と必要量という2つの軸に分解する。 エンコーダごとのプロジェクタ有効ランクは、残留スコアの変動を説明する。
  論文  参考訳（メタデータ） (2026-06-02T16:46:42Z)
• DEED: Dynamic Early Exit on Decoder for Accelerating Encoder-Decoder Transformer Models [22.276574156358084]
  我々は,各デコーダ層が妥当な予測を生成できるように,深層監視で訓練されたマルチエキシット・エンコーダ・デコーダ・トランスフォーマモデルを構築した。 提案手法は,ベースラインに比べて精度が向上し,全体の推論遅延を30%から60%削減できることを示す。
  論文  参考訳（メタデータ） (2023-11-15T01:01:02Z)
• Triple-View Knowledge Distillation for Semi-Supervised Semantic Segmentation [54.23510028456082]
  半教師付きセマンティックセグメンテーションのためのトリプルビュー知識蒸留フレームワークTriKDを提案する。 このフレームワークは、トリプルビューエンコーダとデュアル周波数デコーダを含む。
  論文  参考訳（メタデータ） (2023-09-22T01:02:21Z)
• Think Twice before Driving: Towards Scalable Decoders for End-to-End Autonomous Driving [74.28510044056706]
  既存のメソッドは通常、分離されたエンコーダ-デコーダパラダイムを採用する。 本研究は,この問題を2つの原則で緩和することを目的としている。 まず、エンコーダの特徴に基づいて、粗い将来の位置と行動を予測する。 そして、その位置と動作を条件に、将来のシーンを想像して、それに従って運転した場合にその影響を確認する。
  論文  参考訳（メタデータ） (2023-05-10T15:22:02Z)
• Crosslink-Net: Double-branch Encoder Segmentation Network via Fusing Vertical and Horizontal Convolutions [58.71117402626524]
  医用画像分割のための新しいダブルブランチエンコーダアーキテクチャを提案する。 1)正方形畳み込みカーネルによる特徴の識別をさらに改善する必要があるため,非正方形および水平畳み込みカーネルの利用を提案する。 実験では,4つのデータセット上でのモデルの有効性を検証した。
  論文  参考訳（メタデータ） (2021-07-24T02:58:32Z)
• Suppress and Balance: A Simple Gated Network for Salient Object Detection [89.88222217065858]
  両問題を同時に解くための単純なゲートネットワーク(GateNet)を提案する。 多レベルゲートユニットの助けを借りて、エンコーダからの貴重なコンテキスト情報をデコーダに最適に送信することができる。 さらに,提案したFold-ASPP操作(Fold-ASPP)に基づくアトラス空間ピラミッドプーリングを用いて,様々なスケールのサリアンオブジェクトを正確に位置決めする。
  論文  参考訳（メタデータ） (2020-07-16T02:00:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。