論文の概要: SLED: Scalable Location Encoding via Distillation
- arxiv url: http://arxiv.org/abs/2608.06612v1
- Date: Thu, 06 Aug 2026 21:54:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-10 16:21:25.297527
- Title: SLED: Scalable Location Encoding via Distillation
- Title(参考訳): SLED: 蒸留によるスケーラブルなロケーションエンコーディング
- Abstract要約: 位置エンコーダは、地球観測を場所固有の埋め込みに圧縮する効率的な方法として登場した。
本研究では,蒸留法をベースとした位置情報エンコーダであるSLED(Scalable Location via Distillation)を導入する。
SLEDはバッチサイズが128まで小さく、現在の最先端モデルの計算コストのごく一部で事前トレーニングが可能である。
マルチモーダルSLEDモデルは、19種類の人間中心タスクの多様なセットにおいて、既存のアプローチに追随または性能を保っていることを示す。
- 参考スコア(独自算出の注目度): 5.170990327019049
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The plethora of readily available geospatial data offers exciting opportunities to learn high quality representations of the planet, but the sheer size of the Earth Observations (EO), differing modalities, and different sensor types pose significant challenges in doing so. Location encoders have emerged as an efficient way of compressing EOs into location-specific embeddings. However, current state-of-the-art location encoders rely on computationally expensive CLIP-style frameworks that require large batch sizes in the 16K--32K range, suffer from false negative samples, and scale poorly with additional modalities. We introduce the Scalable Location Encoder via Distillation (SLED), a distillation-based location encoder that uses geospatial location as a binding modality to pretrain location encoders with any modality of geospatial data. The resulting location encoder framework is lightweight, modular, and can flexibly incorporate multiple modes, while eliminating the need for spatiotemporal coregistration of samples. SLED is performant with batch sizes as small as 128, enabling pretraining at a fraction of the runtime and compute costs of current state-of-the-art models. We demonstrate our approach by pretraining unimodal and multimodal SLED models on Sentinel-1, Sentinel-2, and Landsat imagery. We show that both unimodal and multimodal SLED models keep pace with or outperform existing approaches on a diverse set of 19 human-centric benchmark tasks and explore the benefits of using additional modes in pretraining.
- Abstract(参考訳): 簡単に利用可能な地理空間データの多さは、惑星の高品質な表現を学ぶのにエキサイティングな機会を与えるが、地球観測(EO)の重大さ、変調の相違、異なるセンサータイプは、それを行う上で大きな課題となる。
位置エンコーダは、位置固有の埋め込みにEOを効率よく圧縮する方法として登場した。
しかし、現在の最先端のロケーションエンコーダは計算に高価なCLIPスタイルのフレームワークに依存しており、16K-32Kの範囲で大規模なバッチサイズを必要とする。
蒸留法をベースとした位置情報エンコーダである拡張型位置情報エンコーダ (SLED) を導入し, 地理空間データの任意のモダリティを持つ事前学習位置エンコーダの結合モードとして地理空間位置を用いた位置エンコーダを提案する。
結果として生じるロケーションエンコーダフレームワークは軽量でモジュール化されており、複数のモードを柔軟に組み込むことができる。
SLEDはバッチサイズが128まで小さく、実行時の一部で事前トレーニングが可能で、現在の最先端モデルの計算コストを削減できる。
我々は,Sentinel-1,Sentinel-2,Landsatの画像上で,一様および多モードのSLEDモデルを事前学習することで,我々のアプローチを実証する。
マルチモーダルSLEDモデルは,19種類の人間中心のベンチマークタスクにおいて,既存のアプローチに追従し,性能を向上し,事前トレーニングにおいて追加モードを使用することのメリットを探求する。
関連論文リスト
- LightLoc++: Sensor-Robust Representation Learning for Efficient Outdoor LiDAR Localization [50.7242785475893]
シーン座標回帰(SCR)は、屋外のLiDARローカライゼーションにおいて高いパフォーマンスを達成するが、通常は数日を要するシーン固有のトレーニングを必要とする。
最近の研究は、SCRをシーンに依存しないバックボーンとシーン固有の予測ヘッドに分離することで、トレーニング効率を向上させる。
センサロバストで効率的な屋外LiDARローカライゼーションフレームワークであるLightLoc++を提案する。
論文 参考訳(メタデータ) (2026-08-15T16:50:34Z) - OctoSense: Self-Supervised Learning for Multimodal Robot Perception [50.20346079739425]
ステレオカメラとイベントカメラ、LiDAR、サーマルカメラ、慣性測定ユニット、プロプリセプション(車からのCANバスデータ、四足歩行ロボットの関節角度)を備えたオープンソースのセンサプラットフォームであるOctoSenseについて述べる。
匿名のOctoSenseデータセットには、59時間の時間同期駆動データが含まれている。
このような実世界のデータを用いて,センサの表現,周波数,レイテンシ,ノイズの異なるマルチモーダル自己教師型学習を実演する。
論文 参考訳(メタデータ) (2026-06-25T17:30:49Z) - Generative MIMO Beam Map Construction for Location Recovery and Beam Tracking [67.65578956523403]
本稿では,スパースチャネル状態情報(CSI)から位置ラベルを直接復元する生成フレームワークを提案する。
生のCSIを直接格納する代わりに、小型の低次元無線地図の埋め込みを学び、生成モデルを利用して高次元CSIを再構築する。
数値実験により,NLOSシナリオにおける局所化精度が30%以上向上し,20%のキャパシティゲインが得られることが示された。
論文 参考訳(メタデータ) (2025-11-21T07:25:49Z) - Indoor Localization using Compact, Telemetry-Agnostic, Transfer-Learning Enabled Decoder-Only Transformer [1.9084046244608193]
Locarisは、屋内ローカライゼーションのためのデコーダのみの大規模言語モデル(LLM)である。
LLMをさまざまなWi-Fiデータセットで微調整することで、Locarisは生信号からデバイス位置への軽量で一般化可能なマッピングを学習する。
この結果から,コンパクトLLMは室内局所化のためのキャリブレーションフリー回帰モデルとして機能することが示唆された。
論文 参考訳(メタデータ) (2025-10-13T20:47:18Z) - FlexLoc: Conditional Neural Networks for Zero-Shot Sensor Perspective Invariance in Object Localization with Distributed Multimodal Sensors [6.676517041445593]
我々は、条件付きニューラルネットワークを用いてノードの視点情報を注入し、ローカライゼーションパイプラインに適応するFlexLocを紹介した。
マルチモーダル・マルチビュー屋内追跡データセットを用いた評価では,ゼロショットの場合,FlexLoc はローカライズ精度を約50%向上することが示された。
論文 参考訳(メタデータ) (2024-06-10T21:02:53Z) - OverlapMamba: Novel Shift State Space Model for LiDAR-based Place Recognition [10.39935021754015]
位置認識のための新しいネットワークであるOverlapMambaを開発した。
本手法は,以前に訪れた場所を異なる方向から横断する場合でも,ループの閉鎖を効果的に検出する。
生のレンジビューの入力に基づいて、典型的なLiDARと複数ビューの組み合わせ法を時間的複雑さと速度で上回っている。
論文 参考訳(メタデータ) (2024-05-13T17:46:35Z) - UnLoc: A Universal Localization Method for Autonomous Vehicles using
LiDAR, Radar and/or Camera Input [51.150605800173366]
UnLocは、全ての気象条件におけるマルチセンサー入力によるローカライズのための、新しい統一型ニューラルネットワークアプローチである。
本手法は,Oxford Radar RobotCar,Apollo SouthBay,Perth-WAの各データセットで広く評価されている。
論文 参考訳(メタデータ) (2023-07-03T04:10:55Z) - Dataset Condensation with Latent Space Knowledge Factorization and
Sharing [73.31614936678571]
与えられたデータセットの規則性を利用してデータセットの凝縮問題を解決する新しい手法を提案する。
データセットを元の入力空間に直接凝縮するのではなく、学習可能な一連のコードでデータセットの生成プロセスを仮定する。
提案手法は,様々なベンチマークデータセットに対して,有意なマージンで新しい最先端記録を達成できることを実験的に示す。
論文 参考訳(メタデータ) (2022-08-21T18:14:08Z) - Adaptive Machine Learning for Time-Varying Systems: Low Dimensional
Latent Space Tuning [91.3755431537592]
本稿では,時間変化システムを対象とした適応機械学習手法を提案する。
我々は,エンコーダデコーダCNNのエンコーダ部出力において,非常に高次元(N>100k)の入力を低次元(N2)潜在空間にマッピングする。
そこで本手法では,割り込みを伴わないフィードバックに基づいて,内部の相関関係を学習し,その進化をリアルタイムで追跡する。
論文 参考訳(メタデータ) (2021-07-13T16:05:28Z) - Gradient flow encoding with distance optimization adaptive step size [10.973034520723957]
グラデーションフローを用いて潜在空間内のデータサンプルをエンコードするデコーダのみの手法を検討する。
私たちの実験では、GFEは自動符号化モデルよりもはるかに高いデータ効率を示しました。
論文 参考訳(メタデータ) (2021-05-11T13:38:23Z) - Deep Soft Procrustes for Markerless Volumetric Sensor Alignment [81.13055566952221]
本研究では、より堅牢なマルチセンサ空間アライメントを実現するために、マーカーレスデータ駆動対応推定を改善する。
我々は、幾何学的制約を終末的に典型的なセグメンテーションベースモデルに組み込み、対象のポーズ推定タスクと中間密な分類タスクをブリッジする。
実験により,マーカーベースの手法で同様の結果が得られ,マーカーレス手法よりも優れ,またキャリブレーション構造のポーズ変動にも頑健であることがわかった。
論文 参考訳(メタデータ) (2020-03-23T10:51:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。