論文の概要: Location-Aware Language Models via Secondary Embeddings

• arxiv url: http://arxiv.org/abs/2609.00454v1
• Date: Mon, 31 Aug 2026 22:48:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-02 16:31:36.123118
• Title: Location-Aware Language Models via Secondary Embeddings
• Title（参考訳）: 二次埋め込みによる位置認識言語モデル
• Abstract要約: 本研究では,地空間認識を事前学習した埋め込みに注入するための,軽量でモデルに依存しないアプローチを提案する。 本手法は,位置名と対応する緯度と経度を組み合わせることで,地理的な構造を持つ入力表現を増強する。 実験により,標準NLPベンチマークにおいて同等の性能を維持しつつ,地理空間アライメントを大幅に改善した。
• 参考スコア（独自算出の注目度）: 4.784071359791487
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Pretrained transformer-based language models achieve strong performance across a wide range of NLP tasks but remain limited in encoding geo-locational semantics, leading to suboptimal representations of place names and spatial entities. In this work, we propose a lightweight, model-agnostic approach for injecting geo-spatial awareness into pretrained embeddings without modifying the tokenizer or requiring costly retraining. Our method augments input representations with structured geographic signals by combining location names with their corresponding latitude and longitude, and employs a location-focused masking to better align textual representations with real-world spatial relationships. This design allows the model to incorporate geo-spatial context while preserving existing semantic and syntactic knowledge. Experimental results demonstrate substantial improvements in geo-spatial alignment while maintaining comparable performance on standard NLP benchmarks such as GLUE. The method is computationally efficient, requiring only minutes of additional training, and generalizes across multiple model architectures and scales.
• Abstract（参考訳）: 事前訓練されたトランスフォーマーベース言語モデルは、幅広いNLPタスクにおいて強い性能を達成するが、地理的位置意味論の符号化には制限が残っており、場所名と空間エンティティの最適下表現につながる。 本研究では,測位器の変更やコストのかかる再訓練を必要とせず,事前に訓練した埋め込みに空間的認識を注入する,軽量でモデルに依存しない手法を提案する。 提案手法は,位置名と対応する緯度と経度を組み合わせ,入力表現を構造化された地理的信号で拡張し,実世界の空間的関係とテキスト表現の整合性を高めるために,位置に着目したマスキングを用いる。 この設計により、既存の意味的知識と構文的知識を保持しながら、地理空間的コンテキストを組み込むことができる。 実験により,GLUE などの標準 NLP ベンチマークで同等の性能を維持しつつ,地理空間アライメントを大幅に改善した。 この手法は計算効率が良く、追加訓練の数分しか必要とせず、複数のモデルアーキテクチャやスケールにまたがって一般化される。

関連論文リスト

• FoundationGeo: Learning Spatial Pixel-Wise Fields for Monocular Metric Geometry [52.232826445242644]
  FoundationGeoは空間キャリブレーションと原則データ設計による相対的および計量的予測を橋渡しする。 ステージ1は DINOv3 で初期化することで高忠実なアフィン不変幾何モデルを学ぶ。 ステージ2は、メートル法推定のためのピクセルワイドキャリブレーションフィールドを導入することで、グローバルなスケーリングを越えている。
  論文  参考訳（メタデータ） (2026-07-13T14:10:01Z)
• ReaGeo: Reasoning-Enhanced End-to-End Geocoding with LLMs [8.089023511080248]
  本稿では,大規模言語モデルに基づくエンドツーエンドのジオコーディングフレームワークReaGeoを提案する。 この方法は、座標をジオハッシュシーケンスに変換し、座標予測タスクをテキスト生成問題として再構成する。 距離決定に基づく報酬を用いた強化学習を適用し、生成精度を最適化する。
  論文  参考訳（メタデータ） (2026-04-23T07:18:21Z)
• Spatially-Weighted CLIP for Street-View Geo-localization [5.8048364242505945]
  本稿では,空間的自己相関を視覚言語によるコントラスト学習に明示的に組み込む,ストリートビューのジオローカライゼーションのための新しいフレームワークを提案する。 多都市データセットの実験により、SW-CLIPは地理的ローカライゼーションの精度を著しく向上し、長いテール誤差を低減し、標準のCLIPに比べて空間コヒーレンスを向上させることが示された。
  論文  参考訳（メタデータ） (2026-04-06T02:10:36Z)
• Vision-Language Reasoning for Geolocalization: A Reinforcement Learning Approach [41.001581773172695]
  提案するGeo-Rは,既存の接地トラス座標から構造的推論経路を明らかにする,検索不要なフレームワークである。 本稿では,ルールに基づく階層的推論パラダイムである領域の連鎖を提案する。 提案手法は,空間的直接監視による地理的推論を構造化し,位置推定精度の向上,一般化の強化,透過的な推論を行う。
  論文  参考訳（メタデータ） (2026-01-01T16:51:41Z)
• Performance and Generalizability Impacts of Incorporating Location Encoders into Deep Learning for Dynamic PM2.5 Estimation [0.39762912548964846]
  動的・空間的不均一な応用のための深層学習における位置情報の効果について検討する。 日表面PM2.5を衛星観測と地上観測により推定した。 以上の結果から,空間一般化の支援により,原座標は領域内の性能を向上させることができるが,領域間の一般化性は低下することが示された。
  論文  参考訳（メタデータ） (2025-05-24T02:00:34Z)
• EarthMapper: Visual Autoregressive Models for Controllable Bidirectional Satellite-Map Translation [50.433911327489554]
  制御可能な衛星マップ翻訳のための新しいフレームワークであるEarthMapperを紹介する。 また,中国38都市を対象とした302,132組の衛星マップからなる大規模データセットであるCNSatMapをコントリビュートした。 CNSatMapとNew Yorkデータセットの実験は、EarthMapperの優れたパフォーマンスを実証している。
  論文  参考訳（メタデータ） (2025-04-28T02:41:12Z)
• Swarm Intelligence in Geo-Localization: A Multi-Agent Large Vision-Language Model Collaborative Framework [51.26566634946208]
  smileGeoは、新しい視覚的ジオローカライゼーションフレームワークである。 エージェント間のコミュニケーションによって、SmithGeoはこれらのエージェントの固有の知識と、検索された情報を統合する。 その結果,本手法は現在の最先端手法よりも優れていた。
  論文  参考訳（メタデータ） (2024-08-21T03:31:30Z)
• Into the Unknown: Generating Geospatial Descriptions for New Environments [18.736071151303726]
  レンデブー課題は、同心空間関係の推論を必要とする。 座標と組み合わせたオープンソース記述(例えばウィキペディア)を使用することで、トレーニングデータを提供するが、空間指向の限られたテキストに悩まされる。 新しい環境のための高品質な合成データを生成するための大規模拡張手法を提案する。
  論文  参考訳（メタデータ） (2024-06-28T14:56:21Z)
• Towards Natural Language-Guided Drones: GeoText-1652 Benchmark with Spatial Relation Matching [60.645802236700035]
  自然言語コマンドを通じてドローンをナビゲートすることは、アクセス可能なマルチモーダルデータセットが不足しているため、依然として難しい。 我々は新しい自然言語誘導ジオローカライゼーションベンチマークGeoText-1652を紹介する。 このデータセットは、インタラクティブなヒューマンコンピュータプロセスを通じて体系的に構築される。
  論文  参考訳（メタデータ） (2023-11-21T17:52:30Z)
• Geo-Encoder: A Chunk-Argument Bi-Encoder Framework for Chinese Geographic Re-Ranking [61.60169764507917]
  中国の地理的再ランクタスクは、検索された候補者の中で最も関連性の高い住所を見つけることを目的としている。 そこで我々は,中国語の地理的意味論をより効果的に統合する,革新的なフレームワークであるGeo-Encoderを提案する。
  論文  参考訳（メタデータ） (2023-09-04T13:44:50Z)
• Global Aggregation then Local Distribution for Scene Parsing [99.1095068574454]
  提案手法は,エンドツーエンドのトレーニング可能なブロックとしてモジュール化され,既存のセマンティックセグメンテーションネットワークに容易に接続可能であることを示す。 私たちのアプローチでは、Cityscapes、ADE20K、Pascal Context、Camvid、COCO-stuffといった主要なセマンティックセグメンテーションベンチマークに基づいて、新しい最先端の技術を構築できます。
  論文  参考訳（メタデータ） (2021-07-28T03:46:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。