論文の概要: A systematic review of geospatial location embedding approaches in large language models: A path to spatial AI systems

• arxiv url: http://arxiv.org/abs/2401.10279v1
• Date: Fri, 12 Jan 2024 12:43:33 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-28 16:21:20.303274
• Title: A systematic review of geospatial location embedding approaches in large language models: A path to spatial AI systems
• Title（参考訳）: 大規模言語モデルにおける地理空間的位置埋め込み手法の体系的レビュー:空間AIシステムへの道
• Authors: Sean Tucker
• Abstract要約: 地理空間的位置埋め込み(GLE)は、大規模言語モデル(LLM)が空間データを同化して解析するのに役立つ。 GLEは、空間的知識をモデルアーキテクチャに組み込む空間的基礎/言語モデル(SLM)の必要性を示唆している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Geospatial Location Embedding (GLE) helps a Large Language Model (LLM) assimilate and analyze spatial data. GLE emergence in Geospatial Artificial Intelligence (GeoAI) is precipitated by the need for deeper geospatial awareness in our complex contemporary spaces and the success of LLMs in extracting deep meaning in Generative AI. We searched Google Scholar, Science Direct, and arXiv for papers on geospatial location embedding and LLM and reviewed articles focused on gaining deeper spatial "knowing" through LLMs. We screened 304 titles, 30 abstracts, and 18 full-text papers that reveal four GLE themes - Entity Location Embedding (ELE), Document Location Embedding (DLE), Sequence Location Embedding (SLE), and Token Location Embedding (TLE). Synthesis is tabular and narrative, including a dialogic conversation between "Space" and "LLM." Though GLEs aid spatial understanding by superimposing spatial data, they emphasize the need to advance in the intricacies of spatial modalities and generalized reasoning. GLEs signal the need for a Spatial Foundation/Language Model (SLM) that embeds spatial knowing within the model architecture. The SLM framework advances Spatial Artificial Intelligence Systems (SPAIS), establishing a Spatial Vector Space (SVS) that maps to physical space. The resulting spatially imbued Language Model is unique. It simultaneously represents actual space and an AI-capable space, paving the way for AI native geo storage, analysis, and multi-modality as the basis for Spatial Artificial Intelligence Systems (SPAIS).
• Abstract（参考訳）: geospatial location embedded (gle) は、大言語モデル (llm) が空間データを同一化し、分析するのに役立つ。 ジオ空間人工知能(GeoAI)におけるGLEの出現は、我々の複雑な現代空間におけるより深い地理空間認識の必要性と、ジェネレーティブAIにおける深い意味の抽出におけるLLMの成功に起因している。 google scholar, science direct, arxivで地理空間的位置埋め込みとllmに関する論文を検索し,llmを通じてより深い空間的"知識"を得ることに焦点を当てた記事をレビューした。 私たちは304タイトル、30の要約、および18のフルテキストの論文をスクリーニングし、GLEのテーマであるEntity Location Embedding(ELE)、Document Location Embedding(DLE)、Sequence Location Embedding(SLE)、Token Location Embedding(TLE)の4つを明らかにしました。 合成は「空間」と「llm」の対話的な会話を含む表と物語である。 GLEは空間データを重畳することで空間的理解を支援するが、空間的モダリティの複雑化と一般化推論の進歩の必要性を強調している。 GLEは、空間的知識をモデルアーキテクチャに組み込む空間的基礎/言語モデル(SLM)の必要性を示唆している。 SLMフレームワークは空間人工知能システム(SPAIS)を推進し、物理空間にマップする空間ベクトル空間(SVS)を確立する。 結果として生じる空間的流行言語モデルは一意である。 実際の空間とAI対応空間を同時に表現し、空間人工知能システム(SPAIS)の基礎として、AIネイティブなジオストレージ、分析、マルチモダリティの道を開く。

関連論文リスト

• SpaRC and SpaRP: Spatial Reasoning Characterization and Path Generation for Understanding Spatial Reasoning Capability of Large Language Models [70.01883340129204]
  空間推論は 生物学的と人工知能の両方において 重要な要素です 本稿では,現在最先端の大規模言語モデル (LLM) の空間的推論能力について包括的に検討する。
  論文  参考訳（メタデータ） (2024-06-07T01:06:34Z)
• SpatialRGPT: Grounded Spatial Reasoning in Vision Language Models [68.13636352687257]
  VLMの空間知覚と推論能力を高めるために空間領域GPT(SpatialRGPT)を導入する。 推測中、ユーザが指定した領域の提案が提供されると、SpatialRGPTは相対的な方向と距離を正確に知覚できる。 本研究では,空間的推論タスクにおける局所的プロンプトと非局所的プロンプトの双方において,空間的RGPTにより性能が著しく向上することを示す。
  論文  参考訳（メタデータ） (2024-06-03T17:59:06Z)
• GeoGalactica: A Scientific Large Language Model in Geoscience [95.15911521220052]
  大規模言語モデル(LLM)は、自然言語処理(NLP)における幅広いタスクを解く一般的な知識と能力で大きな成功を収めている。 我々は、LLMを地学に特化させ、さらに、地学の膨大なテキストでモデルを事前訓練し、また、カスタム収集した指導チューニングデータセットで得られたモデルを教師付き微調整(SFT)する。 我々はGeoGalacticaを65億のトークンを含む地球科学関連のテキストコーパスで訓練し、最大の地球科学固有のテキストコーパスとして保存する。 次に、100万対の命令チューニングでモデルを微調整する。
  論文  参考訳（メタデータ） (2023-12-31T09:22:54Z)
• GeoLM: Empowering Language Models for Geospatially Grounded Language Understanding [45.36562604939258]
  本稿では,自然言語におけるジオテリティーの理解を深める言語モデルGeoLMを紹介する。 また、GeoLMは、トポノニム認識、トポノニムリンク、関係抽出、ジオエンタリティタイピングをサポートする有望な能力を示すことを示した。
  論文  参考訳（メタデータ） (2023-10-23T01:20:01Z)
• Core Building Blocks: Next Gen Geo Spatial GPT Application [0.0]
  本稿では,自然言語理解と空間データ分析のギャップを埋めることを目的としたMapGPTを紹介する。 MapGPTは、ロケーションベースのクエリに対するより正確でコンテキスト対応の応答を可能にする。
  論文  参考訳（メタデータ） (2023-10-17T06:59:31Z)
• GeoLLM: Extracting Geospatial Knowledge from Large Language Models [49.20315582673223]
  大規模言語モデルから地理空間的知識を効果的に抽出する新しい手法であるGeoLLMを提案する。 我々は、人口密度や経済生活の計測など、国際社会への関心の中心となる複数の課題にまたがるアプローチの有用性を実証する。 実験の結果, LLMは試料効率が高く, 地理空間情報に富み, 世界中のロバストであることがわかった。
  論文  参考訳（メタデータ） (2023-10-10T00:03:23Z)
• Are Large Language Models Geospatially Knowledgeable? [21.401931052512595]
  本稿では,Large Language Models (LLM) で符号化された地理空間的知識,認識,推論能力の程度について検討する。 自己回帰言語モデルに焦点をあて, (i) 地理座標系におけるLLMの探索と地理空間知識の評価, (ii) 地理空間的および非地理空間的前置法を用いて地理空間的意識を測定する, (iii) 多次元スケーリング(MDS) 実験を用いて, モデルの地理空間的推論能力を評価する, 実験手法を考案した。
  論文  参考訳（メタデータ） (2023-10-09T17:20:11Z)
• K2: A Foundation Language Model for Geoscience Knowledge Understanding and Utilization [105.89544876731942]
  大規模言語モデル(LLM)は自然言語処理の一般分野において大きな成功を収めている。 我々は、地球科学におけるLLM研究をさらに促進するために開発された一連の資源とともに、地球科学における最初のLLMであるK2を提示する。
  論文  参考訳（メタデータ） (2023-06-08T09:29:05Z)
• SpaBERT: A Pretrained Language Model from Geographic Data for Geo-Entity Representation [25.52363878314735]
  SpaBERTは、地理空間データ内の隣接するエンティティに基づいた汎用的なジオエンタリティ表現を提供する。 SpaBERTは、マスク付き言語モデリングとマスク付きエンティティ予測タスクで事前訓練されている。 SpaBERTを2つの下流タスク、ジオエンティタイピングとジオエンティリンクに適用する。
  論文  参考訳（メタデータ） (2022-10-21T19:42:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。