論文の概要: MoveGPT: Scaling Mobility Foundation Models with Spatially-Aware Mixture of Experts
- arxiv url: http://arxiv.org/abs/2505.18670v2
- Date: Wed, 01 Oct 2025 08:50:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-02 17:16:29.696158
- Title: MoveGPT: Scaling Mobility Foundation Models with Spatially-Aware Mixture of Experts
- Title(参考訳): MoveGPT: 専門家の空間認識によるモビリティ基礎モデルのスケーリング
- Authors: Chonghua Han, Yuan Yuan, Jingtao Ding, Jie Feng, Fanjin Meng, Yong Li,
- Abstract要約: MoveGPTは、スケーリングの障壁を克服するために特別に設計された、大規模な基盤モデルである。
幅広いダウンストリームタスクにまたがって新たな最先端技術を確立し、平均して35%のパフォーマンス向上を実現している。
また、目に見えない都市に強力な一般化能力を示す。
- 参考スコア(独自算出の注目度): 17.430772832222793
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The success of foundation models in language has inspired a new wave of general-purpose models for human mobility. However, existing approaches struggle to scale effectively due to two fundamental limitations: a failure to use meaningful basic units to represent movement, and an inability to capture the vast diversity of patterns found in large-scale data. In this work, we develop MoveGPT, a large-scale foundation model specifically architected to overcome these barriers. MoveGPT is built upon two key innovations: (1) a unified location encoder that maps geographically disjoint locations into a shared semantic space, enabling pre-training on a global scale; and (2) a Spatially-Aware Mixture-of-Experts Transformer that develops specialized experts to efficiently capture diverse mobility patterns. Pre-trained on billion-scale datasets, MoveGPT establishes a new state-of-the-art across a wide range of downstream tasks, achieving performance gains of up to 35% on average. It also demonstrates strong generalization capabilities to unseen cities. Crucially, our work provides empirical evidence of scaling ability in human mobility, validating a clear path toward building increasingly capable foundation models in this domain.
- Abstract(参考訳): 言語における基礎モデルの成功は、人間の移動性のための汎用モデルの新しい波にインスピレーションを与えた。
しかし、既存のアプローチは2つの基本的な制限があるため、効果的にスケールするのに苦労している。
本研究では,これらの障壁を克服するための大規模基盤モデルであるMoveGPTを開発する。
MoveGPTは,(1)地理的に不連続な位置を共有意味空間にマッピングし,グローバルスケールでの事前学習を可能にする統一的な位置エンコーダ,(2)多様な移動パターンを効率的に捉えるための専門的な専門家を開発する空間認識混合変換器である。
数十億規模のデータセットで事前トレーニングされたMoveGPTは、さまざまなダウンストリームタスクにまたがって新たな最先端技術を確立し、平均して最大35%のパフォーマンス向上を実現している。
また、見えない都市に強力な一般化能力を示す。
私たちの研究は、人間のモビリティにおけるスケーリング能力の実証的な証拠を提供し、この領域でますます有能な基盤モデルを構築するための明確な道筋を立証します。
関連論文リスト
- UniMove: A Unified Model for Multi-city Human Mobility Prediction [18.826615430413373]
人間の移動予測は、都市計画、交通の最適化、パーソナライズされたサービスにとって不可欠である。
既存のソリューションでは、異なる空間表現と地理的カバレッジのために、各都市の個別のモデルを訓練する必要があることが多い。
マルチシティ・ヒューマンモビリティ予測のための統一モデルUniMoveを提案する。
論文 参考訳(メタデータ) (2025-08-09T13:47:22Z) - From Points to Places: Towards Human Mobility-Driven Spatiotemporal Foundation Models via Understanding Places [0.30693357740321775]
本稿では,複数スケールにわたる人体移動と位置意味論を統合した空間基盤モデルを提案する。
我々の目標は、次世代地理空間インテリジェンスのためのスケーラブルでコンテキスト対応のモデルの開発をガイドすることです。
論文 参考訳(メタデータ) (2025-06-17T14:27:24Z) - CAMS: A CityGPT-Powered Agentic Framework for Urban Human Mobility Simulation [9.907406552578607]
textbfCAMSは、言語に基づく都市基盤モデルを利用して都市空間における人間の移動をシミュレートするエージェントフレームワークである。
textbfCAMSは、外部に提供された地理空間情報に頼ることなく、優れた性能を達成する。
論文 参考訳(メタデータ) (2025-06-16T15:24:07Z) - TerraFM: A Scalable Foundation Model for Unified Multisensor Earth Observation [65.74990259650984]
本研究では,グローバルに分散したSentinel-1とSentinel-2画像を利用する,スケーラブルな自己教師型学習モデルTerraFMを紹介する。
我々のトレーニング戦略は、局所的・言語的コントラスト学習を統合し、二重中心化機構を導入する。
TerraFMは分類タスクとセグメンテーションタスクの両方において強力な一般化を実現し、GEO-BenchとCopernicus-Benchの先行モデルよりも優れている。
論文 参考訳(メタデータ) (2025-06-06T17:59:50Z) - Mixture-of-Experts for Personalized and Semantic-Aware Next Location Prediction [20.726107072683575]
NextLocMoEは、大きな言語モデル(LLM)上に構築され、デュアルレベルのMixture-of-Experts(MoE)設計を中心に構築された、新しいフレームワークである。
我々のアーキテクチャは2つの特別なモジュールで構成されている: ロケーションセマンティックス MoE は、位置の豊富な機能的意味をエンコードする埋め込みレベルで動作し、パーソナライズされた MoE は、トランスフォーマーのバックボーンに埋め込まれ、個々のユーザーモビリティパターンに動的に適応する。
論文 参考訳(メタデータ) (2025-05-30T13:45:19Z) - Learning Universal Human Mobility Patterns with a Foundation Model for Cross-domain Data Fusion [11.332722237426987]
ユニバーサルな人体移動のための基盤モデルフレームワークを提案する。
制限に対処するために、クロスドメインデータ融合と大きな言語モデルを活用します。
我々のフレームワークはドメイン転送技術による適応性を実証する。
論文 参考訳(メタデータ) (2025-03-20T01:41:28Z) - Collaborative Imputation of Urban Time Series through Cross-city Meta-learning [54.438991949772145]
メタ学習型暗黙的ニューラル表現(INR)を利用した新しい協調的計算パラダイムを提案する。
次に,モデルに依存しないメタ学習による都市間協調学習手法を提案する。
20のグローバル都市から得られた多様な都市データセットの実験は、我々のモデルの優れた計算性能と一般化可能性を示している。
論文 参考訳(メタデータ) (2025-01-20T07:12:40Z) - UniTraj: Learning a Universal Trajectory Foundation Model from Billion-Scale Worldwide Traces [64.24594320103066]
ユニバーサルな軌跡基礎モデルを構築することは、既存の軌跡モデリングアプローチの限界に対処するための有望な解決策である。
以下、UniTrajを紹介します。UniTrajは3つの重要なイノベーションを通じてこれらの制限に対処することを目的としています。
まず、70か国にまたがる数十億のGPSポイントを持つ、前例のない245万のトラジェクトリのデータセットであるWorldTraceを構築します。
論文 参考訳(メタデータ) (2024-11-06T12:06:43Z) - Specialized Foundation Models Struggle to Beat Supervised Baselines [60.23386520331143]
ゲノミクス、衛星画像、時系列の3つのモードを最近のFMで調べ、それらを標準的な教師付き学習ワークフローと比較する。
最新のファンデーションモデルにマッチしたり、性能を上回るような、シンプルな教師付きモデルのトレーニングが一貫して可能であることが分かりました。
論文 参考訳(メタデータ) (2024-11-05T04:10:59Z) - Multi-Transmotion: Pre-trained Model for Human Motion Prediction [68.87010221355223]
マルチトランスモーション(Multi-Transmotion)は、モダリティ事前トレーニング用に設計された革新的なトランスフォーマーベースのモデルである。
提案手法は,下流タスクにおける各種データセット間の競合性能を示す。
論文 参考訳(メタデータ) (2024-11-04T23:15:21Z) - ST-MoE-BERT: A Spatial-Temporal Mixture-of-Experts Framework for Long-Term Cross-City Mobility Prediction [6.0588503913405045]
我々はST-MoE-BERTと呼ばれる人間の移動パターンを予測する頑健な手法を提案する。
本手法は,Mixture-of-ExpertsアーキテクチャとBERTモデルを統合し,複雑な移動力学を捉える。
本稿では,GEO-BLEUおよびDTWにおける提案手法の有効性について述べる。
論文 参考訳(メタデータ) (2024-10-18T00:32:18Z) - MetaUrban: An Embodied AI Simulation Platform for Urban Micromobility [52.0930915607703]
最近のロボティクスとエンボディードAIの進歩により、公共の都市空間はもはや人間専用ではない。
公共の都市空間における短距離移動のためのAIによって実現されるマイクロモビリティは、将来の交通システムにおいて重要な要素である。
本稿では,AI駆動型都市マイクロモビリティ研究のための構成シミュレーションプラットフォームであるMetaUrbanを紹介する。
論文 参考訳(メタデータ) (2024-07-11T17:56:49Z) - Pretrained Mobility Transformer: A Foundation Model for Human Mobility [11.713796525742405]
textbfPretrained textbfMobility textbfTransformer (PMT)
textbfMobility textbfTransformer (PMT)
textbfPretrained textbfMobility textbfTransformer (PMT)
論文 参考訳(メタデータ) (2024-05-29T00:07:22Z) - Deep Activity Model: A Generative Approach for Human Mobility Pattern Synthesis [11.90100976089832]
我々は,人間の移動性モデリングと合成のための新しい生成的深層学習手法を開発した。
オープンソースのデータを使って、アクティビティパターンとロケーショントラジェクトリの両方を組み込む。
モデルはローカルデータで微調整できるため、さまざまな領域にわたるモビリティパターンを正確に表現することができる。
論文 参考訳(メタデータ) (2024-05-24T02:04:10Z) - COLA: Cross-city Mobility Transformer for Human Trajectory Simulation [44.157114416533915]
モデル非依存転送フレームワークを用いた都市間mObiLity trAnsformer (COLA) を開発した。
COLAはトランスフォーマーを、都市固有の特性のためのプライベートモジュールと、都市・ユニバーサルモビリティパターンのための共有モジュールに分割する。
実装された都市間ベースラインは,その優位性と有効性を示している。
論文 参考訳(メタデータ) (2024-03-04T07:45:29Z) - Synthetic location trajectory generation using categorical diffusion
models [50.809683239937584]
拡散モデル(DPM)は急速に進化し、合成データのシミュレーションにおける主要な生成モデルの一つとなっている。
本稿では,個人が訪れた物理的位置を表す変数列である合成個別位置軌跡(ILT)の生成にDPMを用いることを提案する。
論文 参考訳(メタデータ) (2024-02-19T15:57:39Z) - Recognize Any Regions [55.76437190434433]
RegionSpotは、ローカライゼーション基盤モデルから位置認識ローカライゼーション知識と、ViLモデルからのセマンティック情報を統合する。
オープンワールドオブジェクト認識の実験では、私たちのRereaSpotは、以前の代替よりも大きなパフォーマンス向上を実現しています。
論文 参考訳(メタデータ) (2023-11-02T16:31:49Z) - Transferring Foundation Models for Generalizable Robotic Manipulation [82.12754319808197]
インターネット規模の基盤モデルによって生成された言語推論セグメンテーションマスクを効果的に活用する新しいパラダイムを提案する。
提案手法は,オブジェクトのポーズを効果的かつ堅牢に知覚し,サンプル効率のよい一般化学習を可能にする。
デモは提出されたビデオで見ることができ、より包括的なデモはlink1またはlink2で見ることができます。
論文 参考訳(メタデータ) (2023-06-09T07:22:12Z) - Mobility signatures: a tool for characterizing cities using intercity
mobility flows [1.1602089225841632]
我々は、より広い移動ネットワークに都市がどのように埋め込まれているかを理解するためのツールとして、モビリティシグネチャを紹介した。
フィンランドの携帯電話ベースのデータに基づいて構築された2つのアプリケーションによるモビリティシグネチャ手法の可能性を示す。
論文 参考訳(メタデータ) (2021-12-03T08:53:58Z) - Learning to Move with Affordance Maps [57.198806691838364]
物理的な空間を自律的に探索し、ナビゲートする能力は、事実上あらゆる移動型自律エージェントの基本的な要件である。
従来のSLAMベースの探索とナビゲーションのアプローチは、主にシーン幾何学の活用に重点を置いている。
学習可能な余剰マップは探索と航法の両方において従来のアプローチの強化に利用でき、性能が大幅に向上することを示します。
論文 参考訳(メタデータ) (2020-01-08T04:05:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。