論文の概要: Towards A Foundation Model For Trajectory Intelligence

• arxiv url: http://arxiv.org/abs/2312.00076v1
• Date: Thu, 30 Nov 2023 00:34:09 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-04 17:12:17.145639
• Title: Towards A Foundation Model For Trajectory Intelligence
• Title（参考訳）: 軌道インテリジェンスの基礎モデルに向けて
• Authors: Alameen Najjar
• Abstract要約: 実世界のユーザチェックインデータを用いて,大規模軌跡モデルのトレーニング結果を示す。 提案手法は,マスク付き軌道モデルを用いてベースモデルを事前学習する,事前学習と微調整のパラダイムに従う。 私たちの経験分析では、600万人以上のユーザーが生成した20億以上のチェックインの包括的データセットを利用しています。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: We present the results of training a large trajectory model using real-world user check-in data. Our approach follows a pre-train and fine-tune paradigm, where a base model is pre-trained via masked trajectory modeling and then adapted through fine-tuning for various downstream tasks. To address challenges posed by noisy data and large spatial vocabularies, we propose a novel spatial tokenization block. Our empirical analysis utilizes a comprehensive dataset of over 2 billion check-ins generated by more than 6 million users. Through fine-tuning on 3 downstream tasks we demonstrate that our base model has effectively learned valuable underlying patterns in raw data, enabling its application in meaningful trajectory intelligence tasks. Despite some limitations, we believe this work represents an important step forward in the realization of a foundation model for trajectory intelligence.
• Abstract（参考訳）: 実世界のユーザチェックインデータを用いて,大規模軌跡モデルのトレーニング結果を示す。 提案手法は,マスク付き軌道モデルを用いてベースモデルを事前学習し,各種下流タスクの微調整により適応する,事前学習および微調整のパラダイムに従う。 ノイズデータと大きな空間語彙によって生じる課題に対処するため,新しい空間トークン化ブロックを提案する。 当社の実験分析では,600万人以上のユーザが生成した20億以上のチェックインの包括的なデータセットを活用しています。 3つの下流タスクを微調整することで、我々のベースモデルは生データに価値あるパターンを効果的に学習し、意味のある軌道インテリジェンスタスクに応用できることを示した。 いくつかの制限にもかかわらず、この研究は軌道インテリジェンスの基礎モデルの実現における重要な一歩であると考えている。

関連論文リスト

• RealTraj: Towards Real-World Pedestrian Trajectory Forecasting [10.332817296500533]
  本稿では,軌道予測の現実的適用性を高める新しいフレームワークであるRealTrajを提案する。 Det2TrajFormerは、過去の検出を入力として、ノイズの追跡に不変な軌道予測モデルである。 従来のトラジェクトリ予測手法とは異なり,本手法では,地平線検出のみを用いてモデルを微調整し,コストのかかる個人IDアノテーションの必要性を著しく低減する。
  論文  参考訳（メタデータ） (2024-11-26T12:35:26Z)
• Pre-Trained Model Recommendation for Downstream Fine-tuning [22.343011779348682]
  モデル選択は、市販の事前訓練されたモデルをランク付けし、新しいターゲットタスクに最も適したモデルを選択することを目的としている。 既存のモデル選択テクニックはスコープ内で制約されることが多く、モデルとタスク間の微妙な関係を見落としてしまう傾向があります。 我々は,多種多様な大規模モデルリポジトリを探索する実用的フレームワーク textbfFennec を提案する。
  論文  参考訳（メタデータ） (2024-03-11T02:24:32Z)
• A Billion-scale Foundation Model for Remote Sensing Images [5.065947993017157]
  基礎モデルの事前学習における3つの重要な要因は、事前学習方法、事前学習データセットのサイズ、モデルパラメータの数である。 本稿では,下流タスクにおける基礎モデルの性能に及ぼすモデルパラメータ数の増加の影響について検討する。 我々の知る限りでは、これはリモートセンシング分野における最初の10億ドル規模の基礎モデルである。
  論文  参考訳（メタデータ） (2023-04-11T13:33:45Z)
• Towards Efficient Task-Driven Model Reprogramming with Foundation Models [52.411508216448716]
  ビジョンファウンデーションモデルは、非常に大きなモデルキャパシティと幅広いトレーニングデータから恩恵を受け、印象的なパワーを示す。 しかし、実際には、下流のシナリオは限られた計算資源や効率上の考慮のため、小さなモデルしかサポートできない。 これは、ファンデーションモデルの現実的な応用に重要な課題をもたらします。
  論文  参考訳（メタデータ） (2023-04-05T07:28:33Z)
• TRAK: Attributing Model Behavior at Scale [79.56020040993947]
  本稿では,大規模な微分モデルに対して有効かつ計算的に抽出可能なデータ属性法であるTRAK(Tracing with Randomly-trained After Kernel)を提案する。
  論文  参考訳（メタデータ） (2023-03-24T17:56:22Z)
• Hub-Pathway: Transfer Learning from A Hub of Pre-trained Models [89.44031286278347]
  本稿では,モデルハブからの知識伝達を可能にするハブパスウェイフレームワークを提案する。 提案するフレームワークは、目的のタスク固有の損失でエンドツーエンドにトレーニングすることができる。 コンピュータビジョンおよび強化学習タスクの実験結果は、このフレームワークが最先端のパフォーマンスを達成することを示す。
  論文  参考訳（メタデータ） (2022-06-08T08:00:12Z)
• PreTraM: Self-Supervised Pre-training via Connecting Trajectory and Map [58.53373202647576]
  軌道予測のための自己教師付き事前学習方式であるPreTraMを提案する。 1) トラジェクティブ・マップ・コントラクティブ・ラーニング(トラジェクティブ・コントラクティブ・ラーニング)、(2) トラジェクティブ・ラーニング(トラジェクティブ・コントラクティブ・ラーニング)、(2) トラジェクティブ・ラーニング(トラジェクティブ・ラーニング)、(2) トラジェクティブ・コントラクティブ・ラーニング(トラジェクティブ・ラーニング)、(2) トラジェクティブ・コントラクティブ・ラーニング(トラジェクティブ・ラーニング)の2つのパートから構成される。 AgentFormerやTrajectron++といった一般的なベースラインに加えて、PreTraMは、挑戦的なnuScenesデータセット上で、FDE-10でパフォーマンスを5.5%と6.9%向上させる。
  論文  参考訳（メタデータ） (2022-04-21T23:01:21Z)
• Transforming Model Prediction for Tracking [109.08417327309937]
  トランスフォーマーは、誘導バイアスの少ないグローバルな関係を捉え、より強力なターゲットモデルの予測を学ぶことができる。 提案したトラッカーをエンドツーエンドにトレーニングし、複数のトラッカーデータセットに関する総合的な実験を行うことで、その性能を検証する。 我々のトラッカーは3つのベンチマークで新しい技術状態を設定し、挑戦的なLaSOTデータセットで68.5%のAUCを達成した。
  論文  参考訳（メタデータ） (2022-03-21T17:59:40Z)
• Multitask Adaptation by Retrospective Exploration with Learned World Models [77.34726150561087]
  本稿では,タスク非依存ストレージから取得したMBRLエージェントのトレーニングサンプルを提供するRAMaというメタ学習型アドレッシングモデルを提案する。 このモデルは、期待されるエージェントのパフォーマンスを最大化するために、ストレージから事前のタスクを解く有望な軌道を選択することで訓練される。
  論文  参考訳（メタデータ） (2021-10-25T20:02:57Z)
• Mobility Inference on Long-Tailed Sparse Trajectory [2.4444287331956898]
  大規模トラジェクトリデータにおいて,汎用的な長い尾の空間パターンを利用する単一トラジェクトリ推論アルゴリズムを提案する。 このアルゴリズムは、リコールにおける証明可能な低いバウンドで、滞在/旅行推論における100%の精度を保証する。 都市ユーザ4000万人を対象とした3つの軌跡データセットによる評価は,提案アルゴリズムの性能保証を検証した。
  論文  参考訳（メタデータ） (2020-01-21T16:32:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。