論文の概要: PreTraM: Self-Supervised Pre-training via Connecting Trajectory and Map

• arxiv url: http://arxiv.org/abs/2204.10435v1
• Date: Thu, 21 Apr 2022 23:01:21 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-25 13:02:40.092870
• Title: PreTraM: Self-Supervised Pre-training via Connecting Trajectory and Map
• Title（参考訳）: PreTraM: 接続軌道とマップによる自己監督型事前トレーニング
• Authors: Chenfeng Xu, Tian Li, Chen Tang, Lingfeng Sun, Kurt Keutzer, Masayoshi Tomizuka, Alireza Fathi, Wei Zhan
• Abstract要約: 軌道予測のための自己教師付き事前学習方式であるPreTraMを提案する。 1) トラジェクティブ・マップ・コントラクティブ・ラーニング(トラジェクティブ・コントラクティブ・ラーニング)、(2) トラジェクティブ・ラーニング(トラジェクティブ・コントラクティブ・ラーニング)、(2) トラジェクティブ・ラーニング(トラジェクティブ・ラーニング)、(2) トラジェクティブ・コントラクティブ・ラーニング(トラジェクティブ・ラーニング)、(2) トラジェクティブ・コントラクティブ・ラーニング(トラジェクティブ・ラーニング)の2つのパートから構成される。 AgentFormerやTrajectron++といった一般的なベースラインに加えて、PreTraMは、挑戦的なnuScenesデータセット上で、FDE-10でパフォーマンスを5.5%と6.9%向上させる。
• 参考スコア（独自算出の注目度）: 58.53373202647576
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep learning has recently achieved significant progress in trajectory forecasting. However, the scarcity of trajectory data inhibits the data-hungry deep-learning models from learning good representations. While mature representation learning methods exist in computer vision and natural language processing, these pre-training methods require large-scale data. It is hard to replicate these approaches in trajectory forecasting due to the lack of adequate trajectory data (e.g., 34K samples in the nuScenes dataset). To work around the scarcity of trajectory data, we resort to another data modality closely related to trajectories-HD-maps, which is abundantly provided in existing datasets. In this paper, we propose PreTraM, a self-supervised pre-training scheme via connecting trajectories and maps for trajectory forecasting. Specifically, PreTraM consists of two parts: 1) Trajectory-Map Contrastive Learning, where we project trajectories and maps to a shared embedding space with cross-modal contrastive learning, and 2) Map Contrastive Learning, where we enhance map representation with contrastive learning on large quantities of HD-maps. On top of popular baselines such as AgentFormer and Trajectron++, PreTraM boosts their performance by 5.5% and 6.9% relatively in FDE-10 on the challenging nuScenes dataset. We show that PreTraM improves data efficiency and scales well with model size.
• Abstract（参考訳）: 近年、深層学習は軌道予測において大きな進歩を遂げている。 しかし、軌跡データの不足は、データに精通したディープラーニングモデルが優れた表現を学習することを妨げる。 コンピュータビジョンと自然言語処理には成熟した表現学習方法が存在するが、これらの事前学習方法は大規模データを必要とする。 適切な軌跡データ(nuScenesデータセットの34Kサンプルなど)がないため、軌道予測においてこれらのアプローチを再現することは困難である。 トラジェクトリデータの不足を回避するために,既存のデータセットに豊富なトラジェクトリ-HD-マップと密接に関連する別のデータモダリティを利用する。 本稿では、軌道予測のための軌跡と地図を接続する自己教師付き事前学習スキームPreTraMを提案する。 具体的には、PreTraMは2つの部分から構成される。 1) 軌跡を投影し, クロスモーダルコントラスト学習を伴う共有埋め込み空間へマップする軌道マップコントラスト学習 2) コントラスト学習では,HD-map の多量化によるコントラスト学習により地図表現が強化される。 AgentFormerやTrajectron++といった一般的なベースラインに加えて、PreTraMは、挑戦的なnuScenesデータセット上で、FDE-10でパフォーマンスを5.5%と6.9%向上させる。 PreTraMはデータ効率を向上し,モデルサイズによく対応している。

関連論文リスト

• T-JEPA: A Joint-Embedding Predictive Architecture for Trajectory Similarity Computation [6.844357745770191]
  軌道類似性計算は,様々なアプリケーション間での空間データの移動パターンを解析するための重要な手法である。 本稿では,JEPA(Joint-Embedding Predictive Architecture)を用いた自己教師付き軌道類似性手法T-JEPAを提案する。
  論文  参考訳（メタデータ） (2024-06-13T09:51:51Z)
• Rethinking Transformers Pre-training for Multi-Spectral Satellite Imagery [78.43828998065071]
  教師なし学習の最近の進歩は、下流タスクにおける有望な結果を達成するための大きな視覚モデルの可能性を示している。 このような事前学習技術は、大量の未学習データが利用可能であることから、リモートセンシング領域でも最近研究されている。 本稿では,マルチモーダルで効果的に活用されるマルチスケール情報の事前学習と活用について述べる。
  論文  参考訳（メタデータ） (2024-03-08T16:18:04Z)
• Towards A Foundation Model For Trajectory Intelligence [0.0]
  実世界のユーザチェックインデータを用いて,大規模軌跡モデルのトレーニング結果を示す。 提案手法は,マスク付き軌道モデルを用いてベースモデルを事前学習する,事前学習と微調整のパラダイムに従う。 私たちの経験分析では、600万人以上のユーザーが生成した20億以上のチェックインの包括的データセットを利用しています。
  論文  参考訳（メタデータ） (2023-11-30T00:34:09Z)
• SPOT: Scalable 3D Pre-training via Occupancy Prediction for Learning Transferable 3D Representations [76.45009891152178]
  トレーニング-ファインタニングアプローチは、さまざまな下流データセットとタスクをまたいだトレーニング済みのバックボーンを微調整することで、ラベル付けの負担を軽減することができる。 本稿では, 一般表現学習が, 占領予測のタスクを通じて達成できることを, 初めて示す。 本研究は,LiDAR 点の理解を促進するとともに,LiDAR の事前訓練における今後の進歩の道を開くことを目的とする。
  論文  参考訳（メタデータ） (2023-09-19T11:13:01Z)
• Pre-training on Synthetic Driving Data for Trajectory Prediction [61.520225216107306]
  軌道予測におけるデータ不足の問題を緩和するパイプラインレベルのソリューションを提案する。 我々は、駆動データを生成するためにHDマップ拡張とトラジェクトリ合成を採用し、それらを事前学習することで表現を学習する。 我々は、データ拡張と事前学習戦略の有効性を実証するための広範な実験を行う。
  論文  参考訳（メタデータ） (2023-09-18T19:49:22Z)
• Minimizing the Accumulated Trajectory Error to Improve Dataset Distillation [151.70234052015948]
  本稿では,フラットな軌道を求める最適化アルゴリズムを提案する。 合成データに基づいてトレーニングされた重みは、平坦な軌道への正規化を伴う累積誤差摂動に対して頑健であることを示す。 本手法はFTD (Flat Trajectory Distillation) と呼ばれ, 勾配整合法の性能を最大4.7%向上させる。
  論文  参考訳（メタデータ） (2022-11-20T15:49:11Z)
• Generating Synthetic Training Data for Deep Learning-Based UAV Trajectory Prediction [11.241614693184323]
  本稿では,無人航空機車(UAV)の合成軌道データを生成する手法を提案する。 実世界のUAV追跡データセットにおいて,RNNに基づく予測モデルが従来の参照モデルより優れていることを示す。
  論文  参考訳（メタデータ） (2021-07-01T13:08:31Z)
• Injecting Knowledge in Data-driven Vehicle Trajectory Predictors [82.91398970736391]
  車両軌道予測タスクは、一般的に知識駆動とデータ駆動の2つの視点から取り組まれている。 本稿では,これら2つの視点を効果的に結合する「現実的残留ブロック」 (RRB) の学習を提案する。 提案手法は,残留範囲を限定し,その不確実性を考慮した現実的な予測を行う。
  論文  参考訳（メタデータ） (2021-03-08T16:03:09Z)
• Mobility Inference on Long-Tailed Sparse Trajectory [2.4444287331956898]
  大規模トラジェクトリデータにおいて,汎用的な長い尾の空間パターンを利用する単一トラジェクトリ推論アルゴリズムを提案する。 このアルゴリズムは、リコールにおける証明可能な低いバウンドで、滞在/旅行推論における100%の精度を保証する。 都市ユーザ4000万人を対象とした3つの軌跡データセットによる評価は,提案アルゴリズムの性能保証を検証した。
  論文  参考訳（メタデータ） (2020-01-21T16:32:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。