論文の概要: TrTr: A Versatile Pre-Trained Large Traffic Model based on Transformer
for Capturing Trajectory Diversity in Vehicle Population
- arxiv url: http://arxiv.org/abs/2309.12677v3
- Date: Fri, 1 Dec 2023 04:11:11 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-04 11:50:56.972883
- Title: TrTr: A Versatile Pre-Trained Large Traffic Model based on Transformer
for Capturing Trajectory Diversity in Vehicle Population
- Title（参考訳）: TrTr:自動車人口の軌跡多様性を捉える変圧器を用いた多目的事前訓練大型交通モデル
- Authors: Ruyi Feng, Zhibin Li, Bowen Liu and Yan Ding
- Abstract要約: 本研究では,トランスフォーマーアーキテクチャを交通タスクに適用し,車内における軌道の多様性を学習することを目的とした。
我々は、注意機構に合わせてデータ構造を作成し、繰り返しの時間的要求に対応する一連のノイズを導入する。
設計した事前学習モデルは,車両の空間分布を捉える上で優れた性能を示す。
- 参考スコア（独自算出の注目度）: 13.75828180340772
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Understanding trajectory diversity is a fundamental aspect of addressing
practical traffic tasks. However, capturing the diversity of trajectories
presents challenges, particularly with traditional machine learning and
recurrent neural networks due to the requirement of large-scale parameters. The
emerging Transformer technology, renowned for its parallel computation
capabilities enabling the utilization of models with hundreds of millions of
parameters, offers a promising solution. In this study, we apply the
Transformer architecture to traffic tasks, aiming to learn the diversity of
trajectories within vehicle populations. We analyze the Transformer's attention
mechanism and its adaptability to the goals of traffic tasks, and subsequently,
design specific pre-training tasks. To achieve this, we create a data structure
tailored to the attention mechanism and introduce a set of noises that
correspond to spatio-temporal demands, which are incorporated into the
structured data during the pre-training process. The designed pre-training
model demonstrates excellent performance in capturing the spatial distribution
of the vehicle population, with no instances of vehicle overlap and an RMSE of
0.6059 when compared to the ground truth values. In the context of time series
prediction, approximately 95% of the predicted trajectories' speeds closely
align with the true speeds, within a deviation of 7.5144m/s. Furthermore, in
the stability test, the model exhibits robustness by continuously predicting a
time series ten times longer than the input sequence, delivering smooth
trajectories and showcasing diverse driving behaviors. The pre-trained model
also provides a good basis for downstream fine-tuning tasks. The number of
parameters of our model is over 50 million.
- Abstract（参考訳）: 軌道の多様性を理解することは、現実的な交通課題に対処する基本的な側面である。
しかしながら、トラジェクタの多様性を捉えることは、特に大規模パラメータの要求により、従来の機械学習やリカレントニューラルネットワークにおいて問題となる。
数億のパラメータを持つモデルの利用を可能にする並列計算能力で有名である、新しいトランスフォーマー技術は、有望なソリューションを提供する。
本研究では,トランスフォーマーアーキテクチャを交通タスクに適用し,車内における軌道の多様性を学習することを目的とした。
本稿では,トランスフォーマーの注意機構と交通タスクの目標への適応性を分析し,その後,特定の事前学習タスクを設計する。
これを実現するために、注意機構に合わせたデータ構造を作成し、事前学習プロセス中に構造化データに組み込まれた時空間的要求に対応する一連のノイズを導入する。
設計した事前学習モデルは, 車両の空間分布の把握に優れた性能を示し, 車両重なりの事例はなく, RMSEは0.6059である。
時系列予測の文脈では、予測された軌道速度の95%は7.5144m/sで真の速度と密接に一致している。
さらに、安定性テストでは、入力シーケンスより10倍長い時系列を連続的に予測し、滑らかな軌道を提供し、多様な運転行動を示すことによってロバスト性を示す。
事前訓練されたモデルは、下流の微調整タスクに良い基礎を提供する。
私たちのモデルのパラメータの数は5000万以上です。
関連論文リスト
- Hybrid Transformer and Spatial-Temporal Self-Supervised Learning for
Long-term Traffic Prediction [1.8531577178922987]
本稿では,ハイブリッドトランスフォーマーと自己教師型学習を組み合わせたモデルを提案する。
このモデルは、トラフィックのシーケンスレベルにデータ拡張技術を適用することにより、適応的なデータ拡張を強化する。
本研究では,時間的および空間的依存をモデル化する2つの自己教師型学習タスクを設計し,モデルの精度と能力を向上させる。
論文 参考訳（メタデータ） (2024-01-29T06:17:23Z) - Trajeglish: Learning the Language of Driving Scenarios [75.61820235290608]
自動運転開発における長年の課題は、記録された運転ログからシードされた動的運転シナリオをシミュレートすることだ。
車両、歩行者、サイクリストが運転シナリオでどのように相互作用するかをモデル化するために、離散シーケンスモデリングのツールを適用します。
我々のモデルはSim Agents Benchmarkを上回り、リアリズムメタメトリックの先行作業の3.3%、インタラクションメトリックの9.9%を上回ります。
論文 参考訳（メタデータ） (2023-12-07T18:53:27Z) - Rethinking Urban Mobility Prediction: A Super-Multivariate Time Series
Forecasting Approach [71.67506068703314]
長期の都市移動予測は、都市施設やサービスの効果的管理において重要な役割を担っている。
伝統的に、都市移動データはビデオとして構成され、経度と緯度を基本的なピクセルとして扱う。
本研究では,都市におけるモビリティ予測の新たな視点について紹介する。
都市移動データを従来のビデオデータとして単純化するのではなく、複雑な時系列と見なす。
論文 参考訳（メタデータ） (2023-12-04T07:39:05Z) - Interaction-Aware Personalized Vehicle Trajectory Prediction Using
Temporal Graph Neural Networks [8.209194305630229]
既存の手法は主に大規模なデータセットからの一般的な軌道予測に依存している。
本稿では,時間グラフニューラルネットワークを組み込んだ対話型車両軌跡予測手法を提案する。
論文 参考訳（メタデータ） (2023-08-14T20:20:26Z) - Newell's theory based feature transformations for spatio-temporal
traffic prediction [0.0]
本稿では,交通流予測のための深層学習(DL)モデルのための交通流物理に基づく変換機能を提案する。
この変換は、Newellがターゲット位置におけるトラフィックフローの非混雑フィルタを組み込んだもので、モデルがシステムのより広範なダイナミクスを学習できるようにする。
私たちのフレームワークの重要な利点は、データが利用できない新しい場所に転送できることです。
論文 参考訳（メタデータ） (2023-07-12T06:31:43Z) - PDFormer: Propagation Delay-Aware Dynamic Long-Range Transformer for
Traffic Flow Prediction [78.05103666987655]
空間時空間グラフニューラルネットワーク(GNN)モデルは、この問題を解決する最も有望な方法の1つである。
本稿では,交通流の正確な予測を行うために,遅延を意識した動的長距離トランスフォーマー(PDFormer)を提案する。
提案手法は,最先端の性能を達成するだけでなく,計算効率の競争力も発揮できる。
論文 参考訳（メタデータ） (2023-01-19T08:42:40Z) - Physics-Inspired Temporal Learning of Quadrotor Dynamics for Accurate
Model Predictive Trajectory Tracking [76.27433308688592]
クオーロタのシステムダイナミクスを正確にモデル化することは、アジャイル、安全、安定したナビゲーションを保証する上で非常に重要です。
本稿では,ロボットの経験から,四重項系の力学を純粋に学習するための新しい物理インスパイアされた時間畳み込みネットワーク(PI-TCN)を提案する。
提案手法は,スパース時間的畳み込みと高密度フィードフォワード接続の表現力を組み合わせて,正確なシステム予測を行う。
論文 参考訳（メタデータ） (2022-06-07T13:51:35Z) - Interpretable Machine Learning Models for Modal Split Prediction in
Transportation Systems [0.43012765978447565]
交通ネットワークにおけるモーダル分割予測は、交通渋滞の管理と交通サービスの信頼性向上にネットワークオペレーターをサポートする可能性がある。
本研究では,高次元の旅行時間データを用いて,旅行者の時間差予測の問題に焦点をあてる。
変数選択に様々な正則化手法を用いて、オーバーフィッティングを防止し、多重線形性の問題を解決する。
論文 参考訳（メタデータ） (2022-03-27T02:59:00Z) - The Importance of Balanced Data Sets: Analyzing a Vehicle Trajectory
Prediction Model based on Neural Networks and Distributed Representations [0.0]
車両軌道予測におけるトレーニングデータの構成について検討する。
本研究では, 意味ベクトル表現を用いたモデルが, 適切なデータセットで訓練した場合に, 数値モデルより優れていることを示す。
論文 参考訳（メタデータ） (2020-09-30T20:00:11Z) - SMART: Simultaneous Multi-Agent Recurrent Trajectory Prediction [72.37440317774556]
本稿では,将来の軌道予測における2つの重要な課題に対処する手法を提案する。
エージェントの数に関係なく、トレーニングデータと予測と一定時間の推測の両方において、マルチモーダリティ。
論文 参考訳（メタデータ） (2020-07-26T08:17:10Z) - Spatial-Temporal Transformer Networks for Traffic Flow Forecasting [74.76852538940746]
本稿では,長期交通予測の精度を向上させるため,時空間変圧器ネットワーク(STTN)の新たなパラダイムを提案する。
具体的には、有向空間依存を動的にモデル化することにより、空間変換器と呼ばれる新しいグラフニューラルネットワークを提案する。
提案モデルにより,長期間にわたる空間的依存関係に対する高速かつスケーラブルなトレーニングが可能になる。
論文 参考訳（メタデータ） (2020-01-09T10:21:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。