論文の概要: UniMTS: Unified Pre-training for Motion Time Series

• arxiv url: http://arxiv.org/abs/2410.19818v1
• Date: Fri, 18 Oct 2024 06:39:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-03 07:49:44.946929
• Title: UniMTS: Unified Pre-training for Motion Time Series
• Title（参考訳）: UniMTS:モーションタイムシリーズのための統一事前トレーニング
• Authors: Xiyuan Zhang, Diyan Teng, Ranak Roy Chowdhury, Shuheng Li, Dezhi Hong, Rajesh K. Gupta, Jingbo Shang,
• Abstract要約: 動作時系列の最初の統合事前学習手順であるUniMTSを紹介する。 我々は,大規模言語モデルによって強化されたテキスト記述と動作時系列を整合させる,対照的な学習フレームワークを採用している。 本モデルでは,18の動作時系列分類ベンチマークデータセットに対して,例外的な一般化性を示す。
• 参考スコア（独自算出の注目度）: 32.419834492563155
• License:
• Abstract: Motion time series collected from mobile and wearable devices such as smartphones and smartwatches offer significant insights into human behavioral patterns, with wide applications in healthcare, automation, IoT, and AR/XR due to their low-power, always-on nature. However, given security and privacy concerns, building large-scale motion time series datasets remains difficult, preventing the development of pre-trained models for human activity analysis. Typically, existing models are trained and tested on the same dataset, leading to poor generalizability across variations in device location, device mounting orientation and human activity type. In this paper, we introduce UniMTS, the first unified pre-training procedure for motion time series that generalizes across diverse device latent factors and activities. Specifically, we employ a contrastive learning framework that aligns motion time series with text descriptions enriched by large language models. This helps the model learn the semantics of time series to generalize across activities. Given the absence of large-scale motion time series data, we derive and synthesize time series from existing motion skeleton data with all-joint coverage. Spatio-temporal graph networks are utilized to capture the relationships across joints for generalization across different device locations. We further design rotation-invariant augmentation to make the model agnostic to changes in device mounting orientations. Our model shows exceptional generalizability across 18 motion time series classification benchmark datasets, outperforming the best baselines by 340% in the zero-shot setting, 16.3% in the few-shot setting, and 9.2% in the full-shot setting.
• Abstract（参考訳）: スマートフォンやスマートウォッチなどのモバイルおよびウェアラブルデバイスから収集されたモーションタイムシリーズは、医療、オートメーション、IoT、AR/XRなどの幅広い応用において、人間の行動パターンに関する重要な洞察を提供する。 しかし、セキュリティとプライバシの懸念から、大規模な動き時系列データセットの構築は依然として困難であり、人間の活動分析のための事前訓練されたモデルの開発を妨げている。 通常、既存のモデルは、同じデータセットでトレーニングされ、テストされる。 本稿では,多種多様なデバイス潜伏要因や活動にまたがる動作時系列の統一事前学習手法UniMTSを紹介する。 具体的には、大きな言語モデルによって強化されたテキスト記述と動きの時系列を整列する対照的な学習フレームワークを用いる。 これは、時系列のセマンティクスを学習し、アクティビティ全体にわたって一般化するのに役立ちます。 大規模な動き時系列データがないため,既存の動き骨格データから時系列を抽出・合成する。 時空間グラフネットワークを用いて関節間の関係を捉え、異なるデバイス位置をまたいだ一般化を行う。 さらに、回転不変化を設計し、デバイス装着方向の変化にモデルが依存しないようにする。 我々のモデルは18のモーション時系列分類ベンチマークデータセットにおいて例外的な一般化可能性を示し、ゼロショット設定では340%、数ショット設定では16.3%、フルショット設定では9.2%で最高のベースラインを上回った。

関連論文リスト

• IMUDiffusion: A Diffusion Model for Multivariate Time Series Synthetisation for Inertial Motion Capturing Systems [0.0]
  本稿では,時系列生成に特化して設計された確率的拡散モデルIMUDiffusionを提案する。 提案手法は,人間の活動のダイナミクスを正確に捉えた高品質な時系列列の生成を可能にする。 一部のケースでは、マクロF1スコアを約30%改善することができる。
  論文  参考訳（メタデータ） (2024-11-05T09:53:52Z)
• Deciphering Movement: Unified Trajectory Generation Model for Multi-Agent [53.637837706712794]
  任意の軌道をマスク入力として処理する統一軌道生成モデルUniTrajを提案する。 具体的には,空間特徴抽出のためのトランスフォーマーエンコーダ内に埋め込まれたゴースト空間マスキング(GSM)モジュールを導入する。 バスケットボール-U,サッカー-U,サッカー-Uの3つの実用的なスポーツゲームデータセットをベンチマークして評価を行った。
  論文  参考訳（メタデータ） (2024-05-27T22:15:23Z)
• UniCL: A Universal Contrastive Learning Framework for Large Time Series Models [18.005358506435847]
  時系列分析は、金融から医療まで、さまざまな重要なアプリケーションにおいて重要な役割を果たす。 従来の教師付き学習手法は、まず各タスクにおける時系列データの広範なラベルを注釈付けする。 本稿では,時系列基礎モデルの事前学習を目的とした,普遍的でスケーラブルなコントラスト学習フレームワークUniCLを紹介する。
  論文  参考訳（メタデータ） (2024-05-17T07:47:11Z)
• Large Motion Model for Unified Multi-Modal Motion Generation [50.56268006354396]
  Large Motion Model (LMM) は、動き中心のマルチモーダルフレームワークであり、メインストリームのモーション生成タスクをジェネラリストモデルに統合する。 LMMは3つの原則的な側面からこれらの課題に取り組む。
  論文  参考訳（メタデータ） (2024-04-01T17:55:11Z)
• UNITS: A Unified Multi-Task Time Series Model [31.675845788410246]
  タスクトークン化を用いたマルチタスク時系列モデルUniTSを導入し,予測および生成タスクを単一モデル内で表現する。 人間の活動センサー、医療、エンジニアリング、ファイナンスドメインにまたがる38のデータセットに対して、UniTSモデルは12の予測モデル、20の分類モデル、18の異常検出モデル、16の計算モデルに対して好意的に機能する。
  論文  参考訳（メタデータ） (2024-02-29T21:25:58Z)
• Unified Training of Universal Time Series Forecasting Transformers [104.56318980466742]
  マスク型ユニバーサル時系列予測変換器(モイライ)について述べる。 Moiraiは、新たに導入された大規模オープンタイムシリーズアーカイブ(LOTSA)で訓練されており、9つのドメインで27億以上の観測が行われた。 Moiraiは、フルショットモデルと比較してゼロショットの予測器として、競争力や優れたパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2024-02-04T20:00:45Z)
• TimeSiam: A Pre-Training Framework for Siamese Time-Series Modeling [67.02157180089573]
  時系列事前トレーニングは、最近、ラベルのコストを削減し、下流の様々なタスクに利益をもたらす可能性があるとして、広く注目を集めている。 本稿では,シームズネットワークに基づく時系列の簡易かつ効果的な自己教師型事前学習フレームワークとしてTimeSiamを提案する。
  論文  参考訳（メタデータ） (2024-02-04T13:10:51Z)
• Timer: Generative Pre-trained Transformers Are Large Time Series Models [83.03091523806668]
  本稿では,大規模時系列モデル(LTSM)の早期開発を目的とした。 事前トレーニング中に、最大10億のタイムポイントを持つ大規模なデータセットをキュレートします。 多様なアプリケーションのニーズを満たすため,予測,計算,時系列の異常検出を統一的な生成タスクに変換する。
  論文  参考訳（メタデータ） (2024-02-04T06:55:55Z)
• Rethinking Urban Mobility Prediction: A Super-Multivariate Time Series Forecasting Approach [71.67506068703314]
  長期の都市移動予測は、都市施設やサービスの効果的管理において重要な役割を担っている。 伝統的に、都市移動データはビデオとして構成され、経度と緯度を基本的なピクセルとして扱う。 本研究では,都市におけるモビリティ予測の新たな視点について紹介する。 都市移動データを従来のビデオデータとして単純化するのではなく、複雑な時系列と見なす。
  論文  参考訳（メタデータ） (2023-12-04T07:39:05Z)
• TEMPO: Prompt-based Generative Pre-trained Transformer for Time Series Forecasting [24.834846119163885]
  本稿では,時系列表現を効果的に学習できる新しいフレームワークTEMPOを提案する。 TEMPOは、様々な領域のデータから現実世界の時間現象を動的にモデル化する機能を拡張する。
  論文  参考訳（メタデータ） (2023-10-08T00:02:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。