論文の概要: PAITS: Pretraining and Augmentation for Irregularly-Sampled Time Series
- arxiv url: http://arxiv.org/abs/2308.13703v1
- Date: Fri, 25 Aug 2023 23:21:53 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-29 19:48:06.061392
- Title: PAITS: Pretraining and Augmentation for Irregularly-Sampled Time Series
- Title(参考訳): PAITS:不規則にサンプリングされた時系列の事前学習と拡張
- Authors: Nicasia Beebe-Wang, Sayna Ebrahimi, Jinsung Yoon, Sercan O. Arik,
Tomas Pfister
- Abstract要約: PAITSは、スパースおよび不規則サンプル時系列データセットに適した事前学習戦略を特定するためのフレームワークである。
このアプローチは、複数のデータセットやドメインにわたる事前トレーニングを継続的に改善する上で有効です。
- 参考スコア(独自算出の注目度): 40.02860424817592
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Real-world time series data that commonly reflect sequential human behavior
are often uniquely irregularly sampled and sparse, with highly nonuniform
sampling over time and entities. Yet, commonly-used pretraining and
augmentation methods for time series are not specifically designed for such
scenarios. In this paper, we present PAITS (Pretraining and Augmentation for
Irregularly-sampled Time Series), a framework for identifying suitable
pretraining strategies for sparse and irregularly sampled time series datasets.
PAITS leverages a novel combination of NLP-inspired pretraining tasks and
augmentations, and a random search to identify an effective strategy for a
given dataset. We demonstrate that different datasets benefit from different
pretraining choices. Compared with prior methods, our approach is better able
to consistently improve pretraining across multiple datasets and domains. Our
code is available at
\url{https://github.com/google-research/google-research/tree/master/irregular_timeseries_pretraining}.
- Abstract(参考訳): シーケンシャルな人間の振舞いをよく反映する実世界の時系列データは、時間と実体によって非常に一様でないサンプリングによって、しばしば一意に不規則にサンプリングされスパースされる。
しかし、時系列のための一般的な事前訓練と拡張方法は、そのようなシナリオのために特別に設計されていない。
本稿では、スパースおよび不規則サンプル時系列データセットに適した事前学習戦略を特定するためのフレームワークであるPAITS(Pretraining and Augmentation for Irregularly-Sampled Time Series)を提案する。
PAITSは、NLPにインスパイアされた事前訓練タスクと強化の新たな組み合わせと、与えられたデータセットの効果的な戦略を特定するためのランダム検索を活用する。
異なるデータセットが、異なる事前トレーニング選択の恩恵を受けることを示す。
従来の手法と比較して、我々のアプローチは複数のデータセットやドメイン間の事前トレーニングを継続的に改善できる。
我々のコードは \url{https://github.com/google-research/google-research/tree/master/irregular_timeseries_pretraining} で利用可能です。
関連論文リスト
- ROSE: Register Assisted General Time Series Forecasting with Decomposed Frequency Learning [17.734609093955374]
分解周波数学習(ROSE)を用いた登録型汎用時系列予測モデルを提案する。
ROSEは事前学習タスクに分解周波数学習を採用し、周波数ベースのマスキングと再構成による時系列における意味情報と周期情報を分解し、ドメイン間の統一表現を得る。
大規模時系列データを事前トレーニングした後、ROSEは8つの実世界のベンチマークで最先端の予測性能を達成する。
論文 参考訳(メタデータ) (2024-05-24T06:01:09Z) - UniCL: A Universal Contrastive Learning Framework for Large Time Series Models [18.005358506435847]
時系列分析は、金融から医療まで、さまざまな重要なアプリケーションにおいて重要な役割を果たす。
従来の教師付き学習手法は、まず各タスクにおける時系列データの広範なラベルを注釈付けする。
本稿では,時系列基礎モデルの事前学習を目的とした,普遍的でスケーラブルなコントラスト学習フレームワークUniCLを紹介する。
論文 参考訳(メタデータ) (2024-05-17T07:47:11Z) - Chronos: Learning the Language of Time Series [79.38691251254173]
Chronosは事前訓練された確率的時系列モデルのためのフレームワークである。
クロノスモデルでは,様々な領域の時系列データを利用して,未知の予測タスクにおけるゼロショット精度を向上させることができることを示す。
論文 参考訳(メタデータ) (2024-03-12T16:53:54Z) - United We Pretrain, Divided We Fail! Representation Learning for Time
Series by Pretraining on 75 Datasets at Once [22.023648710005734]
自然言語処理と視覚では、事前学習を用いて効果的な表現を学習する。
我々は,多くの時系列データセットからエンコーディングを学ぶために,新たな自己教師付きコントラスト事前学習手法を導入する。
論文 参考訳(メタデータ) (2024-02-23T16:06:38Z) - Unified Training of Universal Time Series Forecasting Transformers [104.56318980466742]
マスク型ユニバーサル時系列予測変換器(モイライ)について述べる。
Moiraiは、新たに導入された大規模オープンタイムシリーズアーカイブ(LOTSA)で訓練されており、9つのドメインで27億以上の観測が行われた。
Moiraiは、フルショットモデルと比較してゼロショットの予測器として、競争力や優れたパフォーマンスを達成する。
論文 参考訳(メタデータ) (2024-02-04T20:00:45Z) - TimeSiam: A Pre-Training Framework for Siamese Time-Series Modeling [67.02157180089573]
時系列事前トレーニングは、最近、ラベルのコストを削減し、下流の様々なタスクに利益をもたらす可能性があるとして、広く注目を集めている。
本稿では,シームズネットワークに基づく時系列の簡易かつ効果的な自己教師型事前学習フレームワークとしてTimeSiamを提案する。
論文 参考訳(メタデータ) (2024-02-04T13:10:51Z) - Unified Pretraining for Recommendation via Task Hypergraphs [55.98773629788986]
本稿では,タスクハイパーグラフによる推薦のための統一事前学習という,新しいマルチタスク事前学習フレームワークを提案する。
多様なプレテキストタスクの要求やニュアンスを処理するための統一学習パターンとして,プレテキストタスクをハイパーエッジ予測に一般化するタスクハイパーグラフを設計する。
各プレテキストタスクとレコメンデーションの関連性を識別的に学習するために、新しいトランジショナルアテンション層が考案される。
論文 参考訳(メタデータ) (2023-10-20T05:33:21Z) - Pushing the Limits of Pre-training for Time Series Forecasting in the
CloudOps Domain [54.67888148566323]
クラウドオペレーションドメインから,大規模時系列予測データセットを3つ導入する。
強力なゼロショットベースラインであり、モデルとデータセットサイズの両方において、さらなるスケーリングの恩恵を受けています。
これらのデータセットと結果を取得することは、古典的および深層学習のベースラインを事前訓練された方法と比較した総合的なベンチマーク結果の集合である。
論文 参考訳(メタデータ) (2023-10-08T08:09:51Z) - Toward a Foundation Model for Time Series Data [34.1973242428317]
基礎モデルは、大規模で多様なデータセットに基づいてトレーニングされた機械学習モデルである。
複数のドメインのラベルのないサンプルを活用することで,効率的な時系列基礎モデルを構築する。
論文 参考訳(メタデータ) (2023-10-05T21:44:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。