論文の概要: ADAPTive Input Training for Many-to-One Pre-Training on Time-Series Classification
- arxiv url: http://arxiv.org/abs/2604.08398v1
- Date: Thu, 09 Apr 2026 15:58:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-10 18:34:06.008838
- Title: ADAPTive Input Training for Many-to-One Pre-Training on Time-Series Classification
- Title(参考訳): ADAPTive Input Training for Many-to-One Pre-Training on Time-Series Classification (特集:情報ネットワーク)
- Authors: Paul Quinlan, Qingguo Li, Xiaodan Zhu,
- Abstract要約: 本稿では,ADAPTと呼ばれる時系列データのための事前学習パラダイムを提案する。
ADAPTは時系列領域におけるデータの物理的特性を効率的に調整し、混合バッチ事前トレーニングを可能にする。
我々は162の時系列分類データセットをトレーニングし、分類ベンチマークのための新しい最先端性能を設定した。
- 参考スコア(独自算出の注目度): 12.086280297671282
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent work on time-series models has leveraged self-supervised training to learn meaningful features and patterns in order to improve performance on downstream tasks and generalize to unseen modalities. While these pretraining methods have shown great promise in one-to-many scenarios, where a model is pre-trained on one dataset and fine-tuned on a downstream dataset, they have struggled to generalize to new datasets when more datasets are added during pre-training. This is a fundamental challenge in building foundation models for time-series data, as it limits the ability to develop models that can learn from a large variety of diverse datasets available. To address this challenge, we present a new pre-training paradigm for time-series data called ADAPT, which can efficiently align the physical properties of data in the time-series domain, enabling mixed-batch pre-training despite the extreme discrepancies in the input sizes and channel dimensions of pre-training data. We trained on 162 time-series classification datasets and set new state-of-the-art performance for classification benchmarks. We successfully train a model within the time-series domain on a wide range of datasets simultaneously, which is a major building block for building generalist foundation models in time-series domains.
- Abstract(参考訳): 時系列モデルに関する最近の研究は、ダウンストリームタスクにおけるパフォーマンスを改善し、目に見えないモダリティに一般化するために、意味のある特徴やパターンを学ぶために、自己教師型トレーニングを活用している。
これらの事前トレーニング方法は、1つのデータセットでモデルが事前トレーニングされ、下流データセットで微調整される一対多のシナリオにおいて大きな可能性を示してきたが、事前トレーニング中により多くのデータセットが追加されると、新しいデータセットに一般化するのに苦労した。
これは時系列データの基盤モデルを構築する上での根本的な課題であり、利用可能な多様なデータセットから学習可能なモデルを開発する能力を制限する。
この課題に対処するために、ADAPTと呼ばれる新しい時系列データの事前学習パラダイムを提案する。これは、時系列領域におけるデータの物理的特性を効率よく整合させ、事前学習データの入力サイズとチャネル次元に極端に差があるにもかかわらず、混合バッチ事前学習を可能にする。
我々は162の時系列分類データセットをトレーニングし、分類ベンチマークのための新しい最先端性能を設定した。
時系列ドメイン内のモデルを、広範囲のデータセットで同時にトレーニングすることに成功し、時系列ドメインで汎用基盤モデルを構築するための主要なビルディングブロックである。
関連論文リスト
- UniCL: A Universal Contrastive Learning Framework for Large Time Series Models [18.005358506435847]
時系列分析は、金融から医療まで、さまざまな重要なアプリケーションにおいて重要な役割を果たす。
従来の教師付き学習手法は、まず各タスクにおける時系列データの広範なラベルを注釈付けする。
本稿では,時系列基礎モデルの事前学習を目的とした,普遍的でスケーラブルなコントラスト学習フレームワークUniCLを紹介する。
論文 参考訳(メタデータ) (2024-05-17T07:47:11Z) - MOMENT: A Family of Open Time-series Foundation Models [19.0845213853369]
汎用時系列解析のためのオープンソース基盤モデルのファミリであるMOMENTを紹介する。
我々は、タイムシリーズパイル(Time series Pile)と呼ばれる公開時系列のコレクションをコンパイルし、時系列固有の課題に体系的に取り組みます。
我々は、様々なタスクやデータセットに関する時系列基礎モデルを、限られた監督設定で評価するためのベンチマークを設計するための最近の作業に基づいて構築する。
論文 参考訳(メタデータ) (2024-02-06T10:48:46Z) - Unified Training of Universal Time Series Forecasting Transformers [104.56318980466742]
マスク型ユニバーサル時系列予測変換器(モイライ)について述べる。
Moiraiは、新たに導入された大規模オープンタイムシリーズアーカイブ(LOTSA)で訓練されており、9つのドメインで27億以上の観測が行われた。
Moiraiは、フルショットモデルと比較してゼロショットの予測器として、競争力や優れたパフォーマンスを達成する。
論文 参考訳(メタデータ) (2024-02-04T20:00:45Z) - Timer: Generative Pre-trained Transformers Are Large Time Series Models [83.03091523806668]
本稿では,大規模時系列モデル(LTSM)の早期開発を目的とした。
事前トレーニング中に、最大10億のタイムポイントを持つ大規模なデータセットをキュレートします。
多様なアプリケーションのニーズを満たすため,予測,計算,時系列の異常検出を統一的な生成タスクに変換する。
論文 参考訳(メタデータ) (2024-02-04T06:55:55Z) - Large Pre-trained time series models for cross-domain Time series analysis tasks [20.228846068418765]
Large Pre-trained Time-Series Models (LPTM) は、事前トレーニング中に最適なデータセット固有のセグメンテーション戦略を自動的に識別する適応セグメンテーションの新しい手法である。
LPTMは、最先端のベースラインに比べて最大40%データが少なく、トレーニング時間も50%少ない。
論文 参考訳(メタデータ) (2023-11-19T20:16:16Z) - Pushing the Limits of Pre-training for Time Series Forecasting in the
CloudOps Domain [54.67888148566323]
クラウドオペレーションドメインから,大規模時系列予測データセットを3つ導入する。
強力なゼロショットベースラインであり、モデルとデータセットサイズの両方において、さらなるスケーリングの恩恵を受けています。
これらのデータセットと結果を取得することは、古典的および深層学習のベースラインを事前訓練された方法と比較した総合的なベンチマーク結果の集合である。
論文 参考訳(メタデータ) (2023-10-08T08:09:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。