論文の概要: TimEE: End-to-end Time Series Classification via In-Context Learning
- arxiv url: http://arxiv.org/abs/2607.07500v1
- Date: Wed, 08 Jul 2026 14:58:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-09 22:50:30.429206
- Title: TimEE: End-to-end Time Series Classification via In-Context Learning
- Title(参考訳): TimEE: コンテキスト内学習によるエンドツーエンドの時系列分類
- Abstract要約: 時系列分類(TSC)は、2段階のパラダイムによって支配されている。
我々はTimEEを紹介した。TimEEはコンテキスト内学習によるエンドツーエンドTSCの基礎モデルである。
TimEEは、UCRベンチマークで最先端のパフォーマンスに到達した最初の純粋に合成事前訓練されたモデルである。
- 参考スコア(独自算出の注目度): 42.26457535497941
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Time series classification (TSC) is dominated by a two-stage paradigm: train a feature encoder -- either from scratch on the target dataset or via pretraining on large corpora -- and then fit a task-specific classifier on top. While effective, this decoupling optimizes representation learning independently of the classification objective, requires per-dataset training, and prevents the model from exploiting label information during inference. We introduce TimEE, a 4.5M-parameter foundation model for end-to-end TSC via in-context learning. Given a labeled support set and a query time series, TimEE directly outputs a predicted class distribution in a single forward pass with no per-dataset training required. Following the prior-data fitted network (PFN) framework, TimEE is meta-trained exclusively on synthetic TSC tasks, where each task contains time series with distinct class identities arising from structured distributional shifts in the generative process. Despite seeing no real time series during pre-training, TimEE ranks first in ROC AUC (and third on accuracy) on the UCR benchmark among all compared methods, which include both foundation models and supervised deep learning baselines. To our knowledge, TimEE is the first purely synthetic-pretrained model to reach state-of-the-art performance on the UCR benchmark. These results establish end-to-end ICL with synthetic priors as a compelling, largely unexplored direction for TSC, with scaling, prior design, and richer generation mechanisms as natural avenues for improvement. Code is publicly available at http://github.com/automl/timee.
- Abstract(参考訳): フィーチャーエンコーダ(ターゲットデータセットのスクラッチから、あるいは大きなコーパスの事前トレーニングを経て)をトレーニングし、タスク固有の分類器をトップに配置する。
このデカップリングは効果的であるが、分類対象とは独立して表現学習を最適化し、データセットごとのトレーニングを必要とし、モデルが推論中にラベル情報を利用するのを防ぐ。
In-context Learning を通じてエンドツーエンド TSC のための 4.5M パラメータ基盤モデルである TimEE を紹介する。
ラベル付きサポートセットとクエリタイムシリーズが与えられたTimEEは、予測されたクラスディストリビューションを、データセットごとのトレーニングを必要とせずに、単一のフォワードパスで直接出力する。
先行データ適合ネットワーク(PFN)フレームワークに従い、TimEEは合成TSCタスクのみにメタトレーニングされ、各タスクは生成過程における構造的分布シフトから生じる異なるクラスアイデンティティを持つ時系列を含む。
事前トレーニング中にリアルタイムのシリーズを見ることはなかったが、TimEEは、基礎モデルと教師付きディープラーニングベースラインを含むすべての比較手法の中で、UCCベンチマークでROC AUC(精度3番目)にランクインしている。
我々の知る限り、TimEEはUCRベンチマークで最先端のパフォーマンスに到達した最初の純粋に合成事前訓練されたモデルです。
これらの結果から, 拡張性, 事前設計, よりリッチな生成機構を, 改良のための自然な道筋として, TSCの説得力, ほとんど探索されていない方向として, 合成前駆体を用いたエンドツーエンドICLが確立された。
コードはhttp://github.com/automl/timee.comで公開されている。
関連論文リスト
- ChorusTIC: Training-Free Multivariate Time Series Classification via Chorus In-Context Learning [52.72143039958434]
異種チャネル構成にまたがるコンテキスト内分類のための分類ネイティブ基盤モデルであるChorusticを導入する。
Chorusticは、可変チャネル構成を元のチャネルカウントとは無関係に固定幅の表現にマッピングする。
コンテキスト由来の分布を使って機能軸を校正し、リーク保護されたコンテキスト内学習を通じてクエリラベルを予測する。
論文 参考訳(メタデータ) (2026-08-25T03:45:24Z) - Time Series as Language: A Universal Tokenizer for General-Purpose Time Series Foundation Models [58.73838451441261]
連続時間列(TS)を離散トークンに変換するユニバーサルトークンライザUniTokと、これらのトークン上でNTPを介して事前訓練された基礎モデルUniTok-FMを紹介する。
UniTok-FMは、ゼロショットとプロンプトブースト予測をサポートし、トレーニング不要なインコンテキスト推論による少数ショットの生成と分類をサポートする汎用基盤モデルである。
論文 参考訳(メタデータ) (2026-05-31T16:04:11Z) - Prototype-Guided Classification Sub-Task Decoupling Framework: Enhancing Generalization and Interpretability for Multivariate Time Series [17.242128977027246]
時系列分類(TSC)は、近年注目を集めている長年の研究課題である。
我々は,時系列分類を多段階決定プロセスとして再構成するプロトタイプ誘導フレームワークであるPDFTimeを提案する。
我々の知る限り、PDFTimeは、分離された多段階の類似性に基づく推論プロセスとして時系列分類を再構成する最初のフレームワークです。
論文 参考訳(メタデータ) (2026-05-21T06:45:50Z) - A Foundation Model for Instruction-Conditioned In-Context Time Series Tasks [0.7677431882779153]
In-context Learning (ICL) では、モデルをパラメータを更新するのではなく、例に条件付けすることで推論時に適応させることができる。
本稿では,量子レグレッションT5エンコーダを用いた命令条件付き時系列タスクの基礎モデルを提案する。
論文 参考訳(メタデータ) (2026-03-23T21:24:41Z) - TiCT: A Synthetically Pre-Trained Foundation Model for Time Series Classification [24.157185193971856]
テキスト内分類を行うために合成データのみに事前訓練したトランスフォーマーベースモデルであるTiCTを紹介する。
TiCTは最先端の教師付き手法と競合する性能を発揮する。
論文 参考訳(メタデータ) (2025-11-24T20:57:55Z) - Chronos: Learning the Language of Time Series [79.38691251254173]
Chronosは事前訓練された確率的時系列モデルのためのフレームワークである。
クロノスモデルでは,様々な領域の時系列データを利用して,未知の予測タスクにおけるゼロショット精度を向上させることができることを示す。
論文 参考訳(メタデータ) (2024-03-12T16:53:54Z) - Structural Self-Supervised Objectives for Transformers [3.018656336329545]
この論文は、教師なし生データを用いて自然言語モデルの事前学習を改善することに焦点を当てている。
第一部では,BERT の Masked Language Modeling (MLM) に対する3つの事前学習目標について紹介する。
第2部では、下流アプリケーションと構造的に整合する自己教師付き事前学習タスクを提案する。
論文 参考訳(メタデータ) (2023-09-15T09:30:45Z) - Towards Similarity-Aware Time-Series Classification [51.2400839966489]
時系列データマイニングの基本課題である時系列分類(TSC)について検討する。
グラフニューラルネットワーク(GNN)を用いて類似情報をモデル化するフレームワークであるSimTSCを提案する。
論文 参考訳(メタデータ) (2022-01-05T02:14:57Z) - Document Ranking with a Pretrained Sequence-to-Sequence Model [56.44269917346376]
関連ラベルを「ターゲット語」として生成するためにシーケンス・ツー・シーケンス・モデルをどのように訓練するかを示す。
提案手法は,データポーラ方式におけるエンコーダのみのモデルよりも大幅に優れている。
論文 参考訳(メタデータ) (2020-03-14T22:29:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。