論文の概要: TempoPFN: Synthetic Pre-training of Linear RNNs for Zero-shot Time Series Forecasting

• arxiv url: http://arxiv.org/abs/2510.25502v1
• Date: Wed, 29 Oct 2025 13:27:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-30 15:50:45.586573
• Title: TempoPFN: Synthetic Pre-training of Linear RNNs for Zero-shot Time Series Forecasting
• Title（参考訳）: TempoPFN:ゼロショット時系列予測のための線形RNNの合成事前学習
• Authors: Vladyslav Moroshan, Julien Siems, Arber Zela, Timur Carstensen, Frank Hutter,
• Abstract要約: 本稿では,線形リカレントニューラルネットワーク(RNN)に基づく時系列基礎モデルであるTempoPFNについて述べる。 このモデルは、状態ウィービングを備えたGatedDeltaProductアーキテクチャを使用して、シーケンスの長さにわたって完全に並列化可能なトレーニングを行う。
• 参考スコア（独自算出の注目度）: 42.2854432715079
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Foundation models for zero-shot time series forecasting face challenges in efficient long-horizon prediction and reproducibility, with existing synthetic-only approaches underperforming on challenging benchmarks. This paper presents TempoPFN, a univariate time series foundation model based on linear Recurrent Neural Networks (RNNs) pre-trained exclusively on synthetic data. The model uses a GatedDeltaProduct architecture with state-weaving for fully parallelizable training across sequence lengths, eliminating the need for windowing or summarization techniques while maintaining robust temporal state-tracking. Our comprehensive synthetic data pipeline unifies diverse generators, including stochastic differential equations, Gaussian processes, and audio synthesis, with novel augmentations. In zero-shot evaluations on the Gift-Eval benchmark, TempoPFN achieves top-tier competitive performance, outperforming all existing synthetic-only approaches and surpassing the vast majority of models trained on real-world data, while being more efficient than existing baselines by leveraging fully parallelizable training and inference. We open-source our complete data generation pipeline and training code, providing a reproducible foundation for future research.
• Abstract（参考訳）: ゼロショット時系列予測のための基礎モデルは、効率的な長距離予測と再現性において直面する課題を予測し、既存の合成のみのアプローチは、挑戦的なベンチマークで実行されている。 本稿では,線形リカレントニューラルネットワーク(RNN)に基づく一変量時系列基礎モデルであるTempoPFNについて述べる。 モデルは、状態ウィービングを備えたGatedDeltaProductアーキテクチャを使用して、シーケンスの長さにわたって完全に並列化可能なトレーニングを実現し、堅牢な時間的状態追跡を維持しながら、ウィンドウニングや要約技術の必要性を排除している。 我々の総合的な合成データパイプラインは、確率微分方程式、ガウス過程、音声合成を含む多様な生成元を新しい拡張で統合する。 Gift-Evalベンチマークのゼロショット評価では、TempoPFNは、すべての既存の合成専用アプローチを上回り、現実世界のデータでトレーニングされたモデルの大多数を上回り、完全に並列化可能なトレーニングと推論を活用することで、既存のベースラインよりも効率的である。 私たちは完全なデータ生成パイプラインとトレーニングコードをオープンソース化し、将来の研究のための再現可能な基盤を提供します。

関連論文リスト

• SynDelay: A Synthetic Dataset for Delivery Delay Prediction [50.56729406793283]
  配送遅延予測のための合成データセットであるSynDelayを提案する。 これはサプライチェーンAIにおけるデータセットの共有とベンチマークを促進するオープンイニシアチブである。
  論文  参考訳（メタデータ） (2025-08-30T21:54:37Z)
• Scaling Laws of Synthetic Data for Language Models [125.41600201811417]
  プレトレーニングコーパスを多種多様な高品質な合成データセットに変換するスケーラブルなフレームワークであるSynthLLMを紹介した。 提案手法は,グラフアルゴリズムを用いて複数の文書にまたがるハイレベルな概念を自動的に抽出し,再結合することで実現している。
  論文  参考訳（メタデータ） (2025-03-25T11:07:12Z)
• Tackling Data Heterogeneity in Federated Time Series Forecasting [61.021413959988216]
  時系列予測は、エネルギー消費予測、病気の伝染モニタリング、天気予報など、様々な実世界の応用において重要な役割を果たす。 既存のほとんどのメソッドは、分散デバイスから中央クラウドサーバに大量のデータを収集する、集中的なトレーニングパラダイムに依存しています。 本稿では,情報合成データを補助的知識キャリアとして生成することにより,データの均一性に対処する新しいフレームワークであるFed-TRENDを提案する。
  論文  参考訳（メタデータ） (2024-11-24T04:56:45Z)
• Recurrent Neural Goodness-of-Fit Test for Time Series [8.22915954499148]
  時系列データは、金融や医療など、さまざまな分野において重要である。 従来の評価基準は、時間的依存関係と潜在的な特徴の高次元性のために不足している。 Recurrent Neural (RENAL) Goodness-of-Fit testは,生成時系列モデルを評価するための新しい,統計的に厳密なフレームワークである。
  論文  参考訳（メタデータ） (2024-10-17T19:32:25Z)
• Towards Theoretical Understandings of Self-Consuming Generative Models [56.84592466204185]
  本稿では,自己消費ループ内で生成モデルを訓練する新たな課題に取り組む。 我々は,このトレーニングが将来のモデルで学習したデータ分布に与える影響を厳格に評価するための理論的枠組みを構築した。 カーネル密度推定の結果は,混合データトレーニングがエラー伝播に与える影響など,微妙な洞察を与える。
  論文  参考訳（メタデータ） (2024-02-19T02:08:09Z)
• Are Synthetic Time-series Data Really not as Good as Real Data? [29.852306720544224]
  時系列データは、データ品質の問題、バイアスと脆弱性、一般化の問題に起因する制限を提示する。 InfoBoostは、時系列表現学習機能を備えた、高度に汎用的なクロスドメインデータ合成フレームワークである。 本研究では,実データを用いて学習したモデルの性能を上回りながら,実データを必要としないモデルトレーニングを可能にする合成データに基づく手法を開発した。
  論文  参考訳（メタデータ） (2024-02-01T13:59:04Z)
• Online Evolutionary Neural Architecture Search for Multivariate Non-Stationary Time Series Forecasting [72.89994745876086]
  本研究は、オンラインニューロ進化に基づくニューラルアーキテクチャサーチ(ONE-NAS)アルゴリズムを提案する。 ONE-NASは、オンライン予測タスクのためにリカレントニューラルネットワーク(RNN)を自動設計し、動的にトレーニングする新しいニューラルネットワーク探索手法である。 その結果、ONE-NASは従来の統計時系列予測法よりも優れていた。
  論文  参考訳（メタデータ） (2023-02-20T22:25:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。