論文の概要: CITRAS-FM: Tiny Time Series Foundation Model for Covariate-Informed Zero-Shot Forecasting
- arxiv url: http://arxiv.org/abs/2606.10798v1
- Date: Tue, 09 Jun 2026 12:46:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-10 15:40:58.499167
- Title: CITRAS-FM: Tiny Time Series Foundation Model for Covariate-Informed Zero-Shot Forecasting
- Title(参考訳): CITRAS-FM:共変量インフォームゼロショット予測のためのTiny Time Series Foundation Model
- Authors: Yosuke Yamaguchi, Issei Suemitsu, Yuki Kajihara, Wenpeng Wei,
- Abstract要約: 実時間CPU推論によるゼロショット予測のための7MパラメータTSFMであるCITRAS-FMを提案する。
CITRAS-FMはパッチベースのデコーダのみのトランスフォーマー上に構築されており、Shifted AttentionとCov Synthが導入されている。
さまざまな設定で100のタスクにまたがるfev-benchの実験では、CITRAS-FMが最先端のゼロショット精度を実現している。
- 参考スコア(独自算出の注目度): 1.403836902258911
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Pretrained time series foundation models (TSFMs) have enabled zero-shot forecasting on unseen target series. However, existing TSFMs often incur high computational cost and provide limited support for diverse variable types, often failing to account for covariates that exogenously influence target variability. To address these challenges, we propose CITRAS-FM, a tiny 7M-parameter TSFM that supports univariate, multivariate, and covariate-informed zero-shot forecasting with real-time CPU inference. Built on a patch-based, decoder-only Transformer, CITRAS-FM introduces Shifted Attention into the cross-variate module to effectively exploit known covariates accessible throughout the forecast horizon. Moreover, to enable covariate-aware pretraining despite the scarcity of covariate-rich corpora, we propose CovSynth, which synthesizes realistic covariates from decomposed components of target series. Experiments on fev-bench, spanning 100 tasks across various settings, demonstrate that CITRAS-FM achieves state-of-the-art zero-shot accuracy among sub-10M TSFMs while delivering sub-0.1-second CPU inference, offering a strong balance between forecasting accuracy and real-time deployability.
- Abstract(参考訳): 事前トレーニングされた時系列基礎モデル (TSFM) は、目に見えないターゲットシリーズのゼロショット予測を可能にした。
しかし、既存のTSFMは、しばしば高い計算コストを発生させ、様々な変数タイプを限定的にサポートし、しばしば、ターゲットの変動に異常に影響を及ぼす共変量を考慮するのに失敗する。
これらの課題に対処するために,一変量,多変量,共変量インフォームドゼロショット予測をリアルタイムCPU推論でサポートする7MパラメータTSFMのCITRAS-FMを提案する。
CITRAS-FMはパッチベースのデコーダのみのトランスフォーマー上に構築されている。
さらに,コヴァリエートに富むコーパスの不足にもかかわらず,コヴァリエートを意識した事前学習を可能にするために,対象系列の分解成分から現実的なコヴァリエートを合成するCovSynthを提案する。
さまざまな設定で100のタスクにまたがるfev-benchの実験では、CITRAS-FMが、0.1秒以下のCPU推論を提供しながら、サブ10M TSFM間の最先端のゼロショット精度を実現し、予測精度とリアルタイムデプロイ性の間に強いバランスを提供することを示した。
関連論文リスト
- Posterior Augmented Flow Matching [64.1559809786948]
後拡張フローマッチング(PAFM)はフローマッチング(FM)の一般化である
PAFMは、異なるモデルスケールで最大3.4FID50KでFMよりも改善されていることを示す。
論文 参考訳(メタデータ) (2026-05-01T17:59:59Z) - Bridging Time and Frequency: A Joint Modeling Framework for Irregular Multivariate Time Series Forecasting [7.6757168009144126]
IMTS予測のための統合時間周波数モデリングフレームワークであるTFMixerを提案する。
具体的には、TFMixerは、学習可能な非均一離散フーリエ変換(NUDFT)を用いて不規則なタイムスタンプからスペクトル表現を直接抽出するグローバル周波数モジュールを組み込んでいる。
並行して、Local Time Moduleは、情報的時間的パッチを適応的に集約し、情報密度の不均衡を軽減する、クエリベースのパッチミキシングメカニズムを導入している。
論文 参考訳(メタデータ) (2026-01-31T07:49:44Z) - Diversified Scaling Inference in Time Series Foundation Models [17.268760626931517]
この研究は、標準サンプリングベース推論スケーリングの下でTSFMはどのように振る舞うか、そしてサンプリングの多様性を制御できるかという2つの質問を体系的に調査する。
まず、標準サンプリング下でのTSFMの特性について検討するが、解空間の探索が不十分なため、しばしばスケーリング法則に従わない。
次に, 時系列摂動による多様な推論スケーリングを探索し, 生成的分布の支援を拡大する。
論文 参考訳(メタデータ) (2026-01-24T08:53:42Z) - Synapse: Adaptive Arbitration of Complementary Expertise in Time Series Foundational Models [50.877082340479085]
時系列基礎モデル (TSFM) の違いが, 様々な予測設定にまたがって, 特定の性能プロファイルを示すかを検討する。
TSFMの新しい調停フレームワークであるSynapseを提案する。
その結果、Synapseは個々のTSFMだけでなく、他の一般的なアンサンブル技術よりも一貫して優れていることが示された。
論文 参考訳(メタデータ) (2025-11-07T18:01:51Z) - CoRA: Covariate-Aware Adaptation of Time Series Foundation Models [47.20786327020571]
Time Series Foundation Models (TSFM) は、そのモデル容量、スケーラビリティ、ゼロショットの一般化を通じて、大きな影響を与えている。
TSFMのための一般共変量認識適応(CoRA)フレームワークを提案する。
論文 参考訳(メタデータ) (2025-10-14T16:20:00Z) - Multi-Scale Finetuning for Encoder-based Time Series Foundation Models [67.95907033226585]
時系列基礎モデル (TSFM) は, 時系列予測において印象的なゼロショット性能を示す。
直感的な微調整はパフォーマンスの向上をもたらすが、TSFMの能力を完全に活用するには不十分である、と我々は主張する。
マルチスケール・ファインタニング(MSFT)は,マルチスケール・モデリングをファインタニング・プロセスに明示的に統合する,シンプルながら汎用的なフレームワークである。
論文 参考訳(メタデータ) (2025-06-17T01:06:01Z) - FlowTS: Time Series Generation via Rectified Flow [67.41208519939626]
FlowTSは、確率空間における直線輸送を伴う整流フローを利用するODEベースのモデルである。
非条件設定では、FlowTSは最先端のパフォーマンスを達成し、コンテキストFIDスコアはStockとETThデータセットで0.019と0.011である。
条件設定では、太陽予測において優れた性能を達成している。
論文 参考訳(メタデータ) (2024-11-12T03:03:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。