論文の概要: Olivia: Harmonizing Time Series Foundation Models with Power Spectral Density

• arxiv url: http://arxiv.org/abs/2605.17340v2
• Date: Tue, 19 May 2026 02:26:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-20 15:03:08.546616
• Title: Olivia: Harmonizing Time Series Foundation Models with Power Spectral Density
• Title（参考訳）: Olivia: パワースペクトル密度を持つ時系列基礎モデル
• Authors: Jingru Fei, Kun Yi, Alex Xing Wang, Qingsong Wen, Xiangxiang Zhu, Wei Fan,
• Abstract要約: 時系列基礎モデルは、ドメイン間の多様なデータセットに対する大規模な事前トレーニングに依存している。 Harmonizerは、スペクトル構造を再利用し、データセット間で暗黙的にPSDを調和させるモジュールである。 オリヴィア(Olivia)は、これらの調和機構に基づいて構築された新しい時系列基礎モデルである。
• 参考スコア（独自算出の注目度）: 38.095057921805704
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Time series foundation models rely on large-scale pretraining over diverse datasets across domains, yet their heterogeneity in temporal patterns could hinder the effectiveness of training and learning transferable time series representations. Inspired a fundamental concept, normalized power spectral density (PSD) in signal processing, we assume harmonizing datasets via PSDs in the spectral domain could reduce mismatches and enhance pretraining. We then go beyond the direct intractable minimization optimization and innovatively reformulate it as a principled harmonization approach. Specifically, we propose Harmonizer, a module that reshapes spectral structures and implicitly harmonizing PSDs across datasets, which theoretically corresponds to a shared reparameterization of second-order temporal correlations. Our theoretical analysis further reveals token interactions with Harmonizer can be efficiently mediated by a compact set of resonators, motivating a HarmonicAttention design that performs self-attention in a low-dimensional interaction space. Then, we propose Olivia, a novel time series foundation model built upon these harmonization mechanisms. Extensive experiments on two large-scale benchmarks (TSLib and GIFT-Eval) and extra 6 datasets from GluonTS, demonstrate Olivia consistently achieves state-of-the-art performance under zero-shot, few-shot, and full-shot forecasting scenarios. Our code is available at https://github.com/TSTS13/Olivia.
• Abstract（参考訳）: 時系列基礎モデルは、ドメイン間の多様なデータセットに対する大規模な事前トレーニングに依存しているが、時間的パターンにおけるそれらの不均一性は、トレーニングと転送可能な時系列表現の学習の有効性を妨げる可能性がある。 信号処理における基本概念である正規化パワースペクトル密度(PSD)をインスピレーションとして、スペクトル領域におけるPSDによるデータセットの調和により、ミスマッチの低減と事前学習の強化が期待できる。 そして、直結可能な最小化最適化を超越し、原則調和アプローチとして革新的に修正する。 具体的には、スペクトル構造を再現し、理論的には2階時間相関の共有再パラメータ化に対応するデータセット間でPSDを暗黙的に調和させるモジュールであるHarmonizerを提案する。 我々の理論解析により,低次元の相互作用空間において自己アテンションを行うハーモニックアテンション設計を動機付け,ハーモニエータとトークンの相互作用をコンパクトな共振器によって効率的に媒介できることが明らかにされた。 そこで我々は,これらの調和機構に基づいて構築された新しい時系列基礎モデルであるOliviaを提案する。 GluonTSの2つの大規模ベンチマーク(TSLibとGIFT-Eval)と追加の6つのデータセットに関する大規模な実験は、Oliviaがゼロショット、少数ショット、フルショットの予測シナリオの下で、一貫して最先端のパフォーマンスを達成することを実証している。 私たちのコードはhttps://github.com/TSTS13/Olivia.comから入手可能です。

関連論文リスト

• WaveMoE: A Wavelet-Enhanced Mixture-of-Experts Foundation Model for Time Series Forecasting [43.52635148490259]
  本稿では、拡張性のある基礎モデルに明示的な周波数領域表現を統合する新しい視点を提案する。 時系列予測のためのウェーブレット強化混合実験基盤モデルであるWaveMoEを紹介する。 16種類のベンチマークデータセットの予備的な実験結果から、WaveMoEは予測性能をさらに改善する可能性が示唆されている。
  論文  参考訳（メタデータ） (2026-04-12T09:17:19Z)
• V-Co: A Closer Look at Visual Representation Alignment via Co-Denoising [65.5867130156805]
  統合JTフレームワークにおける視覚的コデノゲーションの体系的研究であるV-Coについて述べる。 本研究は,視覚的コデノジングを効果的に行うための4つの重要な要素を明らかにする。 V-Coは、基礎となる画素空間拡散ベースラインと強い前の画素拡散法より優れている。
  論文  参考訳（メタデータ） (2026-03-17T17:01:54Z)
• Parallel Complex Diffusion for Scalable Time Series Generation [50.01609741902786]
  PaCoDiは周波数領域における生成モデリングを分離するスペクトルネイティブアーキテクチャである。 本研究では,PaCoDiが生成品質と推論速度の両方において,既存のベースラインを上回っていることを示す。
  論文  参考訳（メタデータ） (2026-02-10T14:31:53Z)
• Dynamical Regimes of Multimodal Diffusion Models [0.0]
  本稿では,Ornstein-Uhlenbeck過程をトラクタブルモデルとして用いた,結合拡散モデルの理論的枠組みを提案する。 重要な予測は同期ギャップ'であり、異なる固有モードが異なる速度で安定化する逆生成過程の時間窓である。 本研究では,結合強度がスペクトルフィルタとして機能し,時間的階層の調整が可能であることを示す。
  論文  参考訳（メタデータ） (2026-02-04T17:16:12Z)
• Tracing the Representation Geometry of Language Models from Pretraining to Post-training [22.18942718274405]
  本研究では,事前学習と後学習にまたがる学習表現の幾何学をスペクトル的に検討する。 自己回帰事前学習中に3つの幾何位相の一貫した非単調列が発見された。 SFTとDPOは、特定の命令データや優先データを統合するために「エントロピー探索」ダイナミクスを駆動します。
  論文  参考訳（メタデータ） (2025-09-27T00:46:29Z)
• TIMED: Adversarial and Autoregressive Refinement of Diffusion-Based Time Series Generation [0.31498833540989407]
  TIMEDは、フォワード-リバース拡散プロセスを通じてグローバル構造をキャプチャする統合生成フレームワークである。 特徴空間における実および合成分布をさらに整合させるため、TIMEDは最大平均離散性(MMD)損失を取り入れている。 我々は、TIMEDが最先端の生成モデルよりも現実的で時間的に一貫性のあるシーケンスを生成することを示す。
  論文  参考訳（メタデータ） (2025-09-23T23:05:40Z)
• Elucidated Rolling Diffusion Models for Probabilistic Weather Forecasting [52.6508222408558]
  Eucidated Rolling Diffusion Models (ERDM)を紹介する。 ERDMはEucidated Diffusion Models (EDM) の原理的, 性能的設計とローリング予測構造を統一する最初のフレームワークである 2D Navier-StokesシミュレーションとERA5グローバル気象予報の1.5円解像度では、ERDMはキー拡散ベースラインを一貫して上回っている。
  論文  参考訳（メタデータ） (2025-06-24T21:44:31Z)
• MFRS: A Multi-Frequency Reference Series Approach to Scalable and Accurate Time-Series Forecasting [51.94256702463408]
  時系列予測は、周波数の異なる周期特性から導かれる。 マルチ周波数参照系列相関解析に基づく新しい時系列予測手法を提案する。 主要なオープンデータセットと合成データセットの実験は、最先端のパフォーマンスを示している。
  論文  参考訳（メタデータ） (2025-03-11T11:40:14Z)
• Conditional Denoising Meets Polynomial Modeling: A Flexible Decoupled Framework for Time Series Forecasting [5.770377200028654]
  本稿では,複雑な時間パターンをモデル化するための条件記述型多項式モデリング(CDPM)フレームワークを提案する。 結合した時系列をモデル化する代わりに、CDPMはそれを傾向と季節的な要素に分解し、個別にモデル化する。 スムーズなトレンドコンポーネントに対しては、歴史的依存関係を組み込んで線形モデルを強化するモジュールが提案されている。
  論文  参考訳（メタデータ） (2024-10-17T06:20:43Z)
• One More Step: A Versatile Plug-and-Play Module for Rectifying Diffusion Schedule Flaws and Enhancing Low-Frequency Controls [77.42510898755037]
  One More Step (OMS) は、推論中に単純だが効果的なステップを付加したコンパクトネットワークである。 OMSは画像の忠実度を高め、トレーニングと推論の二分法を調和させ、元のモデルパラメータを保存する。 トレーニングが完了すると、同じ潜在ドメインを持つ様々な事前訓練された拡散モデルが同じOMSモジュールを共有することができる。
  論文  参考訳（メタデータ） (2023-11-27T12:02:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。