論文の概要: WinoTS: Wavelet-based Self-Distillation for Time Series Models

• arxiv url: http://arxiv.org/abs/2609.39337v1
• Date: Wed, 30 Sep 2026 09:06:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.480438
• Title: WinoTS: Wavelet-based Self-Distillation for Time Series Models
• Title（参考訳）: WinoTS: 時系列モデルのためのウェーブレットベースの自己蒸留
• Abstract要約: 時系列用ウェーブレットを用いた自己蒸留(WinoTS)について紹介する。 コアとなるWinoTSは、時間周波数拡張を利用して、基礎となる信号ダイナミクスを歪ませることなく、マルチスケールの構造ビューを構築する。 WinoTSは柔軟でアーキテクチャに依存しないフレームワークであり、時系列のバックボーン間で利得が得られることを示す。
• 参考スコア（独自算出の注目度）: 5.3565231231826695
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Self-supervised pre-training of time series models is currently dominated by next-token prediction and reconstruction objectives. In continuous-valued domains, these paradigms often waste model capacity on high-frequency, point-wise noise at the expense of learning invariant structure. While invariance-based self-distillation has proven highly effective in computer vision, its application to temporal data remains largely underexplored. Effectively adapting such methods to time series requires carefully designed augmentations: spatial operations like cropping can shift the timing of repeating cycles or distort the signal, while basic jittering may provide limited variation. We introduce Wavelet-based self-distillation for time series (WinoTS), an invariance-based pre-training paradigm designed specifically for temporal signals. At its core, WinoTS leverages time-frequency augmentations to construct multi-scale structural views without distorting underlying signal dynamics. Across extensive evaluations, WinoTS outperforms state-of-the-art baselines in long-term forecasting, cross-domain zero-shot transfer, and unsupervised anomaly detection. Notably, linear probing on frozen WinoTS representations frequently surpasses fully supervised models trained from scratch. Systematic ablations demonstrate that WinoTS is a flexible, architecture-agnostic framework yielding gains across time series backbones, and establish that time-frequency transformations provide a principled alternative to vision-style spatial augmentations.
• Abstract（参考訳）: 時系列モデルの自己教師付き事前学習は、現在、次世代の予測と再構築の目的によって支配されている。 連続評価された領域では、これらのパラダイムは、しばしば、不変構造を学習するコストを犠牲にして、高周波、ポイントワイドノイズのモデル容量を無駄にする。 分散に基づく自己蒸留はコンピュータビジョンにおいて非常に効果的であることが証明されているが、時間的データへの応用はいまだに未探索である。 このような手法を時系列に効果的に適用するには、トリミングのような空間的な操作は繰り返しのタイミングをシフトしたり、信号を歪ませたりできるが、基本的なジッタリングは限られた変化をもたらす可能性がある。 本稿では、時間信号に特化して設計された不変性に基づく事前学習パラダイムであるWinoTS(Wavelet-based self-distillation for time series)を紹介する。 コアとなるWinoTSは、時間周波数拡張を利用して、基礎となる信号ダイナミクスを歪ませることなく、マルチスケールの構造ビューを構築する。 広範な評価において、WinoTSは長期予測、クロスドメインゼロショット転送、教師なし異常検出において最先端のベースラインを上回っている。 特に、凍結したWinoTS表現に対する線形探索は、スクラッチから訓練された完全な教師付きモデルを上回ることが多い。 体系的なアブリケーションは、WinoTSが柔軟でアーキテクチャに依存しないフレームワークであり、時系列のバックボーン間で利得をもたらし、時間周波数変換が視覚スタイルの空間拡張の原則的な代替となることを証明している。

関連論文リスト

• Poisson-Gamma Dynamical Systems with Time-varying Transition Dynamics [16.227071346776004]
  時間とともに遷移行列を進化させるため、時間変化の遷移カーネルが提案されている。 後続シミュレーションを行うために, 完全共役かつ効率的なギブスサンプリング装置を開発した。 実験の結果,提案したPGDSは関連するモデルと比較して予測性能が向上することがわかった。
  論文  参考訳（メタデータ） (2026-09-01T08:22:58Z)
• TimeAPN: Adaptive Amplitude-Phase Non-Stationarity Normalization for Time Series Forecasting [67.91113180885601]
  TimeAPNは時間領域と周波数領域の両方から非定常因子を明示的にモデル化し、予測する。 TimeAPNは、複数の予測水平線にわたる長期的な予測精度を一貫して改善する。 これは最先端の可逆正規化法より優れている。
  論文  参考訳（メタデータ） (2026-03-18T07:21:24Z)
• MEMTS: Internalizing Domain Knowledge via Parameterized Memory for Retrieval-Free Domain Adaptation of Time Series Foundation Models [51.506429027626005]
  Memory for Time Series (MEMTS) は、時系列予測における検索不要領域適応のための軽量かつプラグアンドプレイ方式である。 MEMTSの鍵となるコンポーネントは知識永続化モジュール(KPM)であり、ドメイン固有の時間力学を内部化する。 このパラダイムシフトにより、MEMTSは定数時間推論とニアゼロレイテンシによる正確なドメイン適応を実現することができる。
  論文  参考訳（メタデータ） (2026-02-14T14:00:06Z)
• Forecasting as Rendering: A 2D Gaussian Splatting Framework for Time Series Forecasting [79.37674445572462]
  時系列予測(TSF)は、周期内変動と周期間トレンドの複雑な絡み合いのため、依然として困難な問題である。 形状変化テンソルを静止画像として扱うと、トポロジカルミスマッチが発生する。 均一な固定サイズの表現に依存することは、モデリング能力を非効率に割り当てる。 TimeGSは、予測パラダイムをレグレッションから2D生成レンダリングに根本的にシフトする、新しいフレームワークである。
  論文  参考訳（メタデータ） (2026-02-10T14:13:36Z)
• A Unified Frequency Domain Decomposition Framework for Interpretable and Robust Time Series Forecasting [81.73338008264115]
  時系列予測の現在のアプローチは、時間領域であれ周波数領域であれ、主に線形層やトランスフォーマーに基づいたディープラーニングモデルを使用する。 本稿では,多種多様な時系列を数学的に抽象化する統合周波数領域分解フレームワークFIREを提案する。 火は長期予測ベンチマークで最先端のモデルを一貫して上回る。
  論文  参考訳（メタデータ） (2025-10-11T09:59:25Z)
• TIMED: Adversarial and Autoregressive Refinement of Diffusion-Based Time Series Generation [0.31498833540989407]
  TIMEDは、フォワード-リバース拡散プロセスを通じてグローバル構造をキャプチャする統合生成フレームワークである。 特徴空間における実および合成分布をさらに整合させるため、TIMEDは最大平均離散性(MMD)損失を取り入れている。 我々は、TIMEDが最先端の生成モデルよりも現実的で時間的に一貫性のあるシーケンスを生成することを示す。
  論文  参考訳（メタデータ） (2025-09-23T23:05:40Z)
• PLanTS: Periodicity-aware Latent-state Representation Learning for Multivariate Time Series [10.332959619473652]
  本稿では,不規則状態とその遷移を明示的にモデル化した周期性を考慮した自己教師型学習フレームワークPLanTSを提案する。 PLanTSは既存のSSLメソッドよりも一貫して表現品質を改善し、DTWベースのメソッドよりも優れた実行効率を示す。
  論文  参考訳（メタデータ） (2025-09-05T20:10:09Z)
• A Poisson-Gamma Dynamic Factor Model with Time-Varying Transition Dynamics [51.147876395589925]
  非定常PGDSは、基礎となる遷移行列が時間とともに進化できるように提案されている。 後続シミュレーションを行うために, 完全共役かつ効率的なギブスサンプリング装置を開発した。 実験により,提案した非定常PGDSは,関連するモデルと比較して予測性能が向上することを示した。
  論文  参考訳（メタデータ） (2024-02-26T04:39:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。