論文の概要: SIFT: Enhancing Time Series Foundation Models via Semantic Invariance and Structural Fidelity Fine-Tuning
- arxiv url: http://arxiv.org/abs/2609.32676v1
- Date: Sat, 26 Sep 2026 14:33:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 21:24:32.191222
- Title: SIFT: Enhancing Time Series Foundation Models via Semantic Invariance and Structural Fidelity Fine-Tuning
- Title(参考訳): SIFT:意味的不変性と構造的忠実度細調整による時系列基礎モデルの強化
- Abstract要約: 時系列ファウンデーションモデル(TSFM)は、大規模な時系列データセットの大規模な事前トレーニングを通じて、目覚ましいゼロショットのパフォーマンスを達成した。
本稿では,連続的不変性と構造的忠実性を保つことで時系列基盤モデルを強化する頑健な適応手法SIFTを提案する。
本研究では, 構造的忠実度保持能力を向上させるために, 部品の混合を容易にし, 再構成目的を付与する構成的忠実度向上手法を提案する。
- 参考スコア(独自算出の注目度): 20.004001795804704
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Time Series Foundation Models (TSFMs) have achieved remarkable zero-shot performance through extensive pre-training on massive time series datasets. Nevertheless, due to the low-dimensional properties and diverse structural patterns of time series data, performing naive fine-tuning on TSFMs often leads to overfitting and falling into the mean-prediction trap. To address these challenges, we propose SIFT, a robust adaptation method that enhances time series foundation models by preserving Semantic Invariance and structural Fidelity throughout the fine-Tuning process. We employ semantic-invariant adversarial augmentation, which utilizes semantic spectrum decomposition to partition the semantic space and then generates perturbations within the non-core semantic subspace to bolster the model's robustness against these perturbations, mitigating overfitting. We implement a component-based structural fidelity enhancement, which facilitates component-wise mixup and imposes a reconstruction objective to improve the model's ability to preserve structural fidelity, alleviating the mean-prediction trap. Extensive experiments on representative TSFMs covering 10 real-world datasets demonstrate that SIFT can significantly enhance the performance of TSFMs.
- Abstract(参考訳): 時系列ファウンデーションモデル(TSFM)は、大規模な時系列データセットの大規模な事前トレーニングを通じて、目覚ましいゼロショットのパフォーマンスを達成した。
それにもかかわらず、低次元特性と時系列データの多様な構造パターンのため、TSFMのナイーブ微調整は、しばしば過度に適合し、平均予測トラップに陥る。
これらの課題に対処するため、我々は、細調整プロセス全体を通してセマンティック不変性と構造的忠実性を保存することで時系列基盤モデルを強化する頑健な適応手法SIFTを提案する。
意味スペクトルの分解を利用して意味空間を分割し、非中心のセマンティック部分空間内で摂動を生成し、これらの摂動に対するモデルの頑健性を高め、過度な適合を緩和する。
本研究では, 構造的忠実度向上を図り, 構造的忠実度を保ち, 平均予測トラップを緩和する構造的忠実度向上手法を提案する。
10個の実世界のデータセットをカバーする代表的TSFMに関する大規模な実験は、SIFTがTSFMの性能を大幅に向上させることができることを示した。
関連論文リスト
- Learning Spatio-Temporal Foundation Models from Pure Synthetic Data [85.23980441738811]
NeoSTは、現実バイアスに対するスケーラブルな合成学習コーパスであり、複数の将来の軌跡を反復的に生成・洗練する潜在空間推論アーキテクチャであり、構造的ダイナミクスを強調し、分散シフトの下で推論時間補正を可能にする潜在空間目的である。
様々な実世界のベンチマークによる大規模な実験は、NeoSTが様々な実世界の時間系において既存のSTFMより一貫して優れていることを示している。
論文 参考訳(メタデータ) (2026-06-27T02:56:46Z) - One Step Closer to Ground Truth: A Multi-Scale Residual-Aware Representation Learning Pipeline for Predicting Time Series Data [6.704099492625706]
本稿では,予測と残差学習を表現学習の異なる段階に明確に分離する2段階のモデル非依存フレームワークを提案する。
このパイプラインを仮説空間拡張として定式化することにより、我々のフレームワークは単一ステージアーキテクチャに固有の近似制限に対処する。
論文 参考訳(メタデータ) (2026-06-09T10:31:54Z) - Factorize to Generalize: Retrieval-Guided Invariant-Dynamic Decomposition for Time Series Forecasting [64.2640656619583]
時系列基礎モデル (TSFM) は, 大規模事前学習と検索強化予測により, ゼロショット予測性能が向上した。
本稿では時系列予測のための検索誘導不変動的分解フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-24T07:31:55Z) - MEMTS: Internalizing Domain Knowledge via Parameterized Memory for Retrieval-Free Domain Adaptation of Time Series Foundation Models [51.506429027626005]
Memory for Time Series (MEMTS) は、時系列予測における検索不要領域適応のための軽量かつプラグアンドプレイ方式である。
MEMTSの鍵となるコンポーネントは知識永続化モジュール(KPM)であり、ドメイン固有の時間力学を内部化する。
このパラダイムシフトにより、MEMTSは定数時間推論とニアゼロレイテンシによる正確なドメイン適応を実現することができる。
論文 参考訳(メタデータ) (2026-02-14T14:00:06Z) - Universal Redundancies in Time Series Foundation Models [3.8551402560229806]
Time Series Foundation Models (TSFM) は、推論中に未確認の時系列を正確に予測するために、広範囲の事前トレーニングを活用する。
本稿では,TSFMの機械的解釈性向上のためのツールセットについて紹介する。
論文 参考訳(メタデータ) (2026-02-02T03:53:46Z) - Diversified Scaling Inference in Time Series Foundation Models [17.268760626931517]
この研究は、標準サンプリングベース推論スケーリングの下でTSFMはどのように振る舞うか、そしてサンプリングの多様性を制御できるかという2つの質問を体系的に調査する。
まず、標準サンプリング下でのTSFMの特性について検討するが、解空間の探索が不十分なため、しばしばスケーリング法則に従わない。
次に, 時系列摂動による多様な推論スケーリングを探索し, 生成的分布の支援を拡大する。
論文 参考訳(メタデータ) (2026-01-24T08:53:42Z) - UniDiff: A Unified Diffusion Framework for Multimodal Time Series Forecasting [90.47915032778366]
マルチモーダル時系列予測のための統合拡散フレームワークUniDiffを提案する。
コアには統一的で並列な融合モジュールがあり、単一のクロスアテンション機構がタイムスタンプからの構造化情報とテキストからのセマンティックコンテキストを統合する。
8つの領域にわたる実世界のベンチマークデータセットの実験は、提案したUniDiffモデルが最先端のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2025-12-08T05:36:14Z) - Are Time Series Foundation Models Susceptible to Catastrophic Forgetting? [2.692427265051276]
Time Series Foundation Models (TSFMs) は様々な予測タスクにまたがるゼロショットの一般化を約束している。
複数のデータセットに対して逐次微調整を行った場合,TSFMが破滅的忘れを負う程度について検討した。
論文 参考訳(メタデータ) (2025-10-01T12:14:34Z) - Multi-Scale Finetuning for Encoder-based Time Series Foundation Models [67.95907033226585]
時系列基礎モデル (TSFM) は, 時系列予測において印象的なゼロショット性能を示す。
直感的な微調整はパフォーマンスの向上をもたらすが、TSFMの能力を完全に活用するには不十分である、と我々は主張する。
マルチスケール・ファインタニング(MSFT)は,マルチスケール・モデリングをファインタニング・プロセスに明示的に統合する,シンプルながら汎用的なフレームワークである。
論文 参考訳(メタデータ) (2025-06-17T01:06:01Z) - Less is More: Unlocking Specialization of Time Series Foundation Models via Structured Pruning [27.23328609888911]
時系列基礎モデル 広大なパラメータを事前訓練し、驚くべきゼロショット予測性能を達成する。
驚くべきことに、微調整後も、TSFMは、フルショットダウンストリームデータでトレーニングされた、より小さな、特殊なモデルよりも一貫してパフォーマンスを向上することはできない。
より関連性が高くコンパクトなパラメータ空間に焦点を合わせることにより、その後の微調整プロセスを正規化するための構造化プルーニング法を提案する。
論文 参考訳(メタデータ) (2025-05-29T07:33:49Z) - Attractor Memory for Long-Term Time Series Forecasting: A Chaos Perspective [63.60312929416228]
textbftextitAttraosはカオス理論を長期時系列予測に取り入れている。
本研究では,AttraosがPatchTSTと比較して,パラメータの12分の1しか持たない主流データセットやカオスデータセットにおいて,LTSF法よりも優れていることを示す。
論文 参考訳(メタデータ) (2024-02-18T05:35:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。