論文の概要: Does Joint-Embedding Predictive Architecture Pretraining Help Time Series Forecasting?
- arxiv url: http://arxiv.org/abs/2609.31680v1
- Date: Wed, 16 Sep 2026 10:31:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 13:53:57.431312
- Title: Does Joint-Embedding Predictive Architecture Pretraining Help Time Series Forecasting?
- Title（参考訳）: 統合組込み予測アーキテクチャは時系列予測を支援するか?
- Abstract要約: 時間的および時間的予測にまたがる9つのバックボーン11ベンチマークにおけるJEPAのインスタンス化を評価した。
このインスタンス化の利点はバックボーンによって大きく異なり、同じデータセットであっても、いくつかのアーキテクチャで一貫性のある一貫した利得が得られます。
- 参考スコア（独自算出の注目度）: 78.40490439627504
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Joint-embedding predictive architectures (JEPA) have emerged as a promising self-supervised pretraining paradigm for time series, learning representations by predicting target embeddings in latent space rather than reconstructing raw signals. Yet evidence on their benefits remains mixed, and most studies test only a single backbone or a narrow set of architectures, leaving unclear whether JEPA pretraining is a reliable improvement or one that depends heavily on the downstream model. We address this gap through a large scale evaluation of one JEPA instantiation across nine backbones and eleven benchmarks spanning temporal and spatio-temporal forecasting, the most extensive cross architecture assessment of JEPA for time series to date. We find that the benefit of this instantiation varies sharply across backbones, producing consistent gains for some architectures and consistent degradation for others, even on the same dataset. This pattern holds across both task families, indicating the variability is a general property of this instantiation rather than a dataset specific artifact worth accounting for when choosing a backbone in practice.
- Abstract（参考訳）: JEPA(Joint-embedding Predictionive Architectures)は、時系列の自己教師型事前学習パラダイムとして出現し、生信号の再構成ではなく、遅延空間へのターゲット埋め込みを予測することによって表現を学習している。
しかし、これらのメリットに関する証拠は相変わらず混在しており、ほとんどの研究は単一のバックボーンまたは狭いアーキテクチャのみをテストし、JEPA事前トレーニングが信頼性の高い改善なのか、下流モデルに大きく依存するものなのかははっきりしない。
9つのバックボーンと11のベンチマークにまたがるJEPAインスタンスの大規模な評価を通じて、このギャップに対処する。
このインスタンス化の利点はバックボーンによって大きく異なり、いくつかのアーキテクチャでは一貫した利得が得られ、同じデータセットであっても、他のアーキテクチャでは一貫した劣化が生じます。
このパターンは、両方のタスクファミリにまたがって保持され、変数は、実際にバックボーンを選択するときに考慮すべきデータセット固有のアーティファクトではなく、このインスタンスの一般的な特性であることを示している。
関連論文リスト
- TFGformer: Multivariate Time Series Forecasting via Time-Frequency Graph Learning and Covariate Fusion [12.980172248250257]
本稿では,形状認識メモリ(SAM)とRevIN正規化を統合した検索拡張予測フレームワークを提案する。
7つの公開ベンチマークの実験では、CrossRAGはパラメトリックのみのベースラインと既存の検索拡張予測手法の両方を一貫して上回っている。
論文 参考訳（メタデータ） (2026-07-31T14:24:26Z) - Beyond Extrapolation: Knowledge Utilization Paradigm with Bidirectional Inspiration for Time Series Forecasting [81.44658512649633]
KUP-BIは、エンファントレインのみの歴史図書館から継続スタイルの知識を抽出する新しい時系列モデリングパラダイムである。
最新モデルの予測性能を継続的に改善し、オーバーヘッドを小さくする。
論文 参考訳（メタデータ） (2026-05-19T01:43:00Z) - Var-JEPA: A Variational Formulation of the Joint-Embedding Predictive Architecture -- Bridging Predictive and Generative Self-Supervised Learning [2.1127261244588156]
JEPA(Joint-Embedding Predictive Architecture)は、確率に基づく自己教師型学習の非生成的代替と見なされることが多い。
我々は、標準のJEPA設計、コンテクスト・ツー・ターゲット予測器との結合エンコーダは、変分後部と学習条件前部を反映すると主張している。
Var-JEPAは、単一のエビデンス下界を最適化することにより、潜伏する遺伝子構造を明示する。
論文 参考訳（メタデータ） (2026-03-20T16:36:29Z) - Joint Embeddings Go Temporal [5.2741154046624255]
JEPA(Joint Emmbedding Predictive Architectures)は、潜在分野における自己教師型学習の実現を目的として導入されたアーキテクチャである。
時系列JEPA (TS-JEPA) は、時系列表現学習に特化したアーキテクチャである。
TS-JEPAは、異なる標準データセット上で、現在の最先端のベースラインに適合または超えることができることを示す。
論文 参考訳（メタデータ） (2025-09-29T19:57:37Z) - ARIES: Relation Assessment and Model Recommendation for Deep Time Series Forecasting [54.57031153712623]
ARIESは時系列特性とモデリング戦略の関係を評価するためのフレームワークである。
実世界の時系列に解釈可能な提案を提供することのできる,最初の深層予測モデルレコメンデータを提案する。
論文 参考訳（メタデータ） (2025-09-07T13:57:14Z) - Multivariate Long-term Time Series Forecasting with Fourier Neural Filter [42.60778405812048]
我々はFNFをバックボーンとして、DBDをアーキテクチャとして導入し、空間時間モデルのための優れた学習能力と最適な学習経路を提供する。
FNFは、局所時間領域とグローバル周波数領域の情報処理を単一のバックボーン内で統合し、空間的モデリングに自然に拡張することを示す。
論文 参考訳（メタデータ） (2025-06-10T18:40:20Z) - LaT-PFN: A Joint Embedding Predictive Architecture for In-context Time-series Forecasting [0.0]
我々は,ゼロショット予測を可能にする強力な埋め込み空間を持つ基本時系列モデルであるLatntTimePFNを紹介する。
我々は、PFNとJEPA(Joint Embedding Predictive Architecture)フレームワークの新たな統合を利用して、潜在空間におけるコンテキスト内学習を行う。
論文 参考訳（メタデータ） (2024-05-16T13:44:56Z) - TimeSiam: A Pre-Training Framework for Siamese Time-Series Modeling [67.02157180089573]
時系列事前トレーニングは、最近、ラベルのコストを削減し、下流の様々なタスクに利益をもたらす可能性があるとして、広く注目を集めている。
本稿では,シームズネットワークに基づく時系列の簡易かつ効果的な自己教師型事前学習フレームワークとしてTimeSiamを提案する。
論文 参考訳（メタデータ） (2024-02-04T13:10:51Z) - Joint Embedding Predictive Architectures Focus on Slow Features [56.393060086442006]
JEPA(Joint Embedding Predictive Architectures)は、再構築不要の代替手段を提供する。
我々は、VICRegとSimCLRで訓練されたJEPAのパフォーマンスを、報酬にアクセスできることなく完全にオフラインで分析する。
JEPAメソッドはステップ毎にノイズが変わるが、ノイズが修正されるとフェールする。
論文 参考訳（メタデータ） (2022-11-20T00:50:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。