論文の概要: HEPA: A Self-Supervised Horizon-Conditioned Event Predictive Architecture for Time Series
- arxiv url: http://arxiv.org/abs/2605.11130v2
- Date: Wed, 13 May 2026 15:10:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-14 17:13:58.87292
- Title: HEPA: A Self-Supervised Horizon-Conditioned Event Predictive Architecture for Time Series
- Title(参考訳): HEPA: セルフスーパービジョンによる時系列イベント予測アーキテクチャ
- Authors: Jonas Petersen, Gian-Alessandro Lombardi, Riccardo Maggioni, Camilla Mazzoleni, Federico Martelli, Philipp Petersen,
- Abstract要約: HEPA(Horizon-conditioned Event Predictive Architecture)は2つの重要な原則に基づいて構築されている。
因果トランスフォーマーエンコーダはJEPA(Joint-Embedding Predictive Architecture)を介して事前訓練される
我々はエンコーダを凍結し、予測器のみを目標事象に向けて微調整し、地平線上の単調生存累積分布関数(CDF)を生成する。
- 参考スコア(独自算出の注目度): 1.592463731034439
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Critical events in multivariate time series, from turbine failures to cardiac arrhythmias, demand accurate prediction, yet labeled data is scarce because such events are rare and costly to annotate. We introduce HEPA (Horizon-conditioned Event Predictive Architecture), built on two key principles. First, a causal Transformer encoder is pretrained via a Joint-Embedding Predictive Architecture (JEPA): a horizon-conditioned predictor learns to forecast future representations rather than future values, forcing the encoder to capture predictable temporal dynamics from unlabeled data alone. Second, we freeze the encoder and finetune only the predictor toward the target event, producing a monotonic survival cumulative distribution function (CDF) over horizons. With fixed architecture and optimiser hyperparameters across all benchmarks, HEPA handles water contamination, cyberattack detection, volatility regimes, and eight further event types across 11 domains, exceeding leading time-series architectures including PatchTST, iTransformer, MAE, and Chronos-2 on at least 10 of 14 benchmarks, with an order of magnitude fewer tuned parameters and, on lifecycle datasets, an order of magnitude less labeled data.
- Abstract(参考訳): タービン故障から心臓不整脈まで、多変量時系列における臨界事象は正確な予測を要求されるが、これらの事象はアノテートするのに稀で費用がかかるためラベル付きデータは乏しい。
HEPA(Horizon-conditioned Event Predictive Architecture)は2つの重要な原則に基づいて構築されている。
まず、因果トランスフォーマーエンコーダをJEPA(Joint-Embedding Predictive Architecture)を介して事前トレーニングする。水平条件付き予測器は将来の値よりも将来の表現を予測することを学習し、エンコーダはラベルのないデータのみから予測可能な時間ダイナミクスをキャプチャする。
第二に、エンコーダを凍結し、目標事象に対する予測器のみを微調整し、地平線上のモノトニック生存累積分布関数(CDF)を生成する。
すべてのベンチマークで固定されたアーキテクチャとオプティマイザハイパーパラメータにより、HEPAは水汚染、サイバー攻撃検出、ボラティリティレギュレーション、11ドメインにわたる8つのイベントタイプを処理し、少なくとも14ベンチマークのうち10のベンチマークでPatchTST、iTransformer、MAE、Chronos-2といった主要な時系列アーキテクチャを超える。
関連論文リスト
- PnP-Corrector: A Universal Correction Framework for Coupled Spatiotemporal Forecasting [62.22445401483844]
既存の手法は複雑なエラーのボトルネックによって厳しく制約されている。
我々は-Cast-Corrector (Plug-and-Play Corrector)と呼ばれる普遍的なフレームワークを提案する。
本手法は,結合予測システムの長期安定性を著しく向上させる。
論文 参考訳(メタデータ) (2026-05-09T13:12:33Z) - IMPA-Net: Meteorology-Aware Multi-Scale Attention and Dynamic Loss for Extreme Convective Radar Nowcasting [2.405586180193259]
気象レーダー観測による対流降雨の短距離予測は、厳しい気象警報に不可欠である。
本稿では, 入力, アーキテクチャ, 損失関数レベルにおいて, 気象インフォームド設計による制限に対処する決定論的0-2時間放送フレームワークIMPA-Netを提案する。
論文 参考訳(メタデータ) (2026-04-27T09:30:07Z) - Time-Aware Prior Fitted Networks for Zero-Shot Forecasting with Exogenous Variables [59.37476887007663]
我々は、(PFNとは違って)時間認識の事前データ適合型ネットワーク(PFN)であるApolloPFNを開発した。
i) PFNが時系列に適用されたときに発生する障害モードを解決するために調整された合成データ生成手順,(ii)時系列コンテキストを利用するのに必要な帰納的バイアスを埋め込んだ時間アウェアなアーキテクチャ修正。
論文 参考訳(メタデータ) (2026-03-16T18:33:23Z) - Timer-S1: A Billion-Scale Time Series Foundation Model with Serial Scaling [51.78972657142583]
我々は、Timer-S1、強力なMixture-of-Experts(MoE)時系列基礎モデル、合計8.3Bのパラメータ、各トークンの0.75Bのアクティブパラメータ、コンテキスト長11.5Kについて紹介する。
既存のトレーニング済み時系列基盤モデルのスケーラビリティボトルネックを克服するため,シリアルスケーリングを3次元で実施する。
論文 参考訳(メタデータ) (2026-03-05T04:13:57Z) - EVEREST: An Evidential, Tail-Aware Transformer for Rare-Event Time-Series Forecasting [4.551615447454767]
EVERESTは確率的レアイベント予測のためのトランスフォーマーベースのアーキテクチャである。
キャリブレーションされた予測とテールアウェアのリスク推定を提供する。
産業監視、天気予報、衛星診断などの高度な分野に適用できる。
論文 参考訳(メタデータ) (2026-01-26T23:15:20Z) - PFformer: A Position-Free Transformer Variant for Extreme-Adaptive Multivariate Time Series Forecasting [9.511600544581425]
PFformerは、単一ターゲットのMSS予測用に設計された、位置のないトランスフォーマーベースのモデルである。
PFformerは、EFE(Enhanced Feature-based Embedding)とAEE(Auto-Encoder-based Embedding)の2つの新しい埋め込み戦略を統合している。
論文 参考訳(メタデータ) (2025-02-27T22:21:27Z) - Timer-XL: Long-Context Transformers for Unified Time Series Forecasting [67.83502953961505]
我々は時系列の統一予測のための因果変換器Timer-XLを提案する。
大規模な事前トレーニングに基づいて、Timer-XLは最先端のゼロショット性能を達成する。
論文 参考訳(メタデータ) (2024-10-07T07:27:39Z) - FATE: Focal-modulated Attention Encoder for Multivariate Time-series Forecasting [0.0]
気候は、海面の上昇、氷河の融解、ますます極端な気候パターンなど、21世紀の最も急進的な世界的な課題の1つである。
正確な予測はこれらの現象を監視し、緩和戦略を支援するために重要である。
CNN、RNN、アテンションベースのトランスフォーマーなど、最近の時系列予測のためのデータ駆動モデルでは、依存関係と限定並列化に苦戦している。
本研究は,時系列予測のための修正注意文(FATE)を提示する。
論文 参考訳(メタデータ) (2024-08-21T04:40:18Z) - CARD: Channel Aligned Robust Blend Transformer for Time Series
Forecasting [50.23240107430597]
本稿では,CARD(Channel Aligned Robust Blend Transformer)という特殊なトランスを設計する。
まず、CARDはチャネルに沿ったアテンション構造を導入し、信号間の時間的相関をキャプチャする。
第二に、マルチスケール知識を効率的に活用するために、異なる解像度のトークンを生成するトークンブレンドモジュールを設計する。
第3に,潜在的な過度な問題を軽減するため,時系列予測のためのロバストな損失関数を導入する。
論文 参考訳(メタデータ) (2023-05-20T05:16:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。