論文の概要: A Hybrid Attention Model Learning Unified Time-aware Patch Representation for Irregular Multivariate Time Series Forecasting

• arxiv url: http://arxiv.org/abs/2609.22836v2
• Date: Tue, 22 Sep 2026 12:02:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-23 18:04:03.907566
• Title: A Hybrid Attention Model Learning Unified Time-aware Patch Representation for Irregular Multivariate Time Series Forecasting
• Title（参考訳）: 不規則な多変量時系列予測のための統合時間認識パッチ表現のハイブリッドアテンションモデル学習
• Abstract要約: IMTS予測のための統合タイムアウェアパッチ表現を学習するハイブリッドアテンションモデルを提案する。 本モデルはIMTS上での最先端のゼロショット性能を実現し,正規予測に移行しても競争力を維持する。
• 参考スコア（独自算出の注目度）: 16.73467091190211
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Time series foundation models (TSFMs) have recently delivered impressive zero-shot performance across diverse forecasting tasks. However, real-world decision-making frequently relies on \emph{irregular multivariate time series} (IMTS), where inconsistent inter-observation intervals and asynchronous sampling across variables coexist with informative missingness. Existing TSFMs handle such inputs either through imputation that injects spurious values or through index-based positional encodings that ignore continuous time. There is still a gap in the foundation model that follows the original IMTS patterns. In this paper, we propose a hybrid attention model that learns a unified time-aware patch representation for IMTS forecasting. We first design a \emph{time-aware patch encoding} that maps a variable number of intra-patch timestamps into a fixed-size embedding, producing a uniform format for irregular patches without resorting to imputation. We then introduce a \emph{time bias attention} mechanism that calibrates inter-patch temporal misalignment and asynchronous cross-channel dependencies as auxiliary attention offset. Finally, on top of a decoder-only Transformer backbone, we adopt a \emph{hybrid causal mask} that preserves a bidirectional full view over the historical context while keeping the forecast horizon strictly autoregressive. To support large-scale pretraining under irregular settings, we also curate VersaTSA, an archive of $30$B observations that retains the native sampling sparsity of its sources. Experiments on three IMTS benchmarks and a standard regular-MTS benchmark show that our model achieves state-of-the-art zero-shot performance on IMTS and remains competitive when transferred to regular forecasting.
• Abstract（参考訳）: 時系列基礎モデル(TSFM)は、最近、様々な予測タスクで印象的なゼロショットのパフォーマンスを実現した。 しかし、実世界の意思決定は、しばしば 'emph{iregular multivariate time series} (IMTS) に依存する。 既存のTSFMは、急激な値を注入する命令や、連続時間を無視したインデックスベースの位置エンコーディングによってそのような入力を処理する。 オリジナルのIMTSパターンに従う基盤モデルにはまだギャップがあります。 本稿では,IMTS予測のための統合タイムアウェアパッチ表現を学習するハイブリットアテンションモデルを提案する。 我々はまず,可変数のパッチ内タイムスタンプを固定サイズの埋め込みにマッピングする \emph{time-aware patch encoding} を設計した。 次に,アテンションオフセットとして,パッチ間の時間的ミスアライメントと非同期チャネル依存性を校正する‘emph{time bias attention’機構を導入する。 最後に、デコーダのみのトランスフォーマーのバックボーン上に、予測地平線を厳密に自己回帰的に保ちながら、歴史的文脈に対する双方向のフルビューを保存する \emph{hybrid causal mask} を採用する。 不規則な環境下での大規模な事前トレーニングをサポートするため、30ドルの観測資料であるVersaTSAをキュレートする。 3つのIMTSベンチマークと標準レギュラーMTSベンチマークによる実験により、IMTS上での最先端ゼロショット性能が達成され、正規予測に移行しても競争力は保たれることが示された。

関連論文リスト

• QuITE: Query-Based Irregular Time Series Embedding [0.0]
  IMTS用の簡易かつ効果的なプラグアンドプレイ埋め込みモジュールQuITE(Query-Based Irregular Time Series Embedding)を紹介する。 QuITEは学習可能なクエリトークンを使用して、単一の自己アテンション層を通じて不規則な観測を集約する。 実験の結果、QuITEはMCSモデルを継続的に改善し、予測値の平均相対利得は54.7%、分類値が15.8%である。
  論文  参考訳（メタデータ） (2026-05-27T08:48:58Z)
• TIE: Time Interval Encoding for Video Generation over Events [50.66585165263848]
  ディレクタースタイルのプロンプト、ロボットアクション予測、インタラクティブなビデオエージェントは、同時イベントに対する時間的根拠を要求する。 現代のビデオジェネレータは、ポイントワイドな位置エンコーディングを通して、タイムを離散的なポイントとして表現する。 Time Interval TIEは、プラグイン・アンド・プレイ・インターバル・アウェアの一般化である。
  論文  参考訳（メタデータ） (2026-05-11T13:23:14Z)
• LEFT: Learnable Fusion of Tri-view Tokens for Unsupervised Time Series Anomaly Detection [53.191369031661885]
  教師なし時系列異常検出は、アノテーションの可用性を前提とせず、異常なタイムスタンプを識別するモデルを構築することを目的としている。 本稿では,非教師付きTSADフレームワークであるLearnable Fusion of Tri-view Tokens(LEFT)について述べる。 実世界のベンチマーク実験では、LEFTはSOTAベースラインに対して最高の検出精度を示し、FLOPの5倍、トレーニングの8倍のスピードアップを実現している。
  論文  参考訳（メタデータ） (2026-02-09T13:33:49Z)
• Multi-Scale Finetuning for Encoder-based Time Series Foundation Models [67.95907033226585]
  時系列基礎モデル (TSFM) は, 時系列予測において印象的なゼロショット性能を示す。 直感的な微調整はパフォーマンスの向上をもたらすが、TSFMの能力を完全に活用するには不十分である、と我々は主張する。 マルチスケール・ファインタニング(MSFT)は,マルチスケール・モデリングをファインタニング・プロセスに明示的に統合する,シンプルながら汎用的なフレームワークである。
  論文  参考訳（メタデータ） (2025-06-17T01:06:01Z)
• IMTS is Worth Time $\times$ Channel Patches: Visual Masked Autoencoders for Irregular Multivariate Time Series Prediction [9.007111482874135]
  IMTS 予測のための Visual MAE 適応フレームワーク VIMTS を提案する。 欠落した値の影響を軽減するため、VIMTSはまずタイムラインに沿ってIMTSを同じ間隔で特徴パッチに処理する。 そして、パッチ再構成のためのスパースマルチチャネルデータを扱う視覚的MAEの機能を利用し、その後、粗大なテクニックで正確な予測を生成する。
  論文  参考訳（メタデータ） (2025-05-28T19:44:03Z)
• HyperIMTS: Hypergraph Neural Network for Irregular Multivariate Time Series Forecasting [24.29827089303662]
  不規則な多変量時系列(IMTS)は変数内の不規則な時間間隔と変数間の不整合観察によって特徴づけられる。 IMTS予測のためのハイパーグラフニューラルネットワークHyperIMTSを提案する。 実験では、計算コストの低いIMTS予測において、最先端モデル間のHyperIMTSの競合性能を示す。
  論文  参考訳（メタデータ） (2025-05-23T03:27:04Z)
• Timer-XL: Long-Context Transformers for Unified Time Series Forecasting [67.83502953961505]
  我々は時系列の統一予測のための因果変換器Timer-XLを提案する。 大規模な事前トレーニングに基づいて、Timer-XLは最先端のゼロショット性能を達成する。
  論文  参考訳（メタデータ） (2024-10-07T07:27:39Z)
• TimeSiam: A Pre-Training Framework for Siamese Time-Series Modeling [67.02157180089573]
  時系列事前トレーニングは、最近、ラベルのコストを削減し、下流の様々なタスクに利益をもたらす可能性があるとして、広く注目を集めている。 本稿では,シームズネットワークに基づく時系列の簡易かつ効果的な自己教師型事前学習フレームワークとしてTimeSiamを提案する。
  論文  参考訳（メタデータ） (2024-02-04T13:10:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。