論文の概要: PhaseFormer: From Patches to Phases for Efficient and Effective Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2510.04134v1
- Date: Sun, 05 Oct 2025 10:34:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-07 16:52:59.479131
- Title: PhaseFormer: From Patches to Phases for Efficient and Effective Time Series Forecasting
- Title(参考訳): PhaseFormer: 効果的で効果的な時系列予測のためのパッチからフェーズへ
- Authors: Yiming Niu, Jinliang Deng, Yongxin Tong,
- Abstract要約: 本稿では,周期性をモデル化するためのフェーズパースペクティブを導入し,効率的かつ効果的なソリューションであるPhaseFormerを提案する。
PhaseFormerは、コンパクトな相埋め込みと効率的な相間相互作用を通じて、フェーズワイズ予測を特徴とする。
ベンチマークデータセット間で一貫して、約1kパラメータで最先端のパフォーマンスを実現する。
- 参考スコア(独自算出の注目度): 12.776354216902552
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Periodicity is a fundamental characteristic of time series data and has long played a central role in forecasting. Recent deep learning methods strengthen the exploitation of periodicity by treating patches as basic tokens, thereby improving predictive effectiveness. However, their efficiency remains a bottleneck due to large parameter counts and heavy computational costs. This paper provides, for the first time, a clear explanation of why patch-level processing is inherently inefficient, supported by strong evidence from real-world data. To address these limitations, we introduce a phase perspective for modeling periodicity and present an efficient yet effective solution, PhaseFormer. PhaseFormer features phase-wise prediction through compact phase embeddings and efficient cross-phase interaction enabled by a lightweight routing mechanism. Extensive experiments demonstrate that PhaseFormer achieves state-of-the-art performance with around 1k parameters, consistently across benchmark datasets. Notably, it excels on large-scale and complex datasets, where models with comparable efficiency often struggle. This work marks a significant step toward truly efficient and effective time series forecasting. Code is available at this repository: https://github.com/neumyor/PhaseFormer_TSL
- Abstract(参考訳): 周期性は時系列データの基本的特徴であり、予測において長い間中心的な役割を果たしてきた。
近年の深層学習手法は,パッチを基本トークンとして扱うことで周期性の活用を強化し,予測効率を向上させる。
しかし、大きなパラメータ数と計算コストのために、その効率はボトルネックのままである。
この論文は、パッチレベルの処理が本質的に非効率である理由を初めて明確に説明し、実世界のデータから強い証拠を裏付けるものである。
これらの制約に対処するために、周期性をモデル化するためのフェーズパースペクティブを導入し、効率的で効果的なソリューションであるPationFormerを提案する。
PhaseFormerは、コンパクトな位相埋め込みと、軽量なルーティング機構によって実現された効率的な相間相互作用を通じて、フェーズワイズ予測を特徴とする。
大規模な実験により、PhaseFormerは、ベンチマークデータセットを一貫して1kのパラメータで、最先端のパフォーマンスを達成している。
特に、大規模で複雑なデータセットに優れており、同じ効率のモデルでは、しばしば苦労する。
この研究は、真に効率的で効果的な時系列予測に向けた重要なステップである。
https://github.com/neumyor/PhaseFormer_TSL
関連論文リスト
- Efficient Token Compression for Vision Transformer with Spatial Information Preserved [59.79302182800274]
トーケン圧縮は、トランスモデルの計算およびメモリ要求の低減に不可欠である。
本稿では,Prune と Merge という,効率的なハードウェア互換のトークン圧縮手法を提案する。
論文 参考訳(メタデータ) (2025-03-30T14:23:18Z) - Sliding Window Attention Training for Efficient Large Language Models [55.56483740523027]
SWATを導入し,スライディングウインドウ・アテンション・トレーニング(Sliding Window Attention Training)を用いて,より効率的な長文処理を実現する。
本稿ではまず,変圧器の非効率性を注目シンク現象とみなす。
我々は、ソフトマックスをシグモイド関数に置き換え、効率的な情報圧縮と保持のためにバランスの取れたALiBiとRotary Position Embeddingを利用する。
論文 参考訳(メタデータ) (2025-02-26T05:31:44Z) - MATEY: multiscale adaptive foundation models for spatiotemporal physical systems [2.7767126393602726]
局所的な特徴に基づくパッチサイズを動的に調整する2つの適応トークン化方式を提案する。
提案するマルチスケール適応モデルであるMATEYの性能を実験で評価する。
また、PDEデータに基づいて事前学習した物理を特徴とする微調整タスクについても紹介する。
論文 参考訳(メタデータ) (2024-12-29T22:13:16Z) - Breaking the Context Bottleneck on Long Time Series Forecasting [10.715175460720403]
長期の時系列予測は、経済、エネルギー、輸送における計画と意思決定に不可欠である。
最近の進歩によりこれらのモデルの効率は向上したが、より長いシーケンスを効果的に活用することの難しさは持続している。
長いシーケンスの効率的かつ効率的な処理を実現するために,Logsparse Decomposable Multiscaling (LDM) フレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-21T10:29:34Z) - Enhancing Foundation Models for Time Series Forecasting via Wavelet-based Tokenization [74.3339999119713]
我々はウェーブレットベースのトークンーザを開発し、時間局所化周波数の空間でモデルが複雑な表現を直接学習できるようにする。
提案手法は,まず入力時系列をスケール・分解し,次に閾値を設定し,ウェーブレット係数を定量化し,最後に予測水平方向の係数を予測する自己回帰モデルを事前学習する。
論文 参考訳(メタデータ) (2024-12-06T18:22:59Z) - Faster Diffusion Action Segmentation [9.868244939496678]
時間的行動分類(TAS)はビデオ解析において不可欠な課題であり、連続したフレームを別のアクションセグメントに分割し分類することを目的としている。
拡散モデルの最近の進歩は、安定したトレーニングプロセスと高品質な生成能力により、TASタスクにおいて大きな成功を収めている。
本稿では,効率的かつ高性能なTASアルゴリズムであるEffiDiffActを提案する。
論文 参考訳(メタデータ) (2024-08-04T13:23:18Z) - TimeSieve: Extracting Temporal Dynamics through Information Bottlenecks [31.10683149519954]
本稿では,時系列予測モデルTimeSieveを提案する。
提案手法では、ウェーブレット変換を用いて時系列データを前処理し、マルチスケールの特徴を効果的にキャプチャする。
本研究は,時系列予測における課題に対処するためのアプローチの有効性を検証した。
論文 参考訳(メタデータ) (2024-06-07T15:58:12Z) - Exogenous Data in Forecasting: FARM -- A New Measure for Relevance
Evaluation [62.997667081978825]
FARM - Forward Relevance Aligned Metricという新しいアプローチを導入する。
我々のフォワード法は、その後のデータポイントの変化を時系列に合わせるために比較する角測度に依存する。
第1の検証ステップとして、FARMアプローチの合成信号・代表信号への適用について述べる。
論文 参考訳(メタデータ) (2023-04-21T15:22:33Z) - Transformer Hawkes Process [79.16290557505211]
本稿では,長期的依存関係を捕捉する自己認識機構を利用したTransformer Hawkes Process (THP) モデルを提案する。
THPは、有意なマージンによる可能性と事象予測の精度の両方の観点から、既存のモデルより優れている。
本稿では、THPが関係情報を組み込む際に、複数の点過程を学習する際の予測性能の改善を実現する具体例を示す。
論文 参考訳(メタデータ) (2020-02-21T13:48:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。