論文の概要: HALO: Enhancing Time Series Generation via Hyperspherical Latents and Masked AutoregRessive Modeling
- arxiv url: http://arxiv.org/abs/2609.34511v2
- Date: Tue, 29 Sep 2026 05:34:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:46.744679
- Title: HALO: Enhancing Time Series Generation via Hyperspherical Latents and Masked AutoregRessive Modeling
- Title(参考訳): HALO:超球形潜水剤による時系列生成の促進とマスク付き自己回帰モデル
- Abstract要約: 本稿では,ハイパースフィラティカルラテントとマスケド自動回帰モデリングによる時系列生成を支援するHALOを提案する。
HALOは,既存の高度なベースラインよりも推論効率を大幅に向上させつつ,最先端のジェネレーション性能を実現していることを示す。
- 参考スコア(独自算出の注目度): 9.47462067109939
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Most existing time series generators rely on a two-stage modeling paradigm: the first stage learns discrete latent representations of time series; the second stage performs autoregressive modeling on these discrete latents through next token prediction. However, this paradigm suffers from two stage-specific limitations: the first stage can lead to information loss when discretizing continuous time series, while the second stage is prone to error accumulation during autoregressive generation. To address these limitations, our core idea is to perform generative modeling in a continuous latent space with a more efficient autoregressive framework. We propose HALO, which enhances time series generation via Hyperspherical Latents and Masked Autoregressive modeling to achieve this goal by tackling two key bottlenecks: (1) variance and scale heterogeneity of continuous latent representations; (2) the difficulty of balancing generation efficiency with temporal correlation modeling. HALO first introduces a hyperspherical VAE that constrains continuous latents to a fixed-radius hyperspherical shell, effectively stabilizing the numerical fluctuations of continuous latent representations. Secondly, we develop a masked autoregressive model that balances parallel decoding and temporal correlation learning, substantially reducing the number of inference steps required for generation and improving generation stability. Our extensive experiments demonstrate that HALO achieves state-of-the-art generation performance while offering significantly improved inference efficiency over existing advanced baselines.
- Abstract(参考訳): 既存のほとんどの時系列生成装置は、2段階のモデリングパラダイムに依存しており、第1段階は時系列の離散潜在表現を学習し、第2段階は次のトークン予測を通じてこれらの離散潜在表現の自己回帰モデルを実行する。
しかしながら、このパラダイムには2つのステージ固有の制限がある。第1段階は連続時系列の離散化時に情報損失につながる可能性があるが、第2段階は自己回帰生成時にエラーの蓄積が起こる傾向がある。
これらの制限に対処するため、我々はより効率的な自己回帰フレームワークで連続的な潜在空間で生成的モデリングを行うことを目標としています。
本稿では, 時間的相関モデルによる生成効率のバランスの難しさと, 時間的相関モデルによる生成効率の相違を両立させることにより, この目標を達成するために, ハイパー球ラテントとマスケ自己回帰モデルによる時系列生成を促進させるHALOを提案する。
HALOはまず、連続ラテントを固定半径超球殻に制限する超球面VAEを導入し、連続ラテント表現の数値的変動を効果的に安定化する。
第二に、並列デコーディングと時間相関学習のバランスを保ち、生成に要する推論ステップの数を著しく削減し、生成安定性を向上させるマスク付き自己回帰モデルを開発する。
大規模実験により,HALOは既存の高度なベースラインよりも推論効率が大幅に向上し,最先端のジェネレーション性能が向上することが示された。
関連論文リスト
- Forecasting as Rendering: A 2D Gaussian Splatting Framework for Time Series Forecasting [79.37674445572462]
時系列予測(TSF)は、周期内変動と周期間トレンドの複雑な絡み合いのため、依然として困難な問題である。
形状変化テンソルを静止画像として扱うと、トポロジカルミスマッチが発生する。
均一な固定サイズの表現に依存することは、モデリング能力を非効率に割り当てる。
TimeGSは、予測パラダイムをレグレッションから2D生成レンダリングに根本的にシフトする、新しいフレームワークである。
論文 参考訳(メタデータ) (2026-02-10T14:13:36Z) - Beyond Fixed: Training-Free Variable-Length Denoising for Diffusion Large Language Models [74.15250326312179]
拡散大言語モデルは効率的な並列生成とグローバルモデリングを提供する。
DLLMの主流の応用は、静的に事前定義された生成長の必要性によって妨げられている。
DAEDALは,動的適応長拡張を可能にする新しい学習自由化戦略である。
論文 参考訳(メタデータ) (2025-08-01T17:56:07Z) - Hybrid Autoregressive-Diffusion Model for Real-Time Sign Language Production [0.0]
我々は手話生成のための自己回帰モデルと拡散モデルを組み合わせたハイブリッドアプローチを開発する。
微粒な体の動きを捉えるため,異なる音節から細かな特徴を別々に抽出するマルチスケール・ポース表現モジュールを設計した。
ポーズ生成過程を動的に導くために,共同レベルの信頼度スコアを利用する信頼度対応型因果注意機構を導入する。
論文 参考訳(メタデータ) (2025-07-12T01:34:50Z) - Fast Autoregressive Models for Continuous Latent Generation [49.079819389916764]
自己回帰モデルは、特にNLPにおいて、シーケンシャルなデータ生成において顕著な成功を収めている。
最近の研究で、マスク付き自己回帰モデル(MAR)は拡散ヘッドを用いて連続空間内のトーケン分布をモデル化することによって量子化をバイパスする。
本稿では,MARの拡散ヘッドを軽量ショートカットヘッドに置き換える新しいフレームワークであるFast AutoRegressive Model (FAR)を提案する。
論文 参考訳(メタデータ) (2025-04-24T13:57:08Z) - D2C: Unlocking the Potential of Continuous Autoregressive Image Generation with Discrete Tokens [80.75893450536577]
モデル生成能力を向上させる新しい2段階法であるD2Cを提案する。
第1段階では、小さな離散値発生器を用いて粗粒度画像特徴を表す離散値トークンをサンプリングする。
第2段階では、離散トークンシーケンスに基づいて、きめ細かい画像特徴を表す連続値トークンを学習する。
論文 参考訳(メタデータ) (2025-03-21T13:58:49Z) - Dynamical Diffusion: Learning Temporal Dynamics with Diffusion Models [71.63194926457119]
動的拡散(DyDiff, Dynamical Diffusion)は, 時間的に意識された前と逆のプロセスを含む理論的に健全なフレームワークである。
科学的時間的予測、ビデオ予測、時系列予測に関する実験は、動的拡散が時間的予測タスクのパフォーマンスを一貫して改善することを示した。
論文 参考訳(メタデータ) (2025-03-02T16:10:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。