論文の概要: Distribution-Aware Diffusion-LLM for Robust Ultra-Long-Term Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2606.23391v1
- Date: Mon, 22 Jun 2026 14:18:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-24 19:21:47.746132
- Title: Distribution-Aware Diffusion-LLM for Robust Ultra-Long-Term Time Series Forecasting
- Title(参考訳): ロバストな超長期時系列予測のための分布対応拡散型LLM
- Authors: Falguni Ghosh, Vahid Hashemi, Bernhard Kainz,
- Abstract要約: 時系列予測は基本的な機械学習タスクである。
最近の研究は、この目的のために、強力な一般化、パターン認識、ゼロショットまたは少数ショット機能のために、Large Language Models (LLMs)を探索している。
LLMに基づく予測パイプラインに条件付き拡散モデルを統合する新しいフレームワークDiffusion-LLMを提案する。
- 参考スコア(独自算出の注目度): 8.2867621159451
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Time series forecasting is a fundamental machine learning task. Recent work has explored Large Language Models (LLMs) for this purpose due to their strong generalization, pattern recognition, and zero-shot or few-shot capabilities. Despite their suitability for long-context learning, LLMs face challenges in multimodal settings: they lack calibrated probabilistic modeling for non-text data and struggle to align heterogeneous representations. To address these issues, we propose a new framework Diffusion-LLM that integrates a conditional diffusion model into an LLM-based forecasting pipeline. This joint design enables learning the conditional distribution of future data while improving semantic alignment in a shared latent space. We evaluate Diffusion-LLM on six long-term forecasting benchmarks, including ETT, Weather, and ECL. Our method consistently outperforms existing LLM-based baseline, achieving notable gains in ultra-long-term and few-shot forecasting and demonstrating the value of distribution-aware regularization for enhancing robustness and generalization in time series LLMs.
- Abstract(参考訳): 時系列予測は基本的な機械学習タスクである。
最近の研究は、その強力な一般化、パターン認識、ゼロショットまたは少数ショット機能のために、この目的のためにLarge Language Models (LLM)を探索している。
長文学習に適しているにもかかわらず、LLMはマルチモーダルな設定で問題に直面し、非テキストデータに対するキャリブレーションされた確率的モデリングが欠如し、異種表現の整合に苦慮している。
これらの問題に対処するために,条件付き拡散モデルをLLMベースの予測パイプラインに統合する新しいフレームワークDiffusion-LLMを提案する。
この共同設計により、共有潜在空間におけるセマンティックアライメントを改善しつつ、将来のデータの条件分布を学習することができる。
ETT,Weather,ECLを含む6つの長期予測ベンチマークでDiffusion-LLMを評価した。
提案手法は既存のLCMベースラインを一貫して上回り,超長期および少数ショット予測において顕著な向上を達成し,時系列LLMにおけるロバスト性の向上と一般化のための分布認識正規化の価値を実証する。
関連論文リスト
- T-LLM: Teaching Large Language Models to Forecast Time Series via Temporal Distillation [7.6933817667680096]
時系列予測は多くの現実世界のアプリケーションにおいて意思決定において重要な役割を果たす。
本稿では,汎用言語モデルと時系列予測機能を組み合わせた時空間蒸留フレームワークT-LLMを提案する。
論文 参考訳(メタデータ) (2026-02-02T10:40:27Z) - Semantic-Enhanced Time-Series Forecasting via Large Language Models [20.383296465541758]
時系列予測は、金融、エネルギー、気象学、IoTアプリケーションにおいて重要な役割を果たす。
近年,大規模言語モデル(LLM)の一般化機能を活用して時系列予測に適応し,有望な性能を実現している。
本稿では,時系列の固有周期性と異常特性を探索し,意味空間に埋め込むセマンティック拡張LDM(SE-LLM)を提案する。
論文 参考訳(メタデータ) (2025-08-11T07:19:21Z) - Adapting LLMs to Time Series Forecasting via Temporal Heterogeneity Modeling and Semantic Alignment [32.41581846555808]
大規模言語モデル(LLM)は、最近、自然言語処理における印象的な能力を実証した。
時間的アライメントのモデル化と意味的アライメントの強化によりLLMに基づく予測を強化する統合フレームワークであるTALONを提案する。
7つの実世界のベンチマークの実験では、TALONはすべてのデータセットで優れたパフォーマンスを達成している。
論文 参考訳(メタデータ) (2025-08-10T06:06:19Z) - LLM-PS: Empowering Large Language Models for Time Series Forecasting with Temporal Patterns and Semantics [56.99021951927683]
Time Series Forecasting (TSF) は、金融計画や健康モニタリングなど、多くの現実世界のドメインにおいて重要である。
既存のLarge Language Models (LLM) は通常、時系列データ固有の特性を無視するため、非最適に実行する。
時系列データから基本的なtextitPatterns と有意義な textitSemantics を学習し,TLF のための LLM-PS を提案する。
論文 参考訳(メタデータ) (2025-03-12T11:45:11Z) - CALF: Aligning LLMs for Time Series Forecasting via Cross-modal Fine-Tuning [59.88924847995279]
MTSFのためのクロスモーダルLCMファインチューニング(CALF)フレームワークを提案する。
分散の相違を低減するため,クロスモーダルマッチングモジュールを開発した。
CALFは、長期および短期の予測タスクの最先端のパフォーマンスを確立する。
論文 参考訳(メタデータ) (2024-03-12T04:04:38Z) - AutoTimes: Autoregressive Time Series Forecasters via Large Language Models [67.83502953961505]
AutoTimesは時系列を言語トークンの埋め込み空間に投影し、任意の長さで将来予測を生成する。
時系列をプロンプトとして定式化し、ルックバックウィンドウを越えて予測のコンテキストを拡張する。
AutoTimesは、トレーニング可能なパラメータが0.1%、トレーニング/推論のスピードアップが5ドル以上で最先端を実現している。
論文 参考訳(メタデータ) (2024-02-04T06:59:21Z) - Time-LLM: Time Series Forecasting by Reprogramming Large Language Models [110.20279343734548]
時系列予測は多くの実世界の力学系において重要な意味を持つ。
時系列予測のための大規模言語モデルを再利用するための再プログラミングフレームワークであるTime-LLMを提案する。
Time-LLMは、最先端の特殊な予測モデルよりも優れた、強力な時系列学習者である。
論文 参考訳(メタデータ) (2023-10-03T01:31:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。