Fugu-MT 論文翻訳(概要): Causal Semantic Alignment for LLM-based Time Series Forecasting

論文の概要: Causal Semantic Alignment for LLM-based Time Series Forecasting

arxiv url: http://arxiv.org/abs/2606.08262v1
Date: Sat, 06 Jun 2026 17:17:34 GMT
ステータス: 翻訳完了
システム内更新日: 2026-06-09 14:42:06.005014
Title: Causal Semantic Alignment for LLM-based Time Series Forecasting
Title（参考訳）: LLMによる時系列予測のための因果意味アライメント
Authors: Kexuan Zhang, Xiaobei Zou, Cesare Alippi, Gary G. Yen, Yang Tang,
Abstract要約: 時系列予測のための可変レベルアライメントフレームワークを提案する。 CVAformerは、アライメント直前に各変数を不変および動的コンポーネントに明示的に分離する。 CVAformerは、ほとんどのデータセットで最先端のパフォーマンスと一致しているか、あるいは超えていることを示す。
参考スコア（独自算出の注目度）: 29.07908167562054
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Recent advances in Large Language Models (LLMs) have opened new possibilities for time series forecasting by enabling alignment between temporal patterns and pretrained word embeddings. However, most LLM-based methods overlook the heterogeneous nature of time series, where dynamic fluctuations and invariant semantics are entangled. This entanglement introduces spurious correlations during the alignment, as dynamic components act as confounders by simultaneously influencing invariant components and the resulting aligned embeddings. To address this issue, a variable-level alignment framework CVAformer is proposed. CVAformer explicitly disentangles each variable into invariant and dynamic components just before alignment, and applies causal intervention to mitigate the confounding effect of the dynamics. To better support variable-level alignment, CVAformer replaces the standard causal attention in LLMs with a non-causal attention mechanism that captures interactions among variables at each time step. Extensive experiments across long-term, short-term, few-shot, and zero-shot forecasting settings indicate that CVAformer matches or exceeds state-of-the-art performance on most datasets, and in some cases achieves notably better accuracy. Experimental results validate the effectiveness of variable-level alignment and dynamic disentanglement in CVAformer, offering a new perspective for LLM-based time series tasks.
Abstract（参考訳）: 近年のLarge Language Models (LLMs) の進歩は、時間パターンと事前訓練された単語埋め込みのアライメントを可能にすることで、時系列予測の新しい可能性を開いた。しかし、ほとんどのLCMベースの手法は、動的ゆらぎと不変セマンティクスが絡み合っている時系列の不均一性を見落としている。この絡み合いは、動的コンポーネントが不変コンポーネントと結果の整列埋め込みに同時に影響を与えることにより、アライメント中に急激な相関関係をもたらす。この問題に対処するため,変数レベルのアライメントフレームワークであるCVAformerを提案する。 CVAformerは、各変数をアライメント直前に不変成分と動的成分に明示的に切り離し、因果的介入を適用して、ダイナミックスの相反効果を緩和する。変数レベルのアライメントを向上するために、CVAformerはLLMの標準的な因果的アライメントを、各ステップで変数間のインタラクションをキャプチャする非因果的アライメントメカニズムに置き換える。長期、短期、少数ショット、ゼロショットの予測設定にわたる大規模な実験は、CVAformerがほとんどのデータセットで最先端のパフォーマンスと一致または超えていることを示している。 CVAformerにおける変数レベルのアライメントと動的アンタングルの有効性を実験的に検証し,LLMに基づく時系列タスクの新たな視点を提供する。

関連論文リスト

PAMod: Modeling Cyclical Shifts via Phase-Amplitude Modulation for Non-stationary Time Series Forecasting [59.88916926133985]
正規化特徴空間における位相振幅変調による循環分布シフトをモデル化するフレームワークPAModを提案する。 PAModは計算資源を減らして最先端の性能を実現する。我々の変調機構は,プラグイン・アンド・プレイ技術として,既存の時系列予測手法を簡易な統合で改善することができる。
論文参考訳（メタデータ） (2026-05-01T07:09:23Z)
TimeAPN: Adaptive Amplitude-Phase Non-Stationarity Normalization for Time Series Forecasting [67.91113180885601]
TimeAPNは時間領域と周波数領域の両方から非定常因子を明示的にモデル化し、予測する。 TimeAPNは、複数の予測水平線にわたる長期的な予測精度を一貫して改善する。これは最先端の可逆正規化法より優れている。
論文参考訳（メタデータ） (2026-03-18T07:21:24Z)
LEVDA: Latent Ensemble Variational Data Assimilation via Differentiable Dynamics [6.953554594702111]
本稿では,アンサンブル空間の変動スムーズなラテント・アンサンブル・データ・アシミレーション(LEVDA)を提案する。随伴符号や補助観察から潜伏までのエンコーダを必要とせず、状態と未知のパラメータを同化する。完全状態の4DEnVarに比べて、同化精度と計算効率が大幅に向上した。
論文参考訳（メタデータ） (2026-02-23T00:54:59Z)
Adapting LLMs to Time Series Forecasting via Temporal Heterogeneity Modeling and Semantic Alignment [32.41581846555808]
大規模言語モデル(LLM)は、最近、自然言語処理における印象的な能力を実証した。時間的アライメントのモデル化と意味的アライメントの強化によりLLMに基づく予測を強化する統合フレームワークであるTALONを提案する。 7つの実世界のベンチマークの実験では、TALONはすべてのデータセットで優れたパフォーマンスを達成している。
論文参考訳（メタデータ） (2025-08-10T06:06:19Z)
GrAInS: Gradient-based Attribution for Inference-Time Steering of LLMs and VLMs [56.93583799109029]
GrAInSは推論時ステアリングのアプローチで、言語のみのモデルと視覚言語の両方のモデルとタスクで動作する。推論中、GrAInSはトークンレベルの属性信号によって誘導されるトランスフォーマー層で隠されたアクティベーションを隠蔽し、アクティベーションを正規化し、表現スケールを保存する。微調整と既存のステアリングベースラインの両方を一貫して上回る。
論文参考訳（メタデータ） (2025-07-24T02:34:13Z)
OptiCorNet: Optimizing Sequence-Based Context Correlation for Visual Place Recognition [2.3093110834423616]
本稿では,新しいシーケンスモデリングフレームワークOptiCorNetを提案する。空間的特徴抽出と時間的差分を微分可能でエンドツーエンドのトレーニング可能なモジュールに統一する。本手法は,季節的・視点的な変化に挑戦し,最先端のベースラインよりも優れる。
論文参考訳（メタデータ） (2025-07-19T04:29:43Z)
DiffPO: Diffusion-styled Preference Optimization for Efficient Inference-Time Alignment of Large Language Models [50.32663816994459]
拡散型優先度最適化(Diffusion-styled Preference Optimization: モデル)は、LLMを人間と整合させるための効率的でポリシーに依存しないソリューションを提供する。 modelavoidはトークンレベルの生成に関連する時間遅延をモデル化する。 AlpacaEval 2, MT-bench, HH-RLHFの実験により, 種々の環境におけるアライメント性能が良好であることが示された。
論文参考訳（メタデータ） (2025-03-06T09:21:54Z)
VE: Modeling Multivariate Time Series Correlation with Variate Embedding [0.4893345190925178]
現在のチャネル非依存(CI)モデルとCI最終射影層を持つモデルは相関を捉えることができない。可変埋め込み(VE)パイプラインを提案し,各変数に対して一意かつ一貫した埋め込みを学習する。 VEパイプラインは、CI最終プロジェクション層を持つ任意のモデルに統合して、多変量予測を改善することができる。
論文参考訳（メタデータ） (2024-09-10T02:49:30Z)
Robust Multivariate Time Series Forecasting against Intra- and Inter-Series Transitional Shift [40.734564394464556]
本稿では,時系列内/時系列間の相関関係を統合的に把握し,時変遷移分布をモデル化するための統一確率グラフモデルを提案する。 6つの高定常MTSデータセットに対する広範囲な実験により、JointPGMの有効性と効率を検証した。
論文参考訳（メタデータ） (2024-07-18T06:16:03Z)
TACTiS-2: Better, Faster, Simpler Attentional Copulas for Multivariate Time Series [57.4208255711412]
パウラ理論に基づいて,最近導入されたトランスフォーマーに基づく注目パウラ(TACTiS)の簡易な目的を提案する。結果から,実世界の予測タスクにまたがって,このモデルのトレーニング性能が大幅に向上し,最先端のパフォーマンスが達成できることが示唆された。
論文参考訳（メタデータ） (2023-10-02T16:45:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。