論文の概要: U-STS-LLM A Unified Spatio-Temporal Steered Large Language Model for Traffic Prediction and Imputation
- arxiv url: http://arxiv.org/abs/2605.11735v1
- Date: Tue, 12 May 2026 08:16:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-13 21:48:56.699924
- Title: U-STS-LLM A Unified Spatio-Temporal Steered Large Language Model for Traffic Prediction and Imputation
- Title(参考訳): U-STS-LLM : 交通予測とインプットのための統合時空間ステアリング大言語モデル
- Authors: Yichen Zhang, Jun Li,
- Abstract要約: U-STS-LLM は,時空間操舵 LLM 上に構築された統合フレームワークである。
我々の中心となる革新は動的S-Loコンカレントアテンションバイアスジェネレータであり、過渡的なノイズ状態を持つ永続関数グラフを合成する。
U-STS-LLMは、長距離予測と高損失レート計算の両方において、新しい最先端性能を確立することを実世界のセル・データセットで実証した。
- 参考スコア(独自算出の注目度): 6.194596351746244
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The efficient operation of modern cellular networks hinges on the accurate analysis of spatio-temporal traffic data. Mastering these patterns is essential for core network functions, chiefly forecasting future load to pre-empt congestion and imputing missing values caused by sensor failures or transmission errors to ensure data continuity. While deeply connected, forecasting and imputation have historically evolved as separate sub-fields. The dominant paradigm, Spatio-Temporal Graph Neural Networks (STGNNs), while effective, are often specialized, computationally intensive, and exhibit limited generalization. Concurrently, adapting large pre-trained language models (LLMs) offers a powerful alternative for sequence modeling, yet existing approaches provide weak structural guidance, leading to unstable convergence and a narrow focus on forecasting. To bridge these gaps, we propose U-STS-LLM, a unified framework built on a spatio-temporally steered LLM. Our core innovation is a Dynamic Spatio-Temporal Attention Bias Generator that synthesizes a persistent functional graph with transient nodal states to explicitly steer the LLM's attention. Coupled with a partially frozen backbone tuned via Low-Rank Adaptation (LoRA) and a Gated Adaptive Fusion mechanism, the model achieves stable, parameter-efficient adaptation. Trained under a unified multi-task objective, U-STS-LLM learns a holistic data representation. Extensive experiments on real-world cellular datasets demonstrate that U-STS-LLM establishes new state-of-the-art performance in both long-horizon forecasting and high-missing-rate imputation, while maintaining remarkable training efficiency and stability, offering a novel blueprint for harnessing foundation models in structured, non-linguistic domains.
- Abstract(参考訳): 現代のセルネットワークの効率的な運用は、時空間トラフィックデータの正確な分析に基づいている。
これらのパターンをマスターすることはコアネットワーク機能にとって不可欠であり、主に、渋滞をプリエンプトに将来の負荷を予測し、データの連続性を保証するためにセンサーの故障や送信エラーに起因する欠落した値を示す。
深く結びついているが、予測と計算は歴史的に別個のサブフィールドとして進化してきた。
支配的なパラダイムである時空間グラフニューラルネットワーク(STGNN)は、有効ではあるが、しばしば特殊化され、計算集約され、限定的な一般化を示す。
同時に、大規模事前学習言語モデル(LLM)の適用は、シーケンスモデリングの強力な代替手段を提供するが、既存のアプローチでは構造的なガイダンスが弱く、不安定な収束と予測への焦点が狭まる。
これらのギャップを埋めるために, 時空間制御LLM上に構築された統一フレームワークであるU-STS-LLMを提案する。
我々の中心となる革新は動的時空間注意バイアスジェネレータであり、LLMの注意を引き付けるために一過性の結節状態を持つ永続関数グラフを合成する。
Low-Rank Adaptation (LoRA) と Gated Adaptive Fusion 機構によって調整された部分的に凍結したバックボーンと組み合わせることで、モデルは安定でパラメータ効率の良い適応を実現する。
U-STS-LLMは、統一されたマルチタスクの目的の下で訓練され、全体的なデータ表現を学ぶ。
実世界のセルラーデータセットに関する大規模な実験により、U-STS-LLMは、構造化された非言語領域の基盤モデルを利用するための新しい青写真を提供しながら、長期の予測と高いミッションレートの計算の両方において、新しい最先端のパフォーマンスを確立することを示した。
関連論文リスト
- Large Vision-Language Models Get Lost in Attention [51.851592109135716]
本稿では,情報理論と幾何に基づく統合フレームワークを提案し,残差更新の幾何的およびエントロピー的性質を定量化する。
注意は再設定に焦点を当てたサブスペース言語演算子として機能し、FFNはセマンティックイノベーションを駆動するサブスペース言語演算子として機能します。
論文 参考訳(メタデータ) (2026-05-07T04:45:52Z) - UniST-Pred: A Robust Unified Framework for Spatio-Temporal Traffic Forecasting in Transportation Networks Under Disruptions [2.3384578069004114]
統合時間トラフィック予測フレームワークUniST-Predを提案する。
UniST-Predは空間的表現学習から時間的モデリングを分離し、適応的表現レベル融合を通じて両者を統合する。
結果から,UniST-Predは実世界のデータセットとシミュレーションデータセットの両方で高い予測性能を維持していることがわかった。
論文 参考訳(メタデータ) (2026-02-15T08:28:56Z) - A Lightweight Sparse Interaction Network for Time Series Forecasting [9.398256560898448]
TSFタスクのための軽量スパースインタラクションネットワーク(LSINet)を提案する。
自己注意の空間性から着想を得たマルチヘッドスパース相互作用機構(MSIM)を提案する。
MSIMは、時間ステップ間の重要な接続をスパーシリティによって引き起こされるBernoulli分布を通じて学習し、TSFの時間的依存関係をキャプチャする。
LSINetは、TSFタスクにおける高度な線形モデルとトランスフォーマーモデルよりも精度と効率の両立を実現している。
論文 参考訳(メタデータ) (2026-02-02T03:24:14Z) - Wireless Traffic Prediction with Large Language Model [54.07581399989292]
TIDESは、無線トラフィック予測のための空間時間相関をキャプチャする新しいフレームワークである。
TIDESは過剰なトレーニングオーバーヘッドを発生させることなく、ドメイン固有のパターンへの効率的な適応を実現する。
この結果から,将来の6Gシステムにおいて,空間認識をLCMベースの予測器に統合することが,スケーラブルでインテリジェントなネットワーク管理の鍵であることが示唆された。
論文 参考訳(メタデータ) (2025-12-19T04:47:40Z) - ResAD: Normalized Residual Trajectory Modeling for End-to-End Autonomous Driving [64.42138266293202]
ResADは正規化された残留軌道モデリングフレームワークである。
学習タスクを再編成し、慣性参照からの残留偏差を予測する。
NAVSIMベンチマークでは、ResADはバニラ拡散ポリシーを用いて最先端のPDMS 88.6を達成している。
論文 参考訳(メタデータ) (2025-10-09T17:59:36Z) - Anticipatory Fall Detection in Humans with Hybrid Directed Graph Neural Networks and Long Short-Term Memory [12.677218248209494]
本稿では,DGNN(Dynamic Graph Neural Networks)とLSTM(Long Short-Term Memory)ネットワークを組み合わせたハイブリッドモデルを提案する。
提案手法では,提案モデルに対する入力として,ビデオシーケンスから抽出したリアルタイム骨格特徴を用いる。
LSTMベースのネットワークは、次の時間のステップで人間の動きを予測し、転倒の早期発見を可能にする。
論文 参考訳(メタデータ) (2025-09-01T12:56:31Z) - Federated Dynamic Modeling and Learning for Spatiotemporal Data Forecasting [1.492694722803554]
本稿では,複雑な時間的データを予測するための高度なフェデレート学習(FL)フレームワークを提案する。
Gated Recurrent Unit(RU)モジュールをLong Short-Term Memory(LSTM)ネットワークに置き換える。
結果として生じるアーキテクチャは、様々な予測アプリケーションで複雑な時間パターンを扱う能力を大幅に改善します。
論文 参考訳(メタデータ) (2025-03-06T15:16:57Z) - Parsimony or Capability? Decomposition Delivers Both in Long-term Time Series Forecasting [46.63798583414426]
時系列予測(LTSF)は時系列分析において重要なフロンティアである。
本研究は, 分析的および実証的な証拠から, 分解が過剰なモデルインフレーションを包含する鍵であることを実証する。
興味深いことに、時系列データの本質的なダイナミクスに分解を合わせることで、提案モデルは既存のベンチマークより優れている。
論文 参考訳(メタデータ) (2024-01-22T13:15:40Z) - Towards Long-Term Time-Series Forecasting: Feature, Pattern, and
Distribution [57.71199089609161]
長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。
トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。
LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
論文 参考訳(メタデータ) (2023-01-05T13:59:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。