論文の概要: Benchmarking Transformer and xLSTM for Time-Series Forecasting of Heat Consumption
- arxiv url: http://arxiv.org/abs/2605.09722v1
- Date: Sun, 10 May 2026 19:40:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:50.391932
- Title: Benchmarking Transformer and xLSTM for Time-Series Forecasting of Heat Consumption
- Title(参考訳): 熱消費予測のためのベンチマーク変換器とxLSTM
- Authors: Marja Wahl, Daniel R. Bayer, Sven Rausch, Marco Pruckner,
- Abstract要約: 本稿では,短期的な熱需要予測のためのTransformerベースのアーキテクチャとxLSTMアーキテクチャをベンチマークする。
我々は、プールド・ヘテロジニアス・ビルディング・データに基づいてトレーニングされたモデルが多様なビルディング・ストックをまたいで一般化できるかどうかをテストするベンチマークを確立する。
その結果、xLSTMは最低RMSE(3時間で19.88kWh、24時間で21.47kWh)を達成し、Temporal Fusion Transformerは最高MAE(9時間で9.16kWh)を達成した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Obtaining an accurate short-term forecasting for heat demand is an essential part of operating district heating networks cost-efficient and reliable. Heat consumption time series at the building level are highly dependent on exogenous variables such as outdoor temperature and individual usage patterns, making forecasting in this context a challenging task. Thus, this paper benchmarks novel Transformer-based and xLSTM architectures for short-term heat-demand forecasting. Using hourly data from 25 German buildings (2017-2025), we compare three-hour and 24-hour forecasting horizons relevant for intraday control and day-ahead scheduling. We establish a multi-building benchmark that tests whether models trained on pooled, heterogeneous building data are able to generalize across diverse building stock. The results show that the xLSTM achieves the lowest RMSE (19.88 kWh for three-hour, 21.47 kWh for 24-hour forecasts), while the Temporal Fusion Transformer attains the best MAE (9.16 kWh for three-hour forecasts). As xLSTMs and Transformers require long training times and have a huge number of trainable parameters, their sustainability remains questionable. Therefore, this paper further investigates the trade-off between predictive accuracy and computational resource demand of the evaluated forecasting models. The findings indicate that also low-parameter models like a traditional fully-connected network achieve good predictive results, highlighting that marginal accuracy gains of the novel prediction models come at substantial resource expense for this use case.
- Abstract(参考訳): 熱需要の正確な短期予測を行うことは、運転地区の暖房ネットワークのコスト効率と信頼性に欠かせない部分である。
ビルレベルの熱消費時系列は、屋外温度や個人利用パターンなどの外生変数に大きく依存しており、この文脈での予測は難しい課題である。
そこで本研究では,短期熱需要予測のためのトランスフォーマーとxLSTMアーキテクチャをベンチマークする。
ドイツの25の建物(2017-2025)の時間的データを用いて、日内制御と日頭スケジューリングに関連する3時間と24時間の予測地平線を比較した。
プールド・ヘテロジニアス・ビルディング・データでトレーニングされたモデルが多様なビルディング・ストックをまたいで一般化できるかどうかをテストするマルチビルディング・ベンチマークを構築した。
その結果、xLSTMは最低RMSE(3時間で19.88 kWh、24時間で21.47 kWh)を達成し、Temporal Fusion Transformerは最高MAE(9時間で9.16 kWh)を達成した。
xLSTMとTransformerは長いトレーニング時間を必要とし、膨大な数のトレーニング可能なパラメータを持つため、持続可能性には疑問が残る。
そこで本研究では,評価された予測モデルの予測精度と計算資源需要とのトレードオフについて検討する。
その結果,従来の完全接続型ネットワークのような低パラメータモデルでも良好な予測結果が得られ,新たな予測モデルの限界精度の獲得は,このユースケースに多大なリソース費用がかかることが明らかとなった。
関連論文リスト
- A Deep Learning Framework for Heat Demand Forecasting using Time-Frequency Representations of Decomposed Features [3.0294044944521694]
本研究では,日頭熱需要予測のための新しいディープラーニングフレームワークを提案する。
連続ウェーブレット変換を需要および外部気象要因に適用することにより、畳み込みニューラルネットワークが階層的時間的特徴を学習することを可能にする。
その結果,平均絶対誤差は最強のベースラインに比べて36%から43%減少した。
論文 参考訳(メタデータ) (2026-03-01T14:40:13Z) - Echo State Networks for Time Series Forecasting: Hyperparameter Sweep and Benchmarking [51.56484100374058]
我々は、完全に自動で純粋にフィードバック駆動のESNが、広く使われている統計的予測手法の代替となるかどうかを評価する。
予測精度は、MASEとsMAPEを用いて測定され、ドリフトや季節予測、統計モデルといった単純なベンチマークと比較される。
論文 参考訳(メタデータ) (2026-02-03T16:01:22Z) - Efficient Deep Learning for Short-Term Solar Irradiance Time Series Forecasting: A Benchmark Study in Ho Chi Minh City [0.0]
本研究は,ホーチミン市における短期(1時間先)グローバル水平照度(GHI)予測のための10のディープラーニングアーキテクチャのベンチマークを示す。
実験の結果、Transformer は優れたアーキテクチャであり、R2 は 0.9696 である。
論文 参考訳(メタデータ) (2025-12-29T23:22:25Z) - SEMPO: Lightweight Foundation Models for Time Series Forecasting [45.456949943052116]
SEMPOは比較的小規模なデータに対する事前トレーニングを必要とする軽量な基礎モデルであるが、強い時系列予測を示す。
SEMPOは、1)エネルギーを意識したSpEctral分解モジュールと、事前学習データの利用を大幅に改善する2つの重要なモジュールから構成される。
16のデータセットをカバーする2つの大規模ベンチマークの実験は、ゼロショットと少数ショットの予測シナリオの両方でSEMPOの優れたパフォーマンスを示している。
論文 参考訳(メタデータ) (2025-10-22T15:58:44Z) - A Lightweight DL Model for Smart Grid Power Forecasting with Feature and Resolution Mismatch [0.4999814847776097]
本稿では、実世界の高周波データを用いて、日々の電力需要を予測することを課題とする。
我々は、時間単位のダウンサイズ化、二重モードのインパルス化、包括正規化を組み合わせた頑健で軽量なディープラーニングパイプラインを提案する。
シーケンス・ツー・ワンのモデルでは、平均RMSEは601.9W、MAEは468.9W、精度は84.36%である。
論文 参考訳(メタデータ) (2025-10-19T16:12:53Z) - IISE PG&E Energy Analytics Challenge 2025: Hourly-Binned Regression Models Beat Transformers in Load Forecasting [0.0]
本研究では,古典的回帰手法から高度なディープラーニングアーキテクチャに至るまで,予測モデルを評価する。
このデータセットには、過去2年間の電力負荷データと、5つの場所にわたる温度およびグローバル水平照射(GHI)が含まれている。
その結果、TimeGPTを含むディープラーニングモデルは、より単純な統計的および機械学習アプローチを一貫して上回りません。
論文 参考訳(メタデータ) (2025-05-16T15:55:34Z) - Benchmarks and Custom Package for Energy Forecasting [55.460452605056894]
エネルギー予測は、電力グリッドディスパッチのようなその後のタスクのコストを最小化することを目的としている。
本稿では,大規模負荷データセットを収集し,再生可能エネルギーデータセットを新たにリリースした。
評価指標の異なるレベルにおいて,21種類の予測手法を用いた広範囲な実験を行った。
論文 参考訳(メタデータ) (2023-07-14T06:50:02Z) - Electricity Demand Forecasting with Hybrid Statistical and Machine
Learning Algorithms: Case Study of Ukraine [0.0]
提案手法は2013年から2020年までのウクライナの電力消費の時間データを用いて構築された。
我々のハイブリッドモデルは、時間分解能で長期電力消費を予測するのに非常に効果的である。
論文 参考訳(メタデータ) (2023-04-11T12:15:50Z) - Towards Long-Term Time-Series Forecasting: Feature, Pattern, and
Distribution [57.71199089609161]
長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。
トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。
LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
論文 参考訳(メタデータ) (2023-01-05T13:59:29Z) - A Hybrid Model for Forecasting Short-Term Electricity Demand [59.372588316558826]
現在、英国電気市場は、規制当局が30分毎に発行する負荷(需要)予測によってガイドされている。
本稿では,機能工学(候補予測機能の選択),移動ウィンドウ予測,LSTMエンコーダデコーダを組み合わせたハイブリッド予測モデルHYENAを提案する。
論文 参考訳(メタデータ) (2022-05-20T22:13:25Z) - FourCastNet: A Global Data-driven High-resolution Weather Model using
Adaptive Fourier Neural Operators [45.520430157112884]
FourCastNetは、表面風速、降水量、大気水蒸気などの高解像度で高速な変数を正確に予測する。
風力エネルギー資源の計画、熱帯のサイクロン、熱帯のサイクロン、大気の川などの極端な気象現象の予測に重要な意味を持つ。
FourCastNetは2秒未満で1週間の予測を生成する。
論文 参考訳(メタデータ) (2022-02-22T22:19:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。