論文の概要: TgDLF2.0: Theory-guided deep-learning for electrical load forecasting
via Transformer and transfer learning
- arxiv url: http://arxiv.org/abs/2210.02448v1
- Date: Wed, 5 Oct 2022 04:12:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-07 17:38:28.983251
- Title: TgDLF2.0: Theory-guided deep-learning for electrical load forecasting
via Transformer and transfer learning
- Title(参考訳): TgDLF2.0:TransformerとTransfer Learningによる電気負荷予測のための理論誘導型ディープラーニング
- Authors: Jiaxin Gao, Wenbo Hu, Dongxiao Zhang, Yuntian Chen
- Abstract要約: TgDLF2.0は、アンサンブル長短期メモリ(TgDLF)による負荷予測のための理論誘導ディープラーニングフレームワークの改良版である。
TgDLF2.0では、電気負荷を非次元的傾向と局所的変動に分割した深層学習モデルTransformerとTransfer Learningを導入している。
TgDLF2.0はTgDLFよりも約16%正確であり、トレーニング時間の半数以上を節約している。
- 参考スコア(独自算出の注目度): 3.563368701503389
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Electrical energy is essential in today's society. Accurate electrical load
forecasting is beneficial for better scheduling of electricity generation and
saving electrical energy. In this paper, we propose theory-guided deep-learning
load forecasting 2.0 (TgDLF2.0) to solve this issue, which is an improved
version of the theory-guided deep-learning framework for load forecasting via
ensemble long short-term memory (TgDLF). TgDLF2.0 introduces the deep-learning
model Transformer and transfer learning on the basis of dividing the electrical
load into dimensionless trends and local fluctuations, which realizes the
utilization of domain knowledge, captures the long-term dependency of the load
series, and is more appropriate for realistic scenarios with scarce samples.
Cross-validation experiments on different districts show that TgDLF2.0 is
approximately 16% more accurate than TgDLF and saves more than half of the
training time. TgDLF2.0 with 50% weather noise has the same accuracy as TgDLF
without noise, which proves its robustness. We also preliminarily mine the
interpretability of Transformer in TgDLF2.0, which may provide future potential
for better theory guidance. Furthermore, experiments demonstrate that transfer
learning can accelerate convergence of the model in half the number of training
epochs and achieve better performance.
- Abstract(参考訳): 今日の社会では電気エネルギーが不可欠です。
正確な電気負荷予測は、発電のスケジューリングと電気エネルギーの節約に有用である。
本稿では,理論誘導型深層学習負荷予測フレームワーク(tgdlf)の改良版である理論誘導型深層学習負荷予測2.0(tgdlf2.0)を提案する。
tgdlf2.0では、電気負荷を無次元のトレンドと局所的なゆらぎに分割してディープラーニングモデルトランスフォーマーとトランスファー学習を導入し、ドメイン知識の活用を実現し、負荷列の長期的な依存性を捉え、サンプルが少ない現実的なシナリオに適している。
TgDLF2.0はTgDLFよりも約16%正確であり、トレーニング時間の半数以上を節約している。
50%の気象騒音を持つTgDLF2.0は、ノイズのないTgDLFと同じ精度であり、その堅牢性を示す。
また,TgDLF2.0におけるトランスフォーマーの解釈可能性についても予備検討し,今後の理論指導の可能性について検討する。
さらに, 伝達学習は, 学習エポックの半減期でモデルの収束を加速し, より良い性能が得られることを示した。
関連論文リスト
- T2V-Turbo-v2: Enhancing Video Generation Model Post-Training through Data, Reward, and Conditional Guidance Design [79.7289790249621]
提案手法であるT2V-Turbo-v2は、様々な監視信号を統合することにより、大幅な進歩をもたらす。
特定の学習目標に対するデータセットの調整の重要性を強調した。
トレーニングデータセットから動作ガイダンスを抽出し,ODEソルバに組み込むことにより,このアプローチの可能性を示す。
論文 参考訳(メタデータ) (2024-10-08T04:30:06Z) - Short-Term Electricity-Load Forecasting by Deep Learning: A Comprehensive Survey [21.781972510427263]
短期電力需要予測は、電力システムの即時需要(今後数時間から数日)を予測することを指す。
気象の変化や新しい電力消費シナリオの出現など、さまざまな外部要因が電力需要に影響を与える可能性がある。
深層学習はSTELFに適用され、高精度な電力需要のモデル化と予測を行っている。
論文 参考訳(メタデータ) (2024-08-29T01:47:09Z) - ExPLoRA: Parameter-Efficient Extended Pre-Training to Adapt Vision Transformers under Domain Shifts [52.1635661239108]
本稿では,事前学習された視覚変換器(ViT)のドメインシフト下での伝達学習を改善するために,ExPLoRAを提案する。
我々の実験は、衛星画像の最先端の成果を実証し、完全な事前学習や微調整のViTよりも優れています。
論文 参考訳(メタデータ) (2024-06-16T15:14:56Z) - Short-Term Electricity Load Forecasting Using the Temporal Fusion
Transformer: Effect of Grid Hierarchies and Data Sources [0.0]
短期負荷予測のためのTFTアーキテクチャの可能性について検討する。
TFTアーキテクチャは、グリッド全体の日頭予測のための最先端のLSTMモデルよりも高い予測性能を提供していない。
その結果, サブステーションレベルに適用した場合, 上位グリッドレベルへのアグリゲーションによるTFTの大幅な改善が認められた。
論文 参考訳(メタデータ) (2023-05-17T20:33:51Z) - A comparative assessment of deep learning models for day-ahead load
forecasting: Investigating key accuracy drivers [2.572906392867547]
短期負荷予測(STLF)は電力グリッドとエネルギー市場の効果的かつ経済的な運用に不可欠である。
STLFの文献ではいくつかのディープラーニングモデルが提案されており、有望な結果を報告している。
論文 参考訳(メタデータ) (2023-02-23T17:11:04Z) - Task Embedding Temporal Convolution Networks for Transfer Learning
Problems in Renewable Power Time-Series Forecast [5.039779583329608]
再生可能電力予測におけるマルチタスク学習と帰納的伝達学習のための多層パーセプトロンへのタスク埋め込みが導入された。
このアイデアを時間的畳み込みネットワークに拡張し、これらの季節性について検討する。
我々は再生可能電力予測のためのゼロショット学習を初めて提案し、たとえトレーニングデータが入手できなくても予測を提供する。
論文 参考訳(メタデータ) (2022-04-29T07:02:22Z) - Enhanced physics-constrained deep neural networks for modeling vanadium
redox flow battery [62.997667081978825]
本稿では,物理制約付き深部ニューラルネットワーク(PCDNN)による高精度電圧予測手法を提案する。
ePCDNNは、電圧放電曲線のテール領域を含む電荷放電サイクルを通して、電圧応答を正確にキャプチャすることができる。
論文 参考訳(メタデータ) (2022-03-03T19:56:24Z) - An Energy Consumption Model for Electrical Vehicle Networks via Extended
Federated-learning [50.85048976506701]
本稿では,フェデレートラーニングモデルに基づく不安度を測る新しい手法を提案する。
バッテリー消費を推定し、車両ネットワークにエネルギー効率の高いルートプランニングを提供する。
論文 参考訳(メタデータ) (2021-11-13T15:03:44Z) - Scale Efficiently: Insights from Pre-training and Fine-tuning
Transformers [57.931830650323]
本稿では,事前学習および微調整型変圧器によるスケーリングの洞察について述べる。
モデルのサイズだけでなく、モデル形状が下流の微調整に重要であることを示す。
再設計したモデルにより、下流の微調整品質が向上する。
論文 参考訳(メタデータ) (2021-09-22T12:29:15Z) - Vision Transformers are Robust Learners [65.91359312429147]
ビジョントランスフォーマー(ViT)の一般的な腐敗や摂動、分布シフト、自然逆転例に対する堅牢性について検討します。
ViTsが実際により堅牢な学習者である理由を説明するために、定量的および定性的な指標を提供する分析を提示します。
論文 参考訳(メタデータ) (2021-05-17T02:39:22Z) - Estimating State of Charge for xEV batteries using 1D Convolutional
Neural Networks and Transfer Learning [0.4129225533930966]
電気自動車における1次元畳み込みニューラルネットワーク(CNN)に基づく電荷推定アルゴリズムを提案する。
異なる種類の雑音がCNNモデルの推定能力に与える影響について検討した。
提案手法は,推定精度,学習速度,一般化能力の点で良好である。
論文 参考訳(メタデータ) (2020-11-02T09:27:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。