論文の概要: Forecasting what Matters: Decision-Focused RL for Controlled EV Charging with Unknown Departure Times
- arxiv url: http://arxiv.org/abs/2606.19199v1
- Date: Wed, 17 Jun 2026 15:37:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-18 17:16:51.248161
- Title: Forecasting what Matters: Decision-Focused RL for Controlled EV Charging with Unknown Departure Times
- Title(参考訳): 電気自動車の無人走行時間帯帯充電における決定的焦点RLの予測
- Authors: Giuseppe Gabriele, Fabio Pavirani, Seyed Soroush Karimi Madahi, Chris Develder,
- Abstract要約: 現実のシナリオでは、出発時間などの重要な機能は利用できないことが多い。
これにより、RLエージェントが効果的な充電ポリシーを学習し実行することを難しくする。
本稿では, RLエージェントが行う充電ポリシーアクションからフィードバックを得て, 予測器をエンドツーエンドに訓練する決定中心のRL(DF-RL)フレームワークを提案する。
- 参考スコア(独自算出の注目度): 2.6288470934623636
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The recent growth of EV adoption poses challenges for power systems, including increased peak demand and potential grid instability. Smart control of EV charging -- e.g., based on reinforcement learning (RL) -- can alleviate these issues by learning temporal and contextual patterns from historical data. Yet, in real-world scenarios, key features, such as departure time, often are unavailable. This, in turn, makes it harder for an RL agent to learn and execute an effective charging policy. To mitigate this uncertainty, a trained forecaster can approximate the unknown features from available data. However, since these forecasting models are typically trained for accuracy (rather than their impact on a downstream agent's decision quality), their errors may propagate and hinder the overall performance of a controller that is using the forecasts. To avoid this, we propose a decision-focused RL (DF-RL) framework in which the forecaster is trained end-to-end, i.e., with feedback from the charging policy actions taken by the RL agent. Such joint training of both the forecaster and controller ultimately results in higher-quality actions: our proposed DF-RL method yields superior charging decisions compared to other baselines, achieving up to a 14% improvement in total reward and a 55% reduction of unsupplied energy (i.e., charging that failed to happen because the EV already left), relative to the RL method without departure time forecasting.
- Abstract(参考訳): 近年のEVの普及は、ピーク需要の増加やグリッドの不安定化など、電力システムの課題を引き起こしている。
EV充電のスマートコントロール -- 例えば、強化学習(RL)に基づく -- は、過去のデータから時間的および文脈的パターンを学習することで、これらの問題を緩和することができる。
しかし、現実のシナリオでは、出発時間などの重要な機能は利用できないことが多い。
これにより、RLエージェントが効果的な充電ポリシーを学習し実行することを難しくする。
この不確実性を緩和するために、トレーニングされた予測器は、利用可能なデータから未知の特徴を近似することができる。
しかしながら、これらの予測モデルは、通常、(下流エージェントの判断品質への影響よりも)正確性のために訓練されているため、それらのエラーは、予測を使用しているコントローラの全体的なパフォーマンスを伝播し妨げる可能性がある。
これを回避するために、予測器をエンドツーエンド、すなわちRLエージェントが行う充電ポリシーアクションからのフィードバックで訓練する決定中心のRL(DF-RL)フレームワークを提案する。
我々の提案したDF-RL法は他のベースラインと比較して優れた充電決定を下し、総報酬の最大14%の改善と供給エネルギーの55%の削減(つまりEVがすでに残っていたため、充電が失敗する)を実現した。
関連論文リスト
- Just-In-Time Reinforcement Learning: Continual Learning in LLM Agents Without Gradient Updates [53.3717573880076]
JitRL(Just-In-Time Reinforcement Learning、ジャスト・イン・タイム強化学習)は、テスト時間ポリシーの最適化を可能にするトレーニング不要のフレームワークである。
JitRLは、経験の動的で非パラメトリックな記憶を維持し、関連する軌跡を取得して、オンザフライでのアクションの利点を推定する。
WebArenaとJerrichoの実験では、JitRLがトレーニング不要メソッドの間に新しい最先端技術を確立していることが示されている。
論文 参考訳(メタデータ) (2026-01-26T14:16:51Z) - Reinforcement Learning on Pre-Training Data [55.570379963147424]
我々は,大規模言語モデル(LLM)を最適化するための新しい訓練時間スケーリングパラダイムである,事前学習データ(R)の強化学習を紹介する。
Rは、有意義な軌道を自律的に探索し、事前学習データから学び、強化学習(RL)を通してその能力を向上させる。
複数のモデルにわたる一般領域および数学的推論ベンチマークの広範な実験は、Rの有効性を検証した。
論文 参考訳(メタデータ) (2025-09-23T17:10:40Z) - Unsupervised Data Generation for Offline Reinforcement Learning: A Perspective from Model [57.20064815347607]
オフライン強化学習(RL)は、最近RL研究者から関心が高まりつつある。
オフラインRLの性能は、オンラインRLのフィードバックによって修正できる配布外問題に悩まされる。
本稿では、まず、バッチデータとオフラインRLアルゴリズムの性能を理論的に橋渡しする。
タスクに依存しない環境では、教師なしのRLによって訓練された一連のポリシーは、パフォーマンスギャップにおける最悪の後悔を最小限に抑えることができることを示す。
論文 参考訳(メタデータ) (2025-06-24T14:08:36Z) - Enhancing Battery Storage Energy Arbitrage with Deep Reinforcement Learning and Time-Series Forecasting [3.0382033111760576]
カナダ・アルバータ州の価格データを用いたケーススタディを行い、不規則な価格スパイクと極めて非定常な価格変動を特徴とする。
このデータは、最先端のディープラーニングモデルがデプロイされたとしても予測することは難しい。
以上の結果から, DRLによる電池制御によるエネルギー仲裁は, これらの不完全な予測の恩恵を被ることがわかった。
論文 参考訳(メタデータ) (2024-10-25T23:18:43Z) - A Perspective of Q-value Estimation on Offline-to-Online Reinforcement
Learning [54.48409201256968]
オフラインからオンラインへの強化学習(O2O RL)は、少数のオンラインサンプルを使用して、オフライン事前訓練ポリシーのパフォーマンスを改善することを目的としている。
ほとんどのO2O手法は、RLの目的と悲観のバランス、オフラインとオンラインのサンプルの利用に焦点を当てている。
論文 参考訳(メタデータ) (2023-12-12T19:24:35Z) - Hybrid Reinforcement Learning for Optimizing Pump Sustainability in
Real-World Water Distribution Networks [55.591662978280894]
本稿では,実世界の配水ネットワーク(WDN)のリアルタイム制御を強化するために,ポンプスケジューリング最適化問題に対処する。
我々の主な目的は、エネルギー消費と運用コストを削減しつつ、物理的な運用上の制約を遵守することである。
進化に基づくアルゴリズムや遺伝的アルゴリズムのような伝統的な最適化手法は、収束保証の欠如によってしばしば不足する。
論文 参考訳(メタデータ) (2023-10-13T21:26:16Z) - Identify, Estimate and Bound the Uncertainty of Reinforcement Learning
for Autonomous Driving [4.932817328815897]
深部強化学習(DRL)は、よりインテリジェントな自動運転車(AV)を開発するための有望なアプローチとして登場した。
本研究は,DRL運転ポリシーの信頼性の低い決定を識別し,保護する手法を提案する。
論文 参考訳(メタデータ) (2023-05-12T13:58:31Z) - Computationally efficient joint coordination of multiple electric
vehicle charging points using reinforcement learning [6.37470346908743]
今日の電力網における大きな課題は、電気自動車(EV)充電による負荷の増加を管理することである。
同時に複数の充電点を協調的に座標する単一ステップの解法を提案する。
我々の新しいRLソリューションは、ビジネス・アズ・ユース・ポリシーと比較して、充電需要調整の性能を40~50%向上させています。
論文 参考訳(メタデータ) (2022-03-26T13:42:57Z) - Optimized cost function for demand response coordination of multiple EV
charging stations using reinforcement learning [6.37470346908743]
我々は、複数の充電ステーションを同時に調整するマルコフ決定プロセス(MDP)に基づいて、RLに関する以前の研究に基づいて構築する。
我々は、基本的に、学習した制御ポリシーに対して、柔軟性を提供しない充電需要を常に満たすよう強制するコスト関数の改善を提案する。
提案したバッチRLのQ-iteration実装を,実世界のデータを用いて,オリジナル(コスト)のQ-iteration実装と厳密に比較する。
論文 参考訳(メタデータ) (2022-03-03T11:22:27Z) - Learning to Operate an Electric Vehicle Charging Station Considering
Vehicle-grid Integration [4.855689194518905]
本稿では、充電ステーションの利益を最大化するために、新しい集中的アロケーションと分散実行(CADE)強化学習(RL)フレームワークを提案する。
集中配置プロセスでは、EVを待機スポットまたは充電スポットに割り当て、分散実行プロセスでは、各充電器は、共有再生メモリからアクション値関数を学習しながら、独自の充電/放電判定を行う。
数値計算により,提案したCADEフレームワークは計算効率が高く,拡張性も高く,ベースラインモデル予測制御(MPC)よりも優れていた。
論文 参考訳(メタデータ) (2021-11-01T23:10:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。