論文の概要: Deep Reinforcement Learning for Power Trading
- arxiv url: http://arxiv.org/abs/2301.08360v1
- Date: Thu, 19 Jan 2023 23:36:23 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-23 14:06:05.118588
- Title: Deep Reinforcement Learning for Power Trading
- Title(参考訳): 電力取引のための深層強化学習
- Authors: Yuanrong Wang, Vignesh Raja Swaminathan, Nikita P. Granger, Carlos Ros
Perez, Christian Michler
- Abstract要約: 両レベルシミュレーションと欧州電力仲裁取引の最適化のための協調的二重エージェント強化学習(RL)を提案する。
本稿では,電力市場を具体化する2つの新しい実践的実装を提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The Dutch power market includes a day-ahead market and an auction-like
intraday balancing market. The varying supply and demand of power and its
uncertainty induces an imbalance, which causes differing power prices in these
two markets and creates an opportunity for arbitrage. In this paper, we present
collaborative dual-agent reinforcement learning (RL) for bi-level simulation
and optimization of European power arbitrage trading. Moreover, we propose two
novel practical implementations specifically addressing the electricity power
market. Leveraging the concept of imitation learning, the RL agent's reward is
reformed by taking into account prior domain knowledge results in better
convergence during training and, moreover, improves and generalizes
performance. In addition, tranching of orders improves the bidding success rate
and significantly raises the P&L. We show that each method contributes
significantly to the overall performance uplifting, and the integrated
methodology achieves about three-fold improvement in cumulative P&L over the
original agent, as well as outperforms the highest benchmark policy by around
50% while exhibits efficient computational performance.
- Abstract(参考訳): オランダの電力市場は日頭市場とオークションのような日内バランス市場を含んでいる。
電力の供給と需要の変化とその不確実性は、この2つの市場で異なる電力価格を引き起こす不均衡を引き起こし、仲裁の機会を生み出す。
本稿では,二段階シミュレーションと欧州電力仲裁取引の最適化のための協調的二重エージェント強化学習(RL)を提案する。
さらに,電力市場に特化した2つの新しい実践手法を提案する。
模倣学習の概念を活用することで、RLエージェントの報酬は、事前のドメイン知識を考慮に入れ、トレーニング中により収束し、パフォーマンスを改善し、一般化することで改革される。
さらに、注文の受け渡しにより入札成功率が向上し、P&Lが大幅に上昇する。
本研究では,各手法が全体の性能向上に大きく寄与し,統合手法は元のエージェントに比べて累積的なP&Lの約3倍の改善を実現し,また,効率のよい計算性能を示しながら,最も高いベンチマークポリシーを約50%上回っていることを示す。
関連論文リスト
- Hierarchical Reinforced Trader (HRT): A Bi-Level Approach for Optimizing Stock Selection and Execution [0.9553307596675155]
本稿では,階層強化学習フレームワークを用いた新たなトレーディング戦略である階層強化トレーサ(HRT)を紹介する。
HRTは、戦略的株式選択のためのPPO(Proximal Policy Optimization)ベースのHigh-Level Controller(HLC)をDDPG(Deep Deterministic Policy Gradient)ベースのLow-Level Controller(LLC)と統合する。
論文 参考訳(メタデータ) (2024-10-19T01:29:38Z) - Temporal-Aware Deep Reinforcement Learning for Energy Storage Bidding in
Energy and Contingency Reserve Markets [13.03742132147551]
我々は、深層強化学習(DRL)を利用した新しいBESS共同入札戦略を開発し、そのスポットと同時周波数制御アシラリーサービス市場を入札する。
従来の「ブラックボックス」DRLモデルとは異なり、我々のアプローチはより解釈可能であり、BESSの時間入札行動に関する貴重な洞察を提供する。
論文 参考訳(メタデータ) (2024-02-29T12:41:54Z) - An Auction-based Marketplace for Model Trading in Federated Learning [54.79736037670377]
フェデレートラーニング(FL)は、局所的な分散データを用いたトレーニングモデルにおいて、その効果がますます認識されている。
FLはモデルのマーケットプレースであり、顧客は買い手と売り手の両方として振る舞う。
本稿では,性能向上に基づく適切な価格設定を実現するため,オークションベースのソリューションを提案する。
論文 参考訳(メタデータ) (2024-02-02T07:25:53Z) - IMM: An Imitative Reinforcement Learning Approach with Predictive
Representation Learning for Automatic Market Making [33.23156884634365]
強化学習技術は量的取引において顕著な成功を収めた。
既存のRLベースのマーケットメイキング手法のほとんどは、単価レベルの戦略の最適化に重点を置いている。
Imitative Market Maker (IMM) は、準最適信号に基づく専門家の知識と直接的な政策相互作用の両方を活用する新しいRLフレームワークである。
論文 参考訳(メタデータ) (2023-08-17T11:04:09Z) - Mimicking Better by Matching the Approximate Action Distribution [48.95048003354255]
そこで我々は,Imitation Learning from Observationsのための新しい,サンプル効率の高いオンライン政治アルゴリズムMAADを紹介する。
我々は、専門家のパフォーマンスを達成するためには、かなり少ないインタラクションが必要であり、現在最先端の政治手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-16T12:43:47Z) - Imitate then Transcend: Multi-Agent Optimal Execution with Dual-Window
Denoise PPO [13.05016423016994]
再現性のある強化学習(RL)を用いた最適実行と配置問題の解法を提案する。
提案したフレームワークからトレーニングされたRLエージェントは、実行コストにおいて、業界ベンチマークのTWAP(Time-weighted average price)戦略を一貫して上回った。
論文 参考訳(メタデータ) (2022-06-21T21:25:30Z) - Applications of Reinforcement Learning in Deregulated Power Market: A
Comprehensive Review [7.2090237123481575]
強化学習(Reinforcement Learning)は、従来の最適化ツールと比較して利点のある、新興の機械学習技術である。
本稿では、入札とディスパッチ戦略最適化を含む電力市場の非規制運用におけるRLの適用についてレビューする。
入札やディスパッチ問題に展開する大きな可能性を持つRL手法を推奨し,議論する。
論文 参考訳(メタデータ) (2022-05-07T08:02:25Z) - Deep Q-Learning Market Makers in a Multi-Agent Simulated Stock Market [58.720142291102135]
本稿では,エージェント・ベースの観点から,これらのマーケット・メーカーの戦略に関する研究に焦点をあてる。
模擬株式市場における知的市場マーカー作成のための強化学習(Reinforcement Learning, RL)の適用を提案する。
論文 参考訳(メタデータ) (2021-12-08T14:55:21Z) - Softmax with Regularization: Better Value Estimation in Multi-Agent
Reinforcement Learning [72.28520951105207]
q$-learningの過大評価は、シングルエージェント強化学習で広く研究されている重要な問題である。
ベースラインから逸脱する大きな関節動作値をペナライズする,新たな正規化ベースの更新方式を提案する。
本手法は,StarCraft IIマイクロマネジメントの課題に対して,一貫した性能向上を実現する。
論文 参考訳(メタデータ) (2021-03-22T14:18:39Z) - Towards Fair Knowledge Transfer for Imbalanced Domain Adaptation [61.317911756566126]
本研究では,不均衡なドメイン間学習における公平性問題に対処するTowards Fair Knowledge Transferフレームワークを提案する。
具体的には、新規なクロスドメインミックスアップ生成を利用して、ターゲット情報でマイノリティソースセットを増強し、公正性を高める。
本モデルでは,2つのベンチマークで全体の精度を20%以上向上させる。
論文 参考訳(メタデータ) (2020-10-23T06:29:09Z) - A Deep Reinforcement Learning Framework for Continuous Intraday Market
Bidding [69.37299910149981]
再生可能エネルギー源統合の成功の鍵となる要素は、エネルギー貯蔵の利用である。
欧州の継続的な日内市場におけるエネルギー貯蔵の戦略的関与をモデル化するための新しい枠組みを提案する。
本アルゴリズムの分散バージョンは, サンプル効率のため, この問題を解決するために選択される。
その結果, エージェントは, ベンチマーク戦略よりも平均的収益率の高い政策に収束することが示唆された。
論文 参考訳(メタデータ) (2020-04-13T13:50:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。