論文の概要: Reinforcement Learning and Rule-Based Peer-to-Peer Pricing in Residential PV-BES Communities
- arxiv url: http://arxiv.org/abs/2609.01680v1
- Date: Tue, 01 Sep 2026 12:32:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-03 17:53:17.66371
- Title: Reinforcement Learning and Rule-Based Peer-to-Peer Pricing in Residential PV-BES Communities
- Title(参考訳): 住宅用PV-BESコミュニティにおける強化学習とルールベースピアツーピア価格
- Abstract要約: 本稿では,P2P電力取引におけるルールベースと学習ベースの価格設定機構を比較した。
その結果,2家族を比較した場合でも,ルールベースの価格設定は競争力が高いことが示唆された。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: This paper compares rule-based and learning-based pricing mechanisms for peer-to-peer (P2P) electricity trading in residential photovoltaic communities. The rule-based benchmarks comprise bill-sharing as an ex post allocation mechanism, the mid-market rate, and supply-demand-ratio pricing. The reinforcement-learning (RL) formulation is implemented through a Deep Q-Network and evaluated under multiplier-based and learnable SDR-shaped pricing, with a fixed-parameter SDR variant as a non-learning control. Performance is assessed through community savings together with complementary financial and operational indicators. In the base PV-only configuration, the rule-based benchmarks outperform the best RL policy. With battery energy storage, evaluated for the RL policies only, community savings under the best RL policy increase from EUR 734.23 to EUR 978.52. Across the learning-based modes and in both configurations, SDR-shaped pricing outperforms the multiplier-based parameterization considered. The results indicate that rule-based pricing remains highly competitive wherever the two families are compared directly, and that storage substantially improves the learning-based outcomes under this accounting, while the distribution of benefits remains heterogeneous across households.
- Abstract(参考訳): 本稿では,P2P(P2P)電力取引におけるルールベースと学習ベースの価格設定機構を比較した。
ルールベースのベンチマークは、公開ポスト割り当てメカニズム、中間市場レート、サプライ需要比率の価格として、ビルシェアリングで構成されている。
強化学習(RL)の定式化は、Deep Q-Networkを通じて実施され、マルチプライヤベースで学習可能なSDR型価格で評価され、固定パラメータSDRが非学習制御として使用される。
パフォーマンスはコミュニティの貯蓄を通じて評価され、補完的な財務・運営指標と共に評価される。
PVのみの設定では、ルールベースのベンチマークは最高のRLポリシーよりも優れています。
バッテリーの蓄電池は、RL政策のみの評価により、EUR 734.23 から EUR 978.52 に最高の RL 政策の下での貯蓄が増加した。
学習ベースのモードと両方の構成において、SDR型の価格設定は乗算器ベースのパラメータ化よりも優れている。
その結果,2つの家族を直接比較した場合,ルールベースの価格設定は競争力が高いままであり,また,この会計条件下での学習結果の蓄積は著しく改善され,一方,世帯間での利益の分配は相変わらず不均一であることがわかった。
関連論文リスト
- Ratio-Variance Regularized Policy Optimization [64.95520246570446]
ポリシ比の分散を明示的に制約することは、信頼領域の制約に対する原則的な局所近似をもたらすことを示す。
本稿では,この制約を実装したR2bf VPO$(Ratio-Variance Regularized Policy Optimization)を紹介する。
論文 参考訳(メタデータ) (2026-05-26T09:53:42Z) - DeepSeekMath Meets Order Book: Group-Aware Policy Optimization for High-Frequency Directional Trading [0.0]
本稿では,規則フローに基づく状態モデルと政策段階の手法を組み合わせて,制限順序書の高周波トレーディングのための強化学習について検討する。
当社のアプローチでは,グループ正規化とダウンサイド対応のシェーピングを併用した,vanilla PPOやDeepSeekMathにインスパイアされたGRPOやGSPOなど,ポリシベースのRLをデプロイする。
その結果,(1) 順序流信号はポリシー更新に適した状態であり,(2) グループ対応のPPOサロゲートは値ベースのベースラインよりも望ましいことがわかった。
論文 参考訳(メタデータ) (2026-05-25T07:33:56Z) - gym-invmgmt: An Open Benchmarking Framework for Inventory Management Methods [1.0799969476894555]
Gym-invmgmtは、監査可能なクロスパラダイム評価のためのOR-Gymインベントリ管理系統の拡張である。
Gymnasium互換のOR-Gymインベントリ管理系統であるGimmom-invmgmtを聴覚的クロスパラダイム評価のために提案する。
論文 参考訳(メタデータ) (2026-05-12T00:22:15Z) - Your Language Model is Its Own Critic: Reinforcement Learning with Value Estimation from Actor's Internal States [14.658333957936769]
内部状態価値推定による政策最適化を導入する。
ポリシーフォワードパス中に既に計算されているポリシーモデルの内部信号を用いて、無視可能なコストでベースラインを得る。
軽量プローブは、プロンプトおよび生成された軌道の隠れ状態から期待される検証可能な報酬を予測する。
論文 参考訳(メタデータ) (2026-05-08T10:49:36Z) - EVPO: Explained Variance Policy Optimization for Adaptive Critic Utilization in LLM Post-Training [69.32453275232662]
学習した評論家は、利点のばらつきを減らさずに、取得した状態信号を超える推定ノイズを注入できることを示す。
本稿では,各トレーニングステップでバッチレベルのEVを監視し,批判ベースとバッチ平均の利点推定を適応的に切り替えるEVPOを提案する。
論文 参考訳(メタデータ) (2026-04-21T14:07:39Z) - Unbiased Dynamic Pruning for Efficient Group-Based Policy Optimization [60.87651283510059]
Group Relative Policy Optimization (GRPO) はLLM推論を効果的にスケールするが、計算コストは禁じている。
本研究では,非バイアス勾配推定を保ちながら動的プルーニングを可能にする動的プルーニングポリシー最適化(DPPO)を提案する。
刈り込みによって引き起こされるデータの空間性を軽減するため,ウィンドウベースの欲求戦略であるDense Prompt Packingを導入する。
論文 参考訳(メタデータ) (2026-03-04T14:48:53Z) - Rethinking the Trust Region in LLM Reinforcement Learning [72.25890308541334]
PPO(Proximal Policy Optimization)は、大規模言語モデル(LLM)のデファクト標準アルゴリズムとして機能する。
より原則的な制約でクリッピングを代用する多変量確率ポリシー最適化(DPPO)を提案する。
DPPOは既存の方法よりも優れたトレーニングと効率を実現し、RLベースの微調整のためのより堅牢な基盤を提供する。
論文 参考訳(メタデータ) (2026-02-04T18:59:04Z) - ECHO-2: A Large-Scale Distributed Rollout Framework for Cost-Efficient Reinforcement Learning [12.981638650752926]
強化学習(Reinforcement Learning, RL)は、学習後の大規模言語モデル(LLM)において重要な段階である。
本稿では,遠隔推論作業者と非無視の拡散遅延を用いた後学習のための分散RLフレームワークECHO-2を提案する。
ECHO-2は、強力なベースラインに匹敵するRL報酬を維持しながら、コスト効率を大幅に改善する。
論文 参考訳(メタデータ) (2026-02-02T14:57:53Z) - Scalable Fairness Shaping with LLM-Guided Multi-Agent Reinforcement Learning for Peer-to-Peer Electricity Markets [3.7321070110102075]
ピアツーピア(P2P)エネルギー取引は現代の流通システムの中心となっている。
フェアネスを考慮したマルチエージェント強化学習フレームワークであるFairMarket-RLを提案する。
この枠組みは、取引所を地元のP2P取引にシフトさせ、グリッドのみの調達に対する消費者コストを下げ、参加者間の強い公正性を維持し、実用性を維持する。
論文 参考訳(メタデータ) (2025-08-26T02:25:17Z) - Accelerating RL for LLM Reasoning with Optimal Advantage Regression [52.0792918455501]
本稿では,最適優位関数を直接近似する新しい2段階ポリシー最適化フレームワークを提案する。
A$*-POは、幅広い数学的推論ベンチマークで競合性能を達成する。
PPO、GRPO、REBELと比較して、トレーニング時間を最大2$times$、ピークメモリ使用率を30%以上削減する。
論文 参考訳(メタデータ) (2025-05-27T03:58:50Z) - Not All Rollouts are Useful: Down-Sampling Rollouts in LLM Reinforcement Learning [55.15106182268834]
検証可能な報奨付き強化学習(RLVR)が,大規模言語モデルにおける推論能力向上のための主要なアプローチとして登場した。
ロールアウト生成は恥ずかしく並列であり、メモリライトであるのに対して、ポリシー更新は通信量が多く、メモリ集約的である。
PODS(Policy Optimization with Down-Sampling)を導入し、戦略的に選択されたロールアウトサブセットでのみトレーニングすることで、ポリシー更新からロールアウト生成を分離する。
論文 参考訳(メタデータ) (2025-04-18T17:49:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。