論文の概要: RL-PaO: Prediction as Action in Decision Making under Uncertainty
- arxiv url: http://arxiv.org/abs/2609.37065v1
- Date: Tue, 29 Sep 2026 09:03:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.350642
- Title: RL-PaO: Prediction as Action in Decision Making under Uncertainty
- Title(参考訳): RL-PaO:不確実性下における意思決定における行動としての予測
- Abstract要約: 本稿では,システム定式化,最適化,決定実行をひとつの環境に統合する強化学習フレームワークRL-PaOを紹介する。
試験年度では、RL-PaOは非軌道ベースラインの中で最低の年間コストを達成し、平均で10%のコスト削減を実現している。
- 参考スコア(独自算出の注目度): 8.75126713007577
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Decision-making under uncertainty often relies on predicted parameters, yet accurate prediction does not necessarily lead to good operational decisions. Aligning prediction with downstream optimization requires learning from the consequences of the decisions those predictions induce. We introduce RL-PaO, a reinforcement learning framework that integrates system formulation, optimization, and decision execution into a single environment. This yields a Markov decision process in which prediction is regarded as action: it shifts the environment to produce subsequent context and reward that explicitly aligns prediction error with realized cost, and learning the optimal policy does not require differentiating through the black-box solver. We evaluate RL-PaO on day-ahead energy scheduling using real historical data. On the test year, RL-PaO achieves the lowest annual cost among the non-oracle baselines, achieving on average $10\%$ cost reduction. Moreover, RL-PaO is capable of further analyses to provide strong interpretability both from the policy evolution perspective and the cost-accuracy trade-off.
- Abstract(参考訳): 不確実性の下での意思決定は予測されたパラメータに依存することが多いが、正確な予測は必ずしも良好な運用上の決定につながるとは限らない。
下流の最適化で予測を調整するには、これらの予測が引き起こす決定の結果から学ぶ必要がある。
本稿では,システム定式化,最適化,決定実行をひとつの環境に統合する強化学習フレームワークRL-PaOを紹介する。
これは、予測を行動と見なすマルコフ決定プロセスをもたらし、環境を次の文脈にシフトさせ、予測エラーを実現されたコストと明示的に整合させる報酬を与える。
実履歴データを用いた日頭エネルギースケジューリングにおけるRL-PaOの評価を行った。
試験年度では、RL-PaOは非軌道ベースラインの中で最低の年間コストを達成し、平均10\%のコスト削減を達成している。
さらに、RL-PaOは、政策進化の観点とコスト-精度のトレードオフの両方から、より強力な解釈可能性を提供するために、さらなる分析を行うことができる。
関連論文リスト
- Deadline-Aware Online Scheduling for LLM Fine-Tuning with Spot Market Predictions [11.849924812127371]
コスト効率のよいスケジューリングを可能にするための予測のパワーと、推定誤差に対する感度を示す。
本稿では,コミット型水平方向制御手法に基づくオンラインアロケーションアルゴリズムを提案する。
両アルゴリズムのパラメータを変動させて構築したプールから最良のポリシーを学習するオンラインポリシー選択アルゴリズムを開発した。
論文 参考訳(メタデータ) (2025-12-24T05:47:27Z) - Estimating Covariance for Global Minimum Variance Portfolio: A Decision-Focused Learning Approach [27.791742749950203]
決定中心学習(DFL)は、予測誤差ではなく、決定品質を直接最適化する手法である。
DFLに基づく手法は、常に優れた意思決定性能を提供することを示す。
論文 参考訳(メタデータ) (2025-08-14T16:00:52Z) - Toward Decision-Oriented Prognostics: An Integrated Estimate-Optimize Framework for Predictive Maintenance [1.904851064759821]
本稿では,センサ駆動型診断が経済的なトレードオフの下で意思決定を通知するPdMフレームワークを提案する。
まず,従来の推定値最適化(ETO)フレームワークでは,確率的予測の誤差が不整合および準最適保守決定をもたらすことを実証した。
本稿では,予測モデルを協調的に調整し,メンテナンス結果を直接最適化する統合的推定最適化(IEO)フレームワークを提案する。
論文 参考訳(メタデータ) (2025-06-24T15:10:15Z) - AlphaDPO: Adaptive Reward Margin for Direct Preference Optimization [45.46582930202524]
$alpha$-DPOは、大規模言語モデルの適応的優先最適化アルゴリズムである。
ポリシーモデルと参照モデルのバランスを取り、パーソナライズされた報酬マージンを達成する。
さまざまなモデル設定でDPOとSimPOを一貫して上回ります。
論文 参考訳(メタデータ) (2024-10-14T04:29:57Z) - Model-Based Epistemic Variance of Values for Risk-Aware Policy Optimization [59.758009422067]
モデルベース強化学習における累積報酬に対する不確実性を定量化する問題を考察する。
我々は、解が値の真後分散に収束する新しい不確実性ベルマン方程式(UBE)を提案する。
本稿では,リスク・サーキングとリスク・アバース・ポリシー最適化のいずれにも適用可能な汎用ポリシー最適化アルゴリズムQ-Uncertainty Soft Actor-Critic (QU-SAC)を導入する。
論文 参考訳(メタデータ) (2023-12-07T15:55:58Z) - Combining predictive distributions of electricity prices: Does
minimizing the CRPS lead to optimal decisions in day-ahead bidding? [0.0]
本研究では,新しい重み付け手法であるCRPS学習を用いることで,日頭入札における最適決定が導かれるかどうかを検討する。
アンサンブルの多様性の増大は精度に肯定的な影響を与える可能性がある。
分布の等重集約と比較してCRPS学習を使用する場合の計算コストは、高い利益によって相殺されない。
論文 参考訳(メタデータ) (2023-08-29T17:10:38Z) - Electricity Price Prediction for Energy Storage System Arbitrage: A
Decision-focused Approach [4.992622806418143]
電力価格予測はエネルギー貯蔵システム(ESS)管理において重要な役割を担っている。
現在の予測モデルは、予測エラーを減らすことに重点を置いているが、下流の意思決定への影響を見落としている。
本稿では,下流最適化モデルから予測モデルへのギャップを埋めるため,ESS調停のための意思決定型電力価格予測手法を提案する。
論文 参考訳(メタデータ) (2023-04-30T00:43:26Z) - Provably Good Batch Reinforcement Learning Without Great Exploration [51.51462608429621]
バッチ強化学習(RL)は、RLアルゴリズムを多くの高利得タスクに適用するために重要である。
最近のアルゴリズムは将来性を示しているが、期待された結果に対して過度に楽観的である。
より保守的な更新を行うため、ベルマンの最適性と評価のバックアップに小さな修正を加えることで、はるかに強力な保証が得られることを示す。
論文 参考訳(メタデータ) (2020-07-16T09:25:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。