論文の概要: Offline Reinforcement Learning for Wind Farm Control: A Wind Tunnel Study under Dynamic Wind Directions
- arxiv url: http://arxiv.org/abs/2609.12905v1
- Date: Fri, 11 Sep 2026 14:31:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-15 07:38:31.778796
- Title: Offline Reinforcement Learning for Wind Farm Control: A Wind Tunnel Study under Dynamic Wind Directions
- Title(参考訳): 風力発電制御のためのオフライン強化学習:動的風向下における風洞実験
- Abstract要約: MTD3-BCはオフライン強化学習アルゴリズムであり、事前コンパイルされたオフラインデータセットのみから良い振る舞いを推測することを目的としている。
風洞実験を行い,風向の異なるアルゴリズムの有効性を検証した。
その結果,MTD3-BCは覚醒効果の軽減に成功し,農場レベルの電力利得は約10%であった。
- 参考スコア(独自算出の注目度): 3.45814745680214
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper addresses the wind farm power maximization problem in the presence of wind direction changes. Specifically, a model-free Modified Twin Delayed Deep Deterministic Policy Gradient with Behavior Cloning (MTD3-BC) algorithm is proposed to tackle this task through yaw control under varying wind direction conditions. MTD3-BC is an offline reinforcement learning (RL) algorithm that aims to infer good behavior from only a precollected offline dataset. Additionally, to ensure smooth and moderate yaw adjustments, a new action consistency term is introduced into the policy optimization objective. Unlike online RL methods, MTD3-BC does not require extensive interactions with a wind farm simulator during training, significantly reducing computational costs and training time. A wind tunnel experiment is conducted to validate the effectiveness of the algorithm under varying wind directions. The results demonstrate that MTD3-BC successfully mitigates wake effects, delivering farm-level power gains of approximately 10\% over the baseline greedy strategy and performance on par with a data-calibrated model-based wake-steering benchmark, while requiring no wake model and only a small fraction of the training cost of online RL. To our knowledge, this is the first time an offline RL wind farm control policy has been validated and demonstrated experimentally.
- Abstract(参考訳): 本稿では,風向変化が存在する場合の風力発電電力最大化問題に対処する。
具体的には, 風向変化条件下でのヨー制御により, この課題に対処するために, MTD3-BCアルゴリズムを用いたモデルフリーな2つの遅延型Deep Deterministic Policy Gradientを提案する。
MTD3-BCはオフライン強化学習(RL)アルゴリズムである。
また、スムーズかつ適度なヨー調整を確保するため、政策最適化目標に新たな行動整合項を導入する。
オンラインRL法とは異なり、MTD3-BCは訓練中に風力発電シミュレーターと広範囲に対話する必要がなく、計算コストと訓練時間を著しく削減する。
風洞実験を行い,風向の異なるアルゴリズムの有効性を検証した。
その結果、MTD3-BCはウェイク効果の軽減に成功し、ベースラインのグリード戦略よりも約10倍の農場レベルのパワーゲインと、データキャリブレーションモデルに基づくウェイクステアリングベンチマークと同等の性能を実現し、ウェイクモデルは不要であり、オンラインRLのトレーニングコストのごく一部しか必要としないことがわかった。
我々の知る限り、オフラインのRL風力発電制御ポリシーが実証され、実験的に実証されたのはこれが初めてである。
関連論文リスト
- Wind-Aware Optimal Trajectory Planning for Efficient Gliding of Fixed-Wing Aerial Systems [7.0414059106180025]
グライディングは小型の固定翼UAVとサイレント操作を提供する。
従来のトータル・エナジー・コントロール・システム(Total Energy Control Systems)ベースのコントローラは、電位と運動エネルギーの交換を反応的に制御する。
小型UAVグライダーのための非線形多コスト軌道プランナを提案する。
論文 参考訳(メタデータ) (2026-05-15T05:01:09Z) - Control of a Twin Rotor using Twin Delayed Deep Deterministic Policy Gradient (TD3) [0.0]
本稿では,Twin Rotor Aerodynamic System (TRAS) の安定化のための強化学習フレームワークを提案する。
TRASの複雑な力学と非線形特性は、従来の制御アルゴリズムによる制御を困難にしている。
実世界の応用における制御器の有効性を確認するため,実験室で実験を行った。
論文 参考訳(メタデータ) (2025-12-15T14:10:04Z) - Physics-informed Neural-operator Predictive Control for Drag Reduction in Turbulent Flows [109.99020160824553]
乱流のモデリングと制御のための効率的な深部強化学習フレームワークを提案する。
予測制御(PC)のためのモデルベースRLであり、乱流制御のためのポリシとオブザーバモデルの両方を共同で学習する。
その結果, PINO-PCは, バルク速度レイノルズ数15,000で39.0%の抗力低下を達成し, 従来の流体制御法を32%以上上回った。
論文 参考訳(メタデータ) (2025-10-03T00:18:26Z) - Reinforcement Learning with Action Chunking [56.66655947239018]
本稿では,長時間のスパース・リワード作業における強化学習アルゴリズムの改良手法であるQ-chunkingを提案する。
我々のレシピはオフラインからオンラインまでのRL設定のために設計されており、オンライン学習のサンプル効率を最大化するためにオフライン前のデータセットを活用することが目的である。
実験の結果,Q-chunkingはオフライン性能とオンラインサンプル効率が優れており,長時間のスパース・リワード操作タスクにおいて,最良オフライン-オンライン手法よりも優れていた。
論文 参考訳(メタデータ) (2025-07-10T17:48:03Z) - How to craft a deep reinforcement learning policy for wind farm flow control [3.9614347845645383]
タービン間のウェイク効果は、風力発電所全体のエネルギー生産を著しく減少させる。
既存の機械学習アプローチは、準静的な風条件や小さな風力発電に限られている。
本研究は、ウェイクステアリングポリシーを開発するための、新しい深層強化学習手法を提案する。
論文 参考訳(メタデータ) (2025-06-06T16:07:05Z) - Control of Rayleigh-Bénard Convection: Effectiveness of Reinforcement Learning in the Turbulent Regime [6.619254876970774]
乱流下での対流熱伝達低減のための強化学習(RL)の有効性について検討した。
単エージェントプロキシポリシー最適化(PPO)によって訓練されたRLエージェントは、線形比例微分(PD)コントローラと比較される。
RL剤は、ヌッセルト数によって測定された対流を、適度な乱流系では最大33%減らし、高乱流環境では10%減らした。
論文 参考訳(メタデータ) (2025-04-16T11:51:59Z) - Hybrid Reinforcement Learning for Optimizing Pump Sustainability in
Real-World Water Distribution Networks [55.591662978280894]
本稿では,実世界の配水ネットワーク(WDN)のリアルタイム制御を強化するために,ポンプスケジューリング最適化問題に対処する。
我々の主な目的は、エネルギー消費と運用コストを削減しつつ、物理的な運用上の制約を遵守することである。
進化に基づくアルゴリズムや遺伝的アルゴリズムのような伝統的な最適化手法は、収束保証の欠如によってしばしば不足する。
論文 参考訳(メタデータ) (2023-10-13T21:26:16Z) - DATT: Deep Adaptive Trajectory Tracking for Quadrotor Control [62.24301794794304]
Deep Adaptive Trajectory Tracking (DATT)は、学習に基づくアプローチであり、現実世界の大きな乱れの存在下で、任意の、潜在的に実現不可能な軌跡を正確に追跡することができる。
DATTは、非定常風場における可溶性および非実用性の両方の軌道に対して、競争適応性非線形およびモデル予測コントローラを著しく上回っている。
適応非線形モデル予測制御ベースラインの1/4未満である3.2ms未満の推論時間で、効率的にオンラインで実行することができる。
論文 参考訳(メタデータ) (2023-10-13T12:22:31Z) - Boosting Offline Reinforcement Learning via Data Rebalancing [104.3767045977716]
オフライン強化学習(RL)は、学習ポリシーとデータセットの分散シフトによって問題となる。
本稿では,データセットの再サンプリングが分散サポートを一定に保っているという観察に基づいて,オフラインRLアルゴリズムをシンプルかつ効果的に向上させる手法を提案する。
ReD(Return-based Data Re Balance)メソッドをダブします。これは10行未満のコード変更で実装でき、無視できる実行時間を追加します。
論文 参考訳(メタデータ) (2022-10-17T16:34:01Z) - Neural-Fly Enables Rapid Learning for Agile Flight in Strong Winds [96.74836678572582]
本稿では,ディープラーニングを通じて事前学習した表現を組み込むことで,オンラインでの迅速な適応を可能にする学習ベースのアプローチを提案する。
Neural-Flyは、最先端の非線形かつ適応的なコントローラよりもかなり少ないトラッキングエラーで正確な飛行制御を実現する。
論文 参考訳(メタデータ) (2022-05-13T21:55:28Z) - Meta-Learning-Based Robust Adaptive Flight Control Under Uncertain Wind
Conditions [13.00214468719929]
リアルタイムモデル学習は、さまざまな風条件で飛行するドローンなどの複雑なダイナミクスシステムにとって困難です。
本稿では,ディープニューラルネットワークからの出力を基本関数の集合として扱うオンライン複合適応手法を提案する。
我々は,風条件の異なる空洞でドローンを飛ばし,挑戦的な軌道を飛行させることにより,我々のアプローチを検証する。
論文 参考訳(メタデータ) (2021-03-02T18:43:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。