論文の概要: Entropy Regularized Reinforcement Learning for Zero-Sum Stochastic Differential Games in a Regime-Switching Jump-Diffusion Process
- arxiv url: http://arxiv.org/abs/2606.28669v1
- Date: Sat, 27 Jun 2026 01:03:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.63688
- Title: Entropy Regularized Reinforcement Learning for Zero-Sum Stochastic Differential Games in a Regime-Switching Jump-Diffusion Process
- Title(参考訳): 周期スイッチングジャンプ拡散過程におけるゼロサム確率微分ゲームのためのエントロピー正規化強化学習
- Abstract要約: 本稿では,行動上の確率分布として最適戦略を特徴付ける分布制御手法を提案する。
エントロピー規則化された微分ゲームのための強化学習フレームワークを形成する。
数値的な例は、最適政策と値に対する温度パラメータと状態遷移の影響を示している。
- 参考スコア(独自算出の注目度): 3.395785516451296
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: To address parameter misspecification and sudden structural environmental changes in conventional stochastic differential game (SDG) frameworks, this paper introduces a distributional control approach that characterizes optimal strategies as probability distributions over actions, conditioned on the continuous state, the discrete regime state, and parameters. This forms a reinforcement learning framework for entropy-regularized zero-sum stochastic differential games (ERRL-ZSSDGs) in a regime-switching jump-diffusion process. Using the dynamic programming principle (DPP), we derive the associated coupled systems of Hamilton-Jacobi-Bellman-Isaacs (HJBI) equations, from which equilibrium strategies are expressed via gradients of the value function. For linear-quadratic problems, semi-analytical solutions for both value function and equilibrium strategies are obtained by solving a system of coupled ordinary differential equations (ODEs). In more general settings, an Actor-Critic policy improvement algorithm is developed to approximate the value functions and equilibrium policies across different regimes. The method is applied to an investment game, and numerical examples illustrate the effect of the temperature parameter and regime transitions on optimal policies and values.
- Abstract(参考訳): 本稿では,従来の確率微分ゲーム(SDG)フレームワークにおけるパラメータの不特定性や突然の構造的環境変化に対処するため,アクション上の確率分布,連続状態,離散状態,パラメータといった最適な戦略を特徴付ける分布制御手法を提案する。
これは、状態スイッチングジャンプ拡散過程におけるエントロピー規則化されたゼロサム確率微分ゲーム(ERRL-ZSSDGs)の強化学習フレームワークを形成する。
動的プログラミング原理(DPP)を用いて、ハミルトン・ヤコビ・ベルマン・イザック方程式(HJBI)の関連する結合系を導出し、そこから平衡戦略を値関数の勾配を通して表現する。
線形二次問題に対して、値関数と平衡戦略の両方に対する半解析解は、結合常微分方程式(ODE)の系を解くことによって得られる。
より一般的な設定では、Actor-Criticポリシー改善アルゴリズムが開発され、異なる状態における値関数と平衡ポリシーを近似する。
本手法は投資ゲームに適用され, 温度パラメータと状態遷移が最適政策と値に与える影響を数値例で示す。
関連論文リスト
- Entropy-Regularized Reinforcement Learning for Linear-Quadratic Stackelberg Differential Games in Regime-Switching Diffusion Models [5.600703864320554]
本稿では,スタックディファレンシャルゲームに対するエントロピー規則化強化学習手法を提案する。
鍵となる革新は、エントロピー正則化を伴う弱結合 HJBI 方程式の導出である。
ニューラルネットワークは、近似状態依存値関数に統合され、高次元偏微分方程式を解く。
論文 参考訳(メタデータ) (2026-06-27T01:17:22Z) - From Noise to Control: Parameterized Diffusion Policies [54.941343992110426]
本研究では,学習行動多様体に埋め込まれた連続パラメータに条件付き拡散ポリシーを学習するためのフレームワークを提案する。
政策重みを更新することなく、既知の戦略間の円滑な距離と、新しい制約への効率的な適応を可能にする。
論文 参考訳(メタデータ) (2026-05-29T20:21:50Z) - Continuous-time reinforcement learning for optimal switching over multiple regimes [5.045537244224327]
本稿では,複数局にわたる最適切換問題に対する連続時間強化学習(RL)について検討する。
ハミルトン・ヤコビ・ベルマン方程式の関連する系を適切に設定し、最適政策の特徴づけを与える。
マルティンゲールの特徴に基づく政策評価を呼び起こして、強化学習アルゴリズムを考案し、実装する。
論文 参考訳(メタデータ) (2025-12-04T11:48:07Z) - On the Noisy Road to Open Quantum Dynamics: The Place of Stochastic Hamiltonians [0.0]
進化はオープン量子系の力学へのいくつかのアプローチを支える。
定式化において、オープンシステム問題は、結合されたシステム環境から効果的なシステムのみの記述に還元される。
論文 参考訳(メタデータ) (2025-10-11T09:40:29Z) - Stabilization of jump-diffusion stochastic differential equations by hysteresis switching [1.864621482724548]
ジャンプ拡散微分方程式によってモデル化された古典系と量子系の安定化に対処する。
我々の手法は、局所的なリャプノフのような条件と、大域的あるいは指数的安定性を達成するための状態依存スイッチングを用いる。
論文 参考訳(メタデータ) (2025-07-21T02:24:00Z) - Solving wave equation problems on D-Wave quantum annealers [44.99833362998488]
擬似スペクトルスキーム内のD-Wave系によって提供される量子アニールを用いて,数次元ヘルムホルツ方程式を解く。
我々は,代数的引数と断熱条件に基づいて,異なる符号化手法の性能を評価する。
論文 参考訳(メタデータ) (2025-07-18T08:06:43Z) - On the Design of KL-Regularized Policy Gradient Algorithms for LLM Reasoning [59.11784194183928]
政策勾配アルゴリズムは大規模言語モデル(LLM)の推論能力の向上に成功している。
規則化されたポリシーグラディエント(RPG)ビューは、広く使われている$k_3$ペナルティが、正確には非正規化されたKLであることを示している。
RPG-REINFORCE with RPG-Style Clipは、DAPOよりも最大6ドル以上の絶対パーセンテージポイントの精度を向上させる。
論文 参考訳(メタデータ) (2025-05-23T06:01:21Z) - Learning Controlled Stochastic Differential Equations [61.82896036131116]
本研究では,非一様拡散を伴う連続多次元非線形微分方程式のドリフト係数と拡散係数の両方を推定する新しい手法を提案する。
我々は、(L2)、(Linfty)の有限サンプル境界や、係数の正則性に適応する学習率を持つリスクメトリクスを含む、強力な理論的保証を提供する。
当社のメソッドはオープンソースPythonライブラリとして利用可能です。
論文 参考訳(メタデータ) (2024-11-04T11:09:58Z) - Stochastic Q-learning for Large Discrete Action Spaces [79.1700188160944]
離散的な行動空間を持つ複雑な環境では、強化学習(RL)において効果的な意思決定が重要である
我々は、$n$アクションの集合全体を最適化するのとは対照的に、おそらく$mathcalO(log(n)$)$のような変数の集合のみを考える。
提示された値ベースのRL手法には、Q-learning、StochDQN、StochDDQNなどが含まれる。
論文 参考訳(メタデータ) (2024-05-16T17:58:44Z) - Ensemble Kalman Filtering Meets Gaussian Process SSM for Non-Mean-Field and Online Inference [47.460898983429374]
我々は,非平均場(NMF)変動推定フレームワークにアンサンブルカルマンフィルタ(EnKF)を導入し,潜在状態の後方分布を近似する。
EnKFとGPSSMのこの新しい結婚は、変分分布の学習における広範なパラメータ化の必要性をなくすだけでなく、エビデンスの下限(ELBO)の解釈可能でクローズドな近似を可能にする。
得られたEnKF支援オンラインアルゴリズムは、データ適合精度を確保しつつ、モデル正規化を組み込んで過度適合を緩和し、目的関数を具現化する。
論文 参考訳(メタデータ) (2023-12-10T15:22:30Z) - Machine learning in and out of equilibrium [58.88325379746631]
我々の研究は、統計物理学から適応したフォッカー・プランク法を用いて、これらの平行線を探索する。
我々は特に、従来のSGDでは平衡が切れている長期的限界におけるシステムの定常状態に焦点を当てる。
本稿では,ミニバッチの置き換えを伴わない新しいランゲヴィンダイナミクス(SGLD)を提案する。
論文 参考訳(メタデータ) (2023-06-06T09:12:49Z) - Structure-Preserving Learning Using Gaussian Processes and Variational
Integrators [62.31425348954686]
本稿では,機械系の古典力学に対する変分積分器と,ガウス過程の回帰による残留力学の学習の組み合わせを提案する。
我々は、既知のキネマティック制約を持つシステムへのアプローチを拡張し、予測の不確実性に関する公式な境界を提供する。
論文 参考訳(メタデータ) (2021-12-10T11:09:29Z) - Implicit Distributional Reinforcement Learning [61.166030238490634]
2つのディープジェネレータネットワーク(DGN)上に構築された暗黙の分布型アクター批判(IDAC)
半単純アクター (SIA) は、フレキシブルなポリシー分布を利用する。
我々は,代表的OpenAI Gym環境において,IDACが最先端のアルゴリズムより優れていることを観察する。
論文 参考訳(メタデータ) (2020-07-13T02:52:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。