論文の概要: Decentralized Bandit Learning of Markov Perfect Equilibria
- arxiv url: http://arxiv.org/abs/2610.14333v1
- Date: Fri, 09 Oct 2026 21:19:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 22:05:11.80742
- Title: Decentralized Bandit Learning of Markov Perfect Equilibria
- Title(参考訳): マルコフ完全平衡の分散帯域学習
- Abstract要約: 連続動作を伴う無限水平一般マルコフゲームにおける帯域学習について検討する。
完全分散過程が定常完全平衡にほぼ確実に収束することを証明する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We study decentralized bandit learning in discounted infinite-horizon, general-sum Markov games with continuous actions. Agents observe the public state, but only their own realized rewards, and use simultaneous perturbation stochastic approximation to update their actions. Under strong monotonicity of the negative running-reward gradients and sufficiently small time steps, we prove that the fully decentralized procedure converges almost surely to the unique stationary Markov perfect equilibrium. We obtain an $O(n^{-1/2})$ convergence rate and present a natural extension to episodic finite-horizon learning.
- Abstract(参考訳): 連続動作を伴う無限水平一般マルコフゲームにおける分散帯域学習について検討した。
エージェントは公共の状態を観察するが、彼ら自身の報酬のみを達成し、同時に摂動確率近似を用いて行動の更新を行う。
負のランニング・リワード勾配の強い単調性と十分に小さな時間ステップの下で、完全に分散された手順が、一意な定常マルコフ完全平衡にほぼ確実に収束することを証明した。
我々は$O(n^{-1/2})$収束率を求め、エピソード有限水平学習への自然な拡張を示す。
関連論文リスト
- High-Probability Nash Regret for Decentralized Learning in Markov $α$-Potential Games: Episodic and Fully Online Asynchronous Algorithms with Applications to Markov Congestion Games [2.6397379133308214]
我々は,Markov$$-potentialゲームにおけるNash equilibria(NE)の分散学習について,帯域フィードバック下で検討した。
我々は,KL計画の自然政策勾配(NPG)アルゴリズムを,サンプリング中のフリーズポリシを備えたエピソード設定と,プレイヤーがタイムステップ毎に1つの実効的なコストサンプルを受信する完全オンライン設定の2つの設定で開発する。
論文 参考訳(メタデータ) (2026-09-14T03:06:51Z) - Optimistic Policy Gradient in Multi-Player Markov Games with a Single
Controller: Convergence Beyond the Minty Property [89.96815099996132]
単一コントローラを用いたマルチプレイヤーゲームにおいて,楽観的なポリシー勾配手法を特徴付ける新しいフレームワークを開発した。
我々のアプローチは、我々が導入する古典的なミニティの自然一般化に依存しており、マルコフゲームを超えてさらなる応用が期待できる。
論文 参考訳(メタデータ) (2023-12-19T11:34:10Z) - Learning in Zero-Sum Markov Games: Relaxing Strong Reachability and Mixing Time Assumptions [11.793922711718645]
無限水平ゼロサムマルコフゲームにおけるペイオフに基づく分散学習に対処する。
この設定では、各プレイヤーは、相手の戦略や行動を観察したり情報を共有したりすることなく、受信した報酬のみに基づいて決定を行う。
Tsallisエントロピー正規化器によって誘導される値とポリシーの更新の新たな性質を確立することにより、近似ナッシュ平衡への有限時間収束を証明できる。
論文 参考訳(メタデータ) (2023-12-13T09:31:30Z) - A Black-box Approach for Non-stationary Multi-agent Reinforcement Learning [53.83345471268163]
非定常マルチエージェントシステムにおける平衡の学習について検討する。
単エージェント学習へのブラックボックス還元による様々な平衡の検証方法を示す。
論文 参考訳(メタデータ) (2023-06-12T23:48:24Z) - Regret Minimization and Convergence to Equilibria in General-sum Markov Games [61.6869963435955]
汎用マルコフゲームにおいて,全てのエージェントが実行した場合のサブ線形後悔保証を提供する学習アルゴリズムを初めて提示する。
我々のアルゴリズムは分散化され、計算効率が良く、エージェント間の通信は不要である。
論文 参考訳(メタデータ) (2022-07-28T16:27:59Z) - On the Convergence of Stochastic Extragradient for Bilinear Games with
Restarted Iteration Averaging [96.13485146617322]
本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。
平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
論文 参考訳(メタデータ) (2021-06-30T17:51:36Z) - Sample-Efficient Learning of Stackelberg Equilibria in General-Sum Games [78.65798135008419]
一般的なゲームでStackelberg平衡を効率的に学習する方法は、サンプルから非常にオープンなままです。
本稿では,2プレーヤターンベース汎用ゲームにおけるStackelberg平衡のサンプル効率学習に関する理論的研究を開始する。
論文 参考訳(メタデータ) (2021-02-23T05:11:07Z) - Last-iterate Convergence of Decentralized Optimistic Gradient
Descent/Ascent in Infinite-horizon Competitive Markov Games [37.70703888365849]
無限水平割引2プレイヤーゼロサムマルコフゲームについて検討する。
我々は,自己再生下でのナッシュ均衡に収束する分散アルゴリズムを開発した。
論文 参考訳(メタデータ) (2021-02-08T21:45:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。