論文の概要: Optimistic Hedge in General-Sum Games: Fundamental Limits and Regret Bounds via Temporal Approximation
- arxiv url: http://arxiv.org/abs/2611.07078v1
- Date: Wed, 04 Nov 2026 19:34:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.440112
- Title: Optimistic Hedge in General-Sum Games: Fundamental Limits and Regret Bounds via Temporal Approximation
- Title(参考訳): 一般サムゲームにおける最適ヘッジ:時間近似による基本限界とレグレト境界
- Abstract要約: 有限一般サムゲームでは、各プレイヤーの後悔は地平線上の多元対数的(polylogarithmic)である。
2人のプレイヤーのゲームでは、オプティスティック・ヘッジが水平線から独立して$O(nlog n)$後悔することを保証する学習レートが存在する。
しかし、3人プレイのゲームでは、そのような制限はあり得ない。
- 参考スコア(独自算出の注目度): 26.326025099480262
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Optimistic Hedge, a multiplicative weight update with one step of extrapolation, is one of the most natural regret-minimizing dynamics for games, and characterizing its regret has been a longstanding open question. Daskalakis, Fishelson and Golowich proved that if all $m$ players in a finite general-sum game follow Optimistic Hedge with a fixed learning rate, each player's regret is polylogarithmic in the horizon $T$. Subsequently, Ha showed that an appropriate choice of learning rate makes each player's regret bounded independently of $T$. This bound, however, is non-constructive and its dependence on the number of actions $n$ is not explicit, leaving open whether Optimistic Hedge can achieve a constant regret bound which is polynomial in the size of the game. We show that the answer hinges on the number of players. In two-player games, there is a learning rate for which Optimistic Hedge guarantees $O(n\log n)$ regret independent of the horizon. In three-player games, however, no such bound is possible: for any learning rate up to an absolute constant and for sufficiently large horizon $T$, there is a game with $n$ actions per player in which some player's regret is $2^{Ω(n)}$, and more generally, for every $m\ge3$ we construct $m$-player games in which some player's regret is $2^{Ω(mn)}$; for learning rates above $2^{-Ω(mn)}$, that player's regret even grows linearly in $T$. Our upper bound is based on a temporal approximation framework for the analysis of Optimistic Hedge. Starting from the variance-based RVU bound of Daskalakis et al., we approximate the losses over time-localized windows by well-behaved functions, whose total variation is a small fraction of their cumulative variance. In $m$-player games, the same framework gives a significantly simplified proof of the recent $O(\sqrt{m}\log n\log T)$ regret bound due to Ha.
- Abstract(参考訳): Optimistic Hedge(オプティスティック・ヘッジ)は、外挿の一段階を加味した乗法的ウェイトアップデートであり、ゲームにとって最も自然な後悔を最小化するダイナミクスの1つである。
Daskalakis, Fishelson, Golowich は、有限の一般サムゲームにおけるすべての$m$プレーヤーがオプティスティック・ヘッジに一定の学習率で従えば、各プレイヤーの後悔は地平線上の多元対数であることを示した。
その後、ハは学習率の適切な選択により、各プレイヤーの後悔は$T$とは無関係に束縛されることを示した。
しかし、この境界は非構成的であり、作用数への依存$n$は明示的ではなく、楽観的ヘッジがゲームの大きさの多項式である定数な後悔境界を達成できるかどうかを問わない。
解答は選手数に左右される。
2人のプレイヤーのゲームでは、楽観的ヘッジが水平線から独立して$O(n\log n)$後悔することを保証する学習レートが存在する。
しかし、3人プレイヤゲームでは、そのような制限はない: 絶対定数までの学習率と十分大きな水平線に対して$T$、プレイヤー当たり$n$アクションを持つゲームがあり、あるプレイヤーの後悔が$2^{Ω(n)}$で、より一般的には、あるプレイヤーの後悔が$2^{Ω(mn)$で、あるプレイヤーの後悔が$2^{Ω(mn)$で、また、学習レートが$2^{-Ω(mn)$で、そのプレイヤーの後悔が$T$で線形に増加する。
我々の上界は、最適化ヘッジの分析のための時間近似フレームワークに基づいている。
Daskalakis et al の分散に基づく RVU 境界から始めて、時間的局所化されたウィンドウ上の損失を、その総変分がその累積分散のごく一部であるよく定義された関数によって近似する。
m$-playerゲームでは、同じフレームワークが最近の$O(\sqrt{m}\log n\log T)$ regret bound due to Ha の証明を著しく単純化する。
関連論文リスト
- A Horizon-Independent Regret Bound for Optimistic Hedge in General-Sum Games [0.7106986689736826]
ステップサイズが一定であれば、一般ゲームにおいてO_n,d(1)$の個別後悔が得られることを示す。
我々の証明はフリッシュ (1967) の非構成的ネーター性論証に基づいているので、$(n,d)$-依存は暗黙的に残る。
論文 参考訳(メタデータ) (2026-09-19T07:15:57Z) - Constant regret in general games via higher-order optimism [21.642749388029525]
任意の$N$-playerの正規フォームゲームのすべてのプレイヤーが採用するアンカップリング学習アルゴリズムを導入し、このアルゴリズムは個々の後悔に対して$O(N3log2 K)を保証します。
提案アルゴリズムは、割引された$(N+1)$-th次予測器とエントロピー正規化を組み合わせた楽観的追従正規化リーダ(FTRL)の変種である。
論文 参考訳(メタデータ) (2026-09-03T17:16:13Z) - Scale-Invariant Fast Convergence in Games [67.02769061793619]
我々は,スケールフリーでもスケール不変でも,高速収束を実現する学習力学を開発した。
2プレーヤゼロサムゲームに対しては、$tildeO(A_mathrmdiff)$で有界な外部後悔を伴うスケールフリーかつスケール不変のダイナミクスが得られる。
マルチプレイヤーの汎用ゲームでは、過去の観測に基づいて観察された勾配をクリップする2倍のクリッピングと呼ばれる手法によって、スケールフリーの学習も可能となる。
論文 参考訳(メタデータ) (2026-02-12T11:57:20Z) - Online Learning for Uninformed Markov Games: Empirical Nash-Value Regret and Non-Stationarity Adaptation [54.274028560515454]
対戦相手の行動や方針が守られない2人プレイヤのマルコフゲームにおいて,オンライン学習を学習する。
経験的ナッシュバリュー後悔は,ナッシュバリュー後悔よりも強く,新たな後悔の概念である。
我々は,このアルゴリズムを,相手の潜在的非定常性に応じて適切な$で適応的に再起動する方法を示す。
論文 参考訳(メタデータ) (2026-02-06T21:25:54Z) - Convergence of Regret Matching in Potential Games and Constrained Optimization [85.55969013318627]
RM$+$の交互収束は、$O_epsilon (1/epsilon4)$の後に$Epsilon$-KKT点に収束し、それが音で高速な一階数であることを示す。
我々の下界は、ポテンシャルゲームにおける粗相関平衡への収束が、ナッシュ平衡への収束よりも指数関数的に速いことを示している。
論文 参考訳(メタデータ) (2025-10-20T00:45:47Z) - Faster Rates for No-Regret Learning in General Games via Cautious Optimism [46.462843198107144]
我々は,マルチプレイヤーの汎用ゲームにおいて,O(n, d log T)$per-playerの後悔を実現する最初の未結合学習アルゴリズムを確立する。
この結果は,Log-Regularized Lifted Optimistic FTRLで達成可能な$O(n, d log T)$ regretと比較して,$d$への依存を指数関数的に改善する。
論文 参考訳(メタデータ) (2025-03-31T17:25:33Z) - Instance-Dependent Regret Bounds for Learning Two-Player Zero-Sum Games with Bandit Feedback [60.610120215789976]
純粋な戦略 ナッシュ均衡が存在するとき、$c$ は 0 となり、最適のインスタンス依存後悔境界となることを示す。
また,本アルゴリズムは最終段階の収束性も享受し,ほぼ最適サンプルを用いて純粋な戦略ナッシュ均衡を同定することができる。
論文 参考訳(メタデータ) (2025-02-24T20:20:06Z) - Corrupted Learning Dynamics in Games [62.73758165845971]
すべてのプレイヤーが楽観的な追従型リーダー(OFTRL)に従うと、平衡は$O(log T)$の速さで計算できる。
本稿では,各プレイヤーが所定のアルゴリズムによって提案される戦略から逸脱する程度に依存する速度で,適応的に平衡を求める学習ダイナミクスを提案する。
論文 参考訳(メタデータ) (2024-12-10T02:23:44Z) - Near-Optimal No-Regret Learning in General Games [31.293412884145066]
マルチプレイヤー汎用ゲームにおいて,Optimistic Hedge が $rm poly(log T)$ regret を達成することを示す。
我々の境界の系は、最適化的ヘッジが一般ゲームにおいて$tildeOleft(frac 1Tright)$の速度で粗相関平衡に収束するということである。
論文 参考訳(メタデータ) (2021-08-16T06:53:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。