論文の概要: Characterizing Oblivious Common-Reward Multi-Player Bandits: Universal Stationarity, Coordination Traps, and Certified Global Rates
- arxiv url: http://arxiv.org/abs/2610.29673v1
- Date: Wed, 21 Oct 2026 12:49:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 00:40:06.362754
- Title: Characterizing Oblivious Common-Reward Multi-Player Bandits: Universal Stationarity, Coordination Traps, and Certified Global Rates
- Title(参考訳): オープンなコモン・リワードマルチプレイヤーバンドの特徴:ユニバーサル・固定性、コーディネーション・トラップ、認定グローバルレート
- Abstract要約: 本稿では,広義の共通逆マルチプレイヤーマルチアームバンディットモデルに関する理論的解析を行う。
プレイヤーは他のプレイヤーの行動を観察せず、他のプレイヤーが存在するかどうかさえも知らない。
- 参考スコア(独自算出の注目度): 8.215945757962286
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper presents a theoretical analysis of the oblivious common-reward multi-player multi-armed bandit (OC-MPMAB), a minimal multi-player bandit model in which multiple players select arms simultaneously and observe only a shared reward. Crucially, the players are fully oblivious: they do not observe the actions of other players and do not even know whether any other players exist. The contributions of this work are threefold. First, we prove that the independent gradient-bandit updates applied by the players jointly form an unbiased stochastic gradient estimator of a hidden product-policy objective. This property then yields a universal finite-time first-order stationarity guarantee for every instance. Second, we show that stationarity cannot, in general, be strengthened to global optimality. To illustrate this, we identify a product-policy trap obstruction that rules out the guarantee of global optimality. Third, we show that global optimality can be recovered under structural assumptions on the reward table. To make global optimality achievable, we introduce finite-table certificates that separately characterize product-gradient dominance and self-bounding stochastic noise. We then establish certificate-conditioned bounds on the product-policy gap and pseudo-regret. Consequently, the standard $O(1/t)$ product-policy gap and $O(\log T)$ pseudo-regret rates hold when the certificates are uniform.
- Abstract(参考訳): 本稿では、複数のプレイヤーが同時に腕を選択し、共有報酬のみを観察する最小のマルチプレイヤーバンディットモデルであるOC-MPMABについて理論的解析を行う。
プレイヤーは他のプレイヤーの行動を観察せず、他のプレイヤーが存在するかどうかさえも知らない。
この作品の貢献は3倍である。
まず、プレイヤーが適用した独立勾配帯域更新が、隠れた製品・政治目的の確率勾配推定器を共同で形成することを証明する。
この性質はすべてのインスタンスに対して普遍有限時間一階定常性を保証する。
第二に、定常性は一般に、大域的最適性に対して強化できないことを示す。
これを説明するために,グローバルな最適性の保証を規定する製品と政治の罠を識別する。
第三に、報酬表上の構造的仮定の下で、大域的最適性を復元できることが示される。
大域的最適性を実現するために,製品支配と自己拘束確率ノイズを別々に特徴付ける有限テーブル証明書を導入する。
次に、製品と政治のギャップと擬似レグレットに証明書条件のバウンダリを確立する。
その結果、標準的な$O(1/t)$製品間ギャップと$O(\log T)$擬似回帰レートは、証明書が均一であるときに保持される。
関連論文リスト
- The Price of Decentralization in Top-$K$ Arm Identification [1.3700362496838856]
マルチエージェント・マルチアーム・バンディットにおけるトップ$K$のジョイントアーム識別について検討する。
エージェントは、ジョイントアームを構成する個々のアクションを同時に選択する。
共有逆同定は1つの普遍対数係数まで最適であることを示す。
論文 参考訳(メタデータ) (2026-08-22T22:22:06Z) - Dropout-GRPO: Variational Stochasticity for Continuous Latent Reasoning [0.0]
Coconutのような潜在推論モデルは、個別のチェーンオブソートトークンの代わりに、継続的に隠れた状態をフィードする。
グループ関係強化学習を継続的潜在推論に適用することは困難であることが証明された。
1つのベルヌーイマスクを与えられたロールアウトに対して全ての遅延繰り返しステップで一定に保持することにより、本質的な軌道分散を生成する。
論文 参考訳(メタデータ) (2026-06-08T21:21:42Z) - Breaking $\textit{Winner-Takes-All}$: Cooperative Policy Optimization Improves Diverse LLM Reasoning [53.42577591449649]
グループ協力政策最適化は、トレーニングパラダイムをロールアウト競争からチーム協力へとシフトさせる。
GCPOは独立したロールアウトスコアをチームレベルのクレジット割り当てに置き換える。
チームへの平均的な限界貢献に従って、各ロールアウトに対して、グループチームの報酬を再分配する。
論文 参考訳(メタデータ) (2026-05-12T03:20:24Z) - Core Safety Values for Provably Corrigible Agents [2.6451153531057985]
我々は,複数段階の部分的に観察された環境において,検証可能な保証を付与し,適応性のための最初の実装可能なフレームワークを紹介した。
私たちのフレームワークは、単一の報酬を5つの*構造的に分離された*ユーティリティヘッドに置き換えます。
敵がエージェントを修正できるオープンエンド設定では、任意のポストハックエージェントが調整性に反するかどうかを判断することは不可能である。
論文 参考訳(メタデータ) (2025-07-28T16:19:25Z) - Continuous K-Max Bandits [54.21533414838677]
我々は、連続的な結果分布と弱い値-インデックスフィードバックを持つ、$K$-Maxのマルチアームバンディット問題について検討する。
この設定は、レコメンデーションシステム、分散コンピューティング、サーバスケジューリングなどにおいて重要なアプリケーションをキャプチャします。
我々の重要な貢献は、適応的な離散化とバイアス補正された信頼境界を組み合わせた計算効率の良いアルゴリズムDCK-UCBである。
論文 参考訳(メタデータ) (2025-02-19T06:37:37Z) - PPA-Game: Characterizing and Learning Competitive Dynamics Among Online Content Creators [30.02006609876506]
本稿では, PPA-Game(Proportional Payoff Allocation Game)について紹介する。
こうしたダイナミクスは、YouTubeやTikTokなどのオンラインレコメンデーションシステム上でコンテンツクリエイターをシミュレートする。
本稿では,各エージェントの累積支払をT$ラウンドで行うことを容易にするオンラインアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-03-22T14:13:11Z) - Optimistic Policy Gradient in Multi-Player Markov Games with a Single
Controller: Convergence Beyond the Minty Property [89.96815099996132]
単一コントローラを用いたマルチプレイヤーゲームにおいて,楽観的なポリシー勾配手法を特徴付ける新しいフレームワークを開発した。
我々のアプローチは、我々が導入する古典的なミニティの自然一般化に依存しており、マルコフゲームを超えてさらなる応用が期待できる。
論文 参考訳(メタデータ) (2023-12-19T11:34:10Z) - Collaborative Multi-agent Stochastic Linear Bandits [28.268809091816287]
我々は,ネットワークを構成するN$エージェントが局所的に通信し,全体的な後悔を最小限に抑える,協調的マルチエージェント線形帯域設定について検討する。
すべてのエージェントは、プレイされたアクションの対応する報酬を観察し、加速されたコンセンサス手順を使用して、すべてのエージェントが取得した報酬の平均の見積もりを計算する。
論文 参考訳(メタデータ) (2022-05-12T19:46:35Z) - Top $K$ Ranking for Multi-Armed Bandit with Noisy Evaluations [102.32996053572144]
我々は,各ラウンドの開始時に,学習者が各アームの真の報酬について,ノイズのない独立した評価を受けるマルチアームバンディット・セッティングを考える。
評価の方法によって異なるアルゴリズムアプローチと理論的保証を導出する。
論文 参考訳(メタデータ) (2021-12-13T09:48:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。