論文の概要: When Greedy Sampling Explores: KL-Regularized Contextual Bandits without Eluder-Dimension Dependence
- arxiv url: http://arxiv.org/abs/2609.13564v1
- Date: Fri, 11 Sep 2026 22:06:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:05.395811
- Title: When Greedy Sampling Explores: KL-Regularized Contextual Bandits without Eluder-Dimension Dependence
- Title(参考訳): グリーディサンプリングの探索: エルダー次元依存のないKL正規化コンテキスト帯域
- Abstract要約: 本研究は, ゆるやかなサンプリングにより, エリューダー次元に明示的に依存することなく, 対数的後悔を達成できることを示す。
報奨フィードバックのために,簡単なグリーディアルゴリズムに対して,帰納的次元に依存しない後悔境界を確立する。
- 参考スコア(独自算出の注目度): 31.631316245597265
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study KL-regularized contextual bandits under both reward and preference feedback. We show that greedy sampling can achieve logarithmic regret without explicit dependence on the eluder dimension. For reward feedback, we establish an eluder-dimension-independent regret bound for a simple greedy algorithm that directly samples from the Gibbs policy induced by the estimated reward. We further extend this result to preference feedback under both the general preference and Bradley--Terry models, while also sharpening existing dimension-dependent guarantees. Our analysis reveals a trade-off between greedy sampling and upper confidence bound-style exploration: greedy sampling enjoys stronger guarantees when KL regularization is sufficiently strong, whereas additional exploration becomes preferable as the regularization weakens.
- Abstract(参考訳): 我々は、報酬と嗜好の両方のフィードバックの下で、KL規則化された文脈的包帯について検討した。
本研究は, ゆるやかなサンプリングにより, エリューダー次元に明示的に依存することなく, 対数的後悔を達成できることを示す。
報酬フィードバックのために、推定報酬によって誘導されるギブズポリシーから直接サンプリングする単純な欲求アルゴリズムに対して、帰納的次元に依存しない後悔境界を確立する。
さらに、この結果を一般的な嗜好モデルとブラッドリー-テリーモデルの両方の下での嗜好フィードバックにまで拡張するとともに、既存の次元依存保証も強化する。
本分析では,KL正則化が十分に強い場合には,高信頼なサンプリングと高信頼なバウンダリスタイル探索のトレードオフが明らかになる。
関連論文リスト
- On the Benefits of Free Exploration for Regret Minimization in Multi-Armed Bandits [54.384522012368556]
我々は,後悔が蓄積する前に,エージェントに自由な探査予算が与えられる,多武装の盗賊問題について検討する。
我々は、この後悔の最小化を自由探索問題で定式化し、自由探査予算が時間軸と対数的にスケールする興味深い体制を特定する。
本稿では,二相保存アルゴリズムUFE-KLUCB-Hを提案する。
論文 参考訳(メタデータ) (2026-05-25T12:36:43Z) - Best Arm Identification in Generalized Linear Bandits via Hybrid Feedback [23.37199172197756]
一般化線形包帯における固定信頼度最適腕同定をハイブリッドフィードバックモデルにより検討した。
不均一な一般化線形観測を統一する確率比に基づく信頼シーケンスを導入する。
アームとペアの共同動作空間上での最小最適設計を追跡することで,クエリを適応的に割り当てるハイブリッドトラック・アンド・ストップアルゴリズムを提案する。
論文 参考訳(メタデータ) (2026-05-07T06:40:42Z) - Sharp Convergence Rates for Masked Diffusion Models [53.117058231393834]
制約を克服するオイラー法に対する全変分に基づく解析法を開発した。
その結果、スコア推定の仮定を緩和し、パラメータ依存性を改善し、収束保証を確立する。
全体としては,CTMC軌道に沿った直接テレビによる誤り分解と,FHSのためのデカップリングに基づく経路解析を導入している。
論文 参考訳(メタデータ) (2026-02-26T00:47:51Z) - G$^2$RPO: Granular GRPO for Precise Reward in Flow Models [74.21206048155669]
本稿では,サンプリング方向の高精度かつ包括的な報酬評価を実現する新しいグラニュラー-GRPO(G$2$RPO)フレームワークを提案する。
複数の拡散スケールで計算された利点を集約するマルチグラニュラリティ・アドバンテージ・インテグレーション・モジュールを導入する。
G$2$RPOは既存のフローベースGRPOベースラインを著しく上回る。
論文 参考訳(メタデータ) (2025-10-02T12:57:12Z) - Incentivized Lipschitz Bandits [7.465238700168576]
連続距離空間の要素としてモデル化された無限に多くの腕を持つマルチアームバンディット(MAB)設定におけるインセンティブ付き探索について検討する。
本稿では,無限のアーム空間を均一に識別する新たなインセンティブ付き探索アルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-08-26T22:54:29Z) - Preference-based Pure Exploration [9.93543990054216]
ベクトル値の報酬を持つ包帯の選好に基づく純粋探索問題について検討する。
我々は、最も好まれるポリシーを特定するために、サンプルの複雑さに基づいた新しい境界を導出する。
次に、下界の凸緩和を行い、それを利用して、Preferenceベースのトラック・アンド・ストップアルゴリズムを設計する。
論文 参考訳(メタデータ) (2024-12-04T03:02:55Z) - Incentivizing Exploration with Linear Contexts and Combinatorial Actions [9.15749739027059]
インセンティブ付きバンディット探索では、腕の選択は推奨され、ベイズ的なインセンティブと互換性が求められる。
最近の研究は、十分な初期サンプルを収集した後、人気のあるトンプソンサンプリングアルゴリズムがインセンティブ互換になる、という一定の独立性の仮定の下で示されている。
線形包帯に対してこの結果の類似性を与え、そこでは前者の独立性を自然凸条件に置き換える。
論文 参考訳(メタデータ) (2023-06-03T03:30:42Z) - Finite-Time Regret of Thompson Sampling Algorithms for Exponential
Family Multi-Armed Bandits [88.21288104408556]
本研究では,指数関数族バンドイットに対するトンプソンサンプリング (TS) アルゴリズムの遺残について検討する。
最適な腕の過小評価を避けるために,新しいサンプリング分布を用いたトンプソンサンプリング(Expulli)を提案する。
論文 参考訳(メタデータ) (2022-06-07T18:08:21Z) - From Optimality to Robustness: Dirichlet Sampling Strategies in
Stochastic Bandits [0.0]
本研究では、腕の観察を再サンプリングした経験的指標のペア比較に基づいて、ジェネリックディリクレサンプリング(DS)アルゴリズムについて検討する。
この戦略の異なる変種は、分布が有界であるときに証明可能な最適後悔保証と、半有界分布に対して軽度量子状態の対数後悔を実現することを示す。
論文 参考訳(メタデータ) (2021-11-18T14:34:21Z) - Bias-Robust Bayesian Optimization via Dueling Bandit [57.82422045437126]
ベイジアン最適化は、観測が逆偏りとなるような環境において考慮する。
情報指向サンプリング(IDS)に基づくダリングバンディットの新しい手法を提案する。
これにより、累積的後悔保証を伴う帯域幅の並列化のための、最初の効率的なカーネル化アルゴリズムが得られる。
論文 参考訳(メタデータ) (2021-05-25T10:08:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。