論文の概要: Does LinUCB Need Valid Confidence Sets?
- arxiv url: http://arxiv.org/abs/2611.04641v1
- Date: Tue, 03 Nov 2026 10:30:32 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-04 17:29:34.807733
- Title: Does LinUCB Need Valid Confidence Sets?
- Title(参考訳): LinUCBは検証信頼セットを必要とするか?
- Abstract要約: LinUCBの通常の信頼幅$$を固定$>0$で置き換えると、アクションセットが$M$-smooth と $m$-strongly convex であるときにサブリニア後悔が保たれる。
この一般化に対する我々の高い確率的後悔である$-LinUCBは、LinUCBの成功に有効な信頼セットは必要ないことを証明している。
- 参考スコア(独自算出の注目度): 10.923484372424602
- License:
- Abstract: We show that replacing LinUCB's usual confidence width $β$ by any fixed $α>0$ preserves sublinear regret when the action set is $M$-smooth and $m$-strongly convex. Our high-probability regret bound for this generalisation, $α$-LinUCB, establishes that valid confidence sets are not necessary for the success of LinUCB. We identify the mechanism behind this result: action-set curvature drives $α$-LinUCB to explore every direction, even when optimism is not guaranteed. To analyse this mechanism, we introduce a logarithmically capped spectral potential that, unlike the standard log-determinant potential, caps contributions from well-explored directions. This yields lower bounds on the smallest eigenvalue of the design matrix. At the standard confidence width $α=β\asymp\sqrt{d\log T}$, our $T$-round regret bound in $d$ dimensions is $O\bigl(\frac{M}{m}d\sqrt{T\log T}\bigr)$, up to iterated-logarithmic factors, improving the horizon dependence of the classical LinUCB guarantee by a factor of $\sqrt{\log T}$.
- Abstract(参考訳): LinUCB の通常の信頼幅 $β$ を任意の固定$α>0$ で置き換えると、アクションセットが $M$-smooth で $m$-strongly convex であるとき、サブ線形後悔が保たれる。
この一般化に対する我々の高い確率的後悔である$α$-LinUCBは、LinUCBの成功に有効な信頼セットは必要ないことを証明している。
作用集合曲率が$α$-LinUCBを駆動して、最適化が保証されない場合でも、全ての方向を探索する。
このメカニズムを解析するために、標準的な対数決定電位とは異なり、よく探索された方向からの寄与をカプセル化する対数的キャップ付きスペクトルポテンシャルを導入する。
これにより、設計行列の最小固有値に対する下界が得られる。
標準信頼幅 $α=β\asymp\sqrt{d\log T}$ では、$d$次元における我々の$T$ラウンド後悔境界は$O\bigl(\frac{M}{m}d\sqrt{T\log T}\bigr)$ である。
関連論文リスト
- High-Probability Regret Bounds for Feel-Good Thompson Sampling [50.91983233376599]
フィールグッドトンプソンサンプリング(FGTS)は、バニラトンプソンサンプリングの後部を、高い予測最適値の報酬関数を求める探索項で強化する。
コンテクスト的包帯における累積FGTSと現在のステップFGTSの両方に対する最初の高い確率的後悔境界を導出する。
期待された信頼の保証とは対照的に、後悔を高い確率で制御するコストは加法項に制限される。
論文 参考訳(メタデータ) (2026-10-14T03:30:45Z) - Constrained Online Learning with Noisy Constraint Values [55.29259818039367]
一般的な実現可能性の下では、我々のLEDGERアルゴリズムは、期待される損失$O(sqrt T)と期待される予算違反$O(sqrtTlog(eT))を達成します。
スレーター条件、フィードバックチャネル間の独立性、絶対的制約値境界は不要である。
論文 参考訳(メタデータ) (2026-09-07T01:38:41Z) - Generalized Linear Bandits with Memory [30.756127188585907]
メモリを用いた一般化線形バンドレットについて検討し, メモリ行列による報酬の過去の行動に依存する内因性非定常的設定について検討した。
既知の $tildeO(T3/4)$ regret bound はゆるい解析から生じるものであり、線形の場合の $tildeO(sqrtT)$ regret rate を回復するシャープな解析を提供する。
論文 参考訳(メタデータ) (2026-08-16T16:39:09Z) - Near-Optimal Regret for KL-Regularized Multi-Armed Bandits [54.77408659142336]
KL正規化目標に対するオンライン学習の統計的効率について検討する。
我々は、MABsのKL正規化後悔が$$非依存であることを示し、$tilde(sqrtKT)$とスケールする。
論文 参考訳(メタデータ) (2026-03-02T18:17:33Z) - Achieving Constant Regret in Linear Markov Decision Processes [57.34287648914407]
我々は不特定線形マルコフ決定過程(MDP)に対するアルゴリズムCert-LSVI-UCBを導入する。
Cert-LSVI-UCB は $tildemathcalO(d3H5/Delta)$ の累積後悔を高い確率で示し、不特定度 $zeta$ が $tildemathcalO(Delta / (sqrtdH2))$ 以下であることを示す。
論文 参考訳(メタデータ) (2024-04-16T17:23:19Z) - Horizon-Free and Variance-Dependent Reinforcement Learning for Latent
Markov Decision Processes [62.90204655228324]
我々は,後期マルコフ決定過程(LMDP)における強化学習(RL)の文脈を考慮した後悔の最小化について検討した。
我々は,モデル最適化と値最適化の両手法でインスタンス化できる,新しいモデルベースアルゴリズムフレームワークを設計する。
論文 参考訳(メタデータ) (2022-10-20T21:32:01Z) - Nearly Minimax Optimal Reinforcement Learning with Linear Function
Approximation [25.60689712525918]
本稿では,遷移確率と報酬関数が線形な線形関数近似を用いた強化学習について検討する。
本稿では,新たなアルゴリズムLSVI-UCB$+$を提案し,$H$がエピソード長,$d$が特徴次元,$T$がステップ数である場合に,$widetildeO(HdsqrtT)$ regretboundを実現する。
論文 参考訳(メタデータ) (2022-06-23T06:04:21Z) - Truncated LinUCB for Stochastic Linear Bandits [7.0879234284391455]
LinUCBアルゴリズムは、関連する線形帯域に最適に近い最小値である。
LinUCBのtruncatedバージョンが提案され、Tr-LinUCBと呼ばれている。
論文 参考訳(メタデータ) (2022-02-23T19:01:27Z) - Stochastic Bandits with Linear Constraints [69.757694218456]
制約付き文脈線形帯域設定について検討し、エージェントの目標は一連のポリシーを作成することである。
楽観的悲観的線形帯域(OPLB)と呼ばれる,この問題に対する高信頼束縛アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-17T22:32:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。