論文の概要: The Price of Current-Effect Inference in Nonstationary Multi-Armed Bandits
- arxiv url: http://arxiv.org/abs/2610.29982v1
- Date: Wed, 21 Oct 2026 16:26:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 00:40:06.407362
- Title: The Price of Current-Effect Inference in Nonstationary Multi-Armed Bandits
- Title(参考訳): 非定常多要素帯域における電流効果推定の価格
- Abstract要約: 意思決定者は、現在の治療効果に関する信頼できる推測も必要である。
TRACEアルゴリズムは$widetildeO_left(sqrtKT+K/(2+1+1)L1/ (2+1)T()/ (2+1)+Kw-2 (1+L1/w-1/)$の注文を後悔することを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Adaptive experiments use bandit algorithms to favor interventions with higher expected rewards. However, decision-makers also require reliable inference on current treatment effects: differences between intervention and reference-arm mean rewards at the present time, rather than historical averages. These objectives conflict: reward maximization favors better interventions, whereas current-effect inference requires continued exploration of potentially suboptimal interventions as outcomes change over time. We characterize this tradeoff for $K$-arm bandits with Hölder-smooth mean rewards of exponent $β\in(0,1]$ and constant $L$. Requiring high-probability simultaneous coverage of all current effects by confidence intervals of width at most $w$, we establish matching minimax bounds, up to logarithmic factors, on expected dynamic regret. Over horizon $T$, our algorithm TRACE (Tracking Rewards and Current Effects) achieves regret of order $\widetilde{O}_β\left(\sqrt{KT}+K^{β/(2β+1)}L^{1/(2β+1)}T^{(β+1)/(2β+1)}+Kw^{-2}(1+L^{1/β}w^{-1/β})\right)$, where the notation hides logarithms and constants depending only on $β$. This regret--precision tradeoff separates reward-learning regret from the cost of refreshing current-effect estimates, which remains unavoidable even when one arm is uniformly optimal. An empirical-Bernstein e-process extension adapts exploration to realized prediction errors while preserving worst-case guarantees. When within-block drift is negligible relative to sampling error, all observations, including reward-learning observations, can be reused for asymptotically normal pointwise inference and stronger local stationarity yields local asymptotic efficiency. Finally, we show that regret constraints can prevent honest adaptation to unknown smoothness and support our theory with extensive numerical experiments.
- Abstract(参考訳): 適応的な実験では、より期待された報酬を伴う介入を優先するためにバンドアルゴリズムを使用する。
しかし、意思決定者は、現在の治療効果に関する信頼性の高い推測も要求する: 歴史的平均よりも、現在における介入と参照武器の平均報酬の違い。
報酬の最大化はより良い介入を好むが、現在の効果推論では、結果が時間とともに変化するにつれて、潜在的に最適以下の介入を継続的に探究する必要がある。
Hölder-smooth は指数 $β\in(0,1]$ と定数 $L$ の報酬を意味する。
最大幅の信頼区間による全ての電流効果の高確率同時カバレッジを最大$w$で要求し、対数的要因まで、予測された動的後悔に基づいて、一致するミニマックス境界を確立する。
水平線$T$で、我々のアルゴリズム TRACE (Tracking Rewards and Current Effects) は次数$\widetilde{O}_β\left(\sqrt{KT}+K^{β/(2β+1)}L^{1/(2β+1)}T^{(β+1)/(2β+1)}+Kw^{-2}(1+L^{1/β}w^{-1/β})\right)$ を後悔する。
この後悔-精度のトレードオフは、報酬-学習の後悔と、片方の腕が一様に最適である場合でも避けられない、現在の効果推定を更新するコストを分離する。
経験的・ベルンシュタインの電子プロセス拡張は、最悪の保証を保ちながら、予測エラーの実現に探索を適応させる。
サンプリング誤差に対してブロック内ドリフトが無視できる場合、報酬-学習観察を含む全ての観測は漸近的に正常な点推定のために再利用することができ、より強い局所定常性は局所漸近効率をもたらす。
最後に, 後悔の制約は未知の滑らかさへの正直な適応を防ぎ, 広範な数値実験で理論を支持することを示す。
関連論文リスト
- High-Probability Regret Bounds for Feel-Good Thompson Sampling [50.91983233376599]
フィールグッドトンプソンサンプリング(FGTS)は、バニラトンプソンサンプリングの後部を、高い予測最適値の報酬関数を求める探索項で強化する。
コンテクスト的包帯における累積FGTSと現在のステップFGTSの両方に対する最初の高い確率的後悔境界を導出する。
期待された信頼の保証とは対照的に、後悔を高い確率で制御するコストは加法項に制限される。
論文 参考訳(メタデータ) (2026-10-14T03:30:45Z) - Learning to Fluctuate: Statistical Foundations for Causal Tabular Pretraining [8.401473551081748]
本研究では,固定配置人口に必要となる繰り返しサンプル応答を符号化した揺らぎ制御事前訓練(FSP)を導入する。
FSPは、温かいワンスレッドベンチマークでテーブル毎の11.6Times$高速にデプロイします。
2つのランダム化されたスタディ評価は、低いRMSEが残留減衰と共存できることを示している。
論文 参考訳(メタデータ) (2026-09-22T12:03:30Z) - Constrained Online Learning with Noisy Constraint Values [55.29259818039367]
一般的な実現可能性の下では、我々のLEDGERアルゴリズムは、期待される損失$O(sqrt T)と期待される予算違反$O(sqrtTlog(eT))を達成します。
スレーター条件、フィードバックチャネル間の独立性、絶対的制約値境界は不要である。
論文 参考訳(メタデータ) (2026-09-07T01:38:41Z) - Bayesian Best-Arm Identification with Abstention: A Polynomial-to-Exponential Phase Transition [51.253617466579335]
本研究では,学習者が端末の推薦を控えることができるベイジアン固定予算のベストアーム識別問題について検討する。
本研究は,非検出誤りの確率を解析し,吸収を伴わない準最適腕を推奨するリスクについて考察する。
論文 参考訳(メタデータ) (2026-06-28T05:07:27Z) - Calibrated Inference for the Conditional Average Treatment Effect in the Few-Placebo Regime via Gaussian Processes [0.0]
片方の治療用アームが他方よりもはるかに小さい,少数のプラセボ系について検討した。
それらは、その名目レベルよりも、真の効果をほとんど含まない。
本稿では,各アームの結果面をガウス過程でモデル化するGP-CATEを提案する。
論文 参考訳(メタデータ) (2026-05-26T11:18:42Z) - Bandit Convex Optimization with Gradient Prediction Adaptivity [56.816177049016794]
本研究では, 楽観的な勾配予測が, 最悪の後悔の保証を予測順応的に改善できるかどうかを考察する。
鍵となるアイデアは、分散が勾配ノルムではなく予測誤差でスケールする、新しい分散還元勾配推定器である。
我々は、$(sqrtmathbbE[S_T])$としてスケールする情報理論の下限を確立し、最も達成可能な予測適応的後悔の基本的な特徴を提供する。
論文 参考訳(メタデータ) (2026-05-21T08:57:38Z) - Cross-World Assumption and Refining Prediction Intervals for Individual Treatment Effects [6.083038976289835]
高い意思決定のためには、個々の治療効果の推定には有効な予測間隔が伴わなければならない。
高い意思決定のためには、個々の治療効果の推定には有効な予測間隔が伴わなければならない。
論文 参考訳(メタデータ) (2025-07-16T18:58:18Z) - Clustered Switchback Designs for Experimentation Under Spatio-temporal Interference [44.644520116360106]
我々は, 平均治療効果 (GATE) を推定し, 全単位を常に治療やコントロールに曝露した平均結果の差を推定した。
そこで我々は,単位をクラスタにグループ化し,時間ステップをブロックにグループ化する,クラスタ化されたスイッチバック設計を提案する。
良好なクラスタリングを許容するグラフに対して, トラッピングされたHorvitz-Thompson推定器が$tilde O(1/NT)$平均二乗誤差(MSE)を達成することを示す。
我々の結果は、citethu2022switchback、ugander2013graph、citetleung2022rateの結果を同時に一般化する。
論文 参考訳(メタデータ) (2023-12-25T01:00:58Z) - Doubly Robust Distributionally Robust Off-Policy Evaluation and Learning [59.02006924867438]
オフ政治評価と学習(OPE/L)は、オフラインの観察データを使用してより良い意思決定を行う。
近年の研究では、分散ロバストなOPE/L (DROPE/L) が提案されているが、この提案は逆正則重み付けに依存している。
KL分散不確実性集合を用いたDROPE/Lの最初のDRアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-02-19T20:00:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。