論文の概要: The Surrogate Is Not the Reward: Post-Surrogate Primary-Outcome Acquisition in Contextual Bandits
- arxiv url: http://arxiv.org/abs/2610.06610v1
- Date: Mon, 05 Oct 2026 16:16:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-09 00:14:57.953231
- Title: The Surrogate Is Not the Reward: Post-Surrogate Primary-Outcome Acquisition in Contextual Bandits
- Title(参考訳): The Surrogate is not the Reward: Post-Surrogate Primary-Outcome Acquisition in Contextual Bandits
- Abstract要約: 動作終了後に代理語が観察されるが、学習者が一次結果を得るかどうかを判断する前に、文脈的包帯について検討する。
第一の結果を得る価値は、決定の妥当性と残留不確実性の両方に依存する。
- 参考スコア(独自算出の注目度): 4.740077547030359
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study contextual bandits in which a surrogate is observed after the action but before the learner decides whether to acquire the primary outcome that defines action value and regret. The value of acquiring the primary outcome depends on both decision relevance (how much the current outcome matters for comparing policies) and the residual uncertainty after observing the surrogate. The Audited Surrogate Bandit (ASB) learns a contextual policy while allocating a budget of $B$ primary-outcome acquisitions over $T$ rounds. ASB sets a pre-surrogate acquisition level from current decision relevance and, after observing the surrogate, redistributes that level using an estimate of that residual uncertainty. For a finite class of $N$ policies over $K$ actions, ASB incurs $\widetilde O[\sqrt{KT\log N}\{1+\sqrt{T/B}\}]$ regret relative to the best policy in the class. In a two-action family where the surrogate does not reveal the better action, a learner that observes the surrogate before deciding whether to acquire can achieve bounded regret, whereas any learner that must decide before seeing the surrogate incurs $Ω(T/B)$ worst-case regret under the same budget. Synthetic experiments show that both acquisition factors matter: ASB has lower regret than variants using only decision relevance or only residual uncertainty. On a KuaiRec benchmark of user-video interactions, the regret gap relative to relevance-only acquisition widens and then narrows as the budget grows.
- Abstract(参考訳): 本研究では,行動終了後にサロゲートが観察される文脈的包帯について検討するが,学習者が行動価値と後悔を定義する一次結果を得るかどうかを判断する前に検討する。
主要な結果を取得する価値は、意思決定の関連性(政策を比較する上で現在の結果がどの程度重要か)と、サロゲートを観察した後の不確実性の両方に依存する。
Audited Surrogate Bandit (ASB)は、$B$のプライマリアウトカム買収を$T$のラウンドで割り当てながら、コンテキストポリシーを学ぶ。
ASBは、現在の意思決定関連性から事前代理取得レベルを設定し、サロゲートを観察した後、その不確実性を見積もってそのレベルを再分配する。
K$ アクション上の$N$ ポリシーの有限クラスに対して、ASB は $\widetilde O[\sqrt{KT\log N}\{1+\sqrt{T/B}\}]$ クラスで最高のポリシーに対して後悔する。
また、サロゲートがより良い動作を示さない2つの動作系では、サロゲートが獲得できるかどうかを決定する前にサロゲートを観察する学習者が制限された後悔を達成し、サロゲートが同じ予算で$Ω(T/B)$最悪の後悔をもたらすのを見る前に決定しなければならない学習者に対して、サロゲートが決定する。
ASBは、決定関連性のみまたは残留不確実性のみを用いる変種よりも後悔度が低い。
KuaiRecのユーザとビデオのインタラクションのベンチマークでは、関連のみの買収に対する後悔の差が拡大し、予算が増加するにつれて縮小する。
関連論文リスト
- When Should Active RAG Retrieve? A Budget-Aware Evaluation of Utility, Calibration, and Cost [11.216720435946804]
予算を意識したアクティブRAG評価は、フロンティア、実現された使用法、しきい値転送エラー、ハーモレート、コスト分解を精度とともに報告すべきである。
トリガースコアが有用な検索判断をランク付けするかどうか、過去のデータで調整されたしきい値が将来の予算を満たすかどうか、トリガーサイドがどのようにデプロイメントコストを変更するか、という3つの質問を運用します。
論文 参考訳(メタデータ) (2026-07-27T05:17:06Z) - Contextual Procurement Auctions with Bandit Learning [11.979115396351203]
本研究では,生産者が私的費用を負担し,プラットフォームが帯域フィードバックからコンテキスト依存の製品価値を学習しなければならない,文脈的調達オークションについて検討する。
まず, UCB の自然割当規則は, 真剣な入札により, 福祉的後悔の代償として$tilde O(sqrtngT) に達することを示す。
次に、初期入札非依存の探索段階における支払いを見積もる凍結支払い UCBを導入し、その支払い見積を凍結し、その後、適応的なUPB割当学習を継続する。
論文 参考訳(メタデータ) (2026-07-07T04:18:18Z) - Fundamental Novel Consistency Theory: $H$-Consistency Bounds [19.493449206135296]
機械学習では、トレーニング中に最適化された損失関数は、タスクのパフォーマンスを定義するターゲット損失とは異なることが多い。
本稿では,サロゲート損失推定誤差に対する目標損失推定誤差について詳細に検討する。
私たちの分析では、$H$-一貫性境界が導かれ、これは仮説セットの$H$に対する説明が保証される。
論文 参考訳(メタデータ) (2025-12-28T11:02:20Z) - Decision from Suboptimal Classifiers: Excess Risk Pre- and Post-Calibration [52.70324949884702]
バッチ二分決定における近似的後続確率を用いた余剰リスクの定量化を行う。
我々は、再校正のみが後悔のほとんどに対処する体制と、後悔が集団的損失に支配される体制を識別する。
NLP実験では、これらの量によって、より高度なポストトレーニングの期待値が運用コストに値するかどうかが分かる。
論文 参考訳(メタデータ) (2025-03-23T10:52:36Z) - Proper losses regret at least 1/2-order [1.7986307635828565]
我々は、損失の厳密な正当性は、非空きサロゲート的後悔境界を確立するのに十分であることを示す。
また、p-ノルムにおける収束の順序は、厳密な適切な損失の幅広いクラスに対する1/2$のサロゲート後悔の順序よりは高速ではないことを示す。
論文 参考訳(メタデータ) (2024-07-15T03:46:15Z) - Variance-Aware Regret Bounds for Stochastic Contextual Dueling Bandits [53.281230333364505]
本稿では, 一般化線形モデル(GLM)から, デュエルアームのバイナリ比較を生成するコンテキストデュエルバンド問題について検討する。
本稿では,SupLinUCB型アルゴリズムを提案する。このアルゴリズムは,計算効率と分散を意識したリセットバウンド$tilde Obig(dsqrtsum_t=1Tsigma_t2 + dbig)$を提案する。
我々の後悔は、比較が決定論的である場合の直感的な期待と自然に一致し、アルゴリズムは$tilde O(d)$ regretにのみ悩まされる。
論文 参考訳(メタデータ) (2023-10-02T08:15:52Z) - Autoregressive Bandits [58.46584210388307]
本稿では,オンライン学習環境であるAutoregressive Banditsを提案する。
報酬プロセスの軽微な仮定の下では、最適ポリシーを便利に計算できることが示される。
次に、新しい楽観的後悔最小化アルゴリズム、すなわちAutoRegressive Upper Confidence Bound (AR-UCB)を考案し、$widetildemathcalO left( frac(k+1)3/2sqrtnT (1-G)のサブ線形後悔を被る。
論文 参考訳(メタデータ) (2022-12-12T21:37:36Z) - The price of unfairness in linear bandits with biased feedback [62.25313751895011]
線形帯域フィードバックによる逐次意思決定の問題点について検討する。
その結果,不偏フィードバック下で得られたdT 1/2 log(T) の後悔率よりも最悪の後悔率が高いことがわかった。
興味深いことに、ギャップ依存率によって、問題はバイアスのないものほど難しくない非自明なインスタンスの存在が明らかになる。
論文 参考訳(メタデータ) (2022-03-18T08:03:20Z) - Confidence-Budget Matching for Sequential Budgeted Learning [69.77435313099366]
問合せ予算で意思決定問題を定式化する。
我々は,多腕バンディット,線形バンディット,強化学習問題を考察する。
我々は,CBMに基づくアルゴリズムが逆性の存在下で良好に動作することを示す。
論文 参考訳(メタデータ) (2021-02-05T19:56:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。