論文の概要: Contextual Linear Bandits under Noisy Features: Towards Bayesian Oracles
- arxiv url: http://arxiv.org/abs/1703.01347v3
- Date: Tue, 21 Mar 2023 01:19:15 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-24 08:48:42.153618
- Title: Contextual Linear Bandits under Noisy Features: Towards Bayesian Oracles
- Title(参考訳): ノイズの多い特徴の下でのコンテキスト線形帯域:ベイジアンオラクルに向けて
- Authors: Jung-hun Kim and Se-Young Yun and Minchan Jeong and Jun Hyun Nam and
Jinwoo Shin and Richard Combes
- Abstract要約: 特徴不確かさ下における文脈線形帯域問題について検討する。
最適な仮説は、ノイズ特性によって基礎となる実現可能性関数から遠ざかることができる。
本研究では,ベイズ神託を観測情報から目的とするアルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 61.247089049339664
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study contextual linear bandit problems under feature uncertainty; they
are noisy with missing entries. To address the challenges of the noise, we
analyze Bayesian oracles given observed noisy features. Our Bayesian analysis
finds that the optimal hypothesis can be far from the underlying realizability
function, depending on the noise characteristics, which are highly
non-intuitive and do not occur for classical noiseless setups. This implies
that classical approaches cannot guarantee a non-trivial regret bound.
Therefore, we propose an algorithm that aims at the Bayesian oracle from
observed information under this model, achieving $\tilde{O}(d\sqrt{T})$ regret
bound when there is a large number of arms. We demonstrate the proposed
algorithm using synthetic and real-world datasets.
- Abstract(参考訳): 本研究では,特徴不確実性の下での文脈線形帯域問題について検討する。
ノイズの課題に対処するため,観測された雑音の特徴からベイズオラクルを解析した。
ベイズ解析によれば、最適仮説は、非直観的であり、古典的なノイズのない設定では起こらないノイズ特性によって、基礎となる実現可能性関数から遠く離れている。
これは古典的アプローチが非自明な後悔境界を保証できないことを意味する。
したがって、このモデルの下で観測された情報からベイズ神託を対象とするアルゴリズムを提案し、多数の腕が存在する場合に$\tilde{o}(d\sqrt{t})$ regret boundを達成する。
合成および実世界のデータセットを用いたアルゴリズムを提案する。
関連論文リスト
- Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳(メタデータ) (2024-11-21T10:26:17Z) - Information limits and Thouless-Anderson-Palmer equations for spiked matrix models with structured noise [19.496063739638924]
構造スパイクモデルに対するベイズ推定の飽和問題を考える。
適応的なThouless-Anderson-Palmer方程式の理論にインスパイアされた効率的なアルゴリズムを用いて、統計的限界を予測する方法を示す。
論文 参考訳(メタデータ) (2024-05-31T16:38:35Z) - Thompson Sampling for Stochastic Bandits with Noisy Contexts: An Information-Theoretic Regret Analysis [4.297070083645049]
本研究では,エージェントが真コンテキストのノイズや破損したバージョンを観測するコンテキスト線形帯域問題について検討する。
我々の目標は、託宣の「近似可能なアクションポリシー」を設計することである。
論文 参考訳(メタデータ) (2024-01-21T18:57:38Z) - Label Noise: Correcting the Forward-Correction [0.0]
ラベルノイズのあるデータセット上でニューラルネットワーク分類器を訓練することは、ノイズのあるラベルに過度に適合するリスクをもたらす。
ラベルノイズによる過度適合に対処する手法を提案する。
本研究は, オーバーフィッティングを緩和するために, トレーニング損失に低い限界を課すことを提案する。
論文 参考訳(メタデータ) (2023-07-24T19:41:19Z) - The Optimal Noise in Noise-Contrastive Learning Is Not What You Think [80.07065346699005]
この仮定から逸脱すると、実際により良い統計的推定結果が得られることが示される。
特に、最適な雑音分布は、データと異なり、また、別の家族からさえも異なる。
論文 参考訳(メタデータ) (2022-03-02T13:59:20Z) - Analyzing and Improving the Optimization Landscape of Noise-Contrastive
Estimation [50.85788484752612]
ノイズコントラスト推定(NCE)は、非正規化確率モデルを学習するための統計的に一貫した手法である。
ノイズ分布の選択がNCEの性能に不可欠であることが実験的に観察されている。
本研究では,不適切な雑音分布を用いた場合,NCEの性能低下の原因を正式に指摘する。
論文 参考訳(メタデータ) (2021-10-21T16:57:45Z) - Learning with Group Noise [106.56780716961732]
グループノイズを用いた学習のための新しいマックスマッチング手法を提案する。
いくつかの学習パラダイムの領域における実世界のデータセットのレンジのパフォーマンスは、Max-Matchingの有効性を示している。
論文 参考訳(メタデータ) (2021-03-17T06:57:10Z) - Robust Learning under Strong Noise via SQs [5.9256596453465225]
各SQ学習可能なクラスは、幅広いノイズモデルに対して、OPT + $epsilon Misilon誤分類誤差を持つ効率的な学習アルゴリズムを許容することを示す。
この設定は、既知の雑音確率を持つRCNの下で広く研究されている問題分類を大幅に一般化する。
論文 参考訳(メタデータ) (2020-10-18T21:02:26Z) - Shape Matters: Understanding the Implicit Bias of the Noise Covariance [76.54300276636982]
勾配降下のノイズはパラメータ化モデルに対するトレーニングにおいて重要な暗黙の正則化効果をもたらす。
ミニバッチやラベルの摂動によって引き起こされるパラメータ依存ノイズはガウスノイズよりもはるかに効果的であることを示す。
分析の結果,パラメータ依存ノイズは局所最小値に偏りを生じさせるが,球状ガウス雑音は生じないことがわかった。
論文 参考訳(メタデータ) (2020-06-15T18:31:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。