論文の概要: Nearly Optimal Algorithms for Level Set Estimation
- arxiv url: http://arxiv.org/abs/2111.01768v1
- Date: Tue, 2 Nov 2021 17:45:02 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-03 15:11:34.317324
- Title: Nearly Optimal Algorithms for Level Set Estimation
- Title(参考訳): レベルセット推定のための準最適アルゴリズム
- Authors: Blake Mason, Romain Camilleri, Subhojyoti Mukherjee, Kevin Jamieson,
Robert Nowak, Lalit Jain
- Abstract要約: 線形包帯に対する最近の適応的実験設計手法と関連づけることで, レベルセット推定問題に対する新しいアプローチを提案する。
我々は、我々の境界がほぼ最適であることを示す。すなわち、我々の上限は、しきい値線形帯域に対して既存の下限と一致する。
- 参考スコア(独自算出の注目度): 21.83736847203543
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The level set estimation problem seeks to find all points in a domain ${\cal
X}$ where the value of an unknown function $f:{\cal X}\rightarrow \mathbb{R}$
exceeds a threshold $\alpha$. The estimation is based on noisy function
evaluations that may be acquired at sequentially and adaptively chosen
locations in ${\cal X}$. The threshold value $\alpha$ can either be
\emph{explicit} and provided a priori, or \emph{implicit} and defined relative
to the optimal function value, i.e. $\alpha = (1-\epsilon)f(x_\ast)$ for a
given $\epsilon > 0$ where $f(x_\ast)$ is the maximal function value and is
unknown. In this work we provide a new approach to the level set estimation
problem by relating it to recent adaptive experimental design methods for
linear bandits in the Reproducing Kernel Hilbert Space (RKHS) setting. We
assume that $f$ can be approximated by a function in the RKHS up to an unknown
misspecification and provide novel algorithms for both the implicit and
explicit cases in this setting with strong theoretical guarantees. Moreover, in
the linear (kernel) setting, we show that our bounds are nearly optimal,
namely, our upper bounds match existing lower bounds for threshold linear
bandits. To our knowledge this work provides the first instance-dependent,
non-asymptotic upper bounds on sample complexity of level-set estimation that
match information theoretic lower bounds.
- Abstract(参考訳): レベルセット推定問題は、未知関数 $f:{\cal X}\rightarrow \mathbb{R}$ の値が閾値 $\alpha$ を超えるような領域のすべての点を見つけようとする。
この推定は、${\cal x}$ で逐次および適応的に選択された場所で得られるノイズ関数評価に基づいている。
しきい値 $\alpha$ は \emph{explicit} であり、事前値として \emph{implicit} が与えられ、与えられた $\epsilon > 0$ に対して $\alpha = (1-\epsilon)f(x_\ast)$ という最適関数値に対して定義される。
本研究では,再生核ヒルベルト空間(rkhs)における線形バンドイットに対する近年の適応的実験設計法に関連して,レベル集合推定問題に対する新しいアプローチを提案する。
我々は、RKHSの関数から未知の誤特定まで、$f$を近似できると仮定し、この設定における暗黙的かつ明示的なケースに対して、強い理論的保証を持つ新しいアルゴリズムを提供する。
さらに、線形(カーネル)設定では、我々の境界はほぼ最適であり、つまり、我々の上界は閾値線形バンドイットの既存の下界と一致することを示す。
我々の知る限り、この研究は、情報理論の下界と一致するレベルセット推定のサンプルの複雑さに関する最初のインスタンス依存の非漸近上界を提供する。
関連論文リスト
- Nearly Minimax Optimal Regret for Learning Linear Mixture Stochastic
Shortest Path [80.60592344361073]
線形混合遷移カーネルを用いた最短経路(SSP)問題について検討する。
エージェントは繰り返し環境と対話し、累積コストを最小化しながら特定の目標状態に到達する。
既存の作業は、イテレーションコスト関数の厳密な下限や、最適ポリシーに対する期待長の上限を仮定することが多い。
論文 参考訳(メタデータ) (2024-02-14T07:52:00Z) - High Probability Convergence of Stochastic Gradient Methods [15.829413808059124]
最適解への初期距離に依存する有界収束を示す。
AdaGrad-Normのハイバウンドが得られることを示す。
論文 参考訳(メタデータ) (2023-02-28T18:42:11Z) - Estimating the minimizer and the minimum value of a regression function
under passive design [72.85024381807466]
最小値 $boldsymbolx*$ と最小値 $f*$ を滑らかで凸な回帰関数 $f$ で推定する新しい手法を提案する。
2次リスクと$boldsymbolz_n$の最適化誤差、および$f*$を推定するリスクについて、漸近的でない上界を導出する。
論文 参考訳(メタデータ) (2022-11-29T18:38:40Z) - Best Policy Identification in Linear MDPs [70.57916977441262]
縮退した線形マルコフ+デルタ決定における最適同定問題について, 生成モデルに基づく固定信頼度設定における検討を行った。
複雑な非最適化プログラムの解としての下位境界は、そのようなアルゴリズムを考案する出発点として用いられる。
論文 参考訳(メタデータ) (2022-08-11T04:12:50Z) - A first-order primal-dual method with adaptivity to local smoothness [64.62056765216386]
凸凹対象 $min_x max_y f(x) + langle Ax, yrangle - g*(y)$, ここで、$f$ は局所リプシッツ勾配を持つ凸関数であり、$g$ は凸かつ非滑らかである。
主勾配ステップと2段ステップを交互に交互に行うCondat-Vuアルゴリズムの適応バージョンを提案する。
論文 参考訳(メタデータ) (2021-10-28T14:19:30Z) - Second-Order Information in Non-Convex Stochastic Optimization: Power
and Limitations [54.42518331209581]
私たちは発見するアルゴリズムを見つけます。
epsilon$-approximate stationary point ($|nabla F(x)|le epsilon$) using
$(epsilon,gamma)$surimateランダムランダムポイント。
ここでの私たちの下限は、ノイズのないケースでも新規です。
論文 参考訳(メタデータ) (2020-06-24T04:41:43Z) - Multi-Scale Zero-Order Optimization of Smooth Functions in an RKHS [19.252319300590653]
ブラックボックス関数 $f:mathcalX mapto mathbbR$ は、$f$がよりスムーズで、与えられたカーネル $K$ に関連する RKHS の有界ノルムを持つという仮定の下で最適化される。
本稿では,H の局所多項式 (LP) 推定器を用いて通常の GP 代理モデルを拡張した新しいアルゴリズム (textttLP-GP-UCB) を提案する。
論文 参考訳(メタデータ) (2020-05-11T01:55:39Z) - Complexity of Finding Stationary Points of Nonsmooth Nonconvex Functions [84.49087114959872]
非滑らかで非滑らかな関数の定常点を見つけるための最初の非漸近解析を提供する。
特に、アダマール半微分可能函数(おそらく非滑らか関数の最大のクラス)について研究する。
論文 参考訳(メタデータ) (2020-02-10T23:23:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。