論文の概要: Stochastic simultaneous optimistic optimization
- arxiv url: http://arxiv.org/abs/2604.24537v1
- Date: Mon, 27 Apr 2026 14:34:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-28 17:12:08.086611
- Title: Stochastic simultaneous optimistic optimization
- Title(参考訳): 確率的同時楽観最適化
- Authors: Michal Valko, Alexandra Carpentier, Rémi Munos,
- Abstract要約: 雑音による摂動数が有限である関数 f の評価問題について検討する。
我々のアルゴリズムであるStoSOOは、関数領域の階層的分割上の上位信頼境界を構築し、次にどの点をサンプリングするかを決定する楽観的な戦略に従う。
StoSOO の有限時間解析は、関数の局所的滑らかさが分かっていないにもかかわらず、最も高度に最適化されたアルゴリズムと同等に機能することを示している。
- 参考スコア(独自算出の注目度): 70.50540950403109
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study the problem of global maximization of a function f given a finite number of evaluations perturbed by noise. We consider a very weak assumption on the function, namely that it is locally smooth (in some precise sense) with respect to some semi-metric, around one of its global maxima. Compared to previous works on bandits in general spaces (Kleinberg et al., 2008; Bubeck et al., 2011a) our algorithm does not require the knowledge of this semi-metric. Our algorithm, StoSOO, follows an optimistic strategy to iteratively construct upper confidence bounds over the hierarchical partitions of the function domain to decide which point to sample next. A finite-time analysis of StoSOO shows that it performs almost as well as the best specifically-tuned algorithms even though the local smoothness of the function is not known.
- Abstract(参考訳): 雑音によって摂動される有限個の評価を与えられた関数fの大域的最大化問題について検討する。
函数に対する非常に弱い仮定、すなわち、その大域的な極大の1つにあたり、ある半計量に関して局所的に滑らかな(ある正確な意味で)ものであると考える。
一般空間における包帯に関する以前の研究(Kleinberg et al , 2008; Bubeck et al , 2011a)と比較して、我々のアルゴリズムはこの半計量の知識を必要としない。
我々のアルゴリズムであるStoSOOは、関数領域の階層的分割上の上位信頼境界を反復的に構築し、次にどの点をサンプリングするかを決定する楽観的な戦略に従う。
StoSOO の有限時間解析は、関数の局所的滑らかさが分かっていないにもかかわらず、最も高度に最適化されたアルゴリズムと同等に機能することを示している。
関連論文リスト
- Convergence Rate of the Last Iterate of Stochastic Proximal Algorithms [8.636513507553504]
加算合成凸最適化問題を解くための2つの古典的アルゴリズムを解析する。
我々は、最後の反復収束率を得るために、一般的だが厳密な有界分散仮定に焦点を当てる。
本結果は,複数タスクおよびフェデレーション学習において発生するグラフ誘導正規化器に直接適用し,協調グラフのエッジ上の和として正規化器を分解する。
論文 参考訳(メタデータ) (2026-02-05T09:50:06Z) - Stochastic Zeroth-Order Optimization under Strongly Convexity and Lipschitz Hessian: Minimax Sample Complexity [59.75300530380427]
本稿では,アルゴリズムが検索対象関数の雑音評価にのみアクセス可能な2次スムーズかつ強い凸関数を最適化する問題を考察する。
本研究は, ミニマックス単純後悔率について, 一致した上界と下界を発達させることにより, 初めて厳密な評価を行ったものである。
論文 参考訳(メタデータ) (2024-06-28T02:56:22Z) - Fully Zeroth-Order Bilevel Programming via Gaussian Smoothing [7.143879014059895]
ビルベル問題の解法としてゼロ階近似アルゴリズムを研究・解析する。
我々の知る限りでは、完全ゼロ階二階最適化アルゴリズムのためにサンプル境界が確立されたのはこれが初めてである。
論文 参考訳(メタデータ) (2024-03-29T21:12:25Z) - Gradient-free optimization of highly smooth functions: improved analysis
and a new algorithm [87.22224691317766]
この研究は、目的関数が極めて滑らかであるという仮定の下で、ゼロ次ノイズオラクル情報による問題を研究する。
ゼロオーダー射影勾配勾配アルゴリズムを2種類検討する。
論文 参考訳(メタデータ) (2023-06-03T17:05:13Z) - An Algebraically Converging Stochastic Gradient Descent Algorithm for Global Optimization [14.121491356732188]
アルゴリズムの主要な構成要素は、目的関数の値に基づくランダム性である。
アルゴリズムの収束を代数学で証明し、パラメータ空間でチューニングする。
アルゴリズムの効率性とロバスト性を示す数値的な例をいくつか提示する。
論文 参考訳(メタデータ) (2022-04-12T16:27:49Z) - Finding Global Minima via Kernel Approximations [90.42048080064849]
関数評価のみに基づく滑らかな関数のグローバル最小化を考える。
本稿では,近似関数を共同でモデル化し,大域的最小値を求める手法を検討する。
論文 参考訳(メタデータ) (2020-12-22T12:59:30Z) - Recent Theoretical Advances in Non-Convex Optimization [56.88981258425256]
近年、深層ネットワークにおける非最適化アルゴリズムの解析やデータ問題への関心が高まっており、非最適化のための理論的最適化アルゴリズムの最近の結果の概要を概説する。
論文 参考訳(メタデータ) (2020-12-11T08:28:51Z) - Exploiting Higher Order Smoothness in Derivative-free Optimization and
Continuous Bandits [99.70167985955352]
強凸関数のゼロ次最適化問題について検討する。
予測勾配降下アルゴリズムのランダム化近似を考察する。
その結果,0次アルゴリズムはサンプルの複雑性や問題パラメータの点でほぼ最適であることが示唆された。
論文 参考訳(メタデータ) (2020-06-14T10:42:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。