論文の概要: Asymptotic convergence rates for averaging strategies

• arxiv url: http://arxiv.org/abs/2108.04707v1
• Date: Tue, 10 Aug 2021 14:09:46 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-18 21:19:01.975464
• Title: Asymptotic convergence rates for averaging strategies
• Title（参考訳）: 平均化戦略に対する漸近収束率
• Authors: Laurent Meunier, Iskander Legheraba, Yann Chevaleyre, Olivier Teytaud
• Abstract要約: 並列二次ブラックボックス最適化は、$lambda$並列評価の$f$を使って関数の最適値を推定する。 $lambda$評価の中で$mu$の最高の個人を評価することは、単にベストを拾うよりも、関数の最適性をよりよく見積もることが知られている。
• 参考スコア（独自算出の注目度）: 10.639022684335293
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Parallel black box optimization consists in estimating the optimum of a function using $\lambda$ parallel evaluations of $f$. Averaging the $\mu$ best individuals among the $\lambda$ evaluations is known to provide better estimates of the optimum of a function than just picking up the best. In continuous domains, this averaging is typically just based on (possibly weighted) arithmetic means. Previous theoretical results were based on quadratic objective functions. In this paper, we extend the results to a wide class of functions, containing three times continuously differentiable functions with unique optimum. We prove formal rate of convergences and show they are indeed better than pure random search asymptotically in $\lambda$. We validate our theoretical findings with experiments on some standard black box functions.
• Abstract（参考訳）: 並列ブラックボックス最適化は、$f$の$\lambda$並列評価を用いて関数の最適値を推定する。 averaging the $\mu$ best individual in the $\lambda$ evaluations(英語版)は、単にベストを拾うよりも最適な関数の見積もりが良いことが知られている。 連続領域では、この平均化は一般に単に(おそらく重み付けされた)算術手段に基づいている。 従来の理論結果は二次目的関数に基づいている。 本稿では,各関数を多種多様な関数に拡張し,一意な最適値を持つ連続微分可能関数を3回含む。 形式的な収束率を証明し、$\lambda$ で漸近的に純粋なランダム探索よりも優れていることを示す。 いくつかの標準ブラックボックス関数の実験により理論的知見を検証する。

関連論文リスト

• Faster Convergence with Multiway Preferences [99.68922143784306]
  本稿では,符号関数に基づく比較フィードバックモデルについて考察し,バッチとマルチウェイの比較による収束率の解析を行う。 本研究は,マルチウェイ選好による凸最適化の問題を初めて研究し,最適収束率を解析するものである。
  論文  参考訳（メタデータ） (2023-12-19T01:52:13Z)
• Zero-Order One-Point Estimate with Distributed Stochastic Gradient-Tracking Technique [23.63073074337495]
  本研究では,各エージェントが滑らかで凸な局所目的関数を持つ分散マルチエージェント最適化問題を考える。 分散勾配追跡法を,勾配推定のない帯域設定に拡張する。 近似ツールを用いた滑らかで凸な目的のための新しい手法の収束解析を行う。
  論文  参考訳（メタデータ） (2022-10-11T17:04:45Z)
• Understanding the Effect of Stochasticity in Policy Optimization [86.7574122154668]
  最適化手法の優位性は、正確な勾配が用いられるかどうかに大きく依存することを示す。 次に,政策最適化におけるコミット率の概念を紹介する。 第三に、外部のオラクル情報がない場合には、収束を加速するために幾何を利用することと、最適性をほぼ確実に達成することとの間に本質的にトレードオフがあることが示される。
  論文  参考訳（メタデータ） (2021-10-29T06:35:44Z)
• Submodular + Concave [53.208470310734825]
  第一次最適化法が凹関数の最大目的値に収束できることはよく確立されている。 本研究では、滑らかな函数凸体(英語版)の行列式を$F(x) = G(x) +C(x)$で始める。 このクラスの函数は、保証がないような凹凸函数と連続DR-部分モジュラ函数の両方の拡張である。
  論文  参考訳（メタデータ） (2021-06-09T01:59:55Z)
• Bayesian Optimistic Optimisation with Exponentially Decaying Regret [58.02542541410322]
  現在の実用的なBOアルゴリズムは、$mathcalO(fraclogNsqrtN)$から$mathcalO(e-sqrtN)$まで、$N$は評価の数である。 本稿では,boと木に基づく楽観的楽観化の概念を絡み合うことにより,無音環境における後悔を改善できる可能性について検討する。 次数$mathcal O(N-sqrt)で指数的再帰を達成できる最初の実践的手法であるBOOアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-05-10T13:07:44Z)
• Regret Bounds for Gaussian-Process Optimization in Large Domains [40.92207267407271]
  最適化戦略から得られる解の準最適性(ベイズ的単純後悔)の上限を与える。 これらの後悔の境界は、評価の数、ドメインサイズ、および検索された関数値の最適性の関係を照らす。 特に、評価の数が小さすぎて大域的な最適値が見つからなかったとしても、非自明な関数値を見つけることができる。
  論文  参考訳（メタデータ） (2021-04-29T05:19:03Z)
• Finding Global Minima via Kernel Approximations [90.42048080064849]
  関数評価のみに基づく滑らかな関数のグローバル最小化を考える。 本稿では,近似関数を共同でモデル化し,大域的最小値を求める手法を検討する。
  論文  参考訳（メタデータ） (2020-12-22T12:59:30Z)
• What do you Mean? The Role of the Mean Function in Bayesian Optimisation [0.03305438525880806]
  収束速度は平均関数の選択に敏感に依存できることを示す。 設計次元について、最低の観測値に等しい定数平均関数を使用する$ge5$が、常に最良の選択であることがわかった。
  論文  参考訳（メタデータ） (2020-04-17T17:10:17Z)
• Incorporating Expert Prior in Bayesian Optimisation via Space Warping [54.412024556499254]
  大きな探索空間では、アルゴリズムは関数の最適値に達する前に、いくつかの低関数値領域を通過する。 このコールドスタートフェーズの1つのアプローチは、最適化を加速できる事前知識を使用することである。 本稿では,関数の事前分布を通じて,関数の最適性に関する事前知識を示す。 先行分布は、探索空間を最適関数の高確率領域の周りに拡張し、最適関数の低確率領域の周りに縮小するようにワープする。
  論文  参考訳（メタデータ） (2020-03-27T06:18:49Z)
• Efficient Rollout Strategies for Bayesian Optimization [15.050692645517998]
  ほとんどの獲得関数はミオピックであり、次の関数評価の影響のみを考慮することを意味する。 準モンテカルロ, 共通乱数, 制御変数の組み合わせはロールアウトの計算負担を著しく低減することを示した。 次に、ロールアウト獲得関数の最適化の必要性を排除したポリシー検索に基づくアプローチを定式化する。
  論文  参考訳（メタデータ） (2020-02-24T20:54:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。