論文の概要: Adaptive multi-fidelity optimization with fast learning rates

• arxiv url: http://arxiv.org/abs/2604.16239v1
• Date: Fri, 17 Apr 2026 16:59:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-20 22:00:20.014986
• Title: Adaptive multi-fidelity optimization with fast learning rates
• Title（参考訳）: 高速学習率を用いた適応多忠実度最適化
• Authors: Come Fiegel, Victor Gabillon, Michal Valko,
• Abstract要約: 本稿では,限られた予算で局所的に滑らかな関数を最適化する問題について検討する。 まず、虚偽性に関する異なる仮定の下で、簡単な後悔に対する低い限界を証明します。 次に,関数の知識を必要とせず,同じ確率で計算を行うコメトアルゴリズムを提案する。
• 参考スコア（独自算出の注目度）: 14.941820094179747
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In multi-fidelity optimization, biased approximations of varying costs of the target function are available. This paper studies the problem of optimizing a locally smooth function with a limited budget, where the learner has to make a tradeoff between the cost and the bias of these approximations. We first prove lower bounds for the simple regret under different assumptions on the fidelities, based on a cost-to-bias function. We then present the Kometo algorithm which achieves, with additional logarithmic factors, the same rates without any knowledge of the function smoothness and fidelity assumptions, and improves previously proven guarantees. We finally empirically show that our algorithm outperforms previous multi-fidelity optimization methods without the knowledge of problem-dependent parameters.
• Abstract（参考訳）: 多重忠実度最適化では、対象関数の様々なコストの偏り近似が利用可能である。 本稿では,学習者がコストとそれらの近似のバイアスのトレードオフを行なわなければならない,限られた予算で局所的滑らかな関数を最適化する問題を考察する。 まず、コスト・ツー・バイアス関数に基づいて、虚偽性に関する異なる仮定の下で、単純後悔の限界を低く証明する。 次に,関数の滑らかさや忠実さの仮定を知らずに,付加的な対数係数で同じレートを達成し,以前に証明された保証を改善することを提案する。 提案アルゴリズムは,問題依存パラメータの知識を必要とせずに,従来の多要素最適化手法よりも優れていることを示す。

関連論文リスト

• A Novel Unified Parametric Assumption for Nonconvex Optimization [53.943470475510196]
  非最適化は機械学習の中心であるが、一般の非凸性は弱い収束を保証するため、他方に比べて悲観的すぎる。 非凸アルゴリズムに新しい統一仮定を導入する。
  論文  参考訳（メタデータ） (2025-02-17T21:25:31Z)
• Optimal Rates for Robust Stochastic Convex Optimization [12.620782629498812]
  我々は、$epsilon$-contaminationモデルの下で、最小最適過剰リスク(対数因子まで)を達成する新しいアルゴリズムを開発した。 我々のアルゴリズムは、個々のサンプル関数のリプシッツ連続性や滑らかさを含む厳密な仮定を必要としない。 我々は、ロバストSCOのための厳密な情報理論の下限でアルゴリズム開発を補完する。
  論文  参考訳（メタデータ） (2024-12-15T00:52:08Z)
• Error Feedback under $(L_0,L_1)$-Smoothness: Normalization and Momentum [56.37522020675243]
  機械学習の幅広い問題にまたがる正規化誤差フィードバックアルゴリズムに対する収束の最初の証明を提供する。 提案手法では,許容可能なステップサイズが大きくなったため,新しい正規化エラーフィードバックアルゴリズムは,各種タスクにおける非正規化エラーよりも優れていた。
  論文  参考訳（メタデータ） (2024-10-22T10:19:27Z)
• Learning-Rate-Free Stochastic Optimization over Riemannian Manifolds [1.6385815610837167]
  そこで本研究では,リーマン数に対する最適化のための革新的な学習速度自由アルゴリズムを提案する。 我々は、決定論的設定において最もよく知られた最適調整率と比較して、対数的要因まで最適である高い確率収束を保証する。 提案手法は数値実験によって検証され,学習速度依存アルゴリズムに対する競合性能が実証された。
  論文  参考訳（メタデータ） (2024-06-04T13:17:24Z)
• Distributed Fractional Bayesian Learning for Adaptive Optimization [12.158466416574448]
  本稿では,各エージェントが共通パラメータを持つローカルコスト関数にのみアクセス可能な分散適応最適化問題について考察する。 分散最適化問題におけるパラメータの不確実性に対処し、同時に最適解を見つけるための貴重な洞察を提供することを目的としている。
  論文  参考訳（メタデータ） (2024-04-17T13:09:33Z)
• Non-Convex Optimization with Certificates and Fast Rates Through Kernel Sums of Squares [68.8204255655161]
  非最適化近似問題を考える。 本稿では,最優先計算を保証するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-04-11T09:37:04Z)
• Multi-Step Budgeted Bayesian Optimization with Unknown Evaluation Costs [28.254408148839644]
  不均一な評価コストの設定に古典的な期待改善を一般化する非筋力的獲得関数を提案する。 我々の獲得関数は、様々な合成問題や実問題において、既存の手法よりも優れています。
  論文  参考訳（メタデータ） (2021-11-12T02:18:26Z)
• Outlier-Robust Sparse Estimation via Non-Convex Optimization [73.18654719887205]
  空間的制約が存在する場合の高次元統計量と非破壊的最適化の関連について検討する。 これらの問題に対する新規で簡単な最適化法を開発した。 結論として、効率よくステーションに収束する一階法は、これらのタスクに対して効率的なアルゴリズムを導出する。
  論文  参考訳（メタデータ） (2021-09-23T17:38:24Z)
• Convergence of adaptive algorithms for weakly convex constrained optimization [59.36386973876765]
  モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。 我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
  論文  参考訳（メタデータ） (2020-06-11T17:43:19Z)
• Support recovery and sup-norm convergence rates for sparse pivotal estimation [79.13844065776928]
  高次元スパース回帰では、ピボット推定器は最適な正規化パラメータがノイズレベルに依存しない推定器である。 非滑らかで滑らかな単一タスクとマルチタスク正方形ラッソ型推定器に対するミニマックス超ノルム収束率を示す。
  論文  参考訳（メタデータ） (2020-01-15T16:11:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。