論文の概要: ECPv2: Fast, Efficient, and Scalable Global Optimization of Lipschitz Functions
- arxiv url: http://arxiv.org/abs/2511.16575v1
- Date: Thu, 20 Nov 2025 17:30:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-21 17:08:52.75965
- Title: ECPv2: Fast, Efficient, and Scalable Global Optimization of Lipschitz Functions
- Title(参考訳): ECPv2:リプシッツ関数の高速、効率的、スケーラブルなグローバル最適化
- Authors: Fares Fourati, Mohamed-Slim Alouini, Vaneet Aggarwal,
- Abstract要約: ECPv2は、未知のリプシッツを持つリプシッツ連続関数のグローバル最適化のためのスケーラブルで理論的に基礎付けられたアルゴリズムである。
ECPv2は最適時間境界でECPのNo-Regret保証を保ち,これらの結果により受容領域を拡大することを示す。
- 参考スコア(独自算出の注目度): 91.31596562378076
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose ECPv2, a scalable and theoretically grounded algorithm for global optimization of Lipschitz-continuous functions with unknown Lipschitz constants. Building on the Every Call is Precious (ECP) framework, which ensures that each accepted function evaluation is potentially informative, ECPv2 addresses key limitations of ECP, including high computational cost and overly conservative early behavior. ECPv2 introduces three innovations: (i) an adaptive lower bound to avoid vacuous acceptance regions, (ii) a Worst-m memory mechanism that restricts comparisons to a fixed-size subset of past evaluations, and (iii) a fixed random projection to accelerate distance computations in high dimensions. We theoretically show that ECPv2 retains ECP's no-regret guarantees with optimal finite-time bounds and expands the acceptance region with high probability. We further empirically validate these findings through extensive experiments and ablation studies. Using principled hyperparameter settings, we evaluate ECPv2 across a wide range of high-dimensional, non-convex optimization problems. Across benchmarks, ECPv2 consistently matches or outperforms state-of-the-art optimizers, while significantly reducing wall-clock time.
- Abstract(参考訳): 我々は、未知のリプシッツ定数を持つリプシッツ連続関数のグローバル最適化のためのスケーラブルで理論的に基礎付けられたアルゴリズムであるECPv2を提案する。
Every Call is Precious (ECP) フレームワークの構築により、ECPv2 は高い計算コストや過度に保守的な初期動作を含む、ECP の重要な制限に対処する。
ECPv2が3つのイノベーションを導入
一 空き地を避けるための適応的下限
(ii)過去の評価の固定サイズサブセットとの比較を制限するWorst-mメモリ機構、及び
(3)高次元における距離計算を高速化する固定ランダム投影。
理論的には、ECPv2 は最適有限時間境界で ECP の非回帰保証を保ち、高い確率で受容領域を拡大する。
広範囲な実験とアブレーション研究を通じて,これらの知見を実証的に検証した。
原理的ハイパーパラメータ設定を用いて,多種多様な高次元非凸最適化問題に対してECPv2を評価する。
ベンチマーク全体において、ECPv2は、最先端のオプティマイザと一貫して一致または性能を向上すると同時に、ウォールタイム時間を著しく短縮する。
関連論文リスト
- Stochastic Primal-Dual Double Block-Coordinate for Two-way Partial AUC Maximization [45.99743804547533]
2方向部分AUCAUCは、不均衡なデータを持つバイナリ分類における重要な性能指標である。
TPAUC最適化のための既存のアルゴリズムは未探索のままである。
TPAUC最適化のための2つの革新的な二重座標ブロック座標アルゴリズムを導入する。
論文 参考訳(メタデータ) (2025-05-28T03:55:05Z) - Generalized Kernel Inducing Points by Duality Gap for Dataset Distillation [14.979902937312099]
Duality Gap KIP (DGKIP) は、Kernel Inducing Points (KIP) 法の拡張である。
MNISTやCIFAR-10のような標準ベンチマークの実験結果から、DGKIPはKIPの効率を保ちながら、より広範な適用性と堅牢な性能を提供することが示された。
論文 参考訳(メタデータ) (2025-02-18T07:43:13Z) - Every Call is Precious: Global Optimization of Black-Box Functions with Unknown Lipschitz Constants [72.47160195925056]
我々は、リプシッツ連続関数のグローバル最適化のための新しいアプローチであるCall Precious (P)を紹介する。
P はリプシッツ定数を推定する必要性を排除し、従って追加関数を最小化する。
ECは、評価予算に対する非レグレットパフォーマンスを保証します。
論文 参考訳(メタデータ) (2025-02-06T18:34:40Z) - ReLU to the Rescue: Improve Your On-Policy Actor-Critic with Positive Advantages [37.12048108122337]
本稿では, アクター批判的深層強化学習におけるベイズ推定の近似に向けてのステップを提案する。
Asynchronous Advantage Actor-Critic (A3C)アルゴリズムの3つの変更によって実装されている。
論文 参考訳(メタデータ) (2023-06-02T11:37:22Z) - Non-Convex Optimization with Certificates and Fast Rates Through Kernel
Sums of Squares [68.8204255655161]
非最適化近似問題を考える。
本稿では,最優先計算を保証するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-04-11T09:37:04Z) - Fast Objective & Duality Gap Convergence for Non-Convex Strongly-Concave
Min-Max Problems with PL Condition [52.08417569774822]
本稿では,深層学習(深層AUC)により注目度が高まっている,円滑な非凹部min-max問題の解法に焦点をあてる。
論文 参考訳(メタデータ) (2020-06-12T00:32:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。