論文の概要: Confidence-based Ranking with Adaptive Sampling for Noisy Black-Box Optimisation
- arxiv url: http://arxiv.org/abs/2607.14936v1
- Date: Thu, 16 Jul 2026 12:48:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-17 17:01:33.097786
- Title: Confidence-based Ranking with Adaptive Sampling for Noisy Black-Box Optimisation
- Title(参考訳): ノイズの多いブラックボックス最適化のための適応サンプリングを用いた信頼度に基づくランク付け
- Abstract要約: 実世界の最適化問題は、一般にノイズ最適化問題(NOP)と呼ばれるブラックボックス関数とその評価に不確実性を伴うことが多い。
提案手法では, 計算効率のよい明示的平均化手法と, サンプリング予算の適応を併用した新しい信頼度ランキング法を提案する。
得られたアルゴリズムは, 相似雑音と異種雑音の双方において, 様々な問題に対して評価され, 最先端の手法と比較して優れた性能を示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Real-world optimization problems often involve black-box functions and uncertainties in their evaluation, widely referred to as noisy optimization problems (NOPs). Evolutionary algorithms (EA), including Evolutionary Strategies (ES) and genetic algorithms (GA) have been commonly adopted to solve these problems in the contemporary literature. An ongoing challenge is the computational expense involved, given the number of evaluations required for good fitness estimation and ranking. Two fundamental methods commonly used for fitness estimation for NOPs are implicit averaging and explicit averaging. Explicit averaging uses resampling of solutions to improve the estimates, while implicit averaging typically uses a large population size with low resampling. Implicit averaging has been shown to have theoretical advantages for certain cases, which has motivated some recent approaches to use them. However, a recent study demonstrated that its performance is highly dependent on certain assumptions about the function, such as steepness and constant noise level, which may not apply for majority of the real world problems. Moreover, most existing algorithms have only considered homoscedastic noise, where the amplitude of variation is uniform across the entire search space, as opposed to more generic case of heteroscedastic noise. To address these issues, we introduce a set of heteroscedastic test problems and propose a novel confidence ranking method that employs a computationally efficient explicit averaging strategy with sampling budget adaptation. It is implemented within the Covariance Matrix Adaptation ES (CMA-ES) and GA frameworks to demonstrate its effectiveness and versatility. The resulting algorithm is evaluated on a range of problems with both homoscedastic and heteroscedastic noise, and it demonstrates superior performance compared to state-of-the-art approaches.
- Abstract(参考訳): 実世界の最適化問題は、ブラックボックス関数と評価の不確実性(一般にノイズ最適化問題(NOP)と呼ばれる)を伴うことが多い。
進化的戦略(ES)や遺伝的アルゴリズム(GA)を含む進化的アルゴリズム(EA)は、現代文学においてこれらの問題を解決するために一般的に採用されている。
優れたフィットネス推定とランキングに必要とされる評価の数を考えると、現在進行中の課題は計算コストである。
NOPの適合度推定によく用いられる2つの基本的な方法は、暗黙平均化と明示平均化である。
明示的平均化は見積もりを改善するために解の再サンプリングを使い、暗黙的平均化は典型的には低い再サンプリングを伴う大きな集団サイズを使用する。
暗黙的な平均化は、いくつかのケースで理論的に有利であることが示されており、それらを使用するための最近のアプローチの動機となっている。
しかし、最近の研究では、その性能は、実世界のほとんどの問題に当てはまらない急勾配や定音レベルといった、関数に関する特定の仮定に大きく依存していることが示されている。
さらに、既存のほとんどのアルゴリズムは、異方性雑音のより一般的な場合とは対照的に、探索空間全体にわたって変動の振幅が均一であるホモスセダティックノイズしか考慮していない。
これらの問題に対処するため、我々は、予算適応をサンプリングした計算効率の良い明示的平均化戦略を取り入れた、新しい信頼度ランキング法を提案する。
Covariance Matrix Adaptation ES (CMA-ES) と GA フレームワークで実装され、その有効性と汎用性を示す。
得られたアルゴリズムは, 相似雑音と異種雑音の双方において, 様々な問題に対して評価され, 最先端の手法と比較して優れた性能を示す。
関連論文リスト
- A Firefly Algorithm for Mixed-Variable Optimization Based on Hybrid Distance Modeling [0.0]
混合変数最適化問題(FAmv)に対するFireflyアルゴリズムの適応性を提案する。
提案手法は, 連続成分, 離散成分を統一的な定式化に組み込む改良された距離ベース魅力機構に依存する。
その結果、FAmvは最先端の混合変数最適化アルゴリズムと比較して、競争力があり、しばしば優れた性能を発揮することがわかった。
論文 参考訳(メタデータ) (2026-03-25T16:52:54Z) - Direct Preference Optimization with Rating Information: Practical Algorithms and Provable Gains [67.71020482405343]
評価ギャップの形で追加情報を活用するアルゴリズムを設計する方法について検討する。
精度の高いレーティングギャップ情報が存在する場合,DPOよりも高速な統計的レートを実現するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2026-01-31T08:38:21Z) - Principled Algorithms for Optimizing Generalized Metrics in Binary Classification [53.604375124674796]
一般化されたメトリクスを最適化するアルゴリズムを導入し、$H$-consistency と finite-sample generalization bounds をサポートする。
提案手法は,メトリクス最適化を一般化したコスト依存学習問題として再検討する。
我々は,理論性能を保証する新しいアルゴリズムMETROを開発した。
論文 参考訳(メタデータ) (2025-12-29T01:33:42Z) - An Adaptive Re-evaluation Method for Evolution Strategy under Additive Noise [3.92625489118339]
本稿では,加法的なガウスホワイトノイズによる関数値の最適再評価数を適応的に選択する手法を提案する。
実験では,CMA-ESのノイズハンドリング手法を人工的なテスト関数の集合上で実験的に比較した。
論文 参考訳(メタデータ) (2024-09-25T09:10:21Z) - Accelerated stochastic approximation with state-dependent noise [7.4648480208501455]
勾配観測における2次雑音に対する一般仮定の下での滑らかな凸最適化問題を考察する。
このような問題は、統計学におけるよく知られた一般化された線形回帰問題において、様々な応用において自然に発生する。
SAGDとSGEは、適切な条件下で、最適収束率を達成することを示す。
論文 参考訳(メタデータ) (2023-07-04T06:06:10Z) - Exploring the Algorithm-Dependent Generalization of AUPRC Optimization
with List Stability [107.65337427333064]
AUPRC(Area Under the Precision-Recall Curve)の最適化は、機械学習にとって重要な問題である。
本研究では, AUPRC最適化の単依存一般化における最初の試行について述べる。
3つの画像検索データセットの実験は、我々のフレームワークの有効性と健全性に言及する。
論文 参考訳(メタデータ) (2022-09-27T09:06:37Z) - Local policy search with Bayesian optimization [73.0364959221845]
強化学習は、環境との相互作用によって最適な政策を見つけることを目的としている。
局所探索のための政策勾配は、しばしばランダムな摂動から得られる。
目的関数の確率モデルとその勾配を用いたアルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-06-22T16:07:02Z) - High Probability Complexity Bounds for Non-Smooth Stochastic Optimization with Heavy-Tailed Noise [51.31435087414348]
アルゴリズムが高い確率で小さな客観的残差を与えることを理論的に保証することが不可欠である。
非滑らか凸最適化の既存の方法は、信頼度に依存した複雑性境界を持つ。
そこで我々は,勾配クリッピングを伴う2つの手法に対して,新たなステップサイズルールを提案する。
論文 参考訳(メタデータ) (2021-06-10T17:54:21Z) - Continuous surrogate-based optimization algorithms are well-suited for
expensive discrete problems [9.655888042539495]
本研究では, 連続代理モデルを用いることで, 最先端の離散代理モデルと競合する性能を示す実証的証拠を示す。
異なる離散構造と時間的制約に関する我々の実験は、どのアルゴリズムがどの種類の問題でうまく機能するかについての洞察を与える。
論文 参考訳(メタデータ) (2020-11-06T15:27:45Z) - Variance-Reduced Off-Policy Memory-Efficient Policy Search [61.23789485979057]
政治政策の最適化は強化学習において難しい問題である。
オフポリシーアルゴリズムはメモリ効率が高く、オフポリシーサンプルから学ぶことができる。
論文 参考訳(メタデータ) (2020-09-14T16:22:46Z) - Fast and stable MAP-Elites in noisy domains using deep grids [1.827510863075184]
Deep-Grid MAP-ElitesはMAP-Elitesアルゴリズムの変種である。
この単純なアプローチは、適合性最適化の観点から競争性能を達成しつつ、動作記述子のノイズに対する耐性が著しく高いことを示す。
論文 参考訳(メタデータ) (2020-06-25T08:47:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。