論文の概要: Generative Refinement for Low-Budget Black-Box Optimization
- arxiv url: http://arxiv.org/abs/2607.00691v1
- Date: Wed, 01 Jul 2026 09:41:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-02 19:56:07.832495
- Title: Generative Refinement for Low-Budget Black-Box Optimization
- Title(参考訳): 低予算ブラックボックス最適化のための生成的リファインメント
- Abstract要約: ブラックボックス最適化は、情報なしで目的を最適化できる基本的な科学と工学のツールである。
生成モデルを利用してサブスペースをナビゲートする既存の手法は、報酬整合分布からサンプリングするために構築されている。
報酬信号から生成前を完全分離するアルゴリズムであるSPARROWを提案する。
- 参考スコア(独自算出の注目度): 33.559218731885046
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Black-box optimization is a fundamental science and engineering tool that makes it possible to optimize objectives without gradient information. Unfortunately, as it often requires many function evaluations, it can be challenging when each one is costly. This is especially true when the evaluation function is noisy or failure-prone, and when high-performing solutions are confined to thin, curved, or disconnected regions of the search space. Existing methods leveraging generative models to navigate these subspaces are built to sample from reward-aligned distributions. As a result, they require a large number of evaluations to align their sampler effectively, making them impractical in low-budget settings. We propose SPARROW, an algorithm that completely decouples the generative prior from the reward signal. SPARROW can use any sampler with a known corruption process and trained on unevaluated data, as a fixed, structured proposal operator. Optimization proceeds by rank-based guidance over an archive of evaluated candidates. SPARROW can navigate complex geometries, handle unreliable reward signals, and perform effective optimization under very low evaluation budgets. We provide asymptotic convergence guarantees over the sampler support and demonstrate strong empirical performance on problems with unreliable rewards and geometrically complex landscapes.
- Abstract(参考訳): ブラックボックス最適化は、グラデーション情報なしで目的を最適化できる基本的な科学と工学のツールである。
残念ながら、多くの関数評価を必要とすることが多いため、各関数がコストがかかる場合、難しい場合がある。
これは、評価関数がノイズや故障を起こしやすい場合に特に当てはまり、高い性能の解が探索空間の細い、湾曲した、あるいは切断された領域に制限される場合である。
これらの部分空間をナビゲートするために生成モデルを利用する既存の手法は、報酬整合分布からサンプリングするために構築されている。
結果として、サンプルを効果的に調整するためには多数の評価が必要であるため、低予算環境では実用的ではない。
報酬信号から生成前を完全分離するアルゴリズムであるSPARROWを提案する。
SPARROWは、既知の汚職プロセスを持つサンプルを使用でき、未評価のデータに基づいて、固定された構造化された提案演算子として訓練することができる。
評価された候補のアーカイブに対するランクベースのガイダンスによって最適化が進められる。
SPARROWは複雑な測地をナビゲートし、信頼できない報奨信号を処理し、非常に低い評価予算の下で効果的な最適化を行うことができる。
筆者らは, サンプル化支援に関する漸近収束保証を行い, 信頼性の低い報奨や幾何学的に複雑な景観を有する問題に対して, 強い経験的性能を示す。
関連論文リスト
- Rethinking Learnability in Offline Data-driven Optimization [20.146021332129703]
Black-Box Optimization (BBO)は、現実世界の問題がますます複雑化するにつれて効率上の課題に直面している。
データ駆動最適化は、データから学習することでBBOの効率を改善する最も一般的なパラダイムである。
多くのオフライン最適化手法が提案されているが、根本的な疑問は未解決のままである。
論文 参考訳(メタデータ) (2026-09-01T16:22:28Z) - Gradient-Free Noise Optimization for Reward Alignment in Generative Models [52.42087778653147]
ZeNOは、経路積分制御問題としてノイズ最適化を定式化する、勾配のないフレームワークである。
効果的な推論時間スケーリングを可能にし、多様なジェネレータと報酬関数間で強力なパフォーマンスを示す。
論文 参考訳(メタデータ) (2026-05-12T00:05:36Z) - Kernel Learning for Sample Constrained Black-Box Optimization [7.054093620465401]
本稿では,ガウス過程のカーネルを学習するための新しい手法を提案する。
我々の考えは、変分オートエンコーダの潜在空間に連続的なカーネル空間を作成し、最適なカーネルを特定するための補助最適化を実行することである。
結果は、合成ベンチマーク関数だけでなく、実際のアプリケーションにも当てはまる。
論文 参考訳(メタデータ) (2025-07-28T05:32:11Z) - Preference Optimization for Combinatorial Optimization Problems [54.87466279363487]
強化学習(Reinforcement Learning, RL)は、ニューラルネットワーク最適化のための強力なツールとして登場した。
大幅な進歩にもかかわらず、既存のRLアプローチは報酬信号の減少や大規模な行動空間における非効率な探索といった課題に直面している。
統計的比較モデルを用いて定量的報酬信号を定性的選好信号に変換する新しい手法であるPreference Optimizationを提案する。
論文 参考訳(メタデータ) (2025-05-13T16:47:00Z) - Indirect Query Bayesian Optimization with Integrated Feedback [17.66813850517961]
我々は,未知関数の条件付き期待値$f$を最適化することで,統合されたフィードバックが与えられるような,ベイズ最適化の新たなクラスを開発する。
目的は、条件分布によって変換された空間を適応的にクエリし、観察することで、$f$のグローバルな最適値を見つけることである。
これは、プライバシ、ハードウェア、計算上の制約による直接的なフィードバックにアクセスできない現実世界のアプリケーションによって動機付けられている。
論文 参考訳(メタデータ) (2024-12-18T07:20:33Z) - In-context Demonstration Matters: On Prompt Optimization for Pseudo-Supervision Refinement [71.60563181678323]
大規模言語モデル(LLM)は様々なタスクで大きな成功を収めており、生成品質をさらに向上させるためには微調整が必要である場合もある。
これらの課題に対処する直接的な解決策は、教師なしの下流タスクから高信頼のデータを生成することである。
本稿では,プロンプトと全体的な擬似スーパービジョンを両立させる新しい手法,擬似教師付きデモアライメント・アライメント・アライメント・プロンプト・最適化(PAPO)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-10-04T03:39:28Z) - Learning in Inverse Optimization: Incenter Cost, Augmented Suboptimality
Loss, and Algorithms [4.0295993947651025]
我々は、最近Besbesらによって提案された「内心」の概念を、周辺に類似した新しい概念として紹介する。
本稿では,不整合データ問題に対する内心的概念の緩和であるASL (Augmented Suboptimality Loss) という新たな損失関数を提案する。
このアルゴリズムは、近似的な下位段階の評価とミラー降下更新ステップを組み合わせることで、高濃度の離散可能な集合を持つIO問題に対して、確実に効率的である。
論文 参考訳(メタデータ) (2023-05-12T18:58:08Z) - Robust expected improvement for Bayesian optimization [1.8130068086063336]
本稿では,BO/GPフレームワークに敵対的手法を組み込む,堅牢な予測改善(REI)と呼ばれる代理モデルとアクティブラーニング手法を提案する。
ベンチマーク・シンセティック・エクササイズと、様々な複雑さの実際の問題について、いくつかの競合相手と比較し、比較する。
論文 参考訳(メタデータ) (2023-02-16T22:34:28Z) - Local policy search with Bayesian optimization [73.0364959221845]
強化学習は、環境との相互作用によって最適な政策を見つけることを目的としている。
局所探索のための政策勾配は、しばしばランダムな摂動から得られる。
目的関数の確率モデルとその勾配を用いたアルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-06-22T16:07:02Z) - Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box
Optimization Framework [100.36569795440889]
この作業は、一階情報を必要としない零次最適化(ZO)の反復である。
座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
論文 参考訳(メタデータ) (2020-12-21T17:29:58Z) - Global Optimization of Objective Functions Represented by ReLU Networks [77.55969359556032]
ニューラルネットワークは複雑で非敵対的な関数を学ぶことができ、安全クリティカルな文脈でそれらの正しい振る舞いを保証することは困難である。
ネットワーク内の障害を見つけるための多くのアプローチ(例えば、敵の例)があるが、これらは障害の欠如を保証できない。
本稿では,最適化プロセスを検証手順に統合し,本手法よりも優れた性能を実現する手法を提案する。
論文 参考訳(メタデータ) (2020-10-07T08:19:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。