論文の概要: Efficient Line Search Method Based on Regression and Uncertainty Quantification
- arxiv url: http://arxiv.org/abs/2405.10897v1
- Date: Fri, 17 May 2024 16:35:20 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-20 15:34:03.800140
- Title: Efficient Line Search Method Based on Regression and Uncertainty Quantification
- Title（参考訳）: 回帰と不確かさの定量化に基づく効率的な線探索法
- Authors: Sören Laue, Tomislav Prusina,
- Abstract要約: 制約のない最適化問題は、通常、最適なステップ長を決定するために反復法を用いて解決される。
本稿では,ベイズ最適化を用いた新しい線探索手法を提案する。
既存の最先端手法と比較して優れた性能を示し、同等のリソース使用量で最適性に多くの問題を解決している。
- 参考スコア（独自算出の注目度）: 7.724860428430271
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Unconstrained optimization problems are typically solved using iterative methods, which often depend on line search techniques to determine optimal step lengths in each iteration. This paper introduces a novel line search approach. Traditional line search methods, aimed at determining optimal step lengths, often discard valuable data from the search process and focus on refining step length intervals. This paper proposes a more efficient method using Bayesian optimization, which utilizes all available data points, i.e., function values and gradients, to guide the search towards a potential global minimum. This new approach more effectively explores the search space, leading to better solution quality. It is also easy to implement and integrate into existing frameworks. Tested on the challenging CUTEst test set, it demonstrates superior performance compared to existing state-of-the-art methods, solving more problems to optimality with equivalent resource usage.
- Abstract（参考訳）: 制約のない最適化問題は典型的には反復法を用いて解決されるが、これは各反復において最適なステップ長を決定するために行探索技術に依存することが多い。
本稿では,新しい線探索手法を提案する。
伝統的な行探索法は、最適なステップの長さを決定することを目的としており、しばしば探索プロセスから貴重なデータを破棄し、ステップの長さ間隔の精細化に焦点をあてる。
本稿では,関数値や勾配といった利用可能なすべてのデータポイントを利用して,より効率的なベイズ最適化手法を提案する。
この新しいアプローチは、より効果的に検索スペースを探索し、より良いソリューション品質をもたらす。
既存のフレームワークの実装や統合も簡単です。
挑戦的なCUTEstテストセットでテストした結果、既存の最先端メソッドよりも優れたパフォーマンスを示し、同等のリソース使用量で最適な問題に対処する。
関連論文リスト
- Training Greedy Policy for Proposal Batch Selection in Expensive Multi-Objective Combinatorial Optimization [52.80408805368928]
本稿では,バッチ取得のための新しいグリーディ型サブセット選択アルゴリズムを提案する。
赤蛍光タンパク質に関する実験により,提案手法は1.69倍少ないクエリでベースライン性能を達成できることが判明した。
論文 参考訳（メタデータ） (2024-06-21T05:57:08Z) - HomOpt: A Homotopy-Based Hyperparameter Optimization Method [10.11271414863925]
一般化加法モデル(GAM)とホモトピー最適化を組み合わせたデータ駆動型手法であるHomOptを提案する。
本稿では,HomOptが任意のメソッドの性能と有効性を向上し,連続離散およびカテゴリー領域空間上での最適収束を高速化する方法について述べる。
論文 参考訳（メタデータ） (2023-08-07T06:01:50Z) - Efficient Non-Parametric Optimizer Search for Diverse Tasks [93.64739408827604]
興味のあるタスクを直接検索できる,スケーラブルで汎用的なフレームワークを初めて提示する。
基礎となる数学表現の自然木構造に着想を得て、空間を超木に再配置する。
我々は,モンテカルロ法を木探索に適用し,レジェクションサンプリングと等価形状検出を備える。
論文 参考訳（メタデータ） (2022-09-27T17:51:31Z) - Learning Proximal Operators to Discover Multiple Optima [66.98045013486794]
非家族問題における近位演算子を学習するためのエンドツーエンド手法を提案する。
本手法は,弱い目的と穏やかな条件下では,世界規模で収束することを示す。
論文 参考訳（メタデータ） (2022-01-28T05:53:28Z) - Fighting the curse of dimensionality: A machine learning approach to
finding global optima [77.34726150561087]
本稿では,構造最適化問題におけるグローバル最適化の方法を示す。
特定のコスト関数を利用することで、最適化手順が確立された場合と比較して、グローバルをベストに得るか、最悪の場合、優れた結果を得るかのどちらかを得る。
論文 参考訳（メタデータ） (2021-10-28T09:50:29Z) - Bayesian Algorithm Execution: Estimating Computable Properties of
Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。
本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。
これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文 参考訳（メタデータ） (2021-04-19T17:22:11Z) - A Regularized Limited Memory BFGS method for Large-Scale Unconstrained
Optimization and its Efficient Implementations [0.0]
そこで本研究では,特定の正規化手法を用いた新しい制限メモリBFGS (L-BFGS) 法を提案する。
通常の仮定の下では、そのグローバルな収束を示す。
また、ノンモノトーン法やウルフ線探索の同時利用など、いくつかの手法で拡張する。
論文 参考訳（メタデータ） (2021-01-12T11:24:37Z) - Stochastic Optimization Forests [60.523606291705214]
標準的なランダムな森林アルゴリズムのように予測精度を向上させるために分割するのではなく、分割を選択した木を栽培し、下流の意思決定品質を直接最適化することで、森林決定政策の訓練方法を示す。
概略分割基準は、各候補分割に対して正確に最適化された森林アルゴリズムに近い性能を保ちながら、100倍のランニング時間を短縮できることを示す。
論文 参考訳（メタデータ） (2020-08-17T16:56:06Z) - Accelerated Sparse Bayesian Learning via Screening Test and Its
Applications [0.9916217495995309]
線形系では、過度に完備な特徴の辞書を具備した最小の解を求めるのは通常NPハードである。
本稿では,解の空間性を促進するためにパラメータ化を事前に用いた疎ベイズ学習を提案する。
論文 参考訳（メタデータ） (2020-07-08T10:21:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。