論文の概要: Local Entropy Search over Descent Sequences for Bayesian Optimization

• arxiv url: http://arxiv.org/abs/2511.19241v1
• Date: Mon, 24 Nov 2025 15:52:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-25 18:34:25.287042
• Title: Local Entropy Search over Descent Sequences for Bayesian Optimization
• Title（参考訳）: ベイズ最適化のためのDescent Sequence上の局所エントロピー探索
• Authors: David Stenger, Armin Lindicke, Alexander von Rohr, Sebastian Trimpe,
• Abstract要約: 実用的な方法は、勾配降下のような局所最適化手法を用いて初期設計の近傍を反復的に洗練することである。 降下列で到達可能な解を明示的に対象とするベイズ最適化パラダイムである局所エントロピー探索(LES)を提案する。
• 参考スコア（独自算出の注目度）: 48.7994415668802
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Searching large and complex design spaces for a global optimum can be infeasible and unnecessary. A practical alternative is to iteratively refine the neighborhood of an initial design using local optimization methods such as gradient descent. We propose local entropy search (LES), a Bayesian optimization paradigm that explicitly targets the solutions reachable by the descent sequences of iterative optimizers. The algorithm propagates the posterior belief over the objective through the optimizer, resulting in a probability distribution over descent sequences. It then selects the next evaluation by maximizing mutual information with that distribution, using a combination of analytic entropy calculations and Monte-Carlo sampling of descent sequences. Empirical results on high-complexity synthetic objectives and benchmark problems show that LES achieves strong sample efficiency compared to existing local and global Bayesian optimization methods.
• Abstract（参考訳）: 大域的最適のために大規模で複雑な設計空間を探索することは不可能であり、不要である。 実用的な方法は、勾配降下のような局所最適化手法を用いて初期設計の近傍を反復的に洗練することである。 本稿では,反復最適化器の降下列で到達可能な解を明示的に対象とする局所エントロピー探索(LES)を提案する。 このアルゴリズムは、最適化器を通じて目的に対する後続の信念を伝播し、従属列上の確率分布をもたらす。 次に、解析エントロピー計算とモンテカルロによる降下系列のサンプリングを組み合わせることで、その分布と相互情報を最大化することで次の評価を選択する。 高複雑さの合成目的およびベンチマーク問題に関する実証的な結果から、LESは既存の局所的および大域的ベイズ最適化法と比較して強いサンプル効率を達成することが示された。

関連論文リスト

• On the Optimal Construction of Unbiased Gradient Estimators for Zeroth-Order Optimization [57.179679246370114]
  既存の手法の潜在的な制限は、ステップサイズが提案されない限り、ほとんどの摂動推定器に固有のバイアスである。 本稿では, 良好な構成を維持しつつ, バイアスを排除した非バイアス勾配スケーリング推定器のファミリーを提案する。
  論文  参考訳（メタデータ） (2025-10-22T18:25:43Z)
• Optimizing Posterior Samples for Bayesian Optimization via Rootfinding [2.94944680995069]
  我々は,グローバルなルートフィンディングに基づく後方サンプルの効率的な大域的最適化手法を提案する。 注目すべきは、各集合から 1 点しか持たなくても、大域的最適度は大抵の場合発見されることである。 提案手法は,エントロピー探索の変種など,他の後部サンプルベース獲得関数の性能も向上する。
  論文  参考訳（メタデータ） (2024-10-29T17:57:16Z)
• Localized Zeroth-Order Prompt Optimization [54.964765668688806]
  そこで我々は,ZOPO(Localized zeroth-order prompt optimization)という新しいアルゴリズムを提案する。 ZOPOはニューラル・タンジェント・カーネルをベースとしたガウス法を標準ゼロ階次最適化に取り入れ、高速な局所最適探索を高速化する。 注目すべきは、ZOPOは最適化性能とクエリ効率の両方の観点から、既存のベースラインを上回っていることだ。
  論文  参考訳（メタデータ） (2024-03-05T14:18:15Z)
• Random Postprocessing for Combinatorial Bayesian Optimization [0.552480439325792]
  ベイズ最適化における後処理法の効果を数値的に検討する。 ポストプロセッシング法は,グローバルな最適解を見つけるための逐次ステップの数を著しく削減する。
  論文  参考訳（メタデータ） (2023-09-06T08:59:34Z)
• Local policy search with Bayesian optimization [73.0364959221845]
  強化学習は、環境との相互作用によって最適な政策を見つけることを目的としている。 局所探索のための政策勾配は、しばしばランダムな摂動から得られる。 目的関数の確率モデルとその勾配を用いたアルゴリズムを開発する。
  論文  参考訳（メタデータ） (2021-06-22T16:07:02Z)
• Sequential Subspace Search for Functional Bayesian Optimization Incorporating Experimenter Intuition [63.011641517977644]
  本アルゴリズムは,実験者のガウス過程から引き出された一組の引き数で区切られた関数空間の有限次元ランダム部分空間列を生成する。 標準ベイズ最適化は各部分空間に適用され、次の部分空間の出発点(オリジン)として用いられる最良の解である。 シミュレーションおよび実世界の実験,すなわちブラインド関数マッチング,アルミニウム合金の最適析出強化関数の探索,深層ネットワークの学習速度スケジュール最適化において,本アルゴリズムを検証した。
  論文  参考訳（メタデータ） (2020-09-08T06:54:11Z)
• Global Optimization of Gaussian processes [52.77024349608834]
  少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。 このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。 提案手法の順序の順序による時間収束を,総じて低減する。
  論文  参考訳（メタデータ） (2020-05-21T20:59:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。