論文の概要: Local Preferential Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2606.02351v2
- Date: Mon, 08 Jun 2026 08:36:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-09 14:42:04.785687
- Title: Local Preferential Bayesian Optimization
- Title(参考訳): 局所優先ベイズ最適化
- Authors: Johanna Menn, Miriam Kober, Paul Brunzema, David Stenger, Sebastian Trimpe,
- Abstract要約: 我々は,鍵アイデアを高次元BOから優先的な設定に伝達する局所的なPBO手法のファミリーを開発する。
特に、信頼領域とデリバティブインフォームドローカル検索を相互に選好フィードバックに適応させるローカルPBO手法を提案する。
GPサンプルパス,標準最適化ベンチマーク関数,ポリシ検索タスクのベンチマークでは,局所的なPBO手法が特に高次元・複雑な景観に有効であることが示されている。
- 参考スコア(独自算出の注目度): 9.598309537357386
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian optimization (BO) is a popular and effective approach for tuning expensive, noisy experiments, but requires the formulation of an explicit objective function. Preferential BO (PBO) removes this requirement by learning from pairwise human feedback, yet existing methods struggle to efficiently optimize beyond low- and medium-dimensional problems due to their global search approaches. We address this limitation by developing a family of local PBO methods that transfer key ideas from high-dimensional BO to the preferential setting. In particular, we introduce local PBO methods which adapt trust-region and derivative-informed local search to pairwise preference feedback, where the latter exploits first- and second-order derivatives of the Laplace-approximated GP posterior. Our benchmark on GP sample paths, standard optimization benchmark functions, and policy-search tasks shows that local PBO methods are especially effective in high-dimensional and complex landscapes with steep optima. Compared with global preference-based baselines, they can substantially reduce cumulative regret, making them particularly useful for real-world preference-based optimization tasks such as policy search.
- Abstract(参考訳): ベイズ最適化(BO)は、高価でノイズの多い実験をチューニングするための一般的かつ効果的なアプローチであるが、明示的な客観的関数の定式化が必要である。
優先BO (Preferential BO) は, 対人フィードバックから学習することで, この要件を解消するが, 既存の手法では, グローバルな探索手法による低次元・中次元問題を超えて効率よく最適化することが困難である。
この制限には,高次元BOから優先的な設定へキーアイデアを伝達する局所的なPBO手法のファミリーを開発することで対処する。
特に、信頼領域とデリバティブインフォームドローカルサーチを相互に選好フィードバックに適応させる局所PBO手法を導入し、後者はラプラス近似GPの1階微分と2階微分を利用する。
GPサンプルパス, 標準最適化ベンチマーク関数, およびポリシ検索タスクのベンチマークでは, 局所的なPBO法は特に急勾配の高次元かつ複雑な景観において有効であることが示された。
グローバルな嗜好ベースのベースラインと比較して、累積的後悔を著しく減らし、ポリシー検索のような現実の嗜好ベースの最適化タスクに特に役立つ。
関連論文リスト
- Localized Zeroth-Order Prompt Optimization [54.964765668688806]
そこで我々は,ZOPO(Localized zeroth-order prompt optimization)という新しいアルゴリズムを提案する。
ZOPOはニューラル・タンジェント・カーネルをベースとしたガウス法を標準ゼロ階次最適化に取り入れ、高速な局所最適探索を高速化する。
注目すべきは、ZOPOは最適化性能とクエリ効率の両方の観点から、既存のベースラインを上回っていることだ。
論文 参考訳(メタデータ) (2024-03-05T14:18:15Z) - Towards Efficient Exact Optimization of Language Model Alignment [93.39181634597877]
嗜好データから直接ポリシーを最適化するために、直接選好最適化(DPO)が提案された。
問題の最適解に基づいて導出されたDPOが,現実の最適解の妥協平均探索近似に繋がることを示す。
本稿では、アライメント目的の効率的な精度最適化(EXO)を提案する。
論文 参考訳(メタデータ) (2024-02-01T18:51:54Z) - LABCAT: Locally adaptive Bayesian optimization using principal-component-aligned trust regions [0.0]
信頼領域に基づくBOを拡張した LABCAT アルゴリズムを提案する。
このアルゴリズムは、最先端のBOや他のブラックボックス最適化アルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-11-19T13:56:24Z) - Learning Regions of Interest for Bayesian Optimization with Adaptive
Level-Set Estimation [84.0621253654014]
本稿では,高信頼領域を適応的にフィルタするBALLETというフレームワークを提案する。
理論的には、BALLETは探索空間を効率的に縮小することができ、標準BOよりも厳密な後悔を示すことができる。
論文 参考訳(メタデータ) (2023-07-25T09:45:47Z) - The Behavior and Convergence of Local Bayesian Optimization [20.568490114736818]
局所最適化戦略は、従来のグローバル戦略と比較して高次元問題に対して強い経験的性能をもたらすことができる。
まず,局所的なアプローチの挙動を考察し,ガウス過程のサンプルパスの個々の局所解の統計値が,グローバルな手法から得られるであろうものと比較して驚くほど良好であることを示す。
論文 参考訳(メタデータ) (2023-05-24T21:11:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。