論文の概要: Adaptive KappaSharp: Condition-Number Shaping for Preferential Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2608.07859v1
- Date: Sat, 08 Aug 2026 01:56:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:36.535002
- Title: Adaptive KappaSharp: Condition-Number Shaping for Preferential Bayesian Optimization
- Title（参考訳）: Adaptive KappaSharp: 優先ベイズ最適化のための条件値整形
- Abstract要約: 本稿では, ヘッセン語に対する対角補正を提案し, 条件数を削減するとともに, 先行不確実性が高くなるような補正を行う。
アダプティブ・カッパ・シャープは標準のPBOベースラインを上回り、+10.9%である。
- 参考スコア（独自算出の注目度）: 8.796729796675573
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Preferential Bayesian optimization (PBO) optimizes objectives accessible only through pairwise user comparisons. The standard approach fits a Gaussian process surrogate for observed pairwise comparisons (PairwiseGP) using the Laplace approximation and selects queries with the Expected Utility of Best Option (EUBO) acquisition function. EUBO queries new candidates at each step, producing pairs that share no candidates with previous queries. Each such pair forms an isolated component in the comparison graph, removing one degree of freedom from the likelihood Hessian and making it rank-deficient. This deficiency is structural and cannot be resolved by changing the surrogate modeling approach. Existing approaches to remedy this issue either waste query budget by forcing comparisons to stay connected, or apply uniform regularization that also perturbs directions already well-constrained by the observed comparisons. We propose KappaSharp that enables a diagonal correction to the Hessian to reduce its condition number, with larger corrections where the prior uncertainty is higher. The correction is only applied in the model fitting step, not query selection. An adaptive variant of KappaSharp is also presented that activates the correction only when the surrogate is confident about recent comparisons, avoiding unnecessary corrections when the problem is well-conditioned. On 11 benchmarks (5--20 dimensions), including a 16-dimensional controller tuning problem in plasma medicine, Adaptive KappaSharp outperforms the standard PBO baseline, with up to +10.9% ($p{=}0.003$).
- Abstract（参考訳）: Preferential Bayesian Optimization (PBO)は、ペアワイズユーザ比較を通じてのみアクセス可能な目的を最適化する。
標準的なアプローチは、観測されたペアワイズ比較(PairwiseGP)のために、Laplace近似を用いてガウス過程のサロゲートに適合し、期待されたベストオプション(EUBO)取得関数でクエリを選択する。
EUBOは各ステップで新しい候補をクエリし、以前のクエリと候補を共有しないペアを生成する。
これらのペアは、比較グラフの中で孤立成分を形成し、ヘッセン性から1つの自由度を取り除き、階数不足にする。
この欠損は構造的であり、代理モデリングのアプローチを変えることで解決できない。
この問題を解決するための既存のアプローチは、比較を接続に強制することでクエリ予算を浪費するか、あるいは、観測された比較によって既に十分に制約された方向を乱す均一な正規化を適用するかのどちらかである。
本稿では, ヘッセン語に対する対角補正により, 先行不確実性が高い場合には, より大きい補正で条件数を削減することを可能とするKappaSharpを提案する。
この補正は、クエリの選択ではなく、モデルフィッティングステップでのみ適用される。
カッパシャープの適応的な変種も提示され、サロゲートが最近の比較に自信を持つ場合にのみ修正を活性化し、問題が十分に条件付けられたときに不要な修正を避ける。
プラズマ医学における16次元コントローラチューニング問題を含む11のベンチマーク(5-20次元)では、Adaptive KappaSharpは標準のPBOベースラインを+10.9%(p{=}0.003$)で上回っている。
関連論文リスト
- Adaptive Regularization for Sparsity Control in Bregman-Based Optimizers [14.98763942493771]
本稿では,モデルの現在の空間とターゲット空間との差に基づいて$$を更新する適応正規化手法を提案する。
提案手法は,75%から99%の範囲の空間的目標を確実に達成する。
初期のトレーニングでは、オラクルで調整された非適応ベースラインよりも早く収束し、同じエラー率で最終的なパフォーマンスを達成または上回っている。
論文 参考訳（メタデータ） (2026-05-08T15:37:24Z) - Towards Efficient and Optimal Covariance-Adaptive Algorithms for Combinatorial Semi-Bandits [12.674929126684528]
我々は、プレイヤーがPアクションの中から d 個の基本アイテムを含む集合のパワーセットから選択する半帯域の問題に対処する。
提案手法は半帯域フィードバックを効果的に活用し,帯域フィードバックアプローチより優れていることを示す。
論文 参考訳（メタデータ） (2024-02-23T08:07:54Z) - Curvature-Informed SGD via General Purpose Lie-Group Preconditioners [6.760212042305871]
曲率情報を利用して勾配降下(SGD)を加速する新しい手法を提案する。
提案手法は,行列フリープレコンディショナーと低ランクプレコンディショナーの2つのプレコンディショナーを含む。
プレコンディショニングされたSGD(PSGD)は、ビジョン、NLP、RLタスクにおいてSoTAよりも優れていることを示す。
論文 参考訳（メタデータ） (2024-02-07T03:18:00Z) - Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。
まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。
次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文 参考訳（メタデータ） (2022-10-04T04:43:58Z) - Probabilistic Permutation Graph Search: Black-Box Optimization for
Fairness in Ranking [53.94413894017409]
本稿では、置換グラフの概念に基づいて、置換分布を表現する新しい方法を提案する。
PLと同様に、PPGと呼ばれる分布表現は、公正性のブラックボックス最適化に利用できる。
論文 参考訳（メタデータ） (2022-04-28T20:38:34Z) - Triangulation candidates for Bayesian optimization [0.3222802562733786]
ベイズ最適化 (Bayesian optimization) は、入力-出力関係を適切なフレキシブル回帰モデルで理想化する設計形式である。
本稿では,デラウネー三角測量に基づく提案手法を提案する。
論文 参考訳（メタデータ） (2021-12-14T15:13:31Z) - Preferential Bayesian optimisation with Skew Gaussian Processes [0.225596179391365]
選好関数の真の後続分布はスキューガウス過程(SkewGP)であることを示す。
我々は、正確なSkiwGP後部を計算し、標準取得関数を用いたPBOの代理モデルとして利用する効率的な手法を導出する。
また、我々のフレームワークは、混合優先カテゴリーBOを扱うように拡張可能であることも示している。
論文 参考訳（メタデータ） (2020-08-15T08:23:17Z) - Balancing Rates and Variance via Adaptive Batch-Size for Stochastic
Optimization Problems [120.21685755278509]
本研究は,ステップサイズの減衰が正確な収束に必要であるという事実と,一定のステップサイズがエラーまでの時間でより速く学習するという事実のバランスをとることを目的とする。
ステップサイズのミニバッチを最初から修正するのではなく,パラメータを適応的に進化させることを提案する。
論文 参考訳（メタデータ） (2020-07-02T16:02:02Z) - Private Stochastic Non-Convex Optimization: Adaptive Algorithms and
Tighter Generalization Bounds [72.63031036770425]
有界非次元最適化のための差分プライベート(DP)アルゴリズムを提案する。
標準勾配法に対する経験的優位性について,2つの一般的なディープラーニング手法を実証する。
論文 参考訳（メタデータ） (2020-06-24T06:01:24Z) - Convergence of adaptive algorithms for weakly convex constrained
optimization [59.36386973876765]
モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。
我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
論文 参考訳（メタデータ） (2020-06-11T17:43:19Z) - Non-Adaptive Adaptive Sampling on Turnstile Streams [57.619901304728366]
カラムサブセット選択、部分空間近似、射影クラスタリング、および空間サブリニアを$n$で使用するターンタイルストリームのボリュームに対する最初の相対エラーアルゴリズムを提供する。
我々の適応的なサンプリング手法は、様々なデータ要約問題に多くの応用をもたらしており、これは最先端を改善するか、より緩和された行列列モデルで以前に研究されただけである。
論文 参考訳（メタデータ） (2020-04-23T05:00:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。