論文の概要: Accelerating Multi-Objective Bayesian Optimisation via Predictive-Gradient Catalysts
- arxiv url: http://arxiv.org/abs/2606.06984v1
- Date: Fri, 05 Jun 2026 07:21:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-08 14:33:29.608942
- Title: Accelerating Multi-Objective Bayesian Optimisation via Predictive-Gradient Catalysts
- Title(参考訳): 予測勾配触媒による多目的ベイズ最適化の高速化
- Authors: Alma Rahat, Tinkle Chugh, Jonathan Fieldsend, Richard Allmendinger,
- Abstract要約: 本稿では,多目的ベイズ最適化のための一般化加速機構を提案する。
提案手法は,サロゲート勾配から得られる局所定常情報を用いて既存の取得機能を増強する。
- 参考スコア(独自算出の注目度): 1.4799451949417248
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper presents a general acceleration mechanism for multi-objective Bayesian optimisation (MOBO) that leverages Gaussian process predictive gradients as auxiliary signals. Rather than replacing existing Pareto-compliant acquisition functions, the proposed approach augments them with local stationarity information derived from surrogate-derived gradients, enabling faster convergence toward the global Pareto set under limited evaluation budgets. Two catalyst instantiations are investigated: an adaptive Multiple-Gradient Descent Algorithm-Based Catalyst (MGDA) and a predefined-weight variant that enables focused exploration when budgets are tight. Experiments on the DTLZ benchmark suite (using 2 objectives and 10 decision variables) show that predictive gradient catalysis can deliver significant acceleration compared to other acquisition functions (EHVI, AugTch, tMPoI, SAF) when surrogates are accurate, particularly for stationary problems.
- Abstract(参考訳): 本稿では,ガウス過程予測勾配を補助信号として利用する多目的ベイズ最適化(MOBO)の一般化促進機構を提案する。
提案手法は,既存のパレート対応の取得機能を置き換えるのではなく,サロゲート由来の勾配から得られる局所定常情報を拡張し,限られた評価予算の下でのパレート集合への高速収束を可能にする。
適応型多結晶Descent Algorithm-Based Catalyst (MGDA) と, 予算が厳密な場合に焦点を絞った探索を可能にする事前定義された重み付き触媒の2つの触媒インスタンス化について検討した。
DTLZベンチマークスイート(2つの目的と10の決定変数)の実験では、サロゲートが正確である場合、特に定常的な問題に対して、予測勾配触媒が他の獲得関数(EHVI, AugTch, tMPoI, SAF)と比較して大きな加速をもたらすことが示されている。
関連論文リスト
- Self-Tuning Sparse Attention: Multi-Fidelity Hyperparameter Optimization for Transformer Acceleration [0.0]
AFBS-BOは、人間の介入なしに最適な層と頭固有のハイパーパラメータを発見する、完全に自動化されたフレームワークである。
Llama-2-7Bでは、AFBS-BOはハイパーパラメータ発見を3.4倍加速し、グリッドサーチよりも8.8倍少ない評価を行う。
手動で調整されたプリミティブから自己最適化プリミティブに変換することで、AFBS-BOは様々なトランスフォーマーアーキテクチャやドメイン間のプラグアンドプレイアクセラレーションを可能にする。
論文 参考訳(メタデータ) (2026-03-19T02:24:38Z) - Bayesian Optimization with Gaussian Processes to Accelerate Stationary Point Searches [0.0]
本稿では,最小化,単点サドル探索,ダブルエンドサドル探索を統一した6ステップサロゲートループによるベイズ最適化手法を提案する。
このフレームワークは、微分観測、逆距離カーネル、アクティブラーニングによるガウス過程の回帰を用いている。
Rustのコードは、すべてのアプリケーションが全く同じベイズ最適化ループを使用しており、理論的な定式化と実践的な実行のギャップを埋めていることを示している。
論文 参考訳(メタデータ) (2026-03-11T17:20:28Z) - Enhancing Fractional Gradient Descent with Learned Optimizers [3.3900431852643114]
Fractional Gradient Descent (FGD)は、分数計算を機械学習に組み込むことで最適化を加速する、新しくて有望な方法を提供する。
本手法のメタ学習性能は, 完全にブラックボックスでメタラーニングしたメタラーニング性能に匹敵する。
L2O-CFGDは研究者にとって強力なツールとなる。
論文 参考訳(メタデータ) (2025-10-21T16:33:20Z) - AutoSGD: Automatic Learning Rate Selection for Stochastic Gradient Descent [58.05410015124021]
本稿では,SGD法であるAutoSGDを紹介する。
実験結果から,従来の最適化問題や機械学習タスクにおいて,この手法の強い性能が示唆された。
論文 参考訳(メタデータ) (2025-05-27T18:25:21Z) - Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum [78.27945336558987]
分散サーバ(DFL)はクライアント・クライアント・アーキテクチャへの依存をなくす。
非滑らかな正規化はしばしば機械学習タスクに組み込まれる。
本稿では,これらの問題を解決する新しいDNCFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-04-17T08:32:25Z) - On the Convergence of DP-SGD with Adaptive Clipping [56.24689348875711]
勾配クリッピングによるグラディエントDescentは、微分プライベート最適化を実現するための強力な技術である。
本稿では,量子クリッピング(QC-SGD)を用いたSGDの総合収束解析について述べる。
本稿では,QC-SGDが一定閾値クリッピングSGDに類似したバイアス問題にどのように悩まされているかを示す。
論文 参考訳(メタデータ) (2024-12-27T20:29:47Z) - Adaptive Catalyst Discovery Using Multicriteria Bayesian Optimization with Representation Learning [17.00084254889438]
高性能触媒は、持続可能なエネルギー変換と人間の健康に不可欠である。
触媒の発見は、巨大で高次元の構造と合成空間をナビゲートするための効率的なアプローチがないため、課題に直面している。
論文 参考訳(メタデータ) (2024-04-18T18:11:06Z) - Nesterov Meets Optimism: Rate-Optimal Separable Minimax Optimization [108.35402316802765]
本稿では,新しい一階最適化アルゴリズムであるAcceleratedGradient-OptimisticGradient (AG-OG) Ascentを提案する。
我々はAG-OGが様々な設定に対して最適収束率(定数まで)を達成することを示す。
アルゴリズムを拡張して設定を拡張し、bi-SC-SCとbi-C-SCの両方で最適な収束率を達成する。
論文 参考訳(メタデータ) (2022-10-31T17:59:29Z) - Momentum Accelerates the Convergence of Stochastic AUPRC Maximization [80.8226518642952]
高精度リコール曲線(AUPRC)に基づく領域の最適化について検討し,不均衡なタスクに広く利用されている。
我々は、$O (1/epsilon4)$のより優れた反復による、$epsilon$定常解を見つけるための新しい運動量法を開発する。
また,O(1/epsilon4)$と同じ複雑さを持つ適応手法の新たなファミリを設計し,実際により高速な収束を享受する。
論文 参考訳(メタデータ) (2021-07-02T16:21:52Z) - Hessian-Free High-Resolution Nesterov Acceleration for Sampling [55.498092486970364]
最適化のためのNesterovのAccelerated Gradient(NAG)は、有限のステップサイズを使用する場合の連続時間制限(ノイズなしの運動的ランゲヴィン)よりも優れたパフォーマンスを持つ。
本研究は, この現象のサンプリング法について検討し, 離散化により加速勾配に基づくMCMC法が得られる拡散過程を提案する。
論文 参考訳(メタデータ) (2020-06-16T15:07:37Z) - Adaptive Gradient Methods Can Be Provably Faster than SGD after Finite
Epochs [25.158203665218164]
適応勾配法は有限時間後にランダムシャッフルSGDよりも高速であることを示す。
我々の知る限り、適応的勾配法は有限時間後にSGDよりも高速であることを示すのはこれが初めてである。
論文 参考訳(メタデータ) (2020-06-12T09:39:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。