論文の概要: Adapting Nonstationary Multi-output Gaussian Processes to Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2609.32464v1
- Date: Sat, 26 Sep 2026 10:54:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-07 08:57:10.920634
- Title: Adapting Nonstationary Multi-output Gaussian Processes to Bayesian Optimization
- Title(参考訳): 非定常多出力ガウス過程のベイズ最適化への適応
- Abstract要約: マルチ出力低ランク非定常(MO-LRN)GPのミスマッチについて検討し、高いトレーニング適合性は大規模なオフデザインエラーと楽観的な獲得予測と共存できることを示した。
MOLRN-BOは、正規化された共有スペクトルサロゲートと、目的固有残差、先行平均補正、誘電共分散スケーリングを組み合わせたものである。
実験により、MOLRN-BOは元のMO-LRNを大幅に改善し、最終正規化ハイパーボリュームと正規化逆世代距離の最良の平均問題ランクを達成することが示された。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-objective Bayesian optimization (MOBO) commonly relies on independent Gaussian processes (GPs) with stationary kernels, limiting its ability to represent nonstationary structure and share information between objectives. However, expressive nonstationary GPs do not necessarily make reliable BO decisions. We study this mismatch for the multi-output low-rank nonstationary (MO-LRN) GP: strong training fit can coexist with large off-design errors and optimistic acquisition predictions. We introduce MOLRN-BO, which combines a regularized shared-spectral surrogate with objective-specific residuals, prequential mean correction and tempered covariance scaling, and Pareto-local qLogEHVI optimization with periodic global search. Experiments on 12 deterministic bi-objective benchmarks show that MOLRN-BO substantially improves upon the original MO-LRN and achieves the best average problem ranks for final normalized hypervolume and normalized inverted generational distance among nine evaluated algorithms. It also achieves the strongest adverse-tail performance while remaining competitive with the leading baselines in anytime optimization. Ablation studies further show that the shared spectral construction improves off-design prediction, the local--global decision policy improves optimization performance, and hierarchical calibration reduces systematic candidate bias. These results demonstrate that nonstationary multi-output surrogates can deliver strong and robust MOBO performance when their structure and use are explicitly adapted to the demands of sequential optimization.
- Abstract(参考訳): 多目的ベイズ最適化(MOBO)は一般に定常カーネルを持つ独立ガウス過程(GP)に依存し、非定常構造を表現し、目的物間で情報を共有する能力を制限する。
しかし、表現的非定常GPは必ずしも信頼性のあるBO決定を行うとは限らない。
マルチ出力低ランク非定常(MO-LRN)GPに対するこのミスマッチについて検討する。
MOLRN-BOは、正規化された共有スペクトルサロゲートと目標固有残差と、事前平均補正と誘電共分散スケーリングと、周期的グローバルサーチによるパレート局所qLogEHVI最適化を組み合わせたものである。
12個の決定論的双対象ベンチマーク実験により、MOLRN-BOは元のMO-LRNを大幅に改善し、9つの評価アルゴリズムのうち、最終正規化ハイパーボリュームと正規化逆生成距離に対する最高の平均問題ランクを達成することが示された。
また、最強の悪尾性能を達成し、常に最上位のベースラインと競合する。
アブレーション研究では、共有スペクトル構造はオフデザイン予測を改善し、局所的-グローバル決定ポリシーは最適化性能を改善し、階層的キャリブレーションは体系的な候補バイアスを減少させることを示した。
これらの結果から、非定常多出力サロゲートは、その構造と使用がシーケンシャルな最適化の要求に明示的に適応している場合に、強力で堅牢なMOBO性能を提供できることが示された。
関連論文リスト
- Bayesian optimization with kernel ensembles and disagreement-based acquisition for source localization and acoustic inversion [12.760068476185504]
共同音源定位とジオアコースティック・インバージョンは、高価なノーマルモード伝搬モデルから構築された目的を最適化する必要がある。
我々は、異なるカーネルファミリーを持つGPの重み付けアンサンブルを用いて、観測対象に前もって1つのカーネルにコミットすることなく適応する。
SWellEx-96データのシミュレーションおよび測定実験により, 得られた手法が最下位の目標を達成することが示された。
論文 参考訳(メタデータ) (2026-09-13T03:52:00Z) - Enhancing Bayesian Optimization and Active Learning Through Kernel Diversity [13.065036862403966]
本稿では, Ensemble Gaussian Processes (EGP) と不一致認識獲得戦略を統合した統合フレームワーク KENDO を提案する。
KENDO-BOは最先端の手法と比較して、競争力や優れた最適化性能を達成している。
論文 参考訳(メタデータ) (2026-08-25T15:35:47Z) - GDPO: Group reward-Decoupled Normalization Policy Optimization for Multi-reward RL Optimization [133.27496265096445]
我々は,グループ相対的政策最適化を,その適合性を検討することなく,マルチリワード設定で適用する方法を示す。
次に、これらの問題を解決するための新しい政策最適化手法であるグループ報酬分離正規化政策最適化(GDPO)を紹介する。
GDPOはGRPOを一貫して上回り、マルチリワード強化学習最適化の有効性と一般化性を示す。
論文 参考訳(メタデータ) (2026-01-08T18:59:24Z) - Anchoring Values in Temporal and Group Dimensions for Flow Matching Model Alignment [61.80228667422234]
VGPOは時間次元とグループ次元の両方で値の推定を再定義する。
スパース端末の報酬を密度の高いプロセス認識値推定に変換する。
標準群正規化を絶対値によって強化された新しいプロセスに置き換え、安定した最適化信号を維持する。
論文 参考訳(メタデータ) (2025-12-13T16:31:26Z) - Reliable Optimization Under Noise in Quantum Variational Algorithms [0.05219568203653522]
有限ショットサンプリングノイズにより,変分量子固有解法が困難であることを示す。
適応的メタヒューリスティックスは最も効果的でレジリエントな戦略である。
論文 参考訳(メタデータ) (2025-11-11T14:21:43Z) - Benchmarking Generative AI Against Bayesian Optimization for Constrained Multi-Objective Inverse Design [0.15293427903448018]
本稿では,制約付き多目的回帰タスクを解くための生成可能な言語モデル(LLM)の性能について検討する。
最高の性能のLDM(Math-7B)は1.21の世代距離(GD)を達成した。
この知見は, 樹脂, レオロジー, 化学特性の定式化設計の最適化に, 直接工業的応用が期待できる。
論文 参考訳(メタデータ) (2025-10-29T10:37:09Z) - From Noisy Traces to Stable Gradients: Bias-Variance Optimized Preference Optimization for Aligning Large Reasoning Models [90.45197506653341]
大規模推論モデルは最終回答を生成する前に中間的推論トレースを生成する。
LRMと人間の好みの整合性は、モデルデプロイメントにとって重要な前提条件であり、まだ過小評価されていない。
共通の回避策は1つのサンプル軌道を最適化し、トレースサンプリングからかなり勾配のばらつきをもたらす。
論文 参考訳(メタデータ) (2025-10-06T17:58:01Z) - Divergence Minimization Preference Optimization for Diffusion Model Alignment [66.31417479052774]
Divergence Minimization Preference Optimization (DMPO) は、逆KL分散を最小化して拡散モデルを整列する原理的手法である。
DMPOは、異なるベースモデルとテストセットで既存のテクニックを一貫して上回り、適合させることができる。
論文 参考訳(メタデータ) (2025-07-10T07:57:30Z) - Adaptive Bayesian Optimization for Robust Identification of Stochastic Dynamical Systems [4.0148499400442095]
本稿では,システム係数と雑音分散を含む線形導出システムの同定について述べる。
ベイズ最適化に基づく標本効率のよい大域最適化法を提案する。
実験により、EGPに基づくBOは定常フィルタリングと期待最大化によりMLEを一貫して上回ることを示した。
論文 参考訳(メタデータ) (2025-03-09T01:38:21Z) - Provably Mitigating Overoptimization in RLHF: Your SFT Loss is Implicitly an Adversarial Regularizer [52.09480867526656]
人間の嗜好を学習する際の分布変化と不確実性の一形態として,不一致の原因を同定する。
過度な最適化を緩和するために、まず、逆選択された報酬モデルに最適なポリシーを選択する理論アルゴリズムを提案する。
報奨モデルとそれに対応する最適ポリシーの等価性を用いて、優先最適化損失と教師付き学習損失を組み合わせた単純な目的を特徴とする。
論文 参考訳(メタデータ) (2024-05-26T05:38:50Z) - Cauchy-Schwarz Regularized Autoencoder [68.80569889599434]
変分オートエンコーダ(VAE)は、強力で広く使われている生成モデルのクラスである。
GMMに対して解析的に計算できるCauchy-Schwarz分散に基づく新しい制約対象を導入する。
本研究の目的は,密度推定,教師なしクラスタリング,半教師なし学習,顔分析における変分自動エンコーディングモデルの改善である。
論文 参考訳(メタデータ) (2021-01-06T17:36:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。