論文の概要: Converge Then Diversify: Decoupling Convergence and Diversity in Multi-Objective Bayesian Optimisation
- arxiv url: http://arxiv.org/abs/2609.13396v1
- Date: Fri, 11 Sep 2026 18:04:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:05.290691
- Title: Converge Then Diversify: Decoupling Convergence and Diversity in Multi-Objective Bayesian Optimisation
- Title(参考訳): 収束と多様化:多目的ベイズ最適化における収束と多様性の分離
- Abstract要約: 本稿では,収束と多様性を2段階に分離するCTD手法を提案する。
CTDは72.9%の症例で最先端の手法を統計的に上回り、21.1%で同等に働き、6.1%で統計的に劣っている。
- 参考スコア(独自算出の注目度): 9.784850480217381
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-objective Bayesian optimisation (MOBO) is a sample-efficient approach for optimising expensive black-box functions with multiple objectives. In MOBO, the goal is to adequately approximate the Pareto front; that is, to obtain a high-quality solution set with 1) good convergence (closeness to the Pareto front) and 2) good diversity (spread across the Pareto front). Existing MOBO methods typically aim to accomplish these two tasks simultaneously, i.e., driving the search towards the Pareto front while maintaining a diverse set of nondominated solutions, such that the solutions, ideally, can gradually approach the entire front. When sufficient search budgets are available, this approach is effective. However, considering both convergence and diversity throughout the search is not easy and requires careful design. Under very tight budgets, there may not be enough solutions generated to be able to simultaneously approach the entire Pareto front. To address this issue, this paper proposes a \textit{converge-then-diversify} (CTD) approach that decouples convergence and diversity into two stages. In the first stage, CTD focuses on convergence, aiming to quickly drive the search toward a single point on the Pareto front. In the second stage, CTD focuses on diversity, aiming to spread solutions across the front. We present two simple instantiations of CTD by using widely adopted acquisition functions in the area. Experimental results show that, across all 446 pairwise comparisons, CTD statistically outperforms state-of-the-art methods in 72.9\% of the cases, performs equivalently in 21.1\%, and is statistically worse in only 6.1\%, with the advantage being particularly evident in settings with very tight evaluation budgets or in high-dimensional problems.
- Abstract(参考訳): 多目的ベイズ最適化(MOBO)は、高額なブラックボックス関数を複数の目的で最適化するためのサンプル効率のよい手法である。
MOBOでは、ゴールはパレートフロントを適切に近似することであり、すなわち、高品質な解を得ることである。
1)良い収束(パレートフロントに近づいた)、及び
2) 優れた多様性(パレートフロントを横切る)。
既存のMOBO法は、通常、これらの2つのタスクを同時に達成することを目的としており、すなわち、パレートフロントに向けて探索を駆動し、様々な非支配的なソリューションの集合を維持しながら、ソリューションが理想的には、徐々にフロント全体へ近づくことができる。
十分な検索予算が得られれば、このアプローチは効果的である。
しかし、検索全体を通して収束と多様性の両方を考慮するのは容易ではなく、慎重に設計する必要がある。
非常に厳格な予算の下では、パレト戦線全体に同時にアプローチできるようなソリューションは存在しないかもしれない。
本稿では,収束と多様性を2段階に分離するCTD(textit{converge-then-diversify})アプローチを提案する。
第一段階では、CTDは収束に焦点を当て、パレートフロントの単一点への探索を素早く進めることを目的としている。
第2段階では、CTDは多様性に焦点を当て、ソリューションを前面に広げることを目的としている。
我々は,この領域で広く採用されている取得関数を用いて,CTDの2つの簡単なインスタンス化を示す。
実験の結果、全ての446対比較において、CTDは72.9%のケースで最先端の手法を統計的に上回り、21.1\%で同等に機能し、わずか6.1\%で統計的に劣っていることがわかった。
関連論文リスト
- Beyond Mode Collapse: Distribution Matching for Diverse Reasoning [69.88237286885065]
GRPOのようなオンライン強化学習手法はモード崩壊に悩まされる。
このことは、逆KL最小化のモード探索行動に由来することを示す。
KL最小化の原理的近似によりモード崩壊を防止するDMPOを提案する。
論文 参考訳(メタデータ) (2026-05-19T07:13:00Z) - Do We Really Need to Approach the Entire Pareto Front in Many-Objective Bayesian Optimisation? [10.970091142734603]
多目的最適化は、3つ以上の目的を持つ最適化問題を含む。
目的の数が増加するにつれて、パレートフロント全体を適切に表現するために必要な解の数が大幅に増加する。
本稿では、目的間の良好なトレードオフをもたらす方向に沿って、解の質を向上させることを目的とした、アンダーラインポイントに基づくアンダーラインマルチアンダーラインオブジェクティブ検索フレームワーク(SPMO)を提案する。
論文 参考訳(メタデータ) (2026-04-10T15:27:49Z) - MOBO-OSD: Batch Multi-Objective Bayesian Optimization via Orthogonal Search Directions [14.595244541373456]
MOBO-OSDは多様な最適解を生成するために設計された多目的ベイズ最適化アルゴリズムである。
OSDの分散化によってMOBO-OSDは、目的空間を広範囲にカバーし、ソリューションの多様性とハイパーボリュームのパフォーマンスを向上する。
我々はMOBO-OSDが最先端のアルゴリズムより一貫して優れていることを示す。
論文 参考訳(メタデータ) (2025-10-23T09:42:41Z) - Diverse Text-to-Image Generation via Contrastive Noise Optimization [60.48914865049489]
テキスト・ツー・イメージ(T2I)拡散モデルは高忠実度画像の生成において顕著な性能を示した。
既存のアプローチは通常、推論中に中間の潜伏状態やテキスト条件を最適化する。
本稿では,多様性問題に異なる視点から対処する簡易かつ効果的な手法であるContrastive Noise Optimizationを紹介する。
論文 参考訳(メタデータ) (2025-10-04T13:51:32Z) - How to Find the Exact Pareto Front for Multi-Objective MDPs? [28.70863169250383]
多目的マルコフ決定プロセス (MO-MDPs) は, 現実の意思決定問題は, 単一目的のMDPでは対応できない相反する目的を伴うことが多いため, 注目を集めている。
本研究では,パレートフロントの効率的な発見という課題に対処する。
MO-MDPにおけるパレートフロントの幾何学的構造を調べた結果,鍵となる性質が明らかになった。
この洞察は、すべての政策間でのグローバルな比較を、一つの状態-作用ペアによって異なる決定論的ポリシー間の局所的な探索に変換する。
論文 参考訳(メタデータ) (2024-10-21T01:03:54Z) - Pareto Front-Diverse Batch Multi-Objective Bayesian Optimization [26.22315705434334]
高価なブラックボックス関数の多目的最適化(MOO)の問題を考える。
この問題はペニシリンの生産を含む多くの現実世界の応用で発生する。
そこで我々はPareto Front-Diverse Batch Multi-Objective BOと呼ばれる新しいアプローチを提案する。
論文 参考訳(メタデータ) (2024-06-13T04:28:00Z) - MAP: Low-compute Model Merging with Amortized Pareto Fronts via Quadratic Approximation [80.47072100963017]
Amortized Pareto Front (MAP) を用いた新しい低演算アルゴリズム Model Merging を導入する。
MAPは、複数のモデルをマージするためのスケーリング係数のセットを効率的に識別し、関連するトレードオフを反映する。
また,タスク数が比較的少ないシナリオではベイジアンMAP,タスク数の多い状況ではNested MAPを導入し,計算コストを削減した。
論文 参考訳(メタデータ) (2024-06-11T17:55:25Z) - UCB-driven Utility Function Search for Multi-objective Reinforcement Learning [51.00436121587591]
マルチオブジェクト強化学習(MORL)エージェントでは、意思決定行動の最適化を行う。
重みベクトル w でパラメトリした線型効用関数の場合に焦点を当てる。
学習過程の異なる段階で最も有望な重みベクトルを効率的に探索する上信頼境界に基づく手法を提案する。
論文 参考訳(メタデータ) (2024-05-01T09:34:42Z) - BOtied: Multi-objective Bayesian optimization with tied multivariate ranks [33.414682601242006]
本稿では,非支配解と結合累積分布関数の極端量子化との自然な関係を示す。
このリンクにより、我々はPareto対応CDFインジケータと関連する取得関数BOtiedを提案する。
種々の合成および実世界の問題に対する実験により,BOtied は最先端MOBO 取得関数より優れていることが示された。
論文 参考訳(メタデータ) (2023-06-01T04:50:06Z) - MultiZenoTravel: a Tunable Benchmark for Multi-Objective Planning with
Known Pareto Front [71.19090689055054]
多目的AI計画では、既知のPareto Frontsを示すベンチマークが不足している。
提案するベンチマーク生成器と専用ソルバは、結果のインスタンスの真のParetoを確実に計算する。
本稿では,制約された問題に対して最適な計画を示すとともに,制約された問題に対する一般的な問題を減らす方法を示す。
論文 参考訳(メタデータ) (2023-04-28T07:09:23Z) - Pareto Manifold Learning: Tackling multiple tasks via ensembles of
single-task models [50.33956216274694]
マルチタスク学習(MTL)では、タスクは、ソリューションへの最適化を導くのではなく、互いに達成したパフォーマンスを競い、制限することができる。
重み空間におけるアンサンブル手法であるTextitPareto Manifold Learningを提案する。
論文 参考訳(メタデータ) (2022-10-18T11:20:54Z) - Pareto Navigation Gradient Descent: a First-Order Algorithm for
Optimization in Pareto Set [17.617944390196286]
マルチタスク学習のような現代の機械学習アプリケーションは、複数の目的関数をトレードオフするために最適なモデルパラメータを見つける必要がある。
勾配情報のみを用いてOPT-in-Paretoを近似的に解く1次アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-10-17T04:07:04Z) - A Hybrid 2-stage Neural Optimization for Pareto Front Extraction [3.918940900258555]
最適なトレードオフソリューションに対する大きな障害は、それらが必ずしも互いに収束しないことです。
正確かつ費用対効果の高い二段階アプローチを提案する。
論文 参考訳(メタデータ) (2021-01-27T20:56:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。