論文の概要: Posterior Inference in Latent Space for Scalable Constrained Black-box Optimization

• arxiv url: http://arxiv.org/abs/2507.00480v1
• Date: Tue, 01 Jul 2025 06:55:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-03 14:22:59.44253
• Title: Posterior Inference in Latent Space for Scalable Constrained Black-box Optimization
• Title（参考訳）: 拡張性制約付きブラックボックス最適化のための遅延空間の後方推論
• Authors: Kiyoung Om, Kyuil Sim, Taeyoung Yun, Hyeongyu Kang, Jinkyoo Park,
• Abstract要約: モデルに基づく生成アプローチは、制約付き最適化の有望な代替手段として登場した。 これらの課題を克服するための新しい枠組みを提案する。 本手法は, 実世界の制約付きブラックボックス最適化タスクにおいて, 優れた性能を実現する。
• 参考スコア（独自算出の注目度）: 14.037021165033778
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Optimizing high-dimensional black-box functions under black-box constraints is a pervasive task in a wide range of scientific and engineering problems. These problems are typically harder than unconstrained problems due to hard-to-find feasible regions. While Bayesian optimization (BO) methods have been developed to solve such problems, they often struggle with the curse of dimensionality. Recently, generative model-based approaches have emerged as a promising alternative for constrained optimization. However, they suffer from poor scalability and are vulnerable to mode collapse, particularly when the target distribution is highly multi-modal. In this paper, we propose a new framework to overcome these challenges. Our method iterates through two stages. First, we train flow-based models to capture the data distribution and surrogate models that predict both function values and constraint violations with uncertainty quantification. Second, we cast the candidate selection problem as a posterior inference problem to effectively search for promising candidates that have high objective values while not violating the constraints. During posterior inference, we find that the posterior distribution is highly multi-modal and has a large plateau due to constraints, especially when constraint feedback is given as binary indicators of feasibility. To mitigate this issue, we amortize the sampling from the posterior distribution in the latent space of flow-based models, which is much smoother than that in the data space. We empirically demonstrate that our method achieves superior performance on various synthetic and real-world constrained black-box optimization tasks. Our code is publicly available \href{https://github.com/umkiyoung/CiBO}{here}.
• Abstract（参考訳）: ブラックボックス制約下での高次元ブラックボックス関数の最適化は、幅広い科学的・工学的な問題において広く行われている課題である。 これらの問題は一般に、難解な実現可能な領域のため、制約のない問題よりも難しい。 このような問題を解決するためにベイズ最適化(BO)法が開発されているが、それらはしばしば次元の呪いと戦っている。 近年,制約付き最適化の代替として,生成モデルに基づくアプローチが出現している。 しかし、スケーラビリティが悪く、特にターゲット分布がマルチモーダルである場合、モード崩壊に弱い。 本稿では,これらの課題を克服するための新しい枠組みを提案する。 私たちの方法は2段階を繰り返す。 まず、フローベースモデルをトレーニングし、不確実な定量化を伴う関数値と制約違反の両方を予測するデータ分布をキャプチャし、サロゲートする。 第2に,制約に違反せず,高い目標値を持つ有望な候補を効果的に探索するために,候補選択問題を後部推論問題として用いた。 後部推論では, 後部分布が多様であり, 制約による台地が大きいことが判明した。 この問題を緩和するために、フローベースモデルの潜在空間における後部分布からのサンプリングを、データ空間のそれよりもはるかにスムーズに補正する。 実世界の制約付きブラックボックス最適化タスクにおいて,本手法が優れた性能を発揮することを実証的に実証した。 私たちのコードは公開されています。

関連論文リスト

• Posterior Inference with Diffusion Models for High-dimensional Black-box Optimization [17.92257026306603]
  生成モデルはブラックボックス最適化の問題を解決するために登場した。 我々は、高次元のブラックボックス最適化問題を解決するための新しいフレームワーク、textbfDiBOを紹介する。 提案手法は,様々な合成および実世界のブラックボックス最適化タスクにおいて,最先端のベースラインよりも優れる。
  論文  参考訳（メタデータ） (2025-02-24T04:19:15Z)
• Model Ensembling for Constrained Optimization [7.4351710906830375]
  下流最適化に使用される多次元出力予測のためのモデルを組み立てたいという設定について検討する。 より正確には、状態空間を多次元実数値予測にマッピングする多くのモデルが与えられていると想像する。 これらの予測は、指定された制約の下で最適化したい線形対象の係数を形成する。 証明可能かつ収束性の高い2つのアルゴリズムに導かれる多重校正手法を適用した。
  論文  参考訳（メタデータ） (2024-05-27T01:48:07Z)
• Boundary Exploration for Bayesian Optimization With Unknown Physical Constraints [37.095510211590984]
  本稿では,実現不可能な設計と実現不可能な設計の境界を効率的に探索する新しいベイズ最適化手法であるBE-CBOを提案する。 提案手法は,合成および実世界のベンチマークに関する総合的な実験を通じて,最先端手法に対する優れた性能を示す。
  論文  参考訳（メタデータ） (2024-02-12T14:59:40Z)
• Primal Dual Continual Learning: Balancing Stability and Plasticity through Adaptive Memory Allocation [86.8475564814154]
  制約付き最適化問題を直接実行することは可能かつ有益であることを示す。 メモリベースのメソッドでは、以前のタスクからのサンプルの小さなサブセットをリプレイバッファに格納できる。 両変数は,制約摂動に対する連続学習問題の最適値の感度を示す。
  論文  参考訳（メタデータ） (2023-09-29T21:23:27Z)
• Symmetric Tensor Networks for Generative Modeling and Constrained Combinatorial Optimization [72.41480594026815]
  ポートフォリオ最適化からロジスティクスに至るまで、制約付き最適化問題は業界に多い。 これらの問題の解決における主要な障害の1つは、有効な検索空間を制限する非自明なハード制約の存在である。 本研究では、Ax=bという形の任意の整数値等式制約をU(1)対称ネットワーク(TN)に直接エンコードし、それらの適用性を量子に着想を得た生成モデルとして活用する。
  論文  参考訳（メタデータ） (2022-11-16T18:59:54Z)
• Distributionally Robust Bayesian Optimization with $\varphi$-divergences [45.48814080654241]
  我々は,$varphi$-divergencesにおけるデータシフトに対するロバスト性について考察する。 この設定におけるDRO-BO問題は有限次元最適化問題と等価であり、連続的な文脈でも証明可能な部分線型後悔境界で容易に実装できることを示す。
  論文  参考訳（メタデータ） (2022-03-04T04:34:52Z)
• Modeling the Second Player in Distributionally Robust Optimization [90.25995710696425]
  我々は、最悪のケース分布を特徴付けるために神経生成モデルを使うことを議論する。 このアプローチは多くの実装と最適化の課題をもたらします。 提案されたアプローチは、同等のベースラインよりも堅牢なモデルを生み出す。
  論文  参考訳（メタデータ） (2021-03-18T14:26:26Z)
• Projection & Probability-Driven Black-Box Attack [205.9923346080908]
  既存のブラックボックス攻撃は、高次元空間における過剰なクエリを必要とする。 本稿では,この問題を解決するために,プロジェクション&確率駆動型ブラックボックス攻撃(PPBA)を提案する。 我々の手法は、最先端の手法に比べて攻撃成功率の高いクエリを少なくとも24%削減する必要がある。
  論文  参考訳（メタデータ） (2020-05-08T03:37:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。