論文の概要: Constrained Bayesian Optimization with Adaptive Active Learning of Unknown Constraints

• arxiv url: http://arxiv.org/abs/2310.08751v1
• Date: Thu, 12 Oct 2023 22:32:00 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-16 15:26:01.417310
• Title: Constrained Bayesian Optimization with Adaptive Active Learning of Unknown Constraints
• Title（参考訳）: 未知制約の適応的アクティブ学習による拘束ベイズ最適化
• Authors: Fengxue Zhang, Zejie Zhu, Yuxin Chen
• Abstract要約: 制約下での目的の最適化は、科学実験設計、医療療法の設計、産業プロセス最適化といった現実世界の応用において一般的なシナリオである。 一般のROIを決定するために,各側面から特定されたROIと交差する効率的なCBOフレームワークを提案する。 本稿では,実証的な証拠を通じて提案したCBOフレームワークの効率性とロバスト性を実証し,CBOアルゴリズムの実践的後悔境界を導出する根本的な課題について論じる。
• 参考スコア（独自算出の注目度）: 10.705151736050967
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Optimizing objectives under constraints, where both the objectives and constraints are black box functions, is a common scenario in real-world applications such as scientific experimental design, design of medical therapies, and industrial process optimization. One popular approach to handling these complex scenarios is Bayesian Optimization (BO). In terms of theoretical behavior, BO is relatively well understood in the unconstrained setting, where its principles have been well explored and validated. However, when it comes to constrained Bayesian optimization (CBO), the existing framework often relies on heuristics or approximations without the same level of theoretical guarantees. In this paper, we delve into the theoretical and practical aspects of constrained Bayesian optimization, where the objective and constraints can be independently evaluated and are subject to noise. By recognizing that both the objective and constraints can help identify high-confidence regions of interest (ROI), we propose an efficient CBO framework that intersects the ROIs identified from each aspect to determine the general ROI. The ROI, coupled with a novel acquisition function that adaptively balances the optimization of the objective and the identification of feasible regions, enables us to derive rigorous theoretical justifications for its performance. We showcase the efficiency and robustness of our proposed CBO framework through empirical evidence and discuss the fundamental challenge of deriving practical regret bounds for CBO algorithms.
• Abstract（参考訳）: 目的と制約の両方がブラックボックス機能である制約下での目的の最適化は、科学実験設計、医療療法の設計、産業プロセス最適化といった現実の応用において一般的なシナリオである。 これらの複雑なシナリオを扱うための一般的なアプローチはベイズ最適化(BO)である。 理論的振る舞いの観点では、BOは、その原理がよく研究され、検証された制約のない環境で比較的よく理解されている。 しかしながら、ベイズ最適化(CBO)に関して、既存のフレームワークは、しばしば同じレベルの理論的保証を持たないヒューリスティックや近似に依存している。 本稿では,目的と制約を独立に評価し,ノイズの対象となる制約ベイズ最適化の理論的,実用的側面を考察する。 目的と制約の両方が、高信頼の関心領域(ROI)を特定するのに役立つことを認識することによって、各側面から特定されたROIを交差させて一般的なROIを決定する効率的なCBOフレームワークを提案する。 ROIは、目的の最適化と実現可能な領域の同定を適応的にバランスさせる新しい獲得関数と組み合わせることで、厳密な理論的正当化を導出することができる。 実証的エビデンスを通じて提案するcboフレームワークの効率性と頑健性を示し,cboアルゴリズムの実用的後悔境界を導出する根本的な課題について考察する。

関連論文リスト

• A Novel Unified Parametric Assumption for Nonconvex Optimization [53.943470475510196]
  非最適化は機械学習の中心であるが、一般の非凸性は弱い収束を保証するため、他方に比べて悲観的すぎる。 非凸アルゴリズムに新しい統一仮定を導入する。
  論文  参考訳（メタデータ） (2025-02-17T21:25:31Z)
• Constrained Multi-objective Bayesian Optimization through Optimistic Constraints Estimation [10.77641869521259]
  CMOBOは、原則的に実現可能な領域内の多目的最適化と、実現可能な領域の学習のバランスをとる。 理論的正当化と実証的証拠の両方を提供し、様々な合成ベンチマークや実世界の応用に対するアプローチの有効性を実証する。
  論文  参考訳（メタデータ） (2024-11-06T03:38:00Z)
• Unlocking the Capabilities of Thought: A Reasoning Boundary Framework to Quantify and Optimize Chain-of-Thought [61.588465852846646]
  大型言語モデル(LLM)の性能向上のための有望なアプローチとして、Chain-of-Thought(CoT)推論が登場した。 本稿では,これらの課題に対処するための新しい推論境界フレームワーク(RBF)を提案する。
  論文  参考訳（メタデータ） (2024-10-08T05:26:28Z)
• Fair Risk Minimization under Causal Path-Specific Effect Constraints [3.0232957374216953]
  本稿では,機械学習を用いて最適な予測を推定するためのフレームワークを提案する。 平均二乗誤差とクロスエントロピーリスク基準に基づく制約付き最適化のための閉形式解を導出する。
  論文  参考訳（メタデータ） (2024-08-03T02:05:43Z)
• Enhanced Bayesian Optimization via Preferential Modeling of Abstract Properties [49.351577714596544]
  本研究では,非測定抽象特性に関する専門家の嗜好を代理モデルに組み込むための,人間とAIの協調型ベイズフレームワークを提案する。 優先判断において、誤った/誤解を招く専門家バイアスを処理できる効率的な戦略を提供する。
  論文  参考訳（メタデータ） (2024-02-27T09:23:13Z)
• Iterative Preference Learning from Human Feedback: Bridging Theory and Practice for RLHF under KL-Constraint [56.74058752955209]
  本稿では,RLHFによる強化学習を用いた生成モデルのアライメント過程について検討する。 まず、オフラインPPOやオフラインDPOのような既存の一般的な手法の主な課題を、環境の戦略的探索に欠如していると認識する。 有限サンプル理論保証を用いた効率的なアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-12-18T18:58:42Z)
• Learning Regions of Interest for Bayesian Optimization with Adaptive Level-Set Estimation [84.0621253654014]
  本稿では,高信頼領域を適応的にフィルタするBALLETというフレームワークを提案する。 理論的には、BALLETは探索空間を効率的に縮小することができ、標準BOよりも厳密な後悔を示すことができる。
  論文  参考訳（メタデータ） (2023-07-25T09:45:47Z)
• When Demonstrations Meet Generative World Models: A Maximum Likelihood Framework for Offline Inverse Reinforcement Learning [62.00672284480755]
  本稿では, 専門家エージェントから, 一定の有限個の実演において観測された動作を過小評価する報酬と環境力学の構造を復元することを目的とする。 タスクを実行するための正確な専門知識モデルは、臨床的意思決定や自律運転のような安全に敏感な応用に応用できる。
  論文  参考訳（メタデータ） (2023-02-15T04:14:20Z)
• Lessons from AlphaZero for Optimal, Model Predictive, and Adaptive Control [0.0]
  値空間とロールアウトの近似に関するAlphaZero/TDGammonの原理が決定論的かつ最適制御問題に広く適用されていることを示す。 これらの考え方は、モデル制御、適応制御、分散制御、ニューラルネットワークに基づく値とポリシー近似など、他の重要な方法論と効果的に統合することができる。
  論文  参考訳（メタデータ） (2021-08-20T19:17:35Z)
• Scalable Constrained Bayesian Optimization [10.820024633762596]
  ブラックボックス制約下での高次元ブラックボックス関数のグローバルな最適化は、機械学習、制御、科学コミュニティにおける普及的なタスクである。 本稿では,上記の課題を克服し,現状を推し進めるスケーラブルな制約付きベイズ最適化(SCBO)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-02-20T01:48:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。