論文の概要: BO4IO: A Bayesian optimization approach to inverse optimization with uncertainty quantification

• arxiv url: http://arxiv.org/abs/2405.17875v1
• Date: Tue, 28 May 2024 06:52:17 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-29 20:07:07.499820
• Title: BO4IO: A Bayesian optimization approach to inverse optimization with uncertainty quantification
• Title（参考訳）: BO4IO:不確実な定量化を伴う逆最適化のためのベイズ最適化手法
• Authors: Yen-An Lu, Wei-Shou Hu, Joel A. Paulson, Qi Zhang,
• Abstract要約: この研究はデータ駆動逆最適化(IO)に対処する。 目的は最適化モデルにおける未知のパラメータを、最適あるいは準最適と仮定できる観測された決定から推定することである。
• 参考スコア（独自算出の注目度）: 5.031974232392534
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This work addresses data-driven inverse optimization (IO), where the goal is to estimate unknown parameters in an optimization model from observed decisions that can be assumed to be optimal or near-optimal solutions to the optimization problem. The IO problem is commonly formulated as a large-scale bilevel program that is notoriously difficult to solve. Deviating from traditional exact solution methods, we propose a derivative-free optimization approach based on Bayesian optimization, which we call BO4IO, to solve general IO problems. We treat the IO loss function as a black box and approximate it with a Gaussian process model. Using the predicted posterior function, an acquisition function is minimized at each iteration to query new candidate solutions and sequentially converge to the optimal parameter estimates. The main advantages of using Bayesian optimization for IO are two-fold: (i) it circumvents the need of complex reformulations of the bilevel program or specialized algorithms and can hence enable computational tractability even when the underlying optimization problem is nonconvex or involves discrete variables, and (ii) it allows approximations of the profile likelihood, which provide uncertainty quantification on the IO parameter estimates. We apply the proposed method to three computational case studies, covering different classes of forward optimization problems ranging from convex nonlinear to nonconvex mixed-integer nonlinear programs. Our extensive computational results demonstrate the efficacy and robustness of BO4IO to accurately estimate unknown model parameters from small and noisy datasets. In addition, the proposed profile likelihood analysis has proven to be effective in providing good approximations of the confidence intervals on the parameter estimates and assessing the identifiability of the unknown parameters.
• Abstract（参考訳）: この研究はデータ駆動逆最適化(IO: data-driven inverse optimization)に対処し、最適化モデルにおける未知のパラメータを最適化問題の最適解あるいは準最適解と仮定できる観測結果から推定することを目的としている。 IO問題は通常、解決が困難な大規模な二段階プログラムとして定式化されている。 従来の厳密な解法から逸脱し,ベイズ最適化に基づく微分自由最適化手法を提案し,BO4IOとよばれる一般IO問題の解法を提案する。 我々は、IO損失関数をブラックボックスとして扱い、ガウス過程モデルで近似する。 予測された後続関数を用いて、獲得関数を各イテレーションで最小化し、新しい候補解を求め、最適なパラメータ推定に逐次収束する。 IOにベイズ最適化を使用する主な利点は次の2つである。 (i)双レベルプログラムや特殊アルゴリズムの複雑な再構成の必要性を回避し、基礎となる最適化問題が非凸であったり、離散変数を伴っていたりしても計算的トラクタビリティを実現することができる。 (II) プロファイル可能性の近似を可能にし、IOパラメータ推定の不確実な定量化を提供する。 提案手法を3種類の計算ケーススタディに適用し, 凸非線形から非凸混合整数非線形プログラムまで, 前方最適化問題のクラスを網羅する。 本研究はBO4IOの有効性とロバスト性を示し,未知のモデルパラメータを小・雑音のデータセットから正確に推定する。 さらに,提案手法は,パラメータ推定値に対する信頼区間の良好な近似と未知パラメータの識別性の評価に有効であることが確認された。

関連論文リスト

• Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
  凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。 このような問題は医学、物理学、機械学習で発生する。 両種類の雑音下で提案アルゴリズムの収束保証を行う。
  論文  参考訳（メタデータ） (2024-11-21T10:26:17Z)
• Bayesian Optimization for Non-Convex Two-Stage Stochastic Optimization Problems [2.9016548477524156]
  知識に基づく獲得関数を定式化し,第1段と第2段の変数を協調的に最適化する。 可変型間の寸法と長さの差が2段階アルゴリズムの非効率性をもたらすことを示す。
  論文  参考訳（メタデータ） (2024-08-30T16:26:31Z)
• End-to-End Learning for Fair Multiobjective Optimization Under Uncertainty [55.04219793298687]
  機械学習における予測-Then-Forecast(PtO)パラダイムは、下流の意思決定品質を最大化することを目的としている。 本稿では,PtO法を拡張して,OWA(Nondifferentiable Ordered Weighted Averaging)の目的を最適化する。 この結果から,不確実性の下でのOWA関数の最適化とパラメトリック予測を効果的に統合できることが示唆された。
  論文  参考訳（メタデータ） (2024-02-12T16:33:35Z)
• Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
  統計的決定論の研究からシャノンエントロピーの一般化を考える。 まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。 次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
  論文  参考訳（メタデータ） (2022-10-04T04:43:58Z)
• Predict+Optimize for Packing and Covering LPs with Unknown Parameters in Constraints [5.762370982168012]
  本稿では,予測+設定のための新規かつ実用的な枠組みを提案するが,目的と制約の両方に未知のパラメータを持つ。 本稿では, 補正関数の概念と, 損失関数に付加的なペナルティ項を導入し, 真のパラメータが明らかにされた後, 推定された最適解を実現可能な解に変換する現実的なシナリオをモデル化する。 私たちのアプローチは、マンディとガンズの以前の研究にインスピレーションを受けています。
  論文  参考訳（メタデータ） (2022-09-08T09:28:24Z)
• Non-Convex Optimization with Certificates and Fast Rates Through Kernel Sums of Squares [68.8204255655161]
  非最適化近似問題を考える。 本稿では,最優先計算を保証するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-04-11T09:37:04Z)
• Implicit Rate-Constrained Optimization of Non-decomposable Objectives [37.43791617018009]
  機械学習における制約付き最適化問題の一家系を考察する。 我々のキーとなる考え方は、閾値パラメータをモデルパラメータの関数として表現するレート制約のある最適化を定式化することである。 本稿では, 標準勾配法を用いて, 結果の最適化問題を解く方法を示す。
  論文  参考訳（メタデータ） (2021-07-23T00:04:39Z)
• Divide and Learn: A Divide and Conquer Approach for Predict+Optimize [50.03608569227359]
  予測+最適化問題は、予測係数を使用する最適化プロブレムと、確率係数の機械学習を組み合わせる。 本稿では, 予測係数を1次線形関数として, 最適化問題の損失を直接表現する方法を示す。 本稿では,この制約を伴わずに最適化問題に対処し,最適化損失を用いてその係数を予測する新しい分割アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-12-04T00:26:56Z)
• Global Optimization of Gaussian processes [52.77024349608834]
  少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。 このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。 提案手法の順序の順序による時間収束を,総じて低減する。
  論文  参考訳（メタデータ） (2020-05-21T20:59:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。