論文の概要: Semi-Empirical Objective Functions for MCMC Proposal Optimization

• arxiv url: http://arxiv.org/abs/2106.02104v1
• Date: Thu, 3 Jun 2021 19:52:56 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-07 14:59:16.285391
• Title: Semi-Empirical Objective Functions for MCMC Proposal Optimization
• Title（参考訳）: mcmc提案最適化のための半経験目的関数
• Authors: Chris Cannella, Vahid Tarokh
• Abstract要約: 本稿では、任意パラメータ化された提案分布を最適化するのに適した、近似目的関数を決定するための半経験的手順を紹介し、実証する。 我々は、Ab Initio目的関数が十分に頑健であり、深層生成ネットワークによってパラメータ化されたMCMC提案分布の確実な最適化を可能にすることを論じる。
• 参考スコア（独自算出の注目度）: 31.189518729816474
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We introduce and demonstrate a semi-empirical procedure for determining approximate objective functions suitable for optimizing arbitrarily parameterized proposal distributions in MCMC methods. Our proposed Ab Initio objective functions consist of the weighted combination of functions following constraints on their global optima and of coordinate invariance that we argue should be upheld by general measures of MCMC efficiency for use in proposal optimization. The coefficients of Ab Initio objective functions are determined so as to recover the optimal MCMC behavior prescribed by established theoretical analysis for chosen reference problems. Our experimental results demonstrate that Ab Initio objective functions maintain favorable performance and preferable optimization behavior compared to existing objective functions for MCMC optimization when optimizing highly expressive proposal distributions. We argue that Ab Initio objective functions are sufficiently robust to enable the confident optimization of MCMC proposal distributions parameterized by deep generative networks that extend beyond the traditional limitations of individual MCMC schemes.
• Abstract（参考訳）: 本稿では,MCMC法における任意パラメータ化提案分布の最適化に適した,近似目的関数を決定するための半経験的手法を提案する。 提案したAb Initio目的関数は、その大域的最適性に対する制約に従う関数の重み付けされた組合せと、提案最適化に使用するMCMC効率の一般測度で裏付けるべき座標不変性からなる。 ab慣性目的関数の係数は、決定された基準問題の理論的解析により定められた最適なmcmc挙動を回復するために決定される。 提案手法を最適化する場合, MCMC最適化の目的関数と比較して, Ab Initio の目的関数が望ましい性能と望ましい最適化動作を維持していることを示す。 我々は、Ab Initioの目的関数が十分に頑健であり、個々のMCMCスキームの従来の制限を超えて、深い生成ネットワークによってパラメータ化されるMCMC提案分布の確実な最適化を可能にすることを論じる。

関連論文リスト

• End-to-End Learning for Fair Multiobjective Optimization Under Uncertainty [55.04219793298687]
  機械学習における予測-Then-Forecast(PtO)パラダイムは、下流の意思決定品質を最大化することを目的としている。 本稿では,PtO法を拡張して,OWA(Nondifferentiable Ordered Weighted Averaging)の目的を最適化する。 この結果から,不確実性の下でのOWA関数の最適化とパラメトリック予測を効果的に統合できることが示唆された。
  論文  参考訳（メタデータ） (2024-02-12T16:33:35Z)
• Parameterized Convex Minorant for Objective Function Approximation in Amortized Optimization [0.897438370260135]
  償却最適化における目的関数の近似に対して, 凸分母法 (PCM) を提案する。 提案手法では,対象関数近似器をPCMと非負のギャップ関数の和で表現し,PCMの凸PCMによって対象関数近似器を下から有界にする。 提案する対象近似器は,PCMの汎用近似器であり,PCMのグローバル展開により,目的関数近似器のグローバル最小値が得られる。
  論文  参考訳（メタデータ） (2023-10-04T01:34:36Z)
• Deterministic Langevin Unconstrained Optimization with Normalizing Flows [3.988614978933934]
  我々は,Fokker-Planck方程式とLangevin方程式にインスパイアされたブラックボックス関数に対するグローバルで自由な代理最適化戦略を導入する。 本研究は,標準合成試験関数の最適目的に向けての競争力の向上を実証する。
  論文  参考訳（メタデータ） (2023-10-01T17:46:20Z)
• End-to-End Stochastic Optimization with Energy-Based Model [18.60842637575249]
  近年,未知パラメータを含む客観的最適化問題に対して,DFL(Decision- Focus Learning)が提案されている。 エネルギーモデルを用いた層最適化のための汎用的で効率的なDFL手法SO-EBMを提案する。
  論文  参考訳（メタデータ） (2022-11-25T00:14:12Z)
• Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
  統計的決定論の研究からシャノンエントロピーの一般化を考える。 まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。 次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
  論文  参考訳（メタデータ） (2022-10-04T04:43:58Z)
• A General Recipe for Likelihood-free Bayesian Optimization [115.82591413062546]
  我々は,BOをより広範なモデルやユーティリティに拡張する可能性のないBO(LFBO)を提案する。 LFBOは、確率的代理モデルと個別に推論を行うことなく、取得関数を直接モデル化する。 LFBOにおける取得関数の計算は、重み付けされた分類問題を最適化することで削減できることを示す。
  論文  参考訳（メタデータ） (2022-06-27T03:55:27Z)
• Learning Implicit Priors for Motion Optimization [105.11889448885226]
  エネルギーベースモデル(EBM)は、表現力のある確率密度分布を表す。 本稿では,EMMを動作最適化に適用するために必要となるモデリングとアルゴリズムの選択について述べる。
  論文  参考訳（メタデータ） (2022-04-11T19:14:54Z)
• Non-Convex Optimization with Certificates and Fast Rates Through Kernel Sums of Squares [68.8204255655161]
  非最適化近似問題を考える。 本稿では,最優先計算を保証するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-04-11T09:37:04Z)
• Implicit Rate-Constrained Optimization of Non-decomposable Objectives [37.43791617018009]
  機械学習における制約付き最適化問題の一家系を考察する。 我々のキーとなる考え方は、閾値パラメータをモデルパラメータの関数として表現するレート制約のある最適化を定式化することである。 本稿では, 標準勾配法を用いて, 結果の最適化問題を解く方法を示す。
  論文  参考訳（メタデータ） (2021-07-23T00:04:39Z)
• Are we Forgetting about Compositional Optimisers in Bayesian Optimisation? [66.39551991177542]
  本稿では,グローバル最適化のためのサンプル手法を提案する。 この中、重要なパフォーマンス決定の自明さは、取得機能を最大化することです。 3958実験における機能最適化手法の実証的利点を強調する。
  論文  参考訳（メタデータ） (2020-12-15T12:18:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。