論文の概要: Scalable Control Variates for Monte Carlo Methods via Stochastic
Optimization
- arxiv url: http://arxiv.org/abs/2006.07487v2
- Date: Wed, 21 Jul 2021 11:46:11 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-22 03:07:08.008522
- Title: Scalable Control Variates for Monte Carlo Methods via Stochastic
Optimization
- Title(参考訳): 確率最適化によるモンテカルロ法のスケーラブルな制御変数
- Authors: Shijing Si, Chris. J. Oates, Andrew B. Duncan, Lawrence Carin,
Fran\c{c}ois-Xavier Briol
- Abstract要約: 本稿では,制御,カーネル,ニューラルネットワークを用いた既存のアプローチを包含し,一般化するフレームワークを提案する。
新たな理論的結果は、達成可能な分散還元に関する洞察を与えるために提示され、ベイズ推定への応用を含む経験的評価が支持される。
- 参考スコア(独自算出の注目度): 62.47170258504037
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Control variates are a well-established tool to reduce the variance of Monte
Carlo estimators. However, for large-scale problems including high-dimensional
and large-sample settings, their advantages can be outweighed by a substantial
computational cost. This paper considers control variates based on Stein
operators, presenting a framework that encompasses and generalizes existing
approaches that use polynomials, kernels and neural networks. A learning
strategy based on minimising a variational objective through stochastic
optimization is proposed, leading to scalable and effective control variates.
Novel theoretical results are presented to provide insight into the variance
reduction that can be achieved, and an empirical assessment, including
applications to Bayesian inference, is provided in support.
- Abstract(参考訳): 制御変動はモンテカルロ推定器の分散を減らすための確立されたツールである。
しかし、高次元および大サンプル設定を含む大規模問題では、その利点は相当な計算コストで上回ることができる。
本稿では,Stein演算子に基づく制御変数について考察し,多項式,カーネル,ニューラルネットワークを用いた既存のアプローチを包含・一般化する枠組みを提案する。
確率的最適化による変分目標の最小化に基づく学習戦略を提案し,スケーラブルで効果的な制御変数を導出する。
新たな理論的結果は、達成可能な分散還元に関する洞察を与えるために提示され、ベイズ推定への応用を含む経験的評価が支持される。
関連論文リスト
- Optimal Baseline Corrections for Off-Policy Contextual Bandits [61.740094604552475]
オンライン報酬指標の偏りのないオフライン推定を最適化する意思決定ポリシーを学習することを目指している。
学習シナリオにおける同値性に基づく単一のフレームワークを提案する。
我々のフレームワークは、分散最適非バイアス推定器の特徴付けを可能にし、それに対する閉形式解を提供する。
論文 参考訳(メタデータ) (2024-05-09T12:52:22Z) - When can Regression-Adjusted Control Variates Help? Rare Events, Sobolev
Embedding and Minimax Optimality [10.21792151799121]
機械学習に基づく推定器を用いてモンテカルロサンプリングの分散を緩和できることが示される。
希少かつ極端な事象が存在する場合、モンテカルロアルゴリズムの切り詰められたバージョンは、最小値の最適速度を達成することができる。
論文 参考訳(メタデータ) (2023-05-25T23:09:55Z) - Multistage Stochastic Optimization via Kernels [3.7565501074323224]
我々は,多段階最適化問題に対する非パラメトリック,データ駆動,トラクタブルアプローチを開発した。
本稿では,提案手法が最適に近い平均性能で決定ルールを生成することを示す。
論文 参考訳(メタデータ) (2023-03-11T23:19:32Z) - Recursive Monte Carlo and Variational Inference with Auxiliary Variables [64.25762042361839]
再帰的補助変数推論(RAVI)はフレキシブルな提案を利用するための新しいフレームワークである。
RAVIは、表現力のある表現力のある家族を推論するためのいくつかの既存の手法を一般化し、統一する。
RAVIの設計枠組みと定理を,SalimansらによるMarkov Chain Variational Inferenceを用いて解析し,改良することにより示す。
論文 参考訳(メタデータ) (2022-03-05T23:52:40Z) - Variational Inference MPC using Tsallis Divergence [10.013572514839082]
非拡張型Tsallis発散を用いた可変推論確率最適制御の枠組みを提供する。
新規な Tsallis Variational Inference-Model Predictive Control アルゴリズムが導出される。
論文 参考訳(メタデータ) (2021-04-01T04:00:49Z) - Stein Variational Model Predictive Control [130.60527864489168]
不確実性の下での意思決定は、現実の自律システムにとって極めて重要である。
モデル予測制御 (MPC) 法は, 複雑な分布を扱う場合, 適用範囲が限られている。
この枠組みが、挑戦的で非最適な制御問題における計画の成功に繋がることを示す。
論文 参考訳(メタデータ) (2020-11-15T22:36:59Z) - A Framework for Sample Efficient Interval Estimation with Control
Variates [94.32811054797148]
確率変数の平均に対して信頼区間を推定する問題を考察する。
ある条件下では、既存の推定アルゴリズムと比較して効率が向上している。
論文 参考訳(メタデータ) (2020-06-18T05:42:30Z) - Neural Control Variates [71.42768823631918]
ニューラルネットワークの集合が、積分のよい近似を見つけるという課題に直面していることを示す。
理論的に最適な分散最小化損失関数を導出し、実際に安定したオンライントレーニングを行うための代替の複合損失を提案する。
具体的には、学習した光場近似が高次バウンスに十分な品質であることを示し、誤差補正を省略し、無視可能な可視バイアスのコストでノイズを劇的に低減できることを示した。
論文 参考訳(メタデータ) (2020-06-02T11:17:55Z) - Amortized variance reduction for doubly stochastic objectives [17.064916635597417]
複素確率モデルにおける近似推論は二重目的関数の最適化を必要とする。
現在のアプローチでは、ミニバッチがサンプリング性にどのように影響するかを考慮せず、結果として準最適分散が減少する。
本稿では,認識ネットワークを用いて各ミニバッチに対して最適な制御変数を安価に近似する手法を提案する。
論文 参考訳(メタデータ) (2020-03-09T13:23:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。