論文の概要: Neural Surrogate HMC: Accelerated Hamiltonian Monte Carlo with a Neural Network Surrogate Likelihood
- arxiv url: http://arxiv.org/abs/2407.20432v1
- Date: Mon, 29 Jul 2024 21:54:57 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-31 18:48:44.352599
- Title: Neural Surrogate HMC: Accelerated Hamiltonian Monte Carlo with a Neural Network Surrogate Likelihood
- Title(参考訳): ニューラル・サロゲート HMC: ニューラルネットワーク・サロゲート様のハミルトニアン・モンテカルロ加速
- Authors: Linnea M Wolniewicz, Peter Sadowski, Claudio Corti,
- Abstract要約: ニューラルネットワークによって実装された代理確率関数を用いて計算を復号化することにより,いくつかの問題を抽出可能であることを示す。
これは、確率評価におけるノイズの低減と高速勾配計算の2つの利点があることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian Inference with Markov Chain Monte Carlo requires efficient computation of the likelihood function. In some scientific applications, the likelihood must be computed by numerically solving a partial differential equation, which can be prohibitively expensive. We demonstrate that some such problems can be made tractable by amortizing the computation with a surrogate likelihood function implemented by a neural network. We show that this has two additional benefits: reducing noise in the likelihood evaluations and providing fast gradient calculations. In experiments, the approach is applied to a model of heliospheric transport of galactic cosmic rays, where it enables efficient sampling from the posterior of latent parameters in the Parker equation.
- Abstract(参考訳): マルコフ・チェイン・モンテカルロによるベイズ推論は、確率関数の効率的な計算を必要とする。
いくつかの科学的応用では、確率は偏微分方程式を数値的に解くことによって計算されなければならない。
ニューラルネットワークによって実装された代理確率関数を用いて計算を復号化することにより、そのような問題のいくつかを抽出可能であることを実証する。
これは、確率評価におけるノイズの低減と高速勾配計算の2つの利点があることを示す。
実験では、この手法が銀河系宇宙線のヘリオスフェリック輸送のモデルに適用され、パーカー方程式における潜伏パラメータの後方からの効率的なサンプリングを可能にした。
関連論文リスト
- Nonparametric estimation of Hawkes processes with RKHSs [1.775610745277615]
本稿では、再生カーネル空間(RKHS)に相互作用関数が存在すると仮定した非線形ホークス過程の非パラメトリック推定について述べる。
神経科学の応用によって動機づけられたこのモデルは、エキサイティングな効果と阻害的な効果を表現するために、複雑な相互作用機能を実現する。
本手法は, 関連する非パラメトリック推定手法よりも優れた性能を示し, 神経応用に適していることが示唆された。
論文 参考訳(メタデータ) (2024-11-01T14:26:50Z) - Hamiltonian Monte Carlo on ReLU Neural Networks is Inefficient [3.823356975862005]
本稿では,ReLUファミリーにおけるアクティベーション関数の非微分性のため,これらのアクティベーション関数を持つネットワークに対するHMCは局所誤差が大きいことを示す。
そして、実世界のデータセットでの実験だけでなく、経験的なシミュレーションを通して理論的な結果を検証する。
論文 参考訳(メタデータ) (2024-10-29T14:23:42Z) - Applications of ML-Based Surrogates in Bayesian Approaches to Inverse
Problems [0.41942958779358674]
2次元音響波動方程式の雑音解を考慮し、正方形領域上の波源の位置を推定する逆問題を考える。
標準的なニューラルネットワークを代理モデルとして使用することにより、この可能性を数回評価することが可能である。
本研究では,ノイズの多いデータから音源位置を正確に推定できることを実証する。
論文 参考訳(メタデータ) (2023-10-18T15:32:30Z) - Stochastic Marginal Likelihood Gradients using Neural Tangent Kernels [78.6096486885658]
線形化されたラプラス近似に下界を導入する。
これらの境界は漸進的な最適化が可能であり、推定精度と計算複雑性とのトレードオフを可能にする。
論文 参考訳(メタデータ) (2023-06-06T19:02:57Z) - Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。
ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
論文 参考訳(メタデータ) (2023-04-17T14:23:43Z) - Monte Carlo Neural PDE Solver for Learning PDEs via Probabilistic Representation [59.45669299295436]
教師なしニューラルソルバのトレーニングのためのモンテカルロPDEソルバを提案する。
我々は、マクロ現象をランダム粒子のアンサンブルとみなすPDEの確率的表現を用いる。
対流拡散, アレン・カーン, ナヴィエ・ストークス方程式に関する実験により, 精度と効率が著しく向上した。
論文 参考訳(メタデータ) (2023-02-10T08:05:19Z) - Adaptive LASSO estimation for functional hidden dynamic geostatistical
model [69.10717733870575]
関数型隠れ統計モデル(f-HD)のためのペナル化極大推定器(PMLE)に基づく新しいモデル選択アルゴリズムを提案する。
このアルゴリズムは反復最適化に基づいており、適応最小限の収縮・セレクタ演算子(GMSOLAS)ペナルティ関数を用いており、これは不給付のf-HD最大線量推定器によって得られる。
論文 参考訳(メタデータ) (2022-08-10T19:17:45Z) - Inverting brain grey matter models with likelihood-free inference: a
tool for trustable cytoarchitecture measurements [62.997667081978825]
脳の灰白質細胞構造の特徴は、体密度と体積に定量的に敏感であり、dMRIでは未解決の課題である。
我々は新しいフォワードモデル、特に新しい方程式系を提案し、比較的スパースなb殻を必要とする。
次に,提案手法を逆転させるため,確率自由推論 (LFI) として知られるベイズ解析から最新のツールを適用した。
論文 参考訳(メタデータ) (2021-11-15T09:08:27Z) - Determinant-free fermionic wave function using feed-forward neural
networks [0.0]
本稿では,フィードフォワードニューラルネットワークを用いて,多体フェルミオン系の基底状態を検出する枠組みを提案する。
エネルギーの「ばらつき」をエネルギーそのものと同時に最適化することにより近似の精度を向上させることができることを示す。
これらの改善は、変分モンテカルロ法に基づく他の手法にも適用できる。
論文 参考訳(メタデータ) (2021-08-19T11:51:36Z) - Sinkhorn Natural Gradient for Generative Models [125.89871274202439]
本研究では,シンクホーンの発散による確率空間上の最も急降下法として機能するシンクホーン自然勾配(SiNG)アルゴリズムを提案する。
本稿では,SiNG の主要成分であるシンクホーン情報行列 (SIM) が明示的な表現を持ち,対数的スケールの複雑さを正確に評価できることを示す。
本実験では,SiNGと最先端のSGD型解法を定量的に比較し,その有効性と有効性を示す。
論文 参考訳(メタデータ) (2020-11-09T02:51:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。