論文の概要: Bayesian ODE Solvers: The Maximum A Posteriori Estimate
- arxiv url: http://arxiv.org/abs/2004.00623v2
- Date: Tue, 12 Jan 2021 16:12:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-17 19:33:24.427356
- Title: Bayesian ODE Solvers: The Maximum A Posteriori Estimate
- Title(参考訳): Bayesian ODE Solvers: The Maximum A Posteriori Estimate
- Authors: Filip Tronarp, Simo Sarkka, Philipp Hennig
- Abstract要約: 常微分方程式の数値解は非線形ベイズ推論問題として当てはまることが確立されている。
後方推定の最大値は、前者に関連するヒルベルト空間の最適補間と一致する。
開発された方法論は、これらの推定器の収束を研究するための、新しくより自然なアプローチを提供する。
- 参考スコア(独自算出の注目度): 30.767328732475956
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: It has recently been established that the numerical solution of ordinary
differential equations can be posed as a nonlinear Bayesian inference problem,
which can be approximately solved via Gaussian filtering and smoothing,
whenever a Gauss--Markov prior is used. In this paper the class of $\nu$ times
differentiable linear time invariant Gauss--Markov priors is considered. A
taxonomy of Gaussian estimators is established, with the maximum a posteriori
estimate at the top of the hierarchy, which can be computed with the iterated
extended Kalman smoother. The remaining three classes are termed explicit,
semi-implicit, and implicit, which are in similarity with the classical notions
corresponding to conditions on the vector field, under which the filter update
produces a local maximum a posteriori estimate. The maximum a posteriori
estimate corresponds to an optimal interpolant in the reproducing Hilbert space
associated with the prior, which in the present case is equivalent to a Sobolev
space of smoothness $\nu+1$. Consequently, using methods from scattered data
approximation and nonlinear analysis in Sobolev spaces, it is shown that the
maximum a posteriori estimate converges to the true solution at a polynomial
rate in the fill-distance (maximum step size) subject to mild conditions on the
vector field. The methodology developed provides a novel and more natural
approach to study the convergence of these estimators than classical methods of
convergence analysis. The methods and theoretical results are demonstrated in
numerical examples.
- Abstract(参考訳): 近年,正規微分方程式の数値解を非線形ベイズ推定問題として定式化できることが確立されており,ガウス・マルコフ前駆体を用いると,ガウスフィルタリングや平滑化によって近似的に解くことができる。
ガウス推定値の分類が確立され、階層の最上部に最大後方推定値が設定され、反復された拡張カルマン平滑化によって計算できる。
残りの3つのクラスは明示的、半単純、暗黙的と呼ばれ、これはベクトル場の条件に対応する古典的概念と類似しており、その下にフィルタ更新が局所的な最大a後方推定を生成する。
最大後続推定は、前項に付随する再生ヒルベルト空間の最適補間に対応し、この場合、滑らか性のソボレフ空間 $\nu+1$ と等価である。
その結果, ソボレフ空間における散乱データ近似と非線形解析の手法を用いて, ベクトル場上の緩やかな条件下での補間距離(最大ステップサイズ)の多項式速度で, 最大アフター推定値が真の解に収束することを示した。
開発された手法は、古典的収束解析法よりも、これらの推定器の収束を研究するための新しい、より自然なアプローチを提供する。
これらの方法と理論的結果は数値的な例で示される。
関連論文リスト
- Riemannian Laplace Approximation with the Fisher Metric [5.982697037000189]
ラプラスの手法は、目標密度とガウス分布をそのモードで近似する。
複雑なターゲットと有限データ後部では、しばしば近似が粗すぎる。
我々は、無限データの範囲内で正確である2つの代替変種を開発する。
論文 参考訳(メタデータ) (2023-11-05T20:51:03Z) - Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood
Estimation for Latent Gaussian Models [69.22568644711113]
我々は,モンテカルロサンプリングと反復線形解法を組み合わせた確率的アンローリングを導入し,行列逆転を回避した。
理論的解析により,解法の繰り返しによる解法の解法と逆転が最大値推定の勾配推定を高速化することを示した。
シミュレーションおよび実データ実験において、確率的アンロールは、モデル性能の損失を最小限に抑えながら、勾配EMよりも桁違いに高速な潜在ガウスモデルを学習することを示した。
論文 参考訳(メタデータ) (2023-06-05T21:08:34Z) - Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector
Problems [98.34292831923335]
オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。
我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
論文 参考訳(メタデータ) (2021-12-29T18:46:52Z) - Mean-Square Analysis with An Application to Optimal Dimension Dependence
of Langevin Monte Carlo [60.785586069299356]
この研究は、2-ワッサーシュタイン距離におけるサンプリング誤差の非同相解析のための一般的な枠組みを提供する。
我々の理論解析は数値実験によってさらに検証される。
論文 参考訳(メタデータ) (2021-09-08T18:00:05Z) - Connecting Hamilton--Jacobi partial differential equations with maximum
a posteriori and posterior mean estimators for some non-convex priors [0.0]
本章では、あるクラス非log-concave正規化を考え、その最小化に対する類似表現公式も得られることを示す。
また、ガウスデータ忠実度を持つベイズ後平均推定器と、マイナスプラス代数技術のアナログを用いてある非対数先行値に対する同様の結果を提示する。
論文 参考訳(メタデータ) (2021-04-22T19:00:37Z) - Optimal oracle inequalities for solving projected fixed-point equations [53.31620399640334]
ヒルベルト空間の既知の低次元部分空間を探索することにより、確率観測の集合を用いて近似解を計算する手法を検討する。
本稿では,線形関数近似を用いた政策評価問題に対する時間差分学習手法の誤差を正確に評価する方法について述べる。
論文 参考訳(メタデータ) (2020-12-09T20:19:32Z) - Pathwise Conditioning of Gaussian Processes [72.61885354624604]
ガウス過程後部をシミュレーションするための従来のアプローチでは、有限個の入力位置のプロセス値の限界分布からサンプルを抽出する。
この分布中心の特徴づけは、所望のランダムベクトルのサイズで3次スケールする生成戦略をもたらす。
条件付けのこのパスワイズ解釈が、ガウス過程の後部を効率的にサンプリングするのに役立てる近似の一般族をいかに生み出すかを示す。
論文 参考訳(メタデータ) (2020-11-08T17:09:37Z) - Nearest Neighbour Based Estimates of Gradients: Sharp Nonasymptotic
Bounds and Applications [0.6445605125467573]
勾配推定は統計学と学習理論において重要である。
ここでは古典的な回帰設定を考えると、実値の正方形可積分 r.v.$Y$ が予測される。
代替推定法で得られた値に対して, 漸近的境界が改良されることを証明した。
論文 参考訳(メタデータ) (2020-06-26T15:19:43Z) - Mean-Field Approximation to Gaussian-Softmax Integral with Application
to Uncertainty Estimation [23.38076756988258]
ディープニューラルネットワークにおける不確実性を定量化するための,新しい単一モデルに基づくアプローチを提案する。
平均場近似式を用いて解析的に難解な積分を計算する。
実験的に,提案手法は最先端の手法と比較して競合的に機能する。
論文 参考訳(メタデータ) (2020-06-13T07:32:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。