論文の概要: Ensemble Inference Methods for Models With Noisy and Expensive
Likelihoods
- arxiv url: http://arxiv.org/abs/2104.03384v1
- Date: Wed, 7 Apr 2021 20:29:18 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-09 12:52:47.221355
- Title: Ensemble Inference Methods for Models With Noisy and Expensive
Likelihoods
- Title(参考訳): 雑音および費用のかかるモデルに対するアンサンブル推定法
- Authors: Andrew B. Duncan, Andrew M. Stuart, Marie-Therese Wolfram
- Abstract要約: 本稿では,パラメータの逆問題解法における相互作用粒子系の利用について述べる。
利用可能なフォワードモデルの評価は、パラメータ空間において、滑らかに変化する大規模パラメトリック構造に重畳される高速揺らぎの対象となる。
このような急激なゆらぎをノイズと呼び、パラメータ・データ・マップの大規模パラメトリック依存性を汚染する場合の相互作用粒子系アルゴリズムの挙動をマルチスケール解析により解析する。
- 参考スコア(独自算出の注目度): 3.856620400071431
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The increasing availability of data presents an opportunity to calibrate
unknown parameters which appear in complex models of phenomena in the
biomedical, physical and social sciences. However, model complexity often leads
to parameter-to-data maps which are expensive to evaluate and are only
available through noisy approximations. This paper is concerned with the use of
interacting particle systems for the solution of the resulting inverse problems
for parameters. Of particular interest is the case where the available forward
model evaluations are subject to rapid fluctuations, in parameter space,
superimposed on the smoothly varying large scale parametric structure of
interest. Multiscale analysis is used to study the behaviour of interacting
particle system algorithms when such rapid fluctuations, which we refer to as
noise, pollute the large scale parametric dependence of the parameter-to-data
map. Ensemble Kalman methods (which are derivative-free) and Langevin-based
methods (which use the derivative of the parameter-to-data map) are compared in
this light. The ensemble Kalman methods are shown to behave favourably in the
presence of noise in the parameter-to-data map, whereas Langevin methods are
adversely affected. On the other hand, Langevin methods have the correct
equilibrium distribution in the setting of noise-free forward models, whilst
ensemble Kalman methods only provide an uncontrolled approximation, except in
the linear case. Therefore a new class of algorithms, ensemble Gaussian process
samplers, which combine the benefits of both ensemble Kalman and Langevin
methods, are introduced and shown to perform favourably.
- Abstract(参考訳): データの可用性の増大は、生物医学、物理、社会科学の複雑な現象のモデルに現れる未知のパラメータを校正する機会を与える。
しかし、モデル複雑性はしばしばパラメータからデータへのマップにつながり、評価は高価でノイズの多い近似によってのみ利用できる。
本稿では, パラメータの逆問題に対する解法として相互作用する粒子系の利用について述べる。
特に興味深いのは、手軽に変化する大規模パラメトリック構造に重畳されるパラメータ空間において、利用可能なフォワードモデル評価が急激なゆらぎを受ける場合である。
このような急激なゆらぎをノイズと呼び、パラメータ・データ・マップの大規模パラメトリック依存性を汚染する場合の相互作用粒子系アルゴリズムの挙動をマルチスケール解析により解析する。
この光の下で、アンサンブルカルマン法(微分なし)とランジュバン法(パラメータ対データ写像の導関数を用いる)を比較した。
アンサンブルカルマン法はパラメーターデータマップにおけるノイズの存在下で好適に振る舞うことが示されているが、ランジュバン法は悪影響を受ける。
一方、ランゲヴィン法はノイズフリーフォワードモデルの設定において正しい平衡分布を持ち、一方アンサンブルカルマン法は線形の場合を除いて制御されていない近似しか提供しない。
したがって、アンサンブルカルマン法とランゲヴィン法の両方の利点を組み合わせた新しいアルゴリズムであるアンサンブルガウシアンプロセスサンプリング器が導入され、良好な性能を示すことが示されている。
関連論文リスト
- Efficient Prior Calibration From Indirect Data [5.588334720483076]
本稿では,データから先行モデルを学習すること,特にノイズ観測プロセスを通じて得られた間接データの多元的実現から先行モデルを学習することに関心がある。
フォワードモデルの効率的な残差ベースニューラル演算子近似を提案し,これをプッシュフォワードマップと同時学習できることを示した。
論文 参考訳(メタデータ) (2024-05-28T08:34:41Z) - Gaussian process regression and conditional Karhunen-Lo\'{e}ve models
for data assimilation in inverse problems [68.8204255655161]
偏微分方程式モデルにおけるデータ同化とパラメータ推定のためのモデル逆アルゴリズムCKLEMAPを提案する。
CKLEMAP法は標準的なMAP法に比べてスケーラビリティがよい。
論文 参考訳(メタデータ) (2023-01-26T18:14:12Z) - Learning to Bound Counterfactual Inference in Structural Causal Models
from Observational and Randomised Data [64.96984404868411]
我々は、従来のEMベースのアルゴリズムを拡張するための全体的なデータの特徴付けを導出する。
新しいアルゴリズムは、そのような混合データソースからモデルパラメータの(不特定性)領域を近似することを学ぶ。
反実的な結果に間隔近似を与え、それが特定可能な場合の点に崩壊する。
論文 参考訳(メタデータ) (2022-12-06T12:42:11Z) - On the Effectiveness of Parameter-Efficient Fine-Tuning [79.6302606855302]
現在、多くの研究が、パラメータのごく一部のみを微調整し、異なるタスク間で共有されるパラメータのほとんどを保持することを提案している。
これらの手法は, いずれも細粒度モデルであり, 新たな理論的解析を行う。
我々の理論に根ざした空間性の有効性にもかかわらず、調整可能なパラメータをどう選ぶかという問題はまだ未解決のままである。
論文 参考訳(メタデータ) (2022-11-28T17:41:48Z) - History-Based, Bayesian, Closure for Stochastic Parameterization:
Application to Lorenz '96 [0.09137554315375918]
本研究では,ニューラルネットワークに対するベイズ形式に基づく新しいパラメータ化手法を開発し,不確実な定量化を考慮に入れた。
ベイズ史に基づくパラメータ化をLorenz '96モデルに適用し,ノイズやスパースデータの存在下でのパラメータ化について検討した。
このアプローチは閉包問題に対するベイズ的アプローチの活用の道を開く。
論文 参考訳(メタデータ) (2022-10-26T05:22:50Z) - A Causality-Based Learning Approach for Discovering the Underlying
Dynamics of Complex Systems from Partial Observations with Stochastic
Parameterization [1.2882319878552302]
本稿では,部分的な観測を伴う複雑な乱流系の反復学習アルゴリズムを提案する。
モデル構造を識別し、観測されていない変数を復元し、パラメータを推定する。
数値実験により、新しいアルゴリズムはモデル構造を同定し、多くの複雑な非線形系に対して適切なパラメータ化を提供することに成功した。
論文 参考訳(メタデータ) (2022-08-19T00:35:03Z) - Nonparametric learning of kernels in nonlocal operators [6.314604944530131]
非局所作用素におけるカーネル学習のための厳密な識別可能性解析および収束研究を提供する。
本稿では,新しいデータ適応型RKHS Tikhonov正規化手法を用いた非パラメトリック回帰アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-05-23T02:47:55Z) - Estimation of Bivariate Structural Causal Models by Variational Gaussian
Process Regression Under Likelihoods Parametrised by Normalising Flows [74.85071867225533]
因果機構は構造因果モデルによって記述できる。
最先端の人工知能の大きな欠点の1つは、説明責任の欠如である。
論文 参考訳(メタデータ) (2021-09-06T14:52:58Z) - MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood
Inference from Sampled Trajectories [61.3299263929289]
シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。
あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。
モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
論文 参考訳(メタデータ) (2021-06-03T12:59:16Z) - Sparse Algorithms for Markovian Gaussian Processes [18.999495374836584]
スパースマルコフ過程は、誘導変数の使用と効率的なカルマンフィルタライク再帰を結合する。
我々は,局所ガウス項を用いて非ガウス的確率を近似する一般的なサイトベースアプローチであるsitesを導出する。
提案手法は,変動推論,期待伝播,古典非線形カルマンスムーサなど,機械学習と信号処理の両方から得られるアルゴリズムの新たなスパース拡張の一群を導出する。
派生した方法は、モデルが時間と空間の両方で別々の誘導点を持つ文学時間データに適しています。
論文 参考訳(メタデータ) (2021-03-19T09:50:53Z) - Leveraging Global Parameters for Flow-based Neural Posterior Estimation [90.21090932619695]
実験観測に基づくモデルのパラメータを推定することは、科学的方法の中心である。
特に困難な設定は、モデルが強く不確定であるとき、すなわち、パラメータの異なるセットが同一の観測をもたらすときである。
本稿では,グローバルパラメータを共有する観測の補助的セットによって伝達される付加情報を利用して,その不確定性を破る手法を提案する。
論文 参考訳(メタデータ) (2021-02-12T12:23:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。