論文の概要: Scalable Semi-Modular Inference with Variational Meta-Posteriors
- arxiv url: http://arxiv.org/abs/2204.00296v1
- Date: Fri, 1 Apr 2022 09:01:20 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-04 21:05:55.225331
- Title: Scalable Semi-Modular Inference with Variational Meta-Posteriors
- Title（参考訳）: 変分メタポストリエータを用いたスケーラブルな半モジュラー推論
- Authors: Chris U. Carmona, Geoff K. Nicholls
- Abstract要約: カット後部推論と半モジュラー推論は、モジュラーベイズ証拠の組み合わせに対する一般化ベイズ法である。
複数カットを持つモデルの解析は,新しい変分メタ・ポストミラーを用いて実現可能であることを示す。
これは、一組の変分パラメータを使って$eta$でインデックス付けされたSMI後続の族を近似する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Cut posterior and related Semi-Modular Inference are Generalised Bayes
methods for Modular Bayesian evidence combination. Analysis is broken up over
modular sub-models of the joint posterior distribution. Model-misspecification
in multi-modular models can be hard to fix by model elaboration alone and the
Cut posterior and SMI offer a way round this. Information entering the analysis
from misspecified modules is controlled by an influence parameter $\eta$
related to the learning rate. This paper contains two substantial new methods.
First, we give variational methods for approximating the Cut and SMI posteriors
which are adapted to the inferential goals of evidence combination. We
parameterise a family of variational posteriors using a Normalising Flow for
accurate approximation and end-to-end training. Secondly, we show that analysis
of models with multiple cuts is feasible using a new Variational
Meta-Posterior. This approximates a family of SMI posteriors indexed by $\eta$
using a single set of variational parameters.
- Abstract（参考訳）: カット後部および関連する半モジュラー推論は、モジュラーベイズ証拠の組み合わせに対する一般化ベイズ法である。
解析は関節後方分布のモジュラーサブモデル上で分割される。
マルチモジュラーモデルにおけるモデルミス比は、モデル詳細化だけでは修正が困難であり、カット後方とsmiはこの方法を提供する。
誤特定モジュールから解析を入力した情報は、学習率に関連する影響パラメータ$\eta$によって制御される。
本論文は2つの重要な方法を含む。
まず、証拠組合せの推論目標に適合するカットとSMI後部を近似するための変分法を提案する。
高精度な近似とエンドツーエンドトレーニングのために,正規化流を用いて変動後方群をパラメタリゼーションする。
第二に, 複数のカットモデルの解析が, 新しい変分メタポストリエータを用いて実現可能であることを示す。
これは一組の変分パラメータを使って$\eta$でインデックスされたSMI後続の族を近似する。
関連論文リスト
- SMILE: Zero-Shot Sparse Mixture of Low-Rank Experts Construction From Pre-Trained Foundation Models [85.67096251281191]
我々は、ゼロショットスパースミクチャー(SMILE)と呼ばれるモデル融合に対する革新的なアプローチを提案する。
SMILEは、余分なデータやさらなるトレーニングなしに、ソースモデルをMoEモデルにアップスケーリングできる。
画像分類やテキスト生成タスクなど,さまざまなシナリオに対して,フル微調整とLoRA微調整を用いて広範な実験を行う。
論文 参考訳（メタデータ） (2024-08-19T17:32:15Z) - EMR-Merging: Tuning-Free High-Performance Model Merging [55.03509900949149]
Elect, Mask & Rescale-Merging (EMR-Merging) は既存のマージ手法と比較して優れた性能を示した。
EMR-Mergingはチューニング不要なので、データアベイラビリティや追加のトレーニングは必要ありません。
論文 参考訳（メタデータ） (2024-05-23T05:25:45Z) - Bayesian learning of Causal Structure and Mechanisms with GFlowNets and Variational Bayes [51.84122462615402]
本研究では,変分ベイズ-DAG-GFlowNetを用いて因果モデルの構造と機構を学習する手法を提案する。
我々は,GFlowNetを用いたベイズ因果構造学習の手法を拡張し,線形ガウスモデルのパラメータを学習する。
論文 参考訳（メタデータ） (2022-11-04T21:57:39Z) - Dynamically-Scaled Deep Canonical Correlation Analysis [77.34726150561087]
カノニカル相関解析 (CCA) は, 2つのビューの特徴抽出手法である。
本稿では,入力依存の正準相関モデルをトレーニングするための新しい動的スケーリング手法を提案する。
論文 参考訳（メタデータ） (2022-03-23T12:52:49Z) - Inverting brain grey matter models with likelihood-free inference: a
tool for trustable cytoarchitecture measurements [62.997667081978825]
脳の灰白質細胞構造の特徴は、体密度と体積に定量的に敏感であり、dMRIでは未解決の課題である。
我々は新しいフォワードモデル、特に新しい方程式系を提案し、比較的スパースなb殻を必要とする。
次に,提案手法を逆転させるため,確率自由推論 (LFI) として知られるベイズ解析から最新のツールを適用した。
論文 参考訳（メタデータ） (2021-11-15T09:08:27Z) - Transformation Models for Flexible Posteriors in Variational Bayes [0.0]
ニューラルネットワークでは、変分推論は、計算が難しい後部を近似するために広く使われている。
変換モデルは任意の分布に適合するほど柔軟です。
TM-VIは、1つのパラメータを持つモデルの複雑な後部を正確に近似することができる。
論文 参考訳（メタデータ） (2021-06-01T14:43:47Z) - Mutual Information Constraints for Monte-Carlo Objectives [21.70557526001205]
変分オートエンコーダとして訓練された密度モデルの一般的な失敗モードは、潜在変数に頼ることなくデータをモデル化することであり、これらの変数は役に立たない。
これら2つの研究、特にモンテカルロの目的の厳密な境界と観測変数と潜伏変数の間の相互情報に関する制約を共に織り込んだ。
本研究の目的は, 連続潜水モデルと離散潜水モデルを用いて, 速度歪みを著しく改善し, 破壊を伴わないモデルを用いて, 真後部のKulback-Leibler偏差の推定器を構築することである。
論文 参考訳（メタデータ） (2020-12-01T18:14:08Z) - Meta-Learning with Shared Amortized Variational Inference [33.54630534228469]
経験的ベイズメタラーニングモデルのための新しいアモータイズされた変分推論手法を提案する。
変動型オートエンコーダ手法を用いて、限られた訓練データに条件付きモデルパラメータの事前分布を学習する。
論文 参考訳（メタデータ） (2020-08-27T10:28:13Z) - Semi-Modular Inference: enhanced learning in multi-modular models by
tempering the influence of components [0.0]
既存のModular/Cut-model推論がコヒーレントであることを示し、Semi-Modular Inferenceスキームの新しいファミリーを記述する。
推論方式を選択するメタラーニング基準と推定手順を与える。
文献から得られた2つの標準的な試験事例と,その動機となる考古学的データセットについて概説する。
論文 参考訳（メタデータ） (2020-03-15T11:55:55Z) - Decision-Making with Auto-Encoding Variational Bayes [71.44735417472043]
変分分布とは異なる後部近似を用いて意思決定を行うことが示唆された。
これらの理論的な結果から,最適モデルに関するいくつかの近似的提案を学習することを提案する。
おもちゃの例に加えて,単細胞RNAシークエンシングのケーススタディも紹介する。
論文 参考訳（メタデータ） (2020-02-17T19:23:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。