論文の概要: ADAVI: Automatic Dual Amortized Variational Inference Applied To Pyramidal Bayesian Models

• arxiv url: http://arxiv.org/abs/2106.12248v1
• Date: Wed, 23 Jun 2021 09:09:01 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-24 15:27:10.749034
• Title: ADAVI: Automatic Dual Amortized Variational Inference Applied To Pyramidal Bayesian Models
• Title（参考訳）: ADAVI:ピラミッドベイズモデルに適用された2値補正変分自動推定
• Authors: Louis Rouillard (PARIETAL, Inria, CEA), Demian Wassermann (PARIETAL, Inria, CEA)
• Abstract要約: 本研究では,対象パラメータに双対なVariatonal familyを自動生成する手法を開発した。 シミュレーションデータにおける本手法の有効性と,高次元脳パーセレーション実験の課題について述べる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Frequently, population studies feature pyramidally-organized data represented using Hierarchical Bayesian Models (HBM) enriched with plates. These models can become prohibitively large in settings such as neuroimaging, where a sample is composed of a functional MRI signal measured on 64 thousand brain locations, across 4 measurement sessions, and at least tens of subjects. Even a reduced example on a specific cortical region of 300 brain locations features around 1 million parameters, hampering the usage of modern density estimation techniques such as Simulation-Based Inference (SBI). To infer parameter posterior distributions in this challenging class of problems, we designed a novel methodology that automatically produces a variational family dual to a target HBM. This variatonal family, represented as a neural network, consists in the combination of an attention-based hierarchical encoder feeding summary statistics to a set of normalizing flows. Our automatically-derived neural network exploits exchangeability in the plate-enriched HBM and factorizes its parameter space. The resulting architecture reduces by orders of magnitude its parameterization with respect to that of a typical SBI representation, while maintaining expressivity. Our method performs inference on the specified HBM in an amortized setup: once trained, it can readily be applied to a new data sample to compute the parameters' full posterior. We demonstrate the capability of our method on simulated data, as well as a challenging high-dimensional brain parcellation experiment. We also open up several questions that lie at the intersection between SBI techniques and structured Variational Inference.
• Abstract（参考訳）: しばしば、人口調査は階層ベイズモデル(HBM)で表されるピラミッド的に組織化されたデータで表される。 これらのモデルは、ニューロイメージングのような設定では違法に大きくなり、サンプルは6万の脳位置で測定された機能的なMRI信号からなり、4回の測定セッションにまたがり、少なくとも10人の被験者からなる。 300の脳の特定の皮質領域の縮小例でさえ、約100万のパラメータが特徴であり、シミュレーションベース推論(SBI)のような現代的な密度推定技術の使用を妨げる。 この課題のクラスにおいて,パラメータの後方分布を推定するために,ターゲットHBMに双対な変動族を自動生成する手法を考案した。 ニューラルネットワークとして表現されるこのVariatonal familyは、注意に基づく階層エンコーダの組み合わせによって、要約統計を正規化フローの集合に供給する。 我々のニューラルネットワークはプレート強化HBMの交換性を利用してパラメータ空間を分解する。 結果として得られるアーキテクチャは、表現性を維持しながら、典型的なSBI表現に関するパラメータ化を桁違いに削減する。 トレーニングが完了すれば,パラメータの完全後部を計算するために,新しいデータサンプルに容易に適用することができる。 シミュレーションデータにおける本手法の有効性を実証するとともに,高次元脳解析実験を行った。 また、SBI技術と構造化変分推論の共通点にあるいくつかの質問も開きます。

関連論文リスト

• Heterogenous Memory Augmented Neural Networks [84.29338268789684]
  ニューラルネットワークのための新しいヘテロジニアスメモリ拡張手法を提案する。 学習可能なメモリトークンをアテンション機構付きで導入することにより、膨大な計算オーバーヘッドを伴わずに性能を効果的に向上させることができる。 In-distriion (ID) と Out-of-distriion (OOD) の両方の条件下での様々な画像およびグラフベースのタスクに対するアプローチを示す。
  論文  参考訳（メタデータ） (2023-10-17T01:05:28Z)
• Autoregressive models for biomedical signal processing [0.0]
  本稿では、損失関数を介して不確実性を明示的に組み込んだ自己回帰モデリングの枠組みを提案する。 本研究は, 時系列の復調に成功し, システムパラメータの再構成に成功していることを示す。 この新たなパラダイムは、脳-コンピュータインターフェースデータ分析やてんかんなどの疾患における脳のダイナミクスの理解など、神経科学の様々な応用に利用できる。
  論文  参考訳（メタデータ） (2023-04-17T08:57:36Z)
• BSSAD: Towards A Novel Bayesian State-Space Approach for Anomaly Detection in Multivariate Time Series [0.0]
  ベイジアン状態空間異常検出(BSSAD)と呼ばれる新しい,革新的な異常検出手法を提案する。 提案手法の設計は,ベイズ状態空間アルゴリズムの次の状態予測における強みと,繰り返しニューラルネットワークとオートエンコーダの有効性を組み合わせたものである。 特に,粒子フィルタとアンサンブルカルマンフィルタのベイズ状態空間モデルの利用に着目する。
  論文  参考訳（メタデータ） (2023-01-30T16:21:18Z)
• Differentiable Agent-based Epidemiology [71.81552021144589]
  GradABM(GradABM)は、エージェントベースのモデリングのためのスケーラブルで微分可能な設計で、勾配に基づく学習と自動微分が可能である。 GradABMは、コモディティハードウェア上で数秒で数百万の人口をシミュレートし、ディープニューラルネットワークと統合し、異種データソースを取り込みます。
  論文  参考訳（メタデータ） (2022-07-20T07:32:02Z)
• Multi-fidelity Hierarchical Neural Processes [79.0284780825048]
  多要素代理モデリングは、異なるシミュレーション出力を融合させることで計算コストを削減する。 本稿では,多階層型階層型ニューラルネットワーク(MF-HNP)を提案する。 疫学および気候モデリングタスクにおけるMF-HNPの評価を行い、精度と不確実性評価の観点から競合性能を達成した。
  論文  参考訳（メタデータ） (2022-06-10T04:54:13Z)
• Mixed Effects Neural ODE: A Variational Approximation for Analyzing the Dynamics of Panel Data [50.23363975709122]
  パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。 我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。 次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
  論文  参考訳（メタデータ） (2022-02-18T22:41:51Z)
• Inverting brain grey matter models with likelihood-free inference: a tool for trustable cytoarchitecture measurements [62.997667081978825]
  脳の灰白質細胞構造の特徴は、体密度と体積に定量的に敏感であり、dMRIでは未解決の課題である。 我々は新しいフォワードモデル、特に新しい方程式系を提案し、比較的スパースなb殻を必要とする。 次に,提案手法を逆転させるため,確率自由推論 (LFI) として知られるベイズ解析から最新のツールを適用した。
  論文  参考訳（メタデータ） (2021-11-15T09:08:27Z)
• Post-mortem on a deep learning contest: a Simpson's paradox and the complementary roles of scale metrics versus shape metrics [61.49826776409194]
  我々は、ニューラルネットワーク(NN)モデルの一般化精度を予測するために、コンテストで公に利用可能にされたモデルのコーパスを分析する。 メトリクスが全体としてよく機能するが、データのサブパーティションではあまり機能しない。 本稿では,データに依存しない2つの新しい形状指標と,一連のNNのテスト精度の傾向を予測できるデータ依存指標を提案する。
  論文  参考訳（メタデータ） (2021-06-01T19:19:49Z)
• Identification of brain states, transitions, and communities using functional MRI [0.5872014229110214]
  ベイズモデルに基づく潜在脳状態のキャラクタリゼーションを提案し,後方予測の不一致に基づく新しい手法を提案する。 タスク-fMRIデータの解析により得られた結果は、外部タスク要求と脳状態間の変化点の間の適切な遅延を示す。
  論文  参考訳（メタデータ） (2021-01-26T08:10:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。