論文の概要: Analysis of Random Sequential Message Passing Algorithms for Approximate Inference

• arxiv url: http://arxiv.org/abs/2202.08198v1
• Date: Wed, 16 Feb 2022 17:16:22 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-17 14:54:11.416831
• Title: Analysis of Random Sequential Message Passing Algorithms for Approximate Inference
• Title（参考訳）: 近似推論のためのランダム逐次メッセージパッシングアルゴリズムの解析
• Authors: Burak \c{C}akmak, Yue M. Lu and Manfred Opper
• Abstract要約: ガウス潜在変数モデルを用いた近似推論のためのランダムシーケンシャルメッセージパッシングアルゴリズムのダイナミクスを解析する。 逐次アルゴリズムが収束しないモデルパラメータの範囲を導出する。
• 参考スコア（独自算出の注目度）: 18.185200593985844
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: We analyze the dynamics of a random sequential message passing algorithm for approximate inference with large Gaussian latent variable models in a student-teacher scenario. To model nontrivial dependencies between the latent variables, we assume random covariance matrices drawn from rotation invariant ensembles. Moreover, we consider a model mismatching setting, where the teacher model and the one used by the student may be different. By means of dynamical functional approach, we obtain exact dynamical mean-field equations characterizing the dynamics of the inference algorithm. We also derive a range of model parameters for which the sequential algorithm does not converge. The boundary of this parameter range coincides with the de Almeida Thouless (AT) stability condition of the replica symmetric ansatz for the static probabilistic model.
• Abstract（参考訳）: 学生・教師シナリオにおける大規模ガウス型潜在変数モデルを用いた近似推論のためのランダムシーケンシャルメッセージパッシングアルゴリズムのダイナミクス解析を行った。 潜伏変数間の非自明な依存関係をモデル化するために、回転不変アンサンブルから引き出されたランダムな共分散行列を仮定する。 さらに,教師モデルと生徒が使用するモデルが異なる場合のミスマッチ設定についても検討する。 動的関数的アプローチにより、推論アルゴリズムのダイナミクスを特徴づける厳密な動的平均場方程式を得る。 また、逐次アルゴリズムが収束しないモデルパラメータの範囲も導出する。 このパラメータ範囲の境界は、静的確率モデルに対するレプリカ対称アンサッツのデ・アルメイダ・トゥーレス(AT)安定性条件と一致する。

関連論文リスト

• Proximal Interacting Particle Langevin Algorithms [0.0]
  本稿では,潜時変動モデルにおける推論と学習のためのPIPLAアルゴリズムを提案する。 非微分不可能な統計モデルにおけるパラメータ推定の問題に合わせた、新しい近位IPLAファミリー内のいくつかの変種を提案する。 我々の理論と実験は、PIPLAファミリーが非微分可能モデルの潜在変数モデルにおけるパラメータ推定問題のデファクト選択であることを示している。
  論文  参考訳（メタデータ） (2024-06-20T13:16:41Z)
• Distributed Bayesian Learning of Dynamic States [65.7870637855531]
  提案アルゴリズムは有限状態隠れマルコフモデルに対する分散ベイズフィルタタスクである。 逐次状態推定や、動的環境下でのソーシャルネットワーク上での意見形成のモデル化に使用できる。
  論文  参考訳（メタデータ） (2022-12-05T19:40:17Z)
• A Variational Inference Approach to Inverse Problems with Gamma Hyperpriors [60.489902135153415]
  本稿では,ガンマハイパープライヤを用いた階層的逆問題に対する変分反復交替方式を提案する。 提案した変分推論手法は正確な再構成を行い、意味のある不確実な定量化を提供し、実装が容易である。
  論文  参考訳（メタデータ） (2021-11-26T06:33:29Z)
• Compositional Modeling of Nonlinear Dynamical Systems with ODE-based Random Features [0.0]
  この問題に対処するための新しいドメインに依存しないアプローチを提案する。 我々は、通常の微分方程式から導かれる物理インフォームド・ランダムな特徴の合成を用いる。 提案手法は,ベンチマーク回帰タスクにおいて,他の多くの確率モデルに匹敵する性能を実現する。
  論文  参考訳（メタデータ） (2021-06-10T17:55:13Z)
• MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood Inference from Sampled Trajectories [61.3299263929289]
  シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。 あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。 モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
  論文  参考訳（メタデータ） (2021-06-03T12:59:16Z)
• The Connection between Discrete- and Continuous-Time Descriptions of Gaussian Continuous Processes [60.35125735474386]
  我々は、一貫した推定子をもたらす離散化が粗粒化下での不変性を持つことを示す。 この結果は、導関数再構成のための微分スキームと局所時間推論アプローチの組み合わせが、2次または高次微分方程式の時系列解析に役立たない理由を説明する。
  論文  参考訳（メタデータ） (2021-01-16T17:11:02Z)
• ImitationFlow: Learning Deep Stable Stochastic Dynamic Systems by Normalizing Flows [29.310742141970394]
  我々は,世界規模で安定な非線形力学を学習できる新しいDeep生成モデルであるImitationFlowを紹介した。 提案手法の有効性を,標準データセットと実ロボット実験の両方で示す。
  論文  参考訳（メタデータ） (2020-10-25T14:49:46Z)
• Control as Hybrid Inference [62.997667081978825]
  本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。 連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
  論文  参考訳（メタデータ） (2020-07-11T19:44:09Z)
• A Dynamical Mean-Field Theory for Learning in Restricted Boltzmann Machines [2.8021833233819486]
  ボルツマンマシンにおける磁化計算のためのメッセージパッシングアルゴリズムを定義する。 安定性基準の下でのアルゴリズムのグローバル収束を証明し,数値シミュレーションとの良好な一致を示す収束率を計算する。
  論文  参考訳（メタデータ） (2020-05-04T15:19:31Z)
• Variational Hyper RNN for Sequence Modeling [69.0659591456772]
  本稿では,時系列データにおける高変数の取得に優れる新しい確率的シーケンスモデルを提案する。 提案手法では,時間潜時変数を用いて基礎となるデータパターンに関する情報をキャプチャする。 提案手法の有効性を,合成および実世界のシーケンシャルデータに示す。
  論文  参考訳（メタデータ） (2020-02-24T19:30:32Z)
• Analysis of Bayesian Inference Algorithms by the Dynamical Functional Approach [2.8021833233819486]
  学生自明なシナリオにおいて,大ガウス潜在変数モデルを用いて近似推論のアルゴリズムを解析する。 完全データモデルマッチングの場合、レプリカ法から派生した静的順序パラメータの知識により、効率的なアルゴリズム更新が得られる。
  論文  参考訳（メタデータ） (2020-01-14T17:22:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。