論文の概要: Vector Copula Variational Inference and Dependent Block Posterior Approximations

• arxiv url: http://arxiv.org/abs/2503.01072v1
• Date: Mon, 03 Mar 2025 00:24:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-05 19:21:59.546773
• Title: Vector Copula Variational Inference and Dependent Block Posterior Approximations
• Title（参考訳）: ベクトルコプラ変量推定と依存ブロック後部近似
• Authors: Yu Fu, Michael Stanley Smith, Anastasios Panagiotelis,
• Abstract要約: 本稿では,ブロック間の依存性を同期的に捉えるためにベクトルコプラを用いた手法を提案する。 得られた関節分布を依存ブロック後部近似と呼ぶ。 このアプローチの有効性と汎用性は、4つの異なる統計モデルと16のデータセットを用いて実証される。
• 参考スコア（独自算出の注目度）: 3.4402084898030454
• License:
• Abstract: Variational inference (VI) is a popular method to estimate statistical and econometric models. The key to VI is the selection of a tractable density to approximate the Bayesian posterior. For large and complex models a common choice is to assume independence between multivariate blocks in a partition of the parameter space. While this simplifies the problem it can reduce accuracy. This paper proposes using vector copulas to capture dependence between the blocks parsimoniously. Tailored multivariate marginals are constructed using learnable cyclically monotone transformations. We call the resulting joint distribution a ``dependent block posterior'' approximation. Vector copula models are suggested that make tractable and flexible variational approximations. They allow for differing marginals, numbers of blocks, block sizes and forms of between block dependence. They also allow for solution of the variational optimization using fast and efficient stochastic gradient methods. The efficacy and versatility of the approach is demonstrated using four different statistical models and 16 datasets which have posteriors that are challenging to approximate. In all cases, our method produces more accurate posterior approximations than benchmark VI methods that either assume block independence or factor-based dependence, at limited additional computational cost.
• Abstract（参考訳）: 変分推論 (VI) は統計的および計量的モデルを推定する一般的な手法である。 VI の鍵となるのは、ベイズ後部を近似するトラクタブル密度の選択である。 大規模で複雑なモデルの場合、パラメータ空間の分割において、多変量ブロック間の独立性を仮定することが一般的な選択である。 これは問題を単純化するが、精度を低下させる可能性がある。 本稿では,ブロック間の依存性を同期的に捉えるためにベクトルコプラを用いた手法を提案する。 テーラー付き多変量辺は、学習可能な環状モノトン変換を用いて構成される。 結果の関節分布を ``dependent block rear' 近似と呼ぶ。 ベクトルコプラモデルでは、トラクタブルでフレキシブルな変動近似が提案される。 ブロックの間隔、ブロック数、ブロックサイズ、ブロック依存の形式を区別することができる。 また、高速かつ効率的な確率勾配法による変分最適化の解法も可能である。 アプローチの有効性と汎用性は、4つの異なる統計モデルと16のデータセットを用いて実証される。 いずれの場合も,ブロック独立性や因子依存を仮定するベンチマークVI法よりも,計算コストが制限された後部近似がより正確である。

関連論文リスト

• EigenVI: score-based variational inference with orthogonal function expansions [23.696028065251497]
  EigenVIはブラックボックス変分推論(BBVI)のための固有値に基づくアプローチである 我々はEigenVIを用いて様々なターゲット分布を近似し、例えば後方dbのベイズモデルのベンチマークスイートを含む。
  論文  参考訳（メタデータ） (2024-10-31T15:48:34Z)
• Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
  我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。 我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
  論文  参考訳（メタデータ） (2024-07-11T13:28:34Z)
• PAVI: Plate-Amortized Variational Inference [55.975832957404556]
  数百人の被験者のコホート上で何百万もの計測が行われる大集団研究において、推論は困難である。 この大きな濃度は、オフザシェルフ変分推論(VI)を計算的に非現実的である。 本研究では,大集団研究に効率よく取り組む構造VIファミリーを設計する。
  論文  参考訳（メタデータ） (2023-08-30T13:22:20Z)
• Bayesian Pseudo-Coresets via Contrastive Divergence [5.479797073162603]
  対照的な発散を利用して擬似コアセットを構築するための新しい手法を提案する。 これは擬似コアセット構築プロセスにおける近似の必要性を排除する。 複数のデータセットに対して広範な実験を行い、既存のBPC技術よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-03-20T17:13:50Z)
• VI-DGP: A variational inference method with deep generative prior for solving high-dimensional inverse problems [0.7734726150561089]
  本研究では,高次元後方分布を推定するための新しい近似法を提案する。 このアプローチは、深層生成モデルを利用して、空間的に変化するパラメータを生成することができる事前モデルを学ぶ。 提案手法は自動微分方式で完全に実装できる。
  論文  参考訳（メタデータ） (2023-02-22T06:48:10Z)
• Unified Multivariate Gaussian Mixture for Efficient Neural Image Compression [151.3826781154146]
  先行変数と超優先度を持つ潜伏変数は、変動画像圧縮において重要な問題である。 ベクトル化された視点で潜伏変数を観察する際、相関関係や相関関係は存在する。 当社のモデルでは、速度歪曲性能が向上し、圧縮速度が3.18倍に向上した。
  論文  参考訳（メタデータ） (2022-03-21T11:44:17Z)
• Scaling Structured Inference with Randomization [64.18063627155128]
  本稿では、構造化されたモデルを数万の潜在状態に拡張するためにランダム化された動的プログラミング(RDP)のファミリを提案する。 我々の手法は古典的DPベースの推論に広く適用できる。 また、自動微分とも互換性があり、ニューラルネットワークとシームレスに統合できる。
  論文  参考訳（メタデータ） (2021-12-07T11:26:41Z)
• Efficient semidefinite bounds for multi-label discrete graphical models [6.226454551201676]
  このようなモデルにおける主要なクエリの1つは、Posteri(MAP)ネットワークのコストに関するSDPWCSP関数を特定することである。 従来の二重化制約手法と,行ごとの更新に基づく専用SDP/Monteiroスタイルの手法を検討する。
  論文  参考訳（メタデータ） (2021-11-24T13:38:34Z)
• On the Use of Minimum Penalties in Statistical Learning [2.1320960069210475]
  本稿では,多変量回帰モデルと結果変数の関係を同時に推定する枠組みを提案する。 現状技術手法を一般化する反復アルゴリズムを解法として提案する。 我々は、提案したMinPenフレームワークを他の指数関数的なファミリー損失関数に拡張し、複数の二項応答に特異的に焦点をあてる。
  論文  参考訳（メタデータ） (2021-06-09T16:15:46Z)
• Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
  多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。 提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
  論文  参考訳（メタデータ） (2021-06-07T17:44:49Z)
• Probabilistic Circuits for Variational Inference in Discrete Graphical Models [101.28528515775842]
  変分法による離散的グラフィカルモデルの推論は困難である。 エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。 Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。 選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
  論文  参考訳（メタデータ） (2020-10-22T05:04:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。