論文の概要: Gaussian Ensemble Belief Propagation for Efficient Inference in High-Dimensional Systems

• arxiv url: http://arxiv.org/abs/2402.08193v5
• Date: Mon, 30 Sep 2024 02:01:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-01 22:01:26.717671
• Title: Gaussian Ensemble Belief Propagation for Efficient Inference in High-Dimensional Systems
• Title（参考訳）: 高次元システムにおける効率的な推論のためのガウスアンサンブル信念伝播
• Authors: Dan MacKinlay, Russell Tsuchida, Dan Pagendam, Petra Kuhnert,
• Abstract要約: 高次元モデルにおける効率的な推論は、機械学習における中心的な課題である。 本稿では Ensemble Kalman Filter (EnKF) と Gaussian Belief Propagation (GaBP) を紹介する。 GEnBPは、グラフィカルモデルのエッジに低ランクのローカルメッセージを渡すことで、先行サンプルのアンサンブルを後続サンプルに更新する。
• 参考スコア（独自算出の注目度）: 3.6773638205393198
• License:
• Abstract: Efficient inference in high-dimensional models is a central challenge in machine learning. We introduce the Gaussian Ensemble Belief Propagation (GEnBP) algorithm, which combines the strengths of the Ensemble Kalman Filter (EnKF) and Gaussian Belief Propagation (GaBP) to address this challenge. GEnBP updates ensembles of prior samples into posterior samples by passing low-rank local messages over the edges of a graphical model, enabling efficient handling of high-dimensional states, parameters, and complex, noisy, black-box generation processes. By utilizing local message passing within a graphical model structure, GEnBP effectively manages complex dependency structures and remains computationally efficient even when the ensemble size is much smaller than the inference dimension - a common scenario in spatiotemporal modeling, image processing, and physical model inversion. We demonstrate that GEnBP can be applied to various problem structures, including data assimilation, system identification, and hierarchical models, and show through experiments that it outperforms existing methods in terms of accuracy and computational efficiency. Supporting code is available at https://github.com/danmackinlay/GEnBP
• Abstract（参考訳）: 高次元モデルにおける効率的な推論は、機械学習における中心的な課題である。 本稿では、この課題に対処するために、EnKF(Ensemble Kalman Filter)とGaBP(Gassian Belief Propagation)の強みを組み合わせたGaussian Ensemble Belief Propagation(GEnBP)アルゴリズムを提案する。 GEnBPは、グラフィカルモデルのエッジに低ランクのローカルメッセージを渡すことで、先行サンプルのアンサンブルを後続サンプルに更新し、高次元の状態、パラメータ、複雑なノイズ、ブラックボックス生成プロセスの効率的な処理を可能にする。 グラフィカルモデル構造内でのローカルメッセージパッシングを利用することで、GEnBPは複雑な依存性構造を効果的に管理し、アンサンブルサイズが推論次元よりもはるかに小さい場合でも計算効率を保ちます。 GEnBPは,データ同化,システム同定,階層モデルなど,様々な問題構造に適用可能であることを実証し,既存の手法よりも精度と計算効率が優れていることを示す。 サポートコードはhttps://github.com/danmackinlay/GEnBPで入手できる。

関連論文リスト

• Towards Efficient Modeling and Inference in Multi-Dimensional Gaussian Process State-Space Models [11.13664702335756]
  我々は,高次元潜在状態空間における遷移関数を効率的にモデル化するために,効率的な変換ガウス過程(ETGP)をGPSSMに統合することを提案する。 また,パラメータ数および計算複雑性の観点から,既存の手法を超越した変分推論アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2023-09-03T04:34:33Z)
• T1: Scaling Diffusion Probabilistic Fields to High-Resolution on Unified Visual Modalities [69.16656086708291]
  拡散確率場(DPF)は、距離空間上で定義された連続関数の分布をモデル化する。 本稿では,局所構造学習に着目したビューワイズサンプリングアルゴリズムによる新しいモデルを提案する。 モデルは、複数のモダリティを統一しながら、高解像度のデータを生成するためにスケールすることができる。
  論文  参考訳（メタデータ） (2023-05-24T03:32:03Z)
• Hierarchical Integration Diffusion Model for Realistic Image Deblurring [71.76410266003917]
  拡散モデル (DM) は画像劣化に導入され, 有望な性能を示した。 本稿では,階層型統合拡散モデル(HI-Diff)を提案する。 人工的および実世界のぼかしデータセットの実験は、HI-Diffが最先端の手法より優れていることを示した。
  論文  参考訳（メタデータ） (2023-05-22T12:18:20Z)
• Score-based Diffusion Models in Function Space [140.792362459734]
  拡散モデルは、最近、生成モデリングの強力なフレームワークとして登場した。 本稿では,関数空間における拡散モデルをトレーニングするためのDDO(Denoising Diffusion Operators)という,数学的に厳密なフレームワークを提案する。 データ解像度に依存しない固定コストで、対応する離散化アルゴリズムが正確なサンプルを生成することを示す。
  論文  参考訳（メタデータ） (2023-02-14T23:50:53Z)
• A Generalized EigenGame with Extensions to Multiview Representation Learning [0.28647133890966997]
  一般化固有値問題(GEPs)は、様々な興味深い次元減少法を含んでいる。 我々は、ラグランジュ乗算器によって全ての制約がソフトに強制されるGEPの解法を開発する。 線形の場合、我々のアプローチは、以前のヘビアンとゲーム理論のアプローチの理論的根拠の多くを共有していることを示す。 標準マルチビューデータセットの設定におけるGEPの解法の有効性を実証する。
  論文  参考訳（メタデータ） (2022-11-21T10:11:13Z)
• Design of Compressed Sensing Systems via Density-Evolution Framework for Structure Recovery in Graphical Models [10.667885727418705]
  観測データからベイズネットワークの構造を学習することはNP-Hard問題であることが示されている。 圧縮線形測定システムを最適化するための新しい密度進化に基づくフレームワークを提案する。 GBNの構造は実際に圧縮された測定結果から復元可能であることを示す。
  論文  参考訳（メタデータ） (2022-03-17T22:16:38Z)
• Scaling Structured Inference with Randomization [64.18063627155128]
  本稿では、構造化されたモデルを数万の潜在状態に拡張するためにランダム化された動的プログラミング(RDP)のファミリを提案する。 我々の手法は古典的DPベースの推論に広く適用できる。 また、自動微分とも互換性があり、ニューラルネットワークとシームレスに統合できる。
  論文  参考訳（メタデータ） (2021-12-07T11:26:41Z)
• Scalable Gaussian Processes for Data-Driven Design using Big Data with Categorical Factors [14.337297795182181]
  ガウス過程(GP)は、大きなデータセット、カテゴリ入力、および複数の応答を調節するのに困難である。 本稿では,変分推論によって得られた潜伏変数と関数を用いて,上記の課題を同時に解決するGPモデルを提案する。 本手法は三元系酸化物材料の機械学習と多スケール対応機構のトポロジー最適化に有用である。
  論文  参考訳（メタデータ） (2021-06-26T02:17:23Z)
• Learning High-Dimensional Distributions with Latent Neural Fokker-Planck Kernels [67.81799703916563]
  低次元潜在空間におけるフォッカー・プランク方程式の解法として問題を定式化する新しい手法を導入する。 提案モデルでは,潜在分散モーフィング,ジェネレータ,パラメータ化Fokker-Planckカーネル関数からなる。
  論文  参考訳（メタデータ） (2021-05-10T17:42:01Z)
• Spatial-spectral Hyperspectral Image Classification via Multiple Random Anchor Graphs Ensemble Learning [88.60285937702304]
  本稿では,複数のランダムアンカーグラフアンサンブル学習(RAGE)を用いた空間スペクトルHSI分類手法を提案する。 まず、各選択されたバンドのより記述的な特徴を抽出し、局所的な構造と領域の微妙な変化を保存するローカルバイナリパターンを採用する。 次に,アンカーグラフの構成に適応隣接代入を導入し,計算複雑性を低減した。
  論文  参考訳（メタデータ） (2021-03-25T09:31:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。