Fugu-MT 論文翻訳(概要): Projected Wasserstein gradient descent for high-dimensional Bayesian inference

論文の概要: Projected Wasserstein gradient descent for high-dimensional Bayesian inference

arxiv url: http://arxiv.org/abs/2102.06350v1
Date: Fri, 12 Feb 2021 05:12:05 GMT
ステータス: 処理完了
システム内更新日: 2021-02-15 13:21:23.012290
Title: Projected Wasserstein gradient descent for high-dimensional Bayesian inference
Title（参考訳）: 高次元ベイズ推論のためのWasserstein勾配下降予測
Authors: Yifei Wang, Wuchen Li and Peng Chen
Abstract要約: 本稿では,高次元ベイズ推論問題に対するWasserstein勾配降下法 (pWGD) を提案する。後方分布と先行分布の差における本質的な低ランク構造を生かして,この課題を克服する。
参考スコア（独自算出の注目度）: 8.750791391857264
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We propose a projected Wasserstein gradient descent method (pWGD) for high-dimensional Bayesian inference problems. The underlying density function of a particle system of WGD is approximated by kernel density estimation (KDE), which faces the long-standing curse of dimensionality. We overcome this challenge by exploiting the intrinsic low-rank structure in the difference between the posterior and prior distributions. The parameters are projected into a low-dimensional subspace to alleviate the approximation error of KDE in high dimensions. We formulate a projected Wasserstein gradient flow and analyze its convergence property under mild assumptions. Several numerical experiments illustrate the accuracy, convergence, and complexity scalability of pWGD with respect to parameter dimension, sample size, and processor cores.
Abstract（参考訳）: 本稿では,高次元ベイズ推論問題に対するWasserstein勾配降下法 (pWGD) を提案する。 WGDの粒子系の基底密度関数は、次元性の長年の呪いに直面するカーネル密度推定(KDE)によって近似される。後方分布と先行分布の差における本質的な低ランク構造を生かして,この課題を克服する。パラメータは、高次元のkdeの近似誤差を軽減するために低次元部分空間に投影される。予測されたWasserstein勾配流を定式化し、その収束特性を軽度の仮定の下で解析する。いくつかの数値実験では、パラメータ次元、サンプルサイズ、プロセッサコアに関するpWGDの精度、収束性、複雑さのスケーラビリティが示されている。

関連論文リスト

Total Uncertainty Quantification in Inverse PDE Solutions Obtained with Reduced-Order Deep Learning Surrogate Models [50.90868087591973]
機械学習サロゲートモデルを用いて得られた逆PDE解の総不確かさを近似したベイズ近似法を提案する。非線型拡散方程式に対する反復的アンサンブルスムーズおよび深層アンサンブル法との比較により,提案手法を検証した。
論文参考訳（メタデータ） (2024-08-20T19:06:02Z)
Differentially Private Gradient Flow based on the Sliced Wasserstein Distance [59.1056830438845]
本稿では,確率測度空間の勾配流に基づく新しい微分プライベートな生成モデリング手法を提案する。実験により,提案モデルが低プライバシー予算で高忠実度データを生成可能であることが示された。
論文参考訳（メタデータ） (2023-12-13T15:47:30Z)
Scaling Riemannian Diffusion Models [68.52820280448991]
非自明な多様体上の高次元タスクにスケールできることを示す。我々は、$SU(n)$格子上のQCD密度と高次元超球面上の対照的に学習された埋め込みをモデル化する。
論文参考訳（メタデータ） (2023-10-30T21:27:53Z)
Multilevel CNNs for Parametric PDEs [0.0]
偏微分方程式に対する多段階解法の概念とニューラルネットワークに基づくディープラーニングを組み合わせる。より詳細な理論的解析により,提案アーキテクチャは乗算Vサイクルを任意の精度で近似できることを示した。最先端のディープラーニングベースの解法よりも大幅に改善されている。
論文参考訳（メタデータ） (2023-04-01T21:11:05Z)
Solving High-Dimensional PDEs with Latent Spectral Models [74.1011309005488]
我々は,高次元PDEの効率的かつ高精度な解法に向けて,Latent Spectral Models (LSM) を提案する。数値解析において古典スペクトル法に着想を得て,潜時空間におけるPDEを解くために,ニューラルスペクトルブロックを設計する。 LSMは、一貫した最先端を実現し、7つのベンチマークで平均11.5%の相対的な利益を得る。
論文参考訳（メタデータ） (2023-01-30T04:58:40Z)
Optimal Neural Network Approximation of Wasserstein Gradient Direction via Convex Optimization [43.6961980403682]
ワッサーシュタイン勾配方向の計算は、後続サンプリング問題や科学計算に不可欠である。正方形ReLUアクティベーションを持つ2層ネットワーク群において、半定値プログラミング(SDP)緩和を導出する変動問題について検討する。このSDPは、2層ネットワークを含むより広い関数群におけるワッサーシュタイン勾配の近似と見なすことができる。
論文参考訳（メタデータ） (2022-05-26T00:51:12Z)
Large-Scale Wasserstein Gradient Flows [84.73670288608025]
ワッサーシュタイン勾配流を近似するスケーラブルなスキームを導入する。我々のアプローチは、JKOステップを識別するために、入力ニューラルネットワーク(ICNN)に依存しています。その結果、勾配拡散の各ステップで測定値からサンプリングし、その密度を計算することができる。
論文参考訳（メタデータ） (2021-06-01T19:21:48Z)
Derivative-Informed Projected Neural Networks for High-Dimensional Parametric Maps Governed by PDEs [6.178864935410097]
我々は,高次元PDE重み付きパラメトリックマップを投影型ニューラルネットワークの形で構築する。提案するニューラルネットワークは,完全なニューラルネットワークよりも精度が高いことを示す。
論文参考訳（メタデータ） (2020-11-30T18:46:40Z)
Augmented Sliced Wasserstein Distances [55.028065567756066]
拡張スライスされたワッサーシュタイン距離(ASWD)と呼ばれる新しい距離測定法を提案する。 ASWDは、ニューラルネットワークによってパラメータ化された高次元超曲面への最初のマッピングサンプルによって構成される。数値的な結果から、ASWDは、合成問題と実世界の問題の両方において、他のワッサーシュタイン変種を著しく上回っていることが示されている。
論文参考訳（メタデータ） (2020-06-15T23:00:08Z)
High-Dimensional Non-Parametric Density Estimation in Mixed Smooth Sobolev Spaces [31.663702435594825]
密度推定は、機械学習、統計的推測、可視化において多くのタスクにおいて重要な役割を果たす。高次元密度推定の主なボトルネックは計算コストの禁止と収束速度の低下である。適応型双曲交叉密度推定器(Adaptive hyperbolic cross density estimator)と呼ばれる高次元非パラメトリック密度推定のための新しい推定器を提案する。
論文参考訳（メタデータ） (2020-06-05T21:27:59Z)
Projected Stein Variational Gradient Descent [8.359602391273755]
本稿では,データ情報空間の内在的低次元化の課題を克服するために,pSVGD法を提案する。我々は、ログの勾配情報行列を用いて部分空間を適応的に構築し、パラメータ投影のより低次元の係数にpSVGDを適用する。
論文参考訳（メタデータ） (2020-02-09T23:17:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。