Fugu-MT 論文翻訳(概要): Projected Stein Variational Gradient Descent

論文の概要: Projected Stein Variational Gradient Descent

arxiv url: http://arxiv.org/abs/2002.03469v2
Date: Wed, 10 Jun 2020 15:00:24 GMT
ステータス: 処理完了
システム内更新日: 2023-01-02 14:27:34.176690
Title: Projected Stein Variational Gradient Descent
Title（参考訳）: 結晶変分勾配の投射
Authors: Peng Chen, Omar Ghattas
Abstract要約: 本稿では,データ情報空間の内在的低次元化の課題を克服するために,pSVGD法を提案する。我々は、ログの勾配情報行列を用いて部分空間を適応的に構築し、パラメータ投影のより低次元の係数にpSVGDを適用する。
参考スコア（独自算出の注目度）: 8.359602391273755
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: The curse of dimensionality is a longstanding challenge in Bayesian inference in high dimensions. In this work, we propose a projected Stein variational gradient descent (pSVGD) method to overcome this challenge by exploiting the fundamental property of intrinsic low dimensionality of the data informed subspace stemming from ill-posedness of such problems. We adaptively construct the subspace using a gradient information matrix of the log-likelihood, and apply pSVGD to the much lower-dimensional coefficients of the parameter projection. The method is demonstrated to be more accurate and efficient than SVGD. It is also shown to be more scalable with respect to the number of parameters, samples, data points, and processor cores via experiments with parameters dimensions ranging from the hundreds to the tens of thousands.
Abstract（参考訳）: 次元の呪いは、高次元のベイズ推論における長年の挑戦である。そこで本研究では,これらの問題の誤用から生ずる情報空間の内在的低次元性の基本特性を活用することで,この課題を克服するために,スタイン変分勾配降下法(pSVGD)を提案する。我々は,log-likelihoodの勾配情報行列を用いて部分空間を適応的に構築し,psvgdをパラメータ射影のより低次元係数に適用する。この方法はSVGDよりも正確で効率的であることが示されている。また、パラメータ数、サンプル数、データポイント数、プロセッサコア数に関して、数百から数万の範囲のパラメータによる実験により、よりスケーラブルであることが示されている。

関連論文リスト

Analytic-Splatting: Anti-Aliased 3D Gaussian Splatting via Analytic Integration [49.004898985671815]
3DGSはエイリアスフリーではなく、解像度の異なるレンダリングは、ひどくぼやけたり、ジャギーになったりする可能性がある。これは、3DGSが各ピクセルを領域ではなく孤立した単一点として扱い、ピクセルのフットプリントの変化に敏感であるからである。本稿では、この近似を2次元のピクセルシェーディングに導入し、2D-ピクセルウィンドウ領域内のガウス積分を解析的に近似するアナリシス・スプレイティングを提案する。
論文参考訳（メタデータ） (2024-03-17T02:06:03Z)
Augmented Message Passing Stein Variational Gradient Descent [3.5788754401889014]
収束過程における有限粒子の等方性特性について検討する。すべての粒子は特定の範囲内で粒子中心の周りに集まる傾向にある。提案アルゴリズムは, 種々のベンチマーク問題における分散崩壊問題を克服し, 良好な精度を実現する。
論文参考訳（メタデータ） (2023-05-18T01:13:04Z)
Detecting Rotated Objects as Gaussian Distributions and Its 3-D Generalization [81.29406957201458]
既存の検出方法は、パラメータ化バウンディングボックス(BBox)を使用して(水平)オブジェクトをモデル化し、検出する。このような機構は回転検出に有効な回帰損失を構築するのに基本的な限界があると主張する。回転した物体をガウス分布としてモデル化することを提案する。 2次元から3次元へのアプローチを、方向推定を扱うアルゴリズム設計により拡張する。
論文参考訳（メタデータ） (2022-09-22T07:50:48Z)
Grassmann Stein Variational Gradient Descent [3.644031721554146]
スタイン変分勾配降下(SVGD)は、マルコフ連鎖モンテカルロの効率的な代替となる決定論的粒子推論アルゴリズムである。近年の進歩は、スコア関数とデータの両方を実際の行に投影してこの問題に対処することを提唱している。任意の次元部分空間への射影を可能にする代替アプローチとして、グラスマンシュタイン変分勾配勾配(GSVGD)を提案する。
論文参考訳（メタデータ） (2022-02-07T15:36:03Z)
Projected Wasserstein gradient descent for high-dimensional Bayesian inference [8.750791391857264]
本稿では,高次元ベイズ推論問題に対するWasserstein勾配降下法 (pWGD) を提案する。後方分布と先行分布の差における本質的な低ランク構造を生かして,この課題を克服する。
論文参考訳（メタデータ） (2021-02-12T05:12:05Z)
Depth Completion using Piecewise Planar Model [94.0808155168311]
深度マップは一連の学習された基底で表現することができ、閉じた解法で効率的に解ける。しかし、この方法の1つの問題は、色境界が深さ境界と矛盾する場合にアーチファクトを生成することである。私たちは、より厳密な深度回復モデルを実行します。
論文参考訳（メタデータ） (2020-12-06T07:11:46Z)
Derivative-Informed Projected Neural Networks for High-Dimensional Parametric Maps Governed by PDEs [6.178864935410097]
我々は,高次元PDE重み付きパラメトリックマップを投影型ニューラルネットワークの形で構築する。提案するニューラルネットワークは,完全なニューラルネットワークよりも精度が高いことを示す。
論文参考訳（メタデータ） (2020-11-30T18:46:40Z)
Kernel Stein Generative Modeling [68.03537693810972]
グラディエント・ランゲヴィン・ダイナミクス(SGLD)は高次元および複雑なデータ分布に関するエネルギーモデルによる印象的な結果を示す。 Stein Variational Gradient Descent (SVGD) は、与えられた分布を近似するために一組の粒子を反復的に輸送する決定論的サンプリングアルゴリズムである。雑音条件付きカーネルSVGD(NCK-SVGD)を提案する。
論文参考訳（メタデータ） (2020-07-06T21:26:04Z)
Sliced Kernelized Stein Discrepancy [17.159499204595527]
Kernelized Stein discrepancy (KSD) は、良質なテストやモデル学習に広く用いられている。最適一次元射影上に定義されたカーネルベースのテスト関数を用いるスライスされたスタイン差分とそのスケーラブルでカーネル化された変種を提案する。モデル学習においては,異なる相違点を持つ独立成分分析モデルを訓練することにより,既存のSteinの相違点ベースラインに対してその優位性を示す。
論文参考訳（メタデータ） (2020-06-30T04:58:55Z)
Augmented Sliced Wasserstein Distances [55.028065567756066]
拡張スライスされたワッサーシュタイン距離(ASWD)と呼ばれる新しい距離測定法を提案する。 ASWDは、ニューラルネットワークによってパラメータ化された高次元超曲面への最初のマッピングサンプルによって構成される。数値的な結果から、ASWDは、合成問題と実世界の問題の両方において、他のワッサーシュタイン変種を著しく上回っていることが示されている。
論文参考訳（メタデータ） (2020-06-15T23:00:08Z)
Carath\'eodory Sampling for Stochastic Gradient Descent [79.55586575988292]
本稿では,Tchakaloff と Carath'eodory の古典的な結果から着想を得た手法を提案する。我々は、測定値の低減を行う降下ステップを適応的に選択する。これをBlock Coordinate Descentと組み合わせることで、測定の削減を極めて安価に行えるようにします。
論文参考訳（メタデータ） (2020-06-02T17:52:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。