論文の概要: GAD-PVI: A General Accelerated Dynamic-Weight Particle-Based Variational
Inference Framework
- arxiv url: http://arxiv.org/abs/2312.16429v1
- Date: Wed, 27 Dec 2023 06:31:06 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-29 19:24:50.104412
- Title: GAD-PVI: A General Accelerated Dynamic-Weight Particle-Based Variational
Inference Framework
- Title(参考訳): GAD-PVI: 一般化された動的重粒子に基づく変分推論フレームワーク
- Authors: Fangyikang Wang, Huminhao Zhu, Chao Zhang, Hanbin Zhao, Hui Qian
- Abstract要約: 本稿では,加速度位置更新と動的重み調整を同時に行うParVIフレームワークを提案する。
GAD-PVIは異なる相似関数と関連する滑らかなアプローチと互換性がある。
合成データと実世界のデータの両方の実験では、GAD-PVI法の高速収束と近似誤差の低減が示されている。
- 参考スコア(独自算出の注目度): 11.4522103360875
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Particle-based Variational Inference (ParVI) methods approximate the target
distribution by iteratively evolving finite weighted particle systems. Recent
advances of ParVI methods reveal the benefits of accelerated position update
strategies and dynamic weight adjustment approaches. In this paper, we propose
the first ParVI framework that possesses both accelerated position update and
dynamical weight adjustment simultaneously, named the General Accelerated
Dynamic-Weight Particle-based Variational Inference (GAD-PVI) framework.
Generally, GAD-PVI simulates the semi-Hamiltonian gradient flow on a novel
Information-Fisher-Rao space, which yields an additional decrease on the local
functional dissipation. GAD-PVI is compatible with different dissimilarity
functionals and associated smoothing approaches under three information
metrics. Experiments on both synthetic and real-world data demonstrate the
faster convergence and reduced approximation error of GAD-PVI methods over the
state-of-the-art.
- Abstract(参考訳): 粒子に基づく変分推論 (ParVI) 法は, 有限重み付き粒子系を反復的に発展させ, ターゲット分布を近似する。
ParVI法の最近の進歩は、加速位置更新戦略と動的重み調整アプローチの利点を明らかにしている。
本稿では,加速位置更新と動的重み調整を同時に行う最初のParVIフレームワークを提案し,GAD-PVI(General Accelerated Dynamic-Weight Particle-based Variational Inference)フレームワークと命名した。
一般に、gad-pviは、新しい情報-魚-rao空間上の半ハミルトニアン勾配流れをシミュレートし、局所的な機能散逸をさらに減少させる。
GAD-PVIは3つの情報メトリクスの下で異なる相似関数と関連する平滑化アプローチと互換性がある。
合成データと実世界のデータの両方の実験は、最先端のGAD-PVI法の高速収束と近似誤差の低減を実証している。
関連論文リスト
- Periodic Vibration Gaussian: Dynamic Urban Scene Reconstruction and
Real-time Rendering [38.74244725059936]
周期振動ガウスモデル(PVG)を提案する。
PVGは、当初静的シーン表現のために設計された効率的な3Dガウススプラッティング技術に基づいている。
PVGは動的シーンと静的シーンの両方に対して、再構築と新規ビュー合成の両方において最先端の代替手段を超越していることを示す。
論文 参考訳(メタデータ) (2023-11-30T13:53:50Z) - Convergence of mean-field Langevin dynamics: Time and space
discretization, stochastic gradient, and variance reduction [49.66486092259376]
平均場ランゲヴィンダイナミクス(英: mean-field Langevin dynamics、MFLD)は、分布依存のドリフトを含むランゲヴィン力学の非線形一般化である。
近年の研究では、MFLDは測度空間で機能するエントロピー規則化された凸関数を地球規模で最小化することが示されている。
有限粒子近似,時間分散,勾配近似による誤差を考慮し,MFLDのカオスの均一時間伝播を示す枠組みを提供する。
論文 参考訳(メタデータ) (2023-06-12T16:28:11Z) - A Unified Momentum-based Paradigm of Decentralized SGD for Non-Convex
Models and Heterogeneous Data [0.261072980439312]
非汎用目的に対する収束保証を提供するU.MP,D-MP,GT-Dという統一パラダイムを提案する。
理論的には、これらの非MPアルゴリズムに対して収束解析目的を2つのアプローチで提供する。
論文 参考訳(メタデータ) (2023-03-01T02:13:22Z) - Learning to Accelerate Partial Differential Equations via Latent Global
Evolution [64.72624347511498]
The Latent Evolution of PDEs (LE-PDE) is a simple, fast and scalable method to accelerate the simulation and inverse optimization of PDEs。
我々は,このような潜在力学を効果的に学習し,長期的安定性を確保するために,新たな学習目標を導入する。
更新対象の寸法が最大128倍、速度が最大15倍向上し、競争精度が向上した。
論文 参考訳(メタデータ) (2022-06-15T17:31:24Z) - DPVI: A Dynamic-Weight Particle-Based Variational Inference Framework [20.9197547258307]
本研究では, 動的粒子に基づく変分推論(DPVI)フレームワークの開発を行った。
一般のフレームワークで異なる有限粒子近似を用いることで、いくつかの効率的なDPVIアルゴリズムを導出する。
論文 参考訳(メタデータ) (2021-12-02T02:50:05Z) - Variational Inference with Holder Bounds [68.8008396694788]
熱力学的変動目標(TVO)の慎重に分析する。
熱力学曲線の病理幾何学がTVOにどのように悪影響を及ぼすかを明らかにする。
これは、ホルダー境界と呼ばれ、熱力学曲線を平坦化し、正確な辺辺対の1ステップ近似を達成することを約束する新しいVI目標を動機付けている。
論文 参考訳(メタデータ) (2021-11-04T15:35:47Z) - Loss function based second-order Jensen inequality and its application
to particle variational inference [112.58907653042317]
粒子変分推論(PVI)は、後部分布の実験的近似としてモデルのアンサンブルを用いる。
PVIは、最適化されたモデルの多様性を保証するために、各モデルを反発力で反復的に更新する。
我々は,新たな一般化誤差を導出し,モデルの多様性を高めて低減できることを示す。
論文 参考訳(メタデータ) (2021-06-09T12:13:51Z) - Pushing the Envelope of Rotation Averaging for Visual SLAM [69.7375052440794]
視覚SLAMシステムのための新しい最適化バックボーンを提案する。
従来の単分子SLAMシステムの精度, 効率, 堅牢性を向上させるために, 平均化を活用している。
我々のアプローチは、公開ベンチマークの最先端技術に対して、同等の精度で最大10倍高速に表示することができる。
論文 参考訳(メタデータ) (2020-11-02T18:02:26Z) - Fast Gravitational Approach for Rigid Point Set Registration with
Ordinary Differential Equations [79.71184760864507]
本稿では,FGA(Fast Gravitational Approach)と呼ばれる厳密な点集合アライメントのための物理に基づく新しい手法を紹介する。
FGAでは、ソースとターゲットの点集合は、シミュレーションされた重力場内を移動しながら、世界規模で多重リンクされた方法で相互作用する質量を持つ剛体粒子群として解釈される。
従来のアライメント手法では,新しいメソッドクラスには特徴がないことを示す。
論文 参考訳(メタデータ) (2020-09-28T15:05:39Z) - Particle-based Energetic Variational Inference [4.079427359693159]
エネルギー変動推論(EVI)と呼ばれる新しい変動推論(VI)フレームワークを導入する。
我々は,多くの既存のパーティクルベースの変分推論(ParVI)手法を導出し,その適用例をSVGD (Stin Variational Gradient Descent) と呼ぶ。
本稿では,まず粒子に基づく密度近似を行い,その近似密度を変動過程に用いた新しいパーティクルベースEVI法を提案する。
論文 参考訳(メタデータ) (2020-04-14T12:14:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。