論文の概要: Self-reinforced polynomial approximation methods for concentrated probability densities

• arxiv url: http://arxiv.org/abs/2303.02554v1
• Date: Sun, 5 Mar 2023 02:44:02 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-07 19:01:12.139040
• Title: Self-reinforced polynomial approximation methods for concentrated probability densities
• Title（参考訳）: 集中確率密度に対する自己強化多項式近似法
• Authors: Tiangang Cui and Sergey Dolgov and Olivier Zahm
• Abstract要約: トランスポートマップ法は、ターゲットの高次元の確率変数と参照の確率変数を対応付ける強力な統計学習ツールを提供する。 本稿では, Knothe-Rosenblatt (KR) 再構成を一般化可能な関数に基づいて構築するための新しい計算手法を提案する。
• 参考スコア（独自算出の注目度）: 1.5469452301122175
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Transport map methods offer a powerful statistical learning tool that can couple a target high-dimensional random variable with some reference random variable using invertible transformations. This paper presents new computational techniques for building the Knothe--Rosenblatt (KR) rearrangement based on general separable functions. We first introduce a new construction of the KR rearrangement -- with guaranteed invertibility in its numerical implementation -- based on approximating the density of the target random variable using tensor-product spectral polynomials and downward closed sparse index sets. Compared to other constructions of KR arrangements based on either multi-linear approximations or nonlinear optimizations, our new construction only relies on a weighted least square approximation procedure. Then, inspired by the recently developed deep tensor trains (Cui and Dolgov, Found. Comput. Math. 22:1863--1922, 2022), we enhance the approximation power of sparse polynomials by preconditioning the density approximation problem using compositions of maps. This is particularly suitable for high-dimensional and concentrated probability densities commonly seen in many applications. We approximate the complicated target density by a composition of self-reinforced KR rearrangements, in which previously constructed KR rearrangements -- based on the same approximation ansatz -- are used to precondition the density approximation problem for building each new KR rearrangement. We demonstrate the efficiency of our proposed methods and the importance of using the composite map on several inverse problems governed by ordinary differential equations (ODEs) and partial differential equations (PDEs).
• Abstract（参考訳）: トランスポートマップ法は、ターゲットの高次元確率変数と参照確率変数を可逆変換を用いて結合できる強力な統計学習ツールを提供する。 本稿では, 一般分離関数に基づく Knothe-Rosenblatt (KR) 再構成を構築するための新しい計算手法を提案する。まず, テンソル積スペクトル多項式と下向き閉スパース指数集合を用いて, 対象の確率変数の密度を近似し, 数値的実装における可逆性を保証する KR 再構成の新たな構成を導入する。 多重線形近似や非線形最適化に基づくKR配置の他の構成と比較すると、新しい構成は重み付き最小二乗近似にのみ依存する。 そこで,最近開発された深部テンソル列車 (Cui and Dolgov, Found. Comput. Math. 22:1863-1922, 2022) に触発されて, 写像の合成を用いて密度近似問題を前処理することにより, スパース多項式の近似力を向上する。 これは、多くの応用でよく見られる高次元および集中確率密度に特に適している。 我々は, 従来構築されていたKRアレンジメント(同じ近似アンサッツに基づく)を, それぞれの新しいKRアレンジメントを構築するための密度近似問題の前処理に用いる, 自己強化KRアレンジメントの合成により, 複雑なターゲット密度を近似する。 提案手法の有効性と, 常微分方程式 (ODE) と偏微分方程式 (PDE) に支配されるいくつかの逆問題に対する合成写像の利用の重要性を示す。

関連論文リスト

• Differentially Private Optimization with Sparse Gradients [60.853074897282625]
  微分プライベート(DP)最適化問題を個人勾配の空間性の下で検討する。 これに基づいて、スパース勾配の凸最適化にほぼ最適な速度で純粋および近似DPアルゴリズムを得る。
  論文  参考訳（メタデータ） (2024-04-16T20:01:10Z)
• Scaling Riemannian Diffusion Models [68.52820280448991]
  非自明な多様体上の高次元タスクにスケールできることを示す。 我々は、$SU(n)$格子上のQCD密度と高次元超球面上の対照的に学習された埋め込みをモデル化する。
  論文  参考訳（メタデータ） (2023-10-30T21:27:53Z)
• Robust scalable initialization for Bayesian variational inference with multi-modal Laplace approximations [0.0]
  フル共分散構造を持つ変分混合は、パラメータ数による変動パラメータによる二次的な成長に苦しむ。 本稿では,変分推論のウォームスタートに使用できる初期ガウスモデル近似を構築する方法を提案する。
  論文  参考訳（メタデータ） (2023-07-12T19:30:04Z)
• Variational sparse inverse Cholesky approximation for latent Gaussian processes via double Kullback-Leibler minimization [6.012173616364571]
  後肢の変分近似とSIC制限したKulback-Leibler-Optimal近似を併用した。 この設定のために、我々の変分近似は反復毎の多対数時間で勾配降下によって計算できる。 本稿では,DKLGP(Double-Kullback-Leibler-Optimal Gaussian-process approximation)を提案する。
  論文  参考訳（メタデータ） (2023-01-30T21:50:08Z)
• Semi-Discrete Normalizing Flows through Differentiable Tessellation [31.474420819149724]
  本稿では,連続空間上の量子化境界を正確に評価し,テッセルレーションに基づく手法を提案する。 これは、微分可能なボロノイ・テッセルレーションによってパラメータ化された凸多面体上の正規化フローを構築することによって行われる。 我々は,データモダリティの多様さにまたがる既存手法の改善を示すとともに,Voronoi混合をベースラインモデルに組み込むことで,大きな利益を得ることができることを見出した。
  論文  参考訳（メタデータ） (2022-03-14T03:06:31Z)
• Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
  正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。 一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
  論文  参考訳（メタデータ） (2022-02-23T06:11:49Z)
• Scalable Variational Gaussian Processes via Harmonic Kernel Decomposition [54.07797071198249]
  汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。 様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。 提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
  論文  参考訳（メタデータ） (2021-06-10T18:17:57Z)
• Adaptive deep density approximation for Fokker-Planck equations [0.0]
  定常フォッカー・プランク方程式の解法として, KRnet (ADDAKR) に基づく新しい密度近似法を提案する。 KRnetは一般高次元密度関数を効率的に推定できることを示す。
  論文  参考訳（メタデータ） (2021-03-20T13:49:52Z)
• Eigenvalue-corrected Natural Gradient Based on a New Approximation [31.1453204659019]
  EKFAC(Eigenvalue-corrected Kronecker Factorization)はディープニューラルネットワーク(DNN)のトレーニング手法である。 本研究では,これら2つの手法のアイデアを組み合わせて,トレース制限された固有値補正クロネッカー因子化(TEKFAC)を提案する。 提案手法はKronecker-factored eigenbasisの下で不正確な再スケーリング係数を補正するが,Gaoらにより提案された新しい近似手法も検討する。
  論文  参考訳（メタデータ） (2020-11-27T08:57:29Z)
• Effective Dimension Adaptive Sketching Methods for Faster Regularized Least-Squares Optimization [56.05635751529922]
  スケッチに基づくL2正規化最小二乗問題の解法を提案する。 我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
  論文  参考訳（メタデータ） (2020-06-10T15:00:09Z)
• Optimal Randomized First-Order Methods for Least-Squares Problems [56.05635751529922]
  このアルゴリズムのクラスは、最小二乗問題に対する最も高速な解法のうち、いくつかのランダム化手法を含んでいる。 我々は2つの古典的埋め込み、すなわちガウス射影とアダマール変換のサブサンプリングに焦点を当てる。 得られたアルゴリズムは条件数に依存しない最小二乗問題の解法として最も複雑である。
  論文  参考訳（メタデータ） (2020-02-21T17:45:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。