論文の概要: Copula Active Subspaces I: A Score-Covariance Method for Reduced-Order Non-Gaussian Density Estimation
- arxiv url: http://arxiv.org/abs/2609.36142v2
- Date: Thu, 01 Oct 2026 18:21:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:29.943081
- Title: Copula Active Subspaces I: A Score-Covariance Method for Reduced-Order Non-Gaussian Density Estimation
- Title(参考訳): コピュラアクティブ部分空間 I:低次非ガウス密度推定のためのスコア共分散法
- Abstract要約: 非ガウス雑音の推論問題では、後部はノイズ密度と同等の精度しか得られず、勾配に基づくサンプルは、その密度と勾配評価点の点で要求される。
本稿では,この雑音密度を表すために,Copula Active Subspaces (CAS)を提案する。
- 参考スコア(独自算出の注目度): 0.24554686192257422
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In Bayesian inference problems with non-Gaussian observation noise, the posterior is only as accurate as the noise density, and gradient-based samplers need that density and its gradient evaluable pointwise, whether from an explicit expression or from code, and without an inner solve. We propose Copula Active Subspaces (CAS) to represent this noise density. A componentwise rank transform isolates the noise law's dependence in its copula, and a rank-$r$ reduction keeps only the directions along which that dependence varies. These directions are the leading eigenvectors of the copula score covariance $\boldsymbol{C} := \mathrm{Cov}_{π_{\boldsymbol{Z}}}(\nabla\log c^{Z})$, which is what makes the reduction a copula active subspace. Because $\boldsymbol{C}$ vanishes when the coordinates are independent, these are directions of dependence, which the covariance of the data need not identify. From this construction follow a Gaussian-reference KL divergence bound with the explicit constant $\tfrac{1}{2}$, minimized over all rank-$r$ reductions by exactly this eigenspace; a diagnostic for the error the reduction leaves behind, computable from the samples alone; and, from Hermite score matching, a reduced log-density and gradient in closed form, with the truncation orders and the Stage-2 regularization constants chosen on validation samples. The reduction replaces a $d$-dimensional density estimation problem by an $r$-dimensional one. On a $d=20$ noise law and a Bayesian inference problem with that noise, CAS lowers noise KL divergence more than fivefold and posterior KL divergence more than sevenfold against Gaussian-copula, product-of-marginals, and PCA-subspace baselines, and lowers noise KL divergence by factors of about $3.5$ and $2.7$ on two further $d=20$ examples.
- Abstract(参考訳): 非ガウス観測ノイズのベイズ推定問題では、後部はノイズ密度に匹敵する正確さしか持たず、勾配に基づくサンプルは、明示的な表現やコードからでも、内部の解がなくても、その密度と勾配をポイントワイズで評価する必要がある。
本稿では,この雑音密度を表すために,Copula Active Subspaces (CAS)を提案する。
成分的ランク変換は、ノイズ法則のコプラへの依存を分離し、ランク=r$還元は、その依存が変化する方向のみを保持する。
これらの方向はコプラスコア共分散の主固有ベクトル $\boldsymbol{C} := \mathrm{Cov}_{π_{\boldsymbol{Z}}}(\nabla\log c^{Z})$ である。
座標が独立であるとき、$\boldsymbol{C}$は消滅するので、これらは依存の方向であり、データの共分散は識別する必要がない。
この構成からは、明示的な定数 $\tfrac{1}{2}$ で束縛されたガウス-参照 KL の発散は、すべての階数-$r$ の削減を正確にこの固有空間によって最小化する; 誤差の診断は、サンプルのみから計算可能; エルミートスコアマッチングから、閉形式の対数密度と勾配を減らし、トラルニケート順序と検証サンプルで選択されたステージ2正規化定数によって導かれる。
この還元は、$d$次元密度推定問題を$r$次元のものに置き換える。
D=20ドルのノイズ法則とベイズ推定問題により、CASは5倍以上のノイズKLの発散を7倍以上に減らし、Gaussian-copula、Product-of-marginals、PCA-subspaceのベースラインに対して7倍のノイズKLの発散を減らし、さらに2つの例で3.5ドルと2.7ドルのノイズKLの発散を減らした。
関連論文リスト
- Restricted Eigenvalues Beyond Gaussian Width: Threshold Occupancy under Heavy Tails [47.36630149538994]
等方的準ガウス測度の場合、ベンチマークサンプルサイズは1+w(A)2$であり、$w(A)$は正規化降下円錐のガウス幅である。
ここで定式化された一般的な問題に対して、明示的で体系的な否定的な答えを与える:提案された法則は、その全次元自由で任意の集合形式で失敗する。
等方性の下では、アフィン次元倍の2乗半径で支配される分布のないフォールバックがこの族に鋭い。
論文 参考訳(メタデータ) (2026-09-03T08:05:05Z) - Demixing Sparse Signals from Nonlinear Observations using Generalized Non-convex Regularization [0.0]
重畳の非線形観測回数が限られていることから, スパースベクトルの回復を考察する。
本稿では, 一般化畳み込みペナルティとハマー化データ忠実度を組み合わせた正規化に基づくフレームワークを提案する。
仮に局所的な定常点を保った位数$sqrtslog(n)/m$の誤差境界を導出する。
論文 参考訳(メタデータ) (2026-07-12T07:29:39Z) - Sample Complexity of Policy Gradient for Log-Growth Control [23.86784769848408]
ログ成長制御のためのポリシ勾配のサンプル複雑性について検討する。
予測されたミニバッチポリシー勾配が全サンプルの複雑さを実現することを証明した。
論文 参考訳(メタデータ) (2026-05-26T07:24:14Z) - Rao-Blackwellized Score Matching on Manifolds [0.0]
本研究では,滑らかな組込み多様体上に潜伏分布が支持された場合,DSM(Denoising score matching)について検討する。
最近点射影 $(X)$ 上の条件付けは、この特異点を正則に除去することを示す。
次に、この標準的対象の小さな雑音展開を計算する。
論文 参考訳(メタデータ) (2026-05-25T08:18:45Z) - On the Superlinear Relationship between SGD Noise Covariance and Loss Landscape Curvature [1.6773271875801752]
グラディエントDescent (SGD) は、損失ランドスケープの局所曲率と相関する異方性雑音を導入し、平坦なミニマに対して最適化を行う。
この仮定は、ディープニューラルネットワークでは通常違反される制約条件下でのみ成立することを示す。
データセット、アーキテクチャ、損失関数にわたる実験は、これらの境界を検証し、ディープラーニングにおけるノイズ-曲率関係を統一的に評価する。
論文 参考訳(メタデータ) (2026-02-05T12:35:13Z) - Nearly $d$-Linear Convergence Bounds for Diffusion Models via Stochastic
Localization [40.808942894229325]
データ次元において線形である第1収束境界を提供する。
拡散モデルは任意の分布を近似するために少なくとも$tilde O(fracd log2(1/delta)varepsilon2)$ stepsを必要とすることを示す。
論文 参考訳(メタデータ) (2023-08-07T16:01:14Z) - Non-Gaussian Component Analysis via Lattice Basis Reduction [56.98280399449707]
非ガウス成分分析(NGCA)は分布学習問題である。
我々は,NGCA に対して,$A$ が離散的あるいはほぼ離散的であるような効率的なアルゴリズムを提供する。
論文 参考訳(メタデータ) (2021-12-16T18:38:02Z) - Lattice partition recovery with dyadic CART [79.96359947166592]
我々は、$d$次元格子上の加法ガウス雑音によって破損したピースワイド定値信号について検討する。
この形式のデータは、多くのアプリケーションで自然に発生し、統計処理や信号処理の文献において、信号の検出やテスト、ノイズの除去、推定といったタスクが広く研究されている。
本稿では,未知の信号の一貫性領域によって誘導される格子の分割を推定する,分割回復の問題について考察する。
我々は、DCARTベースの手順が、下位分割を$sigma2 k*の順序で一貫して推定することを証明した。
論文 参考訳(メタデータ) (2021-05-27T23:41:01Z) - Learning Halfspaces with Tsybakov Noise [50.659479930171585]
テュバコフ雑音の存在下でのハーフスペースの学習可能性について検討する。
真半空間に関して誤分類誤差$epsilon$を達成するアルゴリズムを与える。
論文 参考訳(メタデータ) (2020-06-11T14:25:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。