論文の概要: Rao-Blackwellized Score Matching on Manifolds
- arxiv url: http://arxiv.org/abs/2605.25567v2
- Date: Wed, 27 May 2026 02:09:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-28 17:38:54.986754
- Title: Rao-Blackwellized Score Matching on Manifolds
- Title(参考訳): マニフォールド上でのラオブラックウェル化スコアマッチング
- Authors: Divit Rawal,
- Abstract要約: 本研究では,滑らかな組込み多様体上に潜伏分布が支持された場合,DSM(Denoising score matching)について検討する。
最近点射影 $(X)$ 上の条件付けは、この特異点を正則に除去することを示す。
次に、この標準的対象の小さな雑音展開を計算する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study denoising score matching (DSM) when the latent distribution is supported on a smooth embedded manifold $M \subset \mathbb{R}^D$. Under ambient Gaussian corruption, the tangent denoising target contains a singular normal-fiber noise channel whose variance diverges as $d/σ^2$ as $σ\to 0^+$. We show that conditioning on the nearest-point projection $π(X)$ canonically removes this singularity: the resulting conditional expectation is the unique $L^2$-optimal Rao-Blackwellized predictor of the tangent DSM target among all estimators depending only on the projected observation $π(X)$. We then compute the small-noise expansion of this canonical target and show that it equals the intrinsic Riemannian score up to an explicit order-$σ^2$ correction that decomposes into an intrinsic Tweedie term and an extrinsic curvature term involving the Weingarten and Ricci operators. In the flat case, the construction reduces exactly to ordinary lower-dimensional Gaussian DSM, while on $S^d$ the extrinsic correction simplifies to the scalar factor $(1-d/2)\nabla_M \log q$; this extrinsic $σ^2$ correction cancels identically on $S^2$, though the intrinsic Tweedie term remains.
- Abstract(参考訳): 滑らかな組込み多様体$M \subset \mathbb{R}^D$上で,潜伏分布が支持されるとき,DSM(denoising score matching)について検討した。
周囲のガウスの汚職の下では、タンジェント遮音ターゲットは、分散が$d/σ^2$ as $σ\to 0^+$として発散する特異な正規ファイバーノイズチャネルを含む。
我々は、最も近い点の射影 $π(X)$ {\displaystyle $π(X)$} の条件付けが、この特異点を正則に除去することを示した: 結果の条件付き期待値は、予測された観測 $π(X)$ にのみ依存するすべての推定量のうち、接 DSM ターゲットの 1 つの $L^2$-最適化 Rao-Blackwellized predictor である。
すると、この正準対象の小さな雑音展開を計算し、それがウィングアルテン作用素とリッチ作用素を含む内在的曲率項に分解する明示的な順序-$σ^2$補正に等しいことを示す。
平坦な場合、構成は通常の低次元ガウス DSM に還元されるが、$S^d$ では、外在的補正はスカラー因子 $(1-d/2)\nabla_M \log q$ に単純化される。
関連論文リスト
- When Does $\ell_2$-Boosting Overfit Benignly? High-Dimensional Risk Asymptotics and the $\ell_1$ Implicit Bias [15.113649527486276]
良性オーバーフィッティングが線形レートで失敗することを示します。
この局所化機構は信号の存在下で持続するべきであるが、正確な信号-雑音分解は未解決の問題である。
論文 参考訳(メタデータ) (2026-05-07T14:14:09Z) - Adaptive Confidence Intervals in Efron's Gaussian Two-Groups Model [28.636700996382558]
敵のノイズに満ちた性質により、Efronのガウス的二群分数モデルにおいて、ヌル位置パラメータ$$に対する信頼区間を研究する。
信頼区間の最小最適長を、未知の割合の汚染と全てのノイズに満ちた敵に対して、所定のカバレッジレベルで特徴付ける。
論文 参考訳(メタデータ) (2026-04-28T22:40:54Z) - On the Superlinear Relationship between SGD Noise Covariance and Loss Landscape Curvature [1.6773271875801752]
グラディエントDescent (SGD) は、損失ランドスケープの局所曲率と相関する異方性雑音を導入し、平坦なミニマに対して最適化を行う。
この仮定は、ディープニューラルネットワークでは通常違反される制約条件下でのみ成立することを示す。
データセット、アーキテクチャ、損失関数にわたる実験は、これらの境界を検証し、ディープラーニングにおけるノイズ-曲率関係を統一的に評価する。
論文 参考訳(メタデータ) (2026-02-05T12:35:13Z) - Privacy Loss of Noise Perturbation via Concentration Analysis of A Product Measure [9.081364242189691]
本稿では,このノイズが典型的に球対称であるという事実を活用して$mathbfn$を生成する新しいスキームを提案する。
同じ$(,)$-DPの保証の下で、我々のメカニズムは、高次元の古典ガウスノイズよりも期待される音の大きさが小さい。
論文 参考訳(メタデータ) (2025-12-06T02:55:46Z) - $L^1$ Estimation: On the Optimality of Linear Estimators [64.76492306585168]
この研究は、条件中央値の線型性を誘導する$X$上の唯一の先行分布がガウス分布であることを示している。
特に、条件分布 $P_X|Y=y$ がすべての$y$に対して対称であるなら、$X$ はガウス分布に従う必要がある。
論文 参考訳(メタデータ) (2023-09-17T01:45:13Z) - Optimal Robust Linear Regression in Nearly Linear Time [97.11565882347772]
学習者が生成モデル$Y = langle X,w* rangle + epsilon$から$n$のサンプルにアクセスできるような高次元頑健な線形回帰問題について検討する。
i) $X$ is L4-L2 hypercontractive, $mathbbE [XXtop]$ has bounded condition number and $epsilon$ has bounded variance, (ii) $X$ is sub-Gaussian with identity second moment and $epsilon$ is
論文 参考訳(メタデータ) (2020-07-16T06:44:44Z) - Agnostic Learning of a Single Neuron with Gradient Descent [92.7662890047311]
期待される正方形損失から、最も適合した単一ニューロンを学習することの問題点を考察する。
ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
論文 参考訳(メタデータ) (2020-05-29T07:20:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。