論文の概要: Diffusion Score Estimation with Shallow Neural Networks: Regularity, Approximation, and Finite-Sample Rates

• arxiv url: http://arxiv.org/abs/2610.27206v1
• Date: Mon, 19 Oct 2026 19:40:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.484341
• Title: Diffusion Score Estimation with Shallow Neural Networks: Regularity, Approximation, and Finite-Sample Rates
• Title（参考訳）: 浅層ニューラルネットワークによる拡散スコア推定:正規性、近似、有限サンプルレート
• Abstract要約: 一般化複雑性マッチングを用いて,Ornstein--Uhlenbeck拡散スコアを$math Rd$で推定するサンプルについて検討した。 ガウス遷移核と初期密度からの相補的推定を組み合わせ、各固定球に一様である明示的なソボレフ境界を得る。
• 参考スコア（独自算出の注目度）: 17.260234730112153
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study the sample complexity of estimating Ornstein--Uhlenbeck diffusion scores in $\mathbb R^d$ using denoising score matching (DSM) with finite-width shallow ReLU networks, and its implications for reverse-process sampling. Under weak differentiability and polynomial-growth conditions on normalized derivatives of the initial density, we combine complementary estimates from the Gaussian transition kernel and the initial density to obtain explicit Sobolev bounds that are uniform in time on each fixed ball. Combining these bounds with existing shallow-network approximation theory gives explicit control of the approximation error and a sufficient path-norm budget. We then use truncation and localized Rademacher complexity to establish high-probability risk bounds for path-norm-constrained empirical DSM minimizers with unbounded inputs and labels. Under additional bounded-density and sub-Gaussian assumptions, suitable choices of network width and path-norm budget yield squared $L^2(P_t)$ score risk $\widetilde O(n^{-(d+3)/(2d+3)})$ at each fixed time $t>0$, where $n$ is the number of independent training samples and $P_t$ is the forward marginal. The nonasymptotic bounds retain explicit dependence on diffusion time and the regularity and tail parameters of the initial distribution. Aggregating the score errors over a time grid and applying existing sampling theory together with an early-stopping bound yields a high-probability total-variation error $\widetilde O(n^{-(d+3)/(4d+6)})$ between the generated and original data distributions under suitable sampling parameters. Here $\widetilde O$ suppresses logarithmic factors for fixed dimension, confidence level, and initial distribution.
• Abstract（参考訳）: 有限幅浅帯域ReLUネットワークを用いたデノナイジングスコアマッチング(DSM)を用いて,Ornstein--Uhlenbeck拡散スコアを$\mathbb R^d$で推定するサンプル複雑性とその逆プロセスサンプリングへの応用について検討した。 初期密度の正規化微分に対する弱微分性と多項式成長条件の下では、ガウス遷移核と初期密度からの相補的推定を組み合わせ、各固定球に一様である明示的なソボレフ境界を得る。 これらの境界を既存の浅層ネットワーク近似理論と組み合わせることで、近似誤差と十分な経路ノルム予算を明確に制御できる。 次に,非有界入力とラベルを持つ経路ノルム制約型経験的DSM最小化器の高確率リスク境界を確立するために,トラルニケーションと局所ラデマッハ複雑性を用いる。 追加の有界密度と準ガウス的仮定の下で、ネットワーク幅とパスノルム予算の適切な選択は、$L^2(P_t)$スコアリスク$\widetilde O(n^{-(d+3)/(2d+3)})$各固定時間$t>0$で、$n$は独立したトレーニングサンプルの数、$P_t$は前方辺である。 漸近的境界は、拡散時間と初期分布の正則性および尾のパラメータに明示的に依存している。 タイムグリッド上でスコア誤差を集約し、既存のサンプリング理論を早期のストッピング境界とともに適用すると、高確率全変誤差$\widetilde O(n^{-(d+3)/(4d+6)}$となる。 ここで$\widetilde O$は、固定次元、信頼度、初期分布の対数係数を抑制する。

関連論文リスト

• Sharp Convergence and Sample Complexity of Policy Mirror Descent for Average-Reward MDPs [14.322134588788947]
  政策ミラー降下(PMD)は、割引マルコフ決定過程(MDP)において成熟した有限時間理論を持つ 一人のマスター再帰を中心に構築されたエルゴード平均逆 MDP における PMD の有限時間有限サンプル解析を与える。
  論文  参考訳（メタデータ） (2026-10-02T22:46:30Z)
• Demixing Sparse Signals from Nonlinear Observations using Generalized Non-convex Regularization [0.0]
  重畳の非線形観測回数が限られていることから, スパースベクトルの回復を考察する。 本稿では, 一般化畳み込みペナルティとハマー化データ忠実度を組み合わせた正規化に基づくフレームワークを提案する。 仮に局所的な定常点を保った位数$sqrtslog(n)/m$の誤差境界を導出する。
  論文  参考訳（メタデータ） (2026-07-12T07:29:39Z)
• Provably Adaptive Linear Approximation for the Shapley Value and Beyond [73.0940890296463]
  基本的で長期にわたる課題は、その効率的な近似である。 一般に用いられるすべての半値に対して$P(|hatboldsymbol-boldsymbol|_2geq)leq$を必要とする線形空間アルゴリズムを開発する。 本アルゴリズムは,各ユーティリティ関数の平均二乗誤差の明示的最小化を可能にする。
  論文  参考訳（メタデータ） (2026-04-09T16:38:14Z)
• Sampling from multi-modal distributions with polynomial query complexity in fixed dimension via reverse diffusion [16.463220658992064]
  分布の幅広いクラスに対する最初のサンプリングアルゴリズムを提供する。 我々のアルゴリズムは時間反転拡散過程をシミュレートする。 メタスタビリティを回避し、モード位置に関する事前の知識を必要とせず、よく知られた対数平滑性仮定を緩和する。
  論文  参考訳（メタデータ） (2024-12-31T17:51:39Z)
• Non-asymptotic bounds for forward processes in denoising diffusions: Ornstein-Uhlenbeck is hard to beat [49.1574468325115]
  本稿では,全変動(TV)における前方拡散誤差の非漸近的境界について述べる。 我々は、R$からFarthestモードまでの距離でマルチモーダルデータ分布をパラメライズし、加法的および乗法的雑音による前方拡散を考察する。
  論文  参考訳（メタデータ） (2024-08-25T10:28:31Z)
• Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
  近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。 本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
  論文  参考訳（メタデータ） (2024-04-29T15:04:07Z)
• On the Effective Number of Linear Regions in Shallow Univariate ReLU Networks: Convergence Guarantees and Implicit Bias [50.84569563188485]
  我々は、ラベルが$r$のニューロンを持つターゲットネットワークの符号によって決定されるとき、勾配流が方向収束することを示す。 我々の結果は、標本サイズによらず、幅が$tildemathcalO(r)$である、緩やかなオーバーパラメータ化をすでに維持しているかもしれない。
  論文  参考訳（メタデータ） (2022-05-18T16:57:10Z)
• Distributed Sparse Regression via Penalization [5.990069843501885]
  エージェントのネットワーク上の線形回帰を、(集中ノードを持たない)無向グラフとしてモデル化する。 推定問題は、局所的なLASSO損失関数の和とコンセンサス制約の2次ペナルティの最小化として定式化される。 本稿では, ペナル化問題に適用した近似勾配アルゴリズムが, 集中的な統計的誤差の順序の許容値まで線形に収束することを示す。
  論文  参考訳（メタデータ） (2021-11-12T01:51:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。