論文の概要: Asymptotic Learning Curves for Diffusion Models with Random Features Score and Manifold Data

• arxiv url: http://arxiv.org/abs/2603.22962v1
• Date: Tue, 24 Mar 2026 08:58:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.389943
• Title: Asymptotic Learning Curves for Diffusion Models with Random Features Score and Manifold Data
• Title（参考訳）: ランダム特徴スコアとマニフォールドデータを用いた拡散モデルの漸近学習曲線
• Abstract要約: 本研究では,デノナイジングスコアマッチングの理論的挙動について検討する。 高次元の限界におけるテスト、トレーニング、スコアの正確な表現を導出します。
• 参考スコア（独自算出の注目度）: 7.047721358838963
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study the theoretical behavior of denoising score matching--the learning task associated to diffusion models--when the data distribution is supported on a low-dimensional manifold and the score is parameterized using a random feature neural network. We derive asymptotically exact expressions for the test, train, and score errors in the high-dimensional limit. Our analysis reveals that, for linear manifolds the sample complexity required to learn the score function scales linearly with the intrinsic dimension of the manifold, rather than with the ambient dimension. Perhaps surprisingly, the benefits of low-dimensional structure starts to diminish once we have a non-linear manifold. These results indicate that diffusion models can benefit from structured data; however, the dependence on the specific type of structure is subtle and intricate.
• Abstract（参考訳）: 低次元多様体上でデータ分布がサポートされ、ランダムな特徴ニューラルネットワークを用いてスコアがパラメータ化されるとき、拡散モデルに関連する学習タスクをデノナイジングスコアマッチングの理論的挙動について検討する。 我々は, 高次元限界におけるテスト, トレイン, スコアに対する漸近的に正確な表現を導出する。 線形多様体の場合、スコア関数の学習に必要なサンプルの複雑さは、周囲次元ではなく、多様体の内在次元と線形にスケールすることを明らかにする。 おそらく意外なことに、非線型多様体が成立すると、低次元構造の利点は減少し始める。 これらの結果は拡散モデルが構造化データの恩恵を受けることを示唆するが、特定のタイプの構造への依存は微妙で複雑である。

関連論文リスト

• Provably Learning Diffusion Models under the Manifold Hypothesis: Collapse and Refine [60.669081685261965]
  拡散モデルは、顕著な品質で高次元データを生成する。 彼らのトレーニングがいかに効率的にスコア関数を学習するかは理論的には説明がつかないままである。 我々はこの原理をScore-induced Latent Diffusion (SiLD)として定式化する。
  論文  参考訳（メタデータ） (2026-05-16T16:51:10Z)
• Diffusion Model for Manifold Data: Score Decomposition, Curvature, and Statistical Complexity [93.52679474816728]
  拡散モデルは、生成モデリングにおける主要なフレームワークとなっている。 本稿では,拡散モデルが構造データをどのように学習するかを,統計的複雑性とデータ幾何学的性質の影響の2つの重要な側面に焦点をあてる。 また、スコア関数の構造と多様体曲率の相互作用も強調する。
  論文  参考訳（メタデータ） (2026-03-21T04:40:19Z)
• Nonparametric Data Attribution for Diffusion Models [57.820618036556084]
  生成モデルのデータ属性は、個々のトレーニング例がモデル出力に与える影響を定量化する。 生成画像とトレーニング画像のパッチレベルの類似性によって影響を測定する非パラメトリック属性法を提案する。
  論文  参考訳（メタデータ） (2025-10-16T03:37:16Z)
• Analyzing Neural Network-Based Generative Diffusion Models through Convex Optimization [45.72323731094864]
  本稿では,2層ニューラルネットワークを用いた拡散モデル解析のための理論的枠組みを提案する。 我々は,1つの凸プログラムを解くことで,スコア予測のための浅層ニューラルネットワークのトレーニングが可能であることを証明した。 本結果は, ニューラルネットワークに基づく拡散モデルが漸近的でない環境で何を学習するかを, 正確に評価するものである。
  論文  参考訳（メタデータ） (2024-02-03T00:20:25Z)
• Gradient-Based Feature Learning under Structured Data [57.76552698981579]
  異方性設定では、一般的に使用される球面勾配力学は真の方向を回復できないことがある。 バッチ正規化を連想させる適切な重み正規化は、この問題を軽減することができることを示す。 特に、スパイクモデルの下では、勾配に基づくトレーニングのサンプルの複雑さは情報指数とは独立にできる。
  論文  参考訳（メタデータ） (2023-09-07T16:55:50Z)
• Score Approximation, Estimation and Distribution Recovery of Diffusion Models on Low-Dimensional Data [68.62134204367668]
  本稿では,未知の低次元線形部分空間上でデータをサポートする場合の拡散モデルのスコア近似,推定,分布回復について検討する。 適切に選択されたニューラルネットワークアーキテクチャでは、スコア関数を正確に近似し、効率的に推定することができる。 推定スコア関数に基づいて生成された分布は、データ幾何学構造を捕捉し、データ分布の近傍に収束する。
  論文  参考訳（メタデータ） (2023-02-14T17:02:35Z)
• Nonlinear Isometric Manifold Learning for Injective Normalizing Flows [58.720142291102135]
  アイソメトリーを用いて、多様体学習と密度推定を分離する。 また、確率分布を歪ませない明示的な逆数を持つ埋め込みを設計するためにオートエンコーダを用いる。
  論文  参考訳（メタデータ） (2022-03-08T08:57:43Z)
• Learning Low-Dimensional Nonlinear Structures from High-Dimensional Noisy Data: An Integral Operator Approach [5.975670441166475]
  本研究では,高次元および雑音観測から低次元非線形構造を学習するためのカーネルスペクトル埋め込みアルゴリズムを提案する。 このアルゴリズムは、基礎となる多様体の事前の知識に依存しない適応的な帯域幅選択手順を用いる。 得られた低次元埋め込みは、データ可視化、クラスタリング、予測などの下流目的にさらに活用することができる。
  論文  参考訳（メタデータ） (2022-02-28T22:46:34Z)
• Learning Curves for SGD on Structured Features [23.40229188549055]
  本研究では,学習中におけるテストエラーを正確に予測するために,特徴空間内のデータの幾何学が重要であることを示す。 提案手法は,学習中のテストエラーを正確に予測するためには,特徴空間内のデータの幾何をモデル化することが極めて重要であることを示す。
  論文  参考訳（メタデータ） (2021-06-04T20:48:20Z)
• Model discovery in the sparse sampling regime [0.0]
  深層学習が部分微分方程式のモデル発見をいかに改善できるかを示す。 その結果、ディープラーニングに基づくモデル発見は、基礎となる方程式を復元することができる。 我々は合成集合と実験集合の両方について主張する。
  論文  参考訳（メタデータ） (2021-05-02T06:27:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。