論文の概要: Blessing of Dimensionality for Approximating Sobolev Classes on Manifolds

• arxiv url: http://arxiv.org/abs/2408.06996v1
• Date: Tue, 13 Aug 2024 15:56:42 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-14 16:55:31.515237
• Title: Blessing of Dimensionality for Approximating Sobolev Classes on Manifolds
• Title（参考訳）: 多様体上のソボレフ類を近似するための次元の祝福
• Authors: Hong Ye Tan, Subhadip Mukherjee, Junqi Tang, Carola-Bibiane Schönlieb,
• Abstract要約: 多様体仮説は、自然の高次元データが低次元多様体の周辺で支えられていることを言う。 統計的および学習に基づく手法の最近の成功は、この仮説を実証的に支持している。 我々は、一般化特性に直接関係する理論的な統計的複雑さの結果を提供する。
• 参考スコア（独自算出の注目度）: 14.183849746284816
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The manifold hypothesis says that natural high-dimensional data is actually supported on or around a low-dimensional manifold. Recent success of statistical and learning-based methods empirically supports this hypothesis, due to outperforming classical statistical intuition in very high dimensions. A natural step for analysis is thus to assume the manifold hypothesis and derive bounds that are independent of any embedding space. Theoretical implications in this direction have recently been explored in terms of generalization of ReLU networks and convergence of Langevin methods. We complement existing results by providing theoretical statistical complexity results, which directly relates to generalization properties. In particular, we demonstrate that the statistical complexity required to approximate a class of bounded Sobolev functions on a compact manifold is bounded from below, and moreover that this bound is dependent only on the intrinsic properties of the manifold. These provide complementary bounds for existing approximation results for ReLU networks on manifolds, which give upper bounds on generalization capacity.
• Abstract（参考訳）: 多様体仮説は、自然の高次元データは、実際は低次元多様体またはその周辺で支えられていると述べる。 統計的および学習に基づく手法の最近の成功は、非常に高い次元における古典的な統計的直観よりも優れているため、この仮説を実証的に支持している。 したがって、解析の自然なステップは、多様体の仮説を仮定し、どんな埋め込み空間にも依存しない境界を導出することである。 この方向の理論的含意は、最近、ReLUネットワークの一般化とランゲヴィン法の収束の観点から研究されている。 我々は、一般化特性に直接関係する理論的な統計的複雑さの結果を提供することで、既存の結果を補完する。 特に、コンパクト多様体上の有界ソボレフ函数の類を近似するために必要な統計複雑性が下から有界であること、さらに、この有界が多様体の内在的性質にのみ依存していることが示される。 これらは、多様体上のReLUネットワークに対する既存の近似結果に対する相補的境界を与え、一般化能力の上限を与える。

関連論文リスト

• A Likelihood Based Approach to Distribution Regression Using Conditional Deep Generative Models [6.647819824559201]
  本研究では,条件付き深部生成モデルの推定のための可能性に基づくアプローチの大規模サンプル特性について検討する。 その結果,条件分布を推定するための最大極大推定器の収束率を導いた。
  論文  参考訳（メタデータ） (2024-10-02T20:46:21Z)
• Finite-dimensional approximations of push-forwards on locally analytic functionals [5.787117733071417]
  我々のアプローチは、解析写像そのものを直接扱うのではなく、局所解析関数の空間上のプッシュフォワードを考えることである。 有限離散データからプッシュフォワードの適切な有限次元近似を可能にする手法を確立する。
  論文  参考訳（メタデータ） (2024-04-16T17:53:59Z)
• Conformal inference for regression on Riemannian Manifolds [49.7719149179179]
  回帰シナリオの予測セットは、応答変数が$Y$で、多様体に存在し、Xで表される共変数がユークリッド空間にあるときに検討する。 我々は、多様体上のこれらの領域の経験的バージョンが、その集団に対するほぼ確実に収束していることを証明する。
  論文  参考訳（メタデータ） (2023-10-12T10:56:25Z)
• Algebraic and Statistical Properties of the Ordinary Least Squares Interpolator [3.4320157633663064]
  我々は最小$ell$-norm OLS補間器について結果を提供する。 ガウス・マルコフの定理の拡張のような統計的結果を示す。 我々はOLS補間器の特性をさらに探求するシミュレーションを行う。
  論文  参考訳（メタデータ） (2023-09-27T16:41:10Z)
• Curvature-Independent Last-Iterate Convergence for Games on Riemannian Manifolds [77.4346324549323]
  本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。 我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
  論文  参考訳（メタデータ） (2023-06-29T01:20:44Z)
• Diffusion Models are Minimax Optimal Distribution Estimators [49.47503258639454]
  拡散モデリングの近似と一般化能力について、初めて厳密な分析を行った。 実密度関数がベソフ空間に属し、経験値整合損失が適切に最小化されている場合、生成したデータ分布は、ほぼ最小の最適推定値が得られることを示す。
  論文  参考訳（メタデータ） (2023-03-03T11:31:55Z)
• Kernel-based off-policy estimation without overlap: Instance optimality beyond semiparametric efficiency [53.90687548731265]
  本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。 任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
  論文  参考訳（メタデータ） (2023-01-16T02:57:37Z)
• Instance-Dependent Generalization Bounds via Optimal Transport [51.71650746285469]
  既存の一般化境界は、現代のニューラルネットワークの一般化を促進する重要な要因を説明することができない。 データ空間における学習予測関数の局所リプシッツ正則性に依存するインスタンス依存の一般化境界を導出する。 ニューラルネットワークに対する一般化境界を実験的に解析し、有界値が有意義であることを示し、トレーニング中の一般的な正規化方法の効果を捉える。
  論文  参考訳（メタデータ） (2022-11-02T16:39:42Z)
• Statistical exploration of the Manifold Hypothesis [10.389701595098922]
  マニフォールド仮説は、名目上高次元データは、高次元空間に埋め込まれた低次元多様体の近くに実際に集中していると主張している。 データのリッチかつ複雑な多様体構造が、汎用的かつ驚くほど単純な統計モデルから生まれることを示す。 我々は、高次元データの幾何学を発見し、解釈する手順を導出し、データ生成機構に関する仮説を探求する。
  論文  参考訳（メタデータ） (2022-08-24T17:00:16Z)
• Partial Counterfactual Identification from Observational and Experimental Data [83.798237968683]
  観測データと実験データの任意の組み合わせから最適境界を近似する有効なモンテカルロアルゴリズムを開発した。 我々のアルゴリズムは、合成および実世界のデータセットに基づいて広範囲に検証されている。
  論文  参考訳（メタデータ） (2021-10-12T02:21:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。