論文の概要: Blessing of Dimensionality for Approximating Sobolev Classes on Manifolds

• arxiv url: http://arxiv.org/abs/2408.06996v2
• Date: Sat, 03 May 2025 08:47:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-06 18:49:35.009991
• Title: Blessing of Dimensionality for Approximating Sobolev Classes on Manifolds
• Title（参考訳）: 多様体上のソボレフ類を近似するための次元の祝福
• Authors: Hong Ye Tan, Subhadip Mukherjee, Junqi Tang, Carola-Bibiane Schönlieb,
• Abstract要約: 有限な統計的複雑性の関数を持つ最適一様近似を考える。 特に、コンパクト多様体上の有界ソボレフ函数の類を近似するのに要する統計複雑性が下から有界であることを示す。
• 参考スコア（独自算出の注目度）: 14.183849746284816
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The manifold hypothesis says that natural high-dimensional data lie on or around a low-dimensional manifold. The recent success of statistical and learning-based methods in very high dimensions empirically supports this hypothesis, suggesting that typical worst-case analysis does not provide practical guarantees. A natural step for analysis is thus to assume the manifold hypothesis and derive bounds that are independent of any ambient dimensions that the data may be embedded in. Theoretical implications in this direction have recently been explored in terms of generalization of ReLU networks and convergence of Langevin methods. In this work, we consider optimal uniform approximations with functions of finite statistical complexity. While upper bounds on uniform approximation exist in the literature using ReLU neural networks, we consider the opposite: lower bounds to quantify the fundamental difficulty of approximation on manifolds. In particular, we demonstrate that the statistical complexity required to approximate a class of bounded Sobolev functions on a compact manifold is bounded from below, and moreover that this bound is dependent only on the intrinsic properties of the manifold, such as curvature, volume, and injectivity radius.
• Abstract（参考訳）: 多様体仮説は、自然の高次元データが低次元多様体上またはその周辺にあることを言う。 統計学的および学習的手法の極めて高次元における最近の成功は、この仮説を実証的に支持し、典型的な最悪のケース分析が実用的な保証を提供していないことを示唆している。 したがって、解析の自然なステップは、多様体の仮説を仮定し、データが埋め込まれる可能性のある任意の周囲次元に依存しない境界を導出することである。 この方向の理論的含意は、最近、ReLUネットワークの一般化とランゲヴィン法の収束の観点から研究されている。 本研究では,有限な統計的複雑性の関数を用いた最適一様近似について考察する。 均一近似の上限は、ReLUニューラルネットワークを用いた文献に存在しているが、逆を考える: 多様体上の近似の根本的な難しさを定量化するための下界。 特に、コンパクト多様体上の有界ソボレフ函数の類を近似するのに必要とされる統計複雑性が下から有界であること、さらに、この有界は曲率、体積、射影半径などの多様体の内在的性質にのみ依存することが示される。

関連論文リスト

• A Likelihood Based Approach to Distribution Regression Using Conditional Deep Generative Models [6.647819824559201]
  本研究では,条件付き深部生成モデルの推定のための可能性に基づくアプローチの大規模サンプル特性について検討する。 その結果,条件分布を推定するための最大極大推定器の収束率を導いた。
  論文  参考訳（メタデータ） (2024-10-02T20:46:21Z)
• Finite-dimensional approximations of push-forwards on locally analytic functionals [5.787117733071417]
  我々のアプローチは、解析写像そのものを直接扱うのではなく、局所解析関数の空間上のプッシュフォワードを考えることである。 有限離散データからプッシュフォワードの適切な有限次元近似を可能にする手法を確立する。
  論文  参考訳（メタデータ） (2024-04-16T17:53:59Z)
• Conformal inference for regression on Riemannian Manifolds [49.7719149179179]
  回帰シナリオの予測セットは、応答変数が$Y$で、多様体に存在し、Xで表される共変数がユークリッド空間にあるときに検討する。 我々は、多様体上のこれらの領域の経験的バージョンが、その集団に対するほぼ確実に収束していることを証明する。
  論文  参考訳（メタデータ） (2023-10-12T10:56:25Z)
• Algebraic and Statistical Properties of the Ordinary Least Squares Interpolator [3.4320157633663064]
  我々は最小$ell$-norm OLS補間器について結果を提供する。 ガウス・マルコフの定理の拡張のような統計的結果を示す。 我々はOLS補間器の特性をさらに探求するシミュレーションを行う。
  論文  参考訳（メタデータ） (2023-09-27T16:41:10Z)
• Curvature-Independent Last-Iterate Convergence for Games on Riemannian Manifolds [77.4346324549323]
  本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。 我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
  論文  参考訳（メタデータ） (2023-06-29T01:20:44Z)
• Diffusion Models are Minimax Optimal Distribution Estimators [49.47503258639454]
  拡散モデリングの近似と一般化能力について、初めて厳密な分析を行った。 実密度関数がベソフ空間に属し、経験値整合損失が適切に最小化されている場合、生成したデータ分布は、ほぼ最小の最適推定値が得られることを示す。
  論文  参考訳（メタデータ） (2023-03-03T11:31:55Z)
• Kernel-based off-policy estimation without overlap: Instance optimality beyond semiparametric efficiency [53.90687548731265]
  本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。 任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
  論文  参考訳（メタデータ） (2023-01-16T02:57:37Z)
• Instance-Dependent Generalization Bounds via Optimal Transport [51.71650746285469]
  既存の一般化境界は、現代のニューラルネットワークの一般化を促進する重要な要因を説明することができない。 データ空間における学習予測関数の局所リプシッツ正則性に依存するインスタンス依存の一般化境界を導出する。 ニューラルネットワークに対する一般化境界を実験的に解析し、有界値が有意義であることを示し、トレーニング中の一般的な正規化方法の効果を捉える。
  論文  参考訳（メタデータ） (2022-11-02T16:39:42Z)
• Statistical exploration of the Manifold Hypothesis [10.389701595098922]
  マニフォールド仮説は、名目上高次元データは、高次元空間に埋め込まれた低次元多様体の近くに実際に集中していると主張している。 データのリッチかつ複雑な多様体構造が、汎用的かつ驚くほど単純な統計モデルから生まれることを示す。 我々は、高次元データの幾何学を発見し、解釈する手順を導出し、データ生成機構に関する仮説を探求する。
  論文  参考訳（メタデータ） (2022-08-24T17:00:16Z)
• Partial Counterfactual Identification from Observational and Experimental Data [83.798237968683]
  観測データと実験データの任意の組み合わせから最適境界を近似する有効なモンテカルロアルゴリズムを開発した。 我々のアルゴリズムは、合成および実世界のデータセットに基づいて広範囲に検証されている。
  論文  参考訳（メタデータ） (2021-10-12T02:21:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。