論文の概要: Convergence bounds for nonlinear least squares for tensor recovery
- arxiv url: http://arxiv.org/abs/2208.10954v1
- Date: Tue, 23 Aug 2022 13:25:30 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-24 13:55:38.788816
- Title: Convergence bounds for nonlinear least squares for tensor recovery
- Title(参考訳): テンソル回復のための非線形最小二乗の収束境界
- Authors: Philipp Trunschke
- Abstract要約: L2-ノルムの重み付きモンテカルロ推定しか計算できないとき、L2の一般非線形部分集合における函数の近似の問題を考える。
モデルクラスを最適な近似の近傍に制限することにより、サンプルの複雑さに対する最悪の境界を改善することができる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider the problem of approximating a function in general nonlinear
subsets of L2 when only a weighted Monte Carlo estimate of the L2-norm can be
computed. Of particular interest in this setting is the concept of sample
complexity, the number of sample points that are necessary to achieve a
prescribed error with high probability. Reasonable worst-case bounds for this
quantity exist only for particular subsets of L2, like linear spaces or sets of
sparse vectors. For more general subsets, like tensor networks, the currently
existing bounds are very pessimistic. By restricting the model class to a
neighbourhood of the best approximation, we can derive improved worst-case
bounds for the sample complexity. When the considered neighbourhood is a
manifold with positive local reach, the sample complexity can be estimated by
the sample complexity of the tangent space and the product of the sample
complexity of the normal space and the manifold's curvature.
- Abstract(参考訳): L2-ノルムの重み付きモンテカルロ推定しか計算できないとき、L2の一般非線形部分集合における函数の近似の問題を考える。
この設定で特に興味深いのは、確率の高い所定の誤差を達成するのに必要なサンプル点数であるサンプル複雑性の概念である。
この量に対する推論可能な最悪のケース境界は、線型空間やスパースベクトルの集合のような L2 の特定の部分集合に対してのみ存在する。
テンソルネットワークのようなより一般的な部分集合の場合、既存の境界は非常に悲観的である。
モデルクラスを最良近似の近傍に制限することで、サンプル複雑性の最悪のケース境界を改善することができる。
考察された近傍が正の局所リーチを持つ多様体であるとき、標本複雑性は接空間のサンプル複雑性と正規空間のサンプル複雑性の積と多様体の曲率によって推定できる。
関連論文リスト
- Low Complexity Regularized Phase Retrieval [0.6522338519818377]
この正規化器は、単純さや低複雑性の概念に従う解を促進することを意図している。
我々はノイズのない回復とノイズに対する安定性の両方について検討し、非常に汎用的で統一的な分析フレームワークを提供する。
論文 参考訳(メタデータ) (2024-07-23T11:58:08Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳(メタデータ) (2024-04-29T15:04:07Z) - Computational-Statistical Gaps in Gaussian Single-Index Models [77.1473134227844]
単次元モデル(Single-Index Models)は、植木構造における高次元回帰問題である。
我々は,統計的クエリ (SQ) と低遅延多項式 (LDP) フレームワークの両方において,計算効率のよいアルゴリズムが必ずしも$Omega(dkstar/2)$サンプルを必要とすることを示した。
論文 参考訳(メタデータ) (2024-03-08T18:50:19Z) - Polynomial-Time Solutions for ReLU Network Training: A Complexity
Classification via Max-Cut and Zonotopes [70.52097560486683]
我々は、ReLUネットワークの近似の難しさがマックス・カッツ問題の複雑さを反映しているだけでなく、特定の場合において、それと完全に一致することを証明した。
特に、$epsilonleqsqrt84/83-1approx 0.006$とすると、目的値に関して相対誤差$epsilon$でReLUネットワーク対象の近似グローバルデータセットを見つけることはNPハードであることが示される。
論文 参考訳(メタデータ) (2023-11-18T04:41:07Z) - The Complexity of Being Entangled [0.0]
ニールセンの量子状態複雑性へのアプローチは、一元変換の多様体上の特定のノルムで計算された測地線の長さに状態を作るのに必要な最小の量子ゲート数に関係している。
バイパーティイトシステムでは,単一サブシステムに作用するゲートがコストがかからないノルムに対応する結合複雑性について検討する。
論文 参考訳(メタデータ) (2023-11-07T19:00:02Z) - Sample Complexity Bounds for Estimating Probability Divergences under Invariances [31.946304450935628]
群不変確率分布は、機械学習において多くのデータ生成モデルに現れる。
本研究では, 多様体上のリー群の滑らかな作用に関して, 固有の不変性が, サンプルの複雑性をいかに改善するかを考察する。
結果は正次元の群にとって全く新しいものであり、有限群作用に対する最近の境界を拡張する。
論文 参考訳(メタデータ) (2023-11-06T04:45:21Z) - Lattice-Based Methods Surpass Sum-of-Squares in Clustering [98.46302040220395]
クラスタリングは教師なし学習における基本的なプリミティブである。
最近の研究は、低次手法のクラスに対する低い境界を確立している。
意外なことに、この特定のクラスタリングモデルのtextitdoesは、統計的-計算的ギャップを示さない。
論文 参考訳(メタデータ) (2021-12-07T18:50:17Z) - Local versions of sum-of-norms clustering [77.34726150561087]
本手法はボールモデルにおいて任意に閉じた球を分離できることを示す。
我々は、不連結連結集合のクラスタリングで発生する誤差に定量的な有界性を証明した。
論文 参考訳(メタデータ) (2021-09-20T14:45:29Z) - Convergence bounds for nonlinear least squares and applications to
tensor recovery [0.0]
我々は、L2$-ノルムの重み付きモンテカルロ推定のみを計算できる場合、一般非線形部分集合である$L2$の関数を近似する問題を考える。
結果の批判的分析により、低ランクテンソルのモデル集合に対するサンプル効率の良いアルゴリズムを導出できる。
論文 参考訳(メタデータ) (2021-08-11T14:14:02Z) - Bilinear Classes: A Structural Framework for Provable Generalization in
RL [119.42509700822484]
Bilinear Classesは強化学習の一般化を可能にする新しい構造フレームワークである。
このフレームワークは、サンプルの複雑さが達成可能な、ほとんどすべての既存のモデルを取り込んでいる。
我々の主な成果は、双線形クラスのためのサンプル複雑性を持つRLアルゴリズムである。
論文 参考訳(メタデータ) (2021-03-19T16:34:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。