論文の概要: Convergence bounds for nonlinear least squares and applications to tensor recovery

• arxiv url: http://arxiv.org/abs/2108.05237v1
• Date: Wed, 11 Aug 2021 14:14:02 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-12 13:14:15.357521
• Title: Convergence bounds for nonlinear least squares and applications to tensor recovery
• Title（参考訳）: 非線形最小二乗に対する収束境界とテンソル回復への応用
• Authors: Philipp Trunschke
• Abstract要約: 我々は、L2$-ノルムの重み付きモンテカルロ推定のみを計算できる場合、一般非線形部分集合である$L2$の関数を近似する問題を考える。 結果の批判的分析により、低ランクテンソルのモデル集合に対するサンプル効率の良いアルゴリズムを導出できる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We consider the problem of approximating a function in general nonlinear subsets of $L^2$ when only a weighted Monte Carlo estimate of the $L^2$-norm can be computed. Of particular interest in this setting is the concept of sample complexity, the number of samples that are necessary to recover the best approximation. Bounds for this quantity have been derived in a previous work and depend primarily on the model class and are not influenced positively by the regularity of the sought function. This result however is only a worst-case bound and is not able to explain the remarkable performance of iterative hard thresholding algorithms that is observed in practice. We reexamine the results of the previous paper and derive a new bound that is able to utilize the regularity of the sought function. A critical analysis of our results allows us to derive a sample efficient algorithm for the model set of low-rank tensors. The viability of this algorithm is demonstrated by recovering quantities of interest for a classical high-dimensional random partial differential equation.
• Abstract（参考訳）: L^2$-ノルムの重み付きモンテカルロ推定しか計算できないとき、一般非線形部分集合である$L^2$の関数を近似する問題を考える。 この設定で特に興味を持つのは、最適な近似を回復するために必要なサンプル数であるサンプル複雑性の概念である。 この量の境界は以前の仕事から導出され、主にモデルクラスに依存しており、求める関数の正則性に影響されない。 しかし、この結果は最悪のケース境界に過ぎず、実際に観測される反復的ハードしきい値アルゴリズムの顕著な性能を説明できない。 我々は, 前回の論文の結果を再検討し, 求める関数の正則性を活用可能な新しい境界を導出する。 結果の批判的解析により、低ランクテンソルのモデル集合に対するサンプル効率的なアルゴリズムを導出できる。 このアルゴリズムの生存性は、古典的な高次元ランダム偏微分方程式に対する興味量の回復によって示される。

関連論文リスト

• Scaling and renormalization in high-dimensional regression [72.59731158970894]
  本稿では,様々な高次元リッジ回帰モデルの訓練および一般化性能の簡潔な導出について述べる。 本稿では,物理と深層学習の背景を持つ読者を対象に,これらのトピックに関する最近の研究成果の紹介とレビューを行う。
  論文  参考訳（メタデータ） (2024-05-01T15:59:00Z)
• Efficient Algorithms for Regularized Nonnegative Scale-invariant Low-rank Approximation Models [3.6034001987137767]
  低ランク近似モデルに固有のスケール不変性は、予期せぬ有益効果と有害効果の両方で暗黙の正則化を引き起こすことを示す。 正規化された非負の低ランク近似を多数処理する一般化行列化最小化アルゴリズムを導出する。 我々は,スパース非負行列因子分解,リッジ規則化カノニカルポリアディック分解,スパース非負タッカー分解への貢献を紹介する。
  論文  参考訳（メタデータ） (2024-03-27T12:49:14Z)
• High-Probability Bounds for Stochastic Optimization and Variational Inequalities: the Case of Unbounded Variance [59.211456992422136]
  制約の少ない仮定の下で高確率収束結果のアルゴリズムを提案する。 これらの結果は、標準機能クラスに適合しない問題を最適化するために検討された手法の使用を正当化する。
  論文  参考訳（メタデータ） (2023-02-02T10:37:23Z)
• Kernel-based off-policy estimation without overlap: Instance optimality beyond semiparametric efficiency [53.90687548731265]
  本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。 任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
  論文  参考訳（メタデータ） (2023-01-16T02:57:37Z)
• Off-policy estimation of linear functionals: Non-asymptotic theory for semi-parametric efficiency [59.48096489854697]
  観測データに基づいて線形汎関数を推定する問題は、因果推論と包帯文献の両方において標準的である。 このような手順の平均二乗誤差に対して非漸近上界を証明した。 非漸近的局所ミニマックス下限をマッチングすることにより、有限標本のインスタンス依存最適性を確立する。
  論文  参考訳（メタデータ） (2022-09-26T23:50:55Z)
• Tensor Recovery Based on A Novel Non-convex Function Minimax Logarithmic Concave Penalty Function [5.264776812468168]
  本稿では,新たな非算術的解法であるMiniarithmic Concave Penalty (MLCP) 関数を提案する。 提案された関数は、LLojaに重み付けされたケースに一般化される。 提案された列は有限長であり、世界的に臨界点に収束することが証明された。
  論文  参考訳（メタデータ） (2022-06-25T12:26:53Z)
• Fine-grained Generalization Analysis of Vector-valued Learning [28.722350261462463]
  正規化ベクトル値学習アルゴリズムの一般化解析を,出力次元に軽度依存する境界とサンプルサイズに高速速度を提示することで開始する。 最適化と学習の相互作用を理解するために、結果を使用して、ベクトル値関数による降下の最初の境界を導出します。 副生成物として、一般凸函数の項で定義される損失関数クラスに対してラデマッハ複雑性を導出する。
  論文  参考訳（メタデータ） (2021-04-29T07:57:34Z)
• Goal-directed Generation of Discrete Structures with Conditional Generative Models [85.51463588099556]
  本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。 提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
  論文  参考訳（メタデータ） (2020-10-05T20:03:13Z)
• Slice Sampling for General Completely Random Measures [74.24975039689893]
  本稿では, 後続推定のためのマルコフ連鎖モンテカルロアルゴリズムについて, 補助スライス変数を用いてトランケーションレベルを適応的に設定する。 提案アルゴリズムの有効性は、いくつかの一般的な非パラメトリックモデルで評価される。
  論文  参考訳（メタデータ） (2020-06-24T17:53:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。