論文の概要: Recovery Guarantees for Quadratic Tensors with Sparse Observations
- arxiv url: http://arxiv.org/abs/1811.00148v2
- Date: Sat, 29 Jul 2023 14:51:14 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-02 18:44:44.402524
- Title: Recovery Guarantees for Quadratic Tensors with Sparse Observations
- Title(参考訳): スパース観測による二次テンソルの回復保証
- Authors: Hongyang R. Zhang, Vatsal Sharan, Moses Charikar, Yingyu Liang
- Abstract要約: テンソルの欠落を予測できる完備化問題を考察する。
一般的に使用されるCPモデルは三重積形式であるが、別の積の族である。
データ量が限られているCPモデルよりも2次モデルの方が優れた性能を示す。
- 参考スコア(独自算出の注目度): 33.7717121677891
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider the tensor completion problem of predicting the missing entries
of a tensor. The commonly used CP model has a triple product form, but an
alternate family of quadratic models, which are the sum of pairwise products
instead of a triple product, have emerged from applications such as
recommendation systems. Non-convex methods are the method of choice for
learning quadratic models, and this work examines their sample complexity and
error guarantee. Our main result is that with the number of samples being only
linear in the dimension, all local minima of the mean squared error objective
are global minima and recover the original tensor. We substantiate our
theoretical results with experiments on synthetic and real-world data, showing
that quadratic models have better performance than CP models where there are a
limited amount of observations available.
- Abstract(参考訳): テンソルの欠落点を予測するテンソル完備化問題を考える。
一般的に使用されるCPモデルは三重積形式を持つが、三重積ではなく対積の和である二次モデルの代替系は、レコメンデーションシステムのような応用から出現している。
非凸法(non-convex method)は二次モデルを学ぶための選択法であり、サンプルの複雑さと誤差の保証について検討する。
我々の主な結果は、サンプルの数が次元において線型であるので、平均二乗誤差対象の局所最小値はすべて大域最小値であり、元のテンソルを復元するということである。
我々は, 合成データと実世界のデータを用いた実験により, 理論結果を仮定し, 観測量が限られているcpモデルよりも, 二次モデルの方が優れた性能を示す。
関連論文リスト
- Efficient and Generalizable Certified Unlearning: A Hessian-free Recollection Approach [8.875278412741695]
機械学習は、特定のデータを選択的に忘れることを可能にして、データ所有者の権利を忘れないように努力する。
我々は,ベクトル加算操作のみを必要とするため,ほぼ瞬時に未学習を実現するアルゴリズムを開発した。
論文 参考訳(メタデータ) (2024-04-02T07:54:18Z) - Representer Point Selection for Explaining Regularized High-dimensional
Models [105.75758452952357]
本稿では,高次元表現器と呼ぶサンプルベース説明のクラスを紹介する。
私たちのワークホースは、一般化された高次元モデルに対する新しい代表者定理である。
提案手法の実証的性能について,実世界の2進分類データセットと2つの推薦システムデータセットを用いて検討した。
論文 参考訳(メタデータ) (2023-05-31T16:23:58Z) - Git Re-Basin: Merging Models modulo Permutation Symmetries [3.5450828190071655]
提案手法は,大規模ネットワークに適合する簡単なアルゴリズムを実例で示す。
我々は、独立に訓練されたモデル間のゼロモード接続の最初のデモ(私たちの知る限り)を実演する。
また、線形モード接続仮説の欠点についても論じる。
論文 参考訳(メタデータ) (2022-09-11T10:44:27Z) - Test Set Sizing Via Random Matrix Theory [91.3755431537592]
本稿ではランダム行列理論の手法を用いて、単純な線形回帰に対して理想的なトレーニング-テストデータ分割を求める。
それは「理想」を整合性計量を満たすものとして定義し、すなわち経験的モデル誤差は実際の測定ノイズである。
本論文は,任意のモデルのトレーニングとテストサイズを,真に最適な方法で解決した最初の論文である。
論文 参考訳(メタデータ) (2021-12-11T13:18:33Z) - Sampling from Arbitrary Functions via PSD Models [55.41644538483948]
まず確率分布をモデル化し,そのモデルからサンプリングする。
これらのモデルでは, 少数の評価値を用いて, 高精度に多数の密度を近似することが可能であることが示され, それらのモデルから効果的にサンプルする簡単なアルゴリズムが提示される。
論文 参考訳(メタデータ) (2021-10-20T12:25:22Z) - Probabilistic Modeling for Human Mesh Recovery [73.11532990173441]
本稿では,2次元の証拠から3次元の人体復元の問題に焦点を当てた。
我々は,この問題を,入力から3Dポーズの分布へのマッピング学習として再考した。
論文 参考訳(メタデータ) (2021-08-26T17:55:11Z) - Sparse Universum Quadratic Surface Support Vector Machine Models for
Binary Classification [0.0]
カーネルフリーな2次曲面サポートベクターマシンモデルを設計する。
二次曲面のヘシアンにおける潜在的空間パターンの検出に有用であるL1ノルム正規化版を提案する。
提案モデルの実現可能性と有効性を示すために、人工的および公共のベンチマークデータセットの数値実験を実施します。
論文 参考訳(メタデータ) (2021-04-03T07:40:30Z) - Non-parametric Models for Non-negative Functions [48.7576911714538]
同じ良い線形モデルから非負関数に対する最初のモデルを提供する。
我々は、それが表現定理を認め、凸問題に対する効率的な二重定式化を提供することを証明した。
論文 参考訳(メタデータ) (2020-07-08T07:17:28Z) - Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。
テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。
以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
論文 参考訳(メタデータ) (2020-06-22T21:12:31Z) - Dimension Independent Generalization Error by Stochastic Gradient
Descent [12.474236773219067]
本稿では, 局所凸損失関数に対する降下(SGD)解の一般化誤差に関する理論を提案する。
一般化誤差は$p$次元に依存したり、低効用$p$対数因子に依存しないことを示す。
論文 参考訳(メタデータ) (2020-03-25T03:08:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。