論文の概要: Tensor Completion Made Practical

• arxiv url: http://arxiv.org/abs/2006.03134v2
• Date: Sat, 25 Dec 2021 21:05:14 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-25 12:48:47.124885
• Title: Tensor Completion Made Practical
• Title（参考訳）: テンソルコンプリートを実用化
• Authors: Allen Liu and Ankur Moitra
• Abstract要約: 交代最小化の新たな変種を導入し、ガイド収束の進行度をテンソル設定にどのように適応させる必要があるかを理解することから着想を得た。 このアルゴリズムは, 相関係数が高く, ほぼ線形時間で実装できる場合でも, 真のテンソルに線形収束することを示す。 対照的に、驚くべきことに、交代最小化の標準的なバージョンは、我々の新しいツイストなしで、実際に劇的に遅い速度で収束できることが示される。
• 参考スコア（独自算出の注目度）: 19.229475414802213
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Tensor completion is a natural higher-order generalization of matrix completion where the goal is to recover a low-rank tensor from sparse observations of its entries. Existing algorithms are either heuristic without provable guarantees, based on solving large semidefinite programs which are impractical to run, or make strong assumptions such as requiring the factors to be nearly orthogonal. In this paper we introduce a new variant of alternating minimization, which in turn is inspired by understanding how the progress measures that guide convergence of alternating minimization in the matrix setting need to be adapted to the tensor setting. We show strong provable guarantees, including showing that our algorithm converges linearly to the true tensors even when the factors are highly correlated and can be implemented in nearly linear time. Moreover our algorithm is also highly practical and we show that we can complete third order tensors with a thousand dimensions from observing a tiny fraction of its entries. In contrast, and somewhat surprisingly, we show that the standard version of alternating minimization, without our new twist, can converge at a drastically slower rate in practice.
• Abstract（参考訳）: テンソル完備化(Tensor completion)は、行列完備化の自然な高次一般化であり、その目的は、そのエントリのスパース観測から低ランクテンソルを回復することである。 既存のアルゴリズムは証明可能な保証なしにヒューリスティックであり、実行できない大きな半定値プログラムの解法に基づいているか、あるいは要素をほぼ直交的であるように要求するといった強い仮定をする。 本稿では, 交互化最小化の新たな変種を紹介し, 行列設定における交互化最小化の収束を導く進行度をテンソル設定に適応させる方法の理解に着想を得た。 アルゴリズムが高相関性を持ち、ほぼ線形時間で実装できる場合でも、真のテンソルに線形に収束することを示すなど、証明可能な強い保証を示す。 さらに,本アルゴリズムは極めて実用的であり,1000次元の3次テンソルを,その成分のごく一部を観測することで完備できることを示す。 対照的に、驚くべきことに、交代最小化の標準的なバージョンは、我々の新しいツイストなしで、実際に劇的に遅い速度で収束できることが示される。

関連論文リスト

• Low-Rank Tensor Completion via Novel Sparsity-Inducing Regularizers [30.920908325825668]
  低ランクテンソル完備化問題において、l1-ノルムを緩和するため、非ランクサロゲート/正則化器が提案されている。 これらの正則化器は核ランク復元に適用され,乗算器法に基づく効率的なアルゴリズムが提案されている。
  論文  参考訳（メタデータ） (2023-10-10T01:00:13Z)
• The Inductive Bias of Flatness Regularization for Deep Matrix Factorization [58.851514333119255]
  この研究は、ディープ線形ネットワークにおけるヘッセン解の最小トレースの帰納バイアスを理解するための第一歩となる。 測定値の標準等尺性(RIP)が1より大きいすべての深さについて、ヘッセンのトレースを最小化することは、対応する終端行列パラメータのシャッテン 1-ノルムを最小化するのとほぼ同値であることを示す。
  論文  参考訳（メタデータ） (2023-06-22T23:14:57Z)
• Accelerated First-Order Optimization under Nonlinear Constraints [73.2273449996098]
  我々は、制約付き最適化のための一階アルゴリズムと非滑らかなシステムの間で、新しい一階アルゴリズムのクラスを設計する。 これらのアルゴリズムの重要な性質は、制約がスパース変数の代わりに速度で表されることである。
  論文  参考訳（メタデータ） (2023-02-01T08:50:48Z)
• Optimal Algorithms for Stochastic Complementary Composite Minimization [55.26935605535377]
  統計学と機械学習における正規化技術に触発され,補完的な複合化の最小化について検討した。 予測と高い確率で、新しい過剰なリスク境界を提供する。 我々のアルゴリズムはほぼ最適であり、このクラスの問題に対して、新しいより低い複雑性境界によって証明する。
  論文  参考訳（メタデータ） (2022-11-03T12:40:24Z)
• Softmax-free Linear Transformers [90.83157268265654]
  視覚変換器(ViT)は、視覚知覚タスクの最先端を推し進めている。 既存の手法は理論的に欠陥があるか、視覚認識に経験的に効果がないかのいずれかである。 我々はSoftmax-Free Transformers (SOFT) のファミリーを提案する。
  論文  参考訳（メタデータ） (2022-07-05T03:08:27Z)
• Low-rank Tensor Learning with Nonconvex Overlapped Nuclear Norm Regularization [44.54772242784423]
  低ランク学習行列に対する効率的な非正規化アルゴリズムを開発した。 提案アルゴリズムは、高価な折り畳み/折り畳み問題を回避することができる。 実験の結果,提案アルゴリズムは既存の状態よりも効率的で空間が広いことがわかった。
  論文  参考訳（メタデータ） (2022-05-06T07:47:10Z)
• Robust M-estimation-based Tensor Ring Completion: a Half-quadratic Minimization Approach [14.048989759890475]
  我々はM推定器を誤差統計量として用いるテンソル環完備化への頑健なアプローチを開発する。 truncatedの特異値分解と行列分解に基づくHQに基づく2つのアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-06-19T04:37:50Z)
• Robust Low-tubal-rank Tensor Completion based on Tensor Factorization and Maximum Correntopy Criterion [12.02023514105999]
  そこで我々は,コレントロピーを誤差尺度として用いて,外周効果を緩和する,低ツバルランクテンソル完備化のための新たな目的関数を提案する。 合成データと実データの両方を用いて,提案アルゴリズムの頑健かつ優れた性能を示す。
  論文  参考訳（メタデータ） (2020-10-22T13:56:55Z)
• A Scalable, Adaptive and Sound Nonconvex Regularizer for Low-rank Matrix Completion [60.52730146391456]
  そこで我々は,適応的かつ音質の高い"核フロベニウスノルム"と呼ばれる新しい非スケーラブルな低ランク正規化器を提案する。 特異値の計算をバイパスし、アルゴリズムによる高速な最適化を可能にする。 既存の行列学習手法では最速でありながら、最先端の回復性能が得られる。
  論文  参考訳（メタデータ） (2020-08-14T18:47:58Z)
• Enhanced nonconvex low-rank approximation of tensor multi-modes for tensor completion [1.3406858660972554]
  我々は、新しい低ランク近似テンソルマルチモード(LRATM)を提案する。 ブロックバウンド法に基づくアルゴリズムは,提案手法を効率的に解くために設計されている。 3種類の公開多次元データセットの数値計算結果から,本アルゴリズムは様々な低ランクテンソルを復元可能であることが示された。
  論文  参考訳（メタデータ） (2020-05-28T08:53:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。