論文の概要: Optimal High-order Tensor SVD via Tensor-Train Orthogonal Iteration

• arxiv url: http://arxiv.org/abs/2010.02482v2
• Date: Mon, 24 Jan 2022 21:45:44 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-10 08:11:27.920609
• Title: Optimal High-order Tensor SVD via Tensor-Train Orthogonal Iteration
• Title（参考訳）: テンソル-トレイン直交反復による高次テンソルSVD
• Authors: Yuchen Zhou and Anru R. Zhang and Lili Zheng and Yazhen Wang
• Abstract要約: 雑音の多い高次テンソル観測から低テンソルトレインのランク構造を推定する新しいアルゴリズムを提案する。 提案したTTOIの利点は、高次マルコフ過程の推定と次元削減への応用を通して説明される。
• 参考スコア（独自算出の注目度）: 10.034394572576922
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: This paper studies a general framework for high-order tensor SVD. We propose a new computationally efficient algorithm, tensor-train orthogonal iteration (TTOI), that aims to estimate the low tensor-train rank structure from the noisy high-order tensor observation. The proposed TTOI consists of initialization via TT-SVD (Oseledets, 2011) and new iterative backward/forward updates. We develop the general upper bound on estimation error for TTOI with the support of several new representation lemmas on tensor matricizations. By developing a matching information-theoretic lower bound, we also prove that TTOI achieves the minimax optimality under the spiked tensor model. The merits of the proposed TTOI are illustrated through applications to estimation and dimension reduction of high-order Markov processes, numerical studies, and a real data example on New York City taxi travel records. The software of the proposed algorithm is available online$^6$.
• Abstract（参考訳）: 本稿では,高階テンソルsvdの汎用フレームワークについて述べる。 雑音の多い高次テンソル観測から低テンソルトレインのランク構造を推定することを目的とした,新しい計算効率のアルゴリズムであるテンソルトレイン直交反復法(TTOI)を提案する。 提案されたTTOIは、TT-SVD (Oseledets, 2011) による初期化と、新しい反復的後方/前方更新で構成されている。 本稿では,ttoi に対する推定誤差の一般上限を開発し,テンソルモーリゼーションに関する新しい表現補題を複数提案する。 一致した情報理論の下界を開発することにより、TTOIがスパイクテンソルモデルの下で最小値最適性を達成することも証明する。 提案したTTOIの利点は、高次マルコフ過程の推定と次元削減、数値的研究、およびニューヨーク市のタクシー旅行記録の実データ例を通じて説明される。 提案アルゴリズムのソフトウェアは、オンライン$^6$で利用可能である。

関連論文リスト

• Estimating the Hessian Matrix of Ranking Objectives for Stochastic Learning to Rank with Gradient Boosted Trees [63.18324983384337]
  グラディエントブースト決定木(GBDT)のランク付け手法について紹介する。 我々の主な貢献は、二階微分、すなわちヘッセン行列に対する新しい推定器である。 推定器を既存のPL-Rankフレームワークに組み込む。
  論文  参考訳（メタデータ） (2024-04-18T13:53:32Z)
• A Novel Tensor Factorization-Based Method with Robustness to Inaccurate Rank Estimation [9.058215418134209]
  本稿では,2つの低ランク制約を持つテンソルノルムを提案する。 結果のテンソル完成モデルが不正確なランク推定による性能劣化を効果的に回避できることが理論的に証明されている。 これに基づいて、最適化アルゴリズムの各イテレーションの総コストは$mathcalO(n3log n + kn3)$から$mathcalO(n4)$に削減される。
  論文  参考訳（メタデータ） (2023-05-19T06:26:18Z)
• Truncated tensor Schatten p-norm based approach for spatiotemporal traffic data imputation with complicated missing patterns [77.34726150561087]
  本研究は, モード駆動繊維による3症例の欠失を含む, 4症例の欠失パターンについて紹介する。 本モデルでは, 目的関数の非性にもかかわらず, 乗算器の交互データ演算法を統合することにより, 最適解を導出する。
  論文  参考訳（メタデータ） (2022-05-19T08:37:56Z)
• Robust lEarned Shrinkage-Thresholding (REST): Robust unrolling for sparse recover [87.28082715343896]
  我々は、モデルミス特定を前進させるのに堅牢な逆問題を解決するためのディープニューラルネットワークについて検討する。 我々は,アルゴリズムの展開手法を根底にある回復問題のロバストバージョンに適用することにより,新しい堅牢なディープニューラルネットワークアーキテクチャを設計する。 提案したRESTネットワークは,圧縮センシングとレーダイメージングの両問題において,最先端のモデルベースおよびデータ駆動アルゴリズムを上回る性能を示す。
  論文  参考訳（メタデータ） (2021-10-20T06:15:45Z)
• Provable Tensor-Train Format Tensor Completion by Riemannian Optimization [22.166436026482984]
  TT形式テンソル完備化のためのRGradアルゴリズムの収束に関する最初の理論的保証を提供する。 また, 逐次2次モーメント法(Sequence second-order moment method)と呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2021-08-27T08:13:58Z)
• Spectral Tensor Train Parameterization of Deep Learning Layers [136.4761580842396]
  重み行列の低ランクパラメータ化をDeep Learningコンテキストに埋め込まれたスペクトル特性を用いて検討する。 分類設定におけるニューラルネットワーク圧縮の効果と,生成的対角トレーニング設定における圧縮および安定性トレーニングの改善について述べる。
  論文  参考訳（メタデータ） (2021-03-07T00:15:44Z)
• Multi-View Spectral Clustering Tailored Tensor Low-Rank Representation [105.33409035876691]
  本稿では,テンソル低ランクモデルに基づくマルチビュースペクトルクラスタリング(MVSC)の問題について検討する。 MVSCに適合する新しい構造テンソル低ランクノルムを設計する。 提案手法は最先端の手法よりもかなり優れていることを示す。
  論文  参考訳（メタデータ） (2020-04-30T11:52:12Z)
• Tensor train rank minimization with nonlocal self-similarity for tensor completion [27.727973182796678]
  テンソルトレイン(TT)のランクは、高次テンソルのグローバルな相関を捉える能力により、テンソルコンプリートにおいて注目されている。 3階の視覚データでは、TTランクの最小化は高階テンソルのTTランクの可能性を生かしていない。 視覚データにおける空間的・時間的・スペクトル的・非局所的冗長性を同時に探索することにより、テンソル完了のための非局所自己相似性を有するTTランク最小化を提案する。
  論文  参考訳（メタデータ） (2020-04-29T15:39:39Z)
• Tensor denoising and completion based on ordinal observations [11.193504036335503]
  我々は,不完全と思われる順序値の観測から,低ランクテンソル推定の問題を考える。 本稿では,マルチ線形累積リンクモデルを提案し,ランク制約付きM推定器を開発し,理論的精度の保証を得る。 提案した推定器は低ランクモデルのクラスにおいて最小限最適であることを示す。
  論文  参考訳（メタデータ） (2020-02-16T07:09:56Z)
• Supervised Learning for Non-Sequential Data: A Canonical Polyadic Decomposition Approach [85.12934750565971]
  特徴相互作用の効率的なモデリングは、非順序的タスクに対する教師あり学習の基盤となる。 この問題を緩和するため、モデルパラメータをテンソルとして暗黙的に表現することが提案されている。 表現性を向上するため,任意の高次元特徴ベクトルに特徴写像を適用できるようにフレームワークを一般化する。
  論文  参考訳（メタデータ） (2020-01-27T22:38:40Z)
• Optimal Sparse Singular Value Decomposition for High-dimensional High-order Data [4.987670632802288]
  空間構造を持つ高次元高次データの削減を目的としたスパーステンソル特異値分解について考察する。 Singular Value Decomposition (STAT-SVD) のためのSparse Alternating Thresholding という手法を提案する。 提案手法は,各反復におけるしきい値のシャープな基準を提供する新しい二重投射・しきい値設定方式を特徴とする。
  論文  参考訳（メタデータ） (2018-09-06T02:55:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。