論文の概要: Effective Streaming Low-tubal-rank Tensor Approximation via Frequent
Directions
- arxiv url: http://arxiv.org/abs/2108.10129v1
- Date: Mon, 23 Aug 2021 12:53:44 GMT
- ステータス: 処理完了
- システム内更新日: 2021-08-24 16:01:08.000562
- Title: Effective Streaming Low-tubal-rank Tensor Approximation via Frequent
Directions
- Title(参考訳): 周波数方向による効率的なストリーミング低調波テンソル近似
- Authors: Qianxin Yi, Chenhao Wang, Kaidong Wang, and Yao Wang
- Abstract要約: 本稿では,高速かつ高精度な低ツバルランクテンソル近似を構築するために,行列スケッチ技術である周波数方向( Frequent Directions)を拡張した。
具体的には、新しいアルゴリズムではテンソルデータをスライスごとにスライスすることができるが、より小さなスケッチをメンテナンスし、漸進的に更新するだけでよい。
厳密な理論解析により,スケッチサイズが線形に大きくなると,新しいアルゴリズムの近似誤差が任意に小さくなることを示した。
- 参考スコア(独自算出の注目度): 9.43704219585568
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Low-tubal-rank tensor approximation has been proposed to analyze large-scale
and multi-dimensional data. However, finding such an accurate approximation is
challenging in the streaming setting, due to the limited computational
resources. To alleviate this issue, this paper extends a popular matrix
sketching technique, namely Frequent Directions, for constructing an efficient
and accurate low-tubal-rank tensor approximation from streaming data based on
the tensor Singular Value Decomposition (t-SVD). Specifically, the new
algorithm allows the tensor data to be observed slice by slice, but only needs
to maintain and incrementally update a much smaller sketch which could capture
the principal information of the original tensor. The rigorous theoretical
analysis shows that the approximation error of the new algorithm can be
arbitrarily small when the sketch size grows linearly. Extensive experimental
results on both synthetic and real multi-dimensional data further reveal the
superiority of the proposed algorithm compared with other sketching algorithms
for getting low-tubal-rank approximation, in terms of both efficiency and
accuracy.
- Abstract(参考訳): 低指数テンソル近似は大規模多次元データの解析のために提案されている。
しかし、そのような正確な近似を見つけることは、限られた計算資源のため、ストリーミング環境では困難である。
本稿では,テンソルSingular Value Decomposition (t-SVD)に基づくストリーミングデータから,効率よく正確な低ツバルランクテンソル近似を構築するために,一般的な行列スケッチ手法である Frequent Directions を拡張した。
具体的には、新しいアルゴリズムではテンソルデータをスライスごとにスライスすることができるが、オリジナルのテンソルの主情報をキャプチャできるより小さなスケッチを維持および漸進的に更新するだけでよい。
厳密な理論解析により,スケッチサイズが線形に大きくなると,新しいアルゴリズムの近似誤差が任意に小さくなることを示した。
合成データと実多次元データの両方に対する広範な実験の結果は、効率と精度の両面で、他のスケッチアルゴリズムと比較してより優れていることが判明した。
関連論文リスト
- Low-rank extended Kalman filtering for online learning of neural
networks from streaming data [71.97861600347959]
非定常データストリームから非線形関数のパラメータを推定するための効率的なオンライン近似ベイズ推定アルゴリズムを提案する。
この方法は拡張カルマンフィルタ (EKF) に基づいているが、新しい低ランク+斜角行列分解法を用いている。
変分推論に基づく手法とは対照的に,本手法は完全に決定論的であり,ステップサイズチューニングを必要としない。
論文 参考訳(メタデータ) (2023-05-31T03:48:49Z) - Linearized Wasserstein dimensionality reduction with approximation
guarantees [65.16758672591365]
LOT Wassmap は、ワーッサーシュタイン空間の低次元構造を明らかにするための計算可能なアルゴリズムである。
我々は,LOT Wassmapが正しい埋め込みを実現し,サンプルサイズの増加とともに品質が向上することを示す。
また、LOT Wassmapがペア距離計算に依存するアルゴリズムと比較して計算コストを大幅に削減することを示す。
論文 参考訳(メタデータ) (2023-02-14T22:12:16Z) - Error Analysis of Tensor-Train Cross Approximation [88.83467216606778]
我々は, テンソル全体の精度保証を行う。
結果は数値実験により検証され、高次テンソルに対するクロス近似の有用性に重要な意味を持つ可能性がある。
論文 参考訳(メタデータ) (2022-07-09T19:33:59Z) - Fast and Provable Tensor Robust Principal Component Analysis via Scaled
Gradient Descent [30.299284742925852]
本稿では、テンソルロバスト主成分分析(RPCA)に取り組む。
希少な腐敗によって汚染された観測から低ランクのテンソルを回収することを目的としている。
提案アルゴリズムは, 最先端行列やテンソルRPCAアルゴリズムよりも, より優れた, よりスケーラブルな性能を実現する。
論文 参考訳(メタデータ) (2022-06-18T04:01:32Z) - Scaling and Scalability: Provable Nonconvex Low-Rank Tensor Estimation
from Incomplete Measurements [30.395874385570007]
基本的な課題は、高度に不完全な測定からテンソルを忠実に回収することである。
タッカー分解におけるテンソル因子を直接回復するアルゴリズムを開発した。
2つの正準問題に対する基底真理テンソルの線形独立率で確実に収束することを示す。
論文 参考訳(メタデータ) (2021-04-29T17:44:49Z) - Learning Optical Flow from a Few Matches [67.83633948984954]
密な相関体積表現は冗長であり、その中の要素のほんの一部で正確なフロー推定が達成できることを示した。
実験により,高い精度を維持しつつ計算コストとメモリ使用量を大幅に削減できることを示した。
論文 参考訳(メタデータ) (2021-04-05T21:44:00Z) - Single-Timescale Stochastic Nonconvex-Concave Optimization for Smooth
Nonlinear TD Learning [145.54544979467872]
本稿では,各ステップごとに1つのデータポイントしか必要としない2つの単一スケールシングルループアルゴリズムを提案する。
本研究の結果は, 同時一次および二重側収束の形で表される。
論文 参考訳(メタデータ) (2020-08-23T20:36:49Z) - Tensor Networks contraction and the Belief Propagation algorithm [0.0]
信念の伝播は、グラフィカルモデル上で動作するよく研究されたメッセージパッシングアルゴリズムである。
PEPSテンソルネットワークの世界にどのように適応できるかを示し、近似収縮スキームとして利用する。
論文 参考訳(メタデータ) (2020-08-10T22:03:25Z) - Path Sample-Analytic Gradient Estimators for Stochastic Binary Networks [78.76880041670904]
二進的アクティベーションや二進的重みを持つニューラルネットワークでは、勾配降下によるトレーニングは複雑である。
そこで本研究では,サンプリングと解析近似を併用した新しい推定法を提案する。
勾配推定において高い精度を示し、深部畳み込みモデルにおいてより安定かつ優れた訓練を行うことを示す。
論文 参考訳(メタデータ) (2020-06-04T21:51:21Z) - Enhanced nonconvex low-rank approximation of tensor multi-modes for
tensor completion [1.3406858660972554]
我々は、新しい低ランク近似テンソルマルチモード(LRATM)を提案する。
ブロックバウンド法に基づくアルゴリズムは,提案手法を効率的に解くために設計されている。
3種類の公開多次元データセットの数値計算結果から,本アルゴリズムは様々な低ランクテンソルを復元可能であることが示された。
論文 参考訳(メタデータ) (2020-05-28T08:53:54Z) - Efficient Alternating Least Squares Algorithms for Low Multilinear Rank
Approximation of Tensors [6.308492837096872]
テンソルの低次階数近似を効率的に計算するための最小二乗(ALS)に基づく新しいクラスHOSVDアルゴリズムを提案する。
ALSに基づくアプローチは、中間行列の特異ベクトルの冗長な計算を排除し、したがってデータの爆発をなくすことができる。
合成および実世界の双方の大規模テンソルを用いた数値実験により、ALSベースの手法が原材料全体のコストを大幅に削減し、並列計算に非常にスケーラブルであることを示す。
論文 参考訳(メタデータ) (2020-04-06T11:58:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。