論文の概要: Randomized Online CP Decomposition
- arxiv url: http://arxiv.org/abs/2007.10798v1
- Date: Tue, 21 Jul 2020 13:41:27 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-08 04:12:00.374882
- Title: Randomized Online CP Decomposition
- Title(参考訳): ランダム化オンラインCP分解
- Authors: Congbo Ma, Xiaowei Yang, Hu Wang
- Abstract要約: 本稿では,ランダム化オンラインCP分解(ROCP)と呼ばれる新しいCP分解アルゴリズムを提案する。
ROCPは完全なKhatri-Rao製品の形成を回避し、スピードを大幅に向上させ、メモリ使用量を減らす。
- 参考スコア(独自算出の注目度): 13.425121208828044
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: CANDECOMP/PARAFAC (CP) decomposition has been widely used to deal with
multi-way data. For real-time or large-scale tensors, based on the ideas of
randomized-sampling CP decomposition algorithm and online CP decomposition
algorithm, a novel CP decomposition algorithm called randomized online CP
decomposition (ROCP) is proposed in this paper. The proposed algorithm can
avoid forming full Khatri-Rao product, which leads to boost the speed largely
and reduce memory usage. The experimental results on synthetic data and
real-world data show the ROCP algorithm is able to cope with CP decomposition
for large-scale tensors with arbitrary number of dimensions. In addition, ROCP
can reduce the computing time and memory usage dramatically, especially for
large-scale tensors.
- Abstract(参考訳): CANDECOMP/PARAFAC(CP)分解は、マルチウェイデータを扱うために広く使われている。
本稿では,実時間および大規模テンソルに対してランダム化サンプリングcp分解アルゴリズムとオンラインcp分解アルゴリズムのアイデアに基づき,ランダム化オンラインcp分解(rocp)と呼ばれる新しいcp分解アルゴリズムを提案する。
提案手法は,完全なkhatri-rao製品の生成を回避し,高速化とメモリ使用量の削減に寄与する。
合成データと実世界のデータを用いた実験の結果,rocpアルゴリズムは任意の次元の大規模テンソルのcp分解に対処できることがわかった。
さらに、rocpは計算時間とメモリ使用量、特に大規模テンソルを劇的に削減することができる。
関連論文リスト
- A Mirror Descent-Based Algorithm for Corruption-Tolerant Distributed Gradient Descent [57.64826450787237]
本研究では, 分散勾配降下アルゴリズムの挙動を, 敵対的腐敗の有無で解析する方法を示す。
汚職耐性の分散最適化アルゴリズムを設計するために、(怠慢な)ミラー降下からアイデアをどう使うかを示す。
MNISTデータセットの線形回帰、サポートベクトル分類、ソフトマックス分類に基づく実験は、我々の理論的知見を裏付けるものである。
論文 参考訳(メタデータ) (2024-07-19T08:29:12Z) - Oblivious subspace embeddings for compressed Tucker decompositions [8.349583867022204]
この研究は、タッカー分解の推定に対する一般的なジョンソン・リンデンシュトラウス型保証を確立する。
適度に大きな顔画像とfMRIのニューロイメージングデータセットでは、実験結果から、かなりの次元の縮小が可能であることが示されている。
論文 参考訳(メタデータ) (2024-06-13T17:58:32Z) - Randomized Polar Codes for Anytime Distributed Machine Learning [66.46612460837147]
本稿では,低速な計算ノードに対して堅牢で,線形演算の近似計算と精度の両立が可能な分散コンピューティングフレームワークを提案する。
本稿では,復号化のための計算複雑性を低く保ちながら,実数値データを扱うための逐次復号アルゴリズムを提案する。
大規模行列乗算やブラックボックス最適化など,様々な文脈において,このフレームワークの潜在的な応用を実証する。
論文 参考訳(メタデータ) (2023-09-01T18:02:04Z) - Efficient Dataset Distillation Using Random Feature Approximation [109.07737733329019]
本稿では,ニューラルネットワークガウス過程(NNGP)カーネルのランダム特徴近似(RFA)を用いた新しいアルゴリズムを提案する。
我々のアルゴリズムは、KIP上で少なくとも100倍のスピードアップを提供し、1つのGPUで実行できる。
RFA蒸留 (RFAD) と呼ばれる本手法は, 大規模データセットの精度において, KIP や他のデータセット凝縮アルゴリズムと競合して動作する。
論文 参考訳(メタデータ) (2022-10-21T15:56:13Z) - Scaling Structured Inference with Randomization [64.18063627155128]
本稿では、構造化されたモデルを数万の潜在状態に拡張するためにランダム化された動的プログラミング(RDP)のファミリを提案する。
我々の手法は古典的DPベースの推論に広く適用できる。
また、自動微分とも互換性があり、ニューラルネットワークとシームレスに統合できる。
論文 参考訳(メタデータ) (2021-12-07T11:26:41Z) - SreaMRAK a Streaming Multi-Resolution Adaptive Kernel Algorithm [60.61943386819384]
既存のKRRの実装では、すべてのデータがメインメモリに格納される必要がある。
KRRのストリーミング版であるStreaMRAKを提案する。
本稿では,2つの合成問題と2重振り子の軌道予測について紹介する。
論文 参考訳(メタデータ) (2021-08-23T21:03:09Z) - Tensor Principal Component Analysis in High Dimensional CP Models [3.553493344868413]
軽度不整合条件下での理論的保証を考慮したテンソルCP分解のための新しいアルゴリズムを提案する。
複合PCAは、主成分又は特異値分解を2回施し、まずテンソルデータの展開行列に施して特異ベクトルを得る。
提案手法は, 既存の手法に比べて, 提案手法の実用的優位性を示すものである。
論文 参考訳(メタデータ) (2021-08-10T03:24:32Z) - A Coupled Random Projection Approach to Large-Scale Canonical Polyadic
Decomposition [11.325830583924803]
大規模テンソルの正準多進分解(CPD)計算のための新しいアルゴリズムを提案する。
提案アルゴリズムは乱射影法(RAP)を一般化し,大規模分解の計算によく用いられる。
論文 参考訳(メタデータ) (2021-05-10T03:00:50Z) - Fast and Accurate Randomized Algorithms for Low-rank Tensor
Decompositions [1.8356693937139124]
低ランクタッカーとcpテンソル分解は、データ分析の強力なツールである。
タッカー分解のための高速かつ正確なスケッチALSアルゴリズムを提案する。
さらに、ランダム化されたタッカー圧縮と、タッカーコアテンソルのCP分解を用いて、CP分解を加速するためにも用いられる。
論文 参考訳(メタデータ) (2021-04-02T15:55:02Z) - Kronecker CP Decomposition with Fast Multiplication for Compressing RNNs [11.01184134911405]
リカレントニューラルネットワーク(RNN)は、自然言語処理やビデオ認識などのシーケンシャルデータに指向するタスクにおいて強力である。
本稿では,Kronecker CANDECOMP/PARAFAC(KCP)分解に基づく圧縮RNNについて考察する。
論文 参考訳(メタデータ) (2020-08-21T07:29:45Z) - Accelerated Message Passing for Entropy-Regularized MAP Inference [89.15658822319928]
離散値のランダムフィールドにおけるMAP推論の最大化は、機械学習の基本的な問題である。
この問題の難しさから、特殊メッセージパッシングアルゴリズムの導出には線形プログラミング(LP)緩和が一般的である。
古典的加速勾配の根底にある手法を活用することにより,これらのアルゴリズムを高速化するランダム化手法を提案する。
論文 参考訳(メタデータ) (2020-07-01T18:43:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。