論文の概要: Efficient Nonnegative Tensor Factorization via Saturating Coordinate
Descent
- arxiv url: http://arxiv.org/abs/2003.03572v1
- Date: Sat, 7 Mar 2020 12:51:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-25 19:30:46.628288
- Title: Efficient Nonnegative Tensor Factorization via Saturating Coordinate
Descent
- Title(参考訳): Saturating Coordinate Descent による非負性テンソル因子の高効率化
- Authors: Thirunavukarasu Balasubramaniam, Richi Nayak, Chau Yuen
- Abstract要約: 本稿では,要素選択手法を用いた高速かつ効率的なNTFアルゴリズムを提案する。
経験的解析により,提案アルゴリズムはテンソルサイズ,密度,ランクの点でスケーラブルであることがわかった。
- 参考スコア(独自算出の注目度): 16.466065626950424
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the advancements in computing technology and web-based applications,
data is increasingly generated in multi-dimensional form. This data is usually
sparse due to the presence of a large number of users and fewer user
interactions. To deal with this, the Nonnegative Tensor Factorization (NTF)
based methods have been widely used. However existing factorization algorithms
are not suitable to process in all three conditions of size, density, and rank
of the tensor. Consequently, their applicability becomes limited. In this
paper, we propose a novel fast and efficient NTF algorithm using the element
selection approach. We calculate the element importance using Lipschitz
continuity and propose a saturation point based element selection method that
chooses a set of elements column-wise for updating to solve the optimization
problem. Empirical analysis reveals that the proposed algorithm is scalable in
terms of tensor size, density, and rank in comparison to the relevant
state-of-the-art algorithms.
- Abstract(参考訳): コンピューティング技術とWebベースのアプリケーションの進歩により、データは多次元形式でますます生成される。
このデータは、多くのユーザの存在と少ないユーザインタラクションのため、通常は疎結合である。
これに対応するために、NTF(Non negative Tensor Factorization)ベースの手法が広く用いられている。
しかし、既存の分解アルゴリズムはテンソルのサイズ、密度、ランクの3つの条件すべてにおいて処理に適していない。
その結果、適用性は制限される。
本稿では,要素選択手法を用いた高速かつ効率的なNTFアルゴリズムを提案する。
リプシッツ連続性を用いて要素重要度を計算し、最適化問題を解くために一組の要素を選択する飽和点に基づく要素選択法を提案する。
経験的解析により,提案アルゴリズムは,関連する最先端アルゴリズムと比較して,テンソルサイズ,密度,ランクの点でスケーラブルであることがわかった。
関連論文リスト
- Approximating Metric Magnitude of Point Sets [4.522729058300309]
計量等級は、多くの望ましい幾何学的性質を持つ点雲の「大きさ」の尺度である。
様々な数学的文脈に適応しており、最近の研究は機械学習と最適化アルゴリズムを強化することを示唆している。
本稿では, 等級問題について検討し, 効率よく近似する方法を示し, 凸最適化問題として扱うことができるが, 部分モジュラ最適化としては適用できないことを示す。
本稿では,高速に収束し精度の高い反復近似アルゴリズムと,計算をより高速に行うサブセット選択法という,2つの新しいアルゴリズムについて述べる。
論文 参考訳(メタデータ) (2024-09-06T17:15:28Z) - Accelerating Cutting-Plane Algorithms via Reinforcement Learning
Surrogates [49.84541884653309]
凸離散最適化問題に対する現在の標準的なアプローチは、カットプレーンアルゴリズムを使うことである。
多くの汎用カット生成アルゴリズムが存在するにもかかわらず、大規模な離散最適化問題は、難易度に悩まされ続けている。
そこで本研究では,強化学習による切削平面アルゴリズムの高速化手法を提案する。
論文 参考訳(メタデータ) (2023-07-17T20:11:56Z) - Efficient distributed representations with linear-time attention scores normalization [3.8673630752805437]
本研究では,有界ノルムを持つ埋め込みベクトルに対するアテンションスコア正規化定数の線形時間近似を提案する。
推定公式の精度は、競合するカーネルメソッドを桁違いに上回る。
提案アルゴリズムは高度に解釈可能であり,任意の埋め込み問題に容易に適応できる。
論文 参考訳(メタデータ) (2023-03-30T15:48:26Z) - Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods [75.34939761152587]
2つの分布間の最適な輸送距離の効率的な計算は、様々な応用を促進するアルゴリズムとして機能する。
本稿では,$varepsilon$加法精度で最適な輸送を計算できるスケーラブルな一階最適化法を提案する。
論文 参考訳(メタデータ) (2023-01-30T15:46:39Z) - Fuzzy Clustering by Hyperbolic Smoothing [0.0]
本研究では,スムーズな数値手法を用いて,大規模データセットのファジィクラスタを構築する手法を提案する。
この平滑化により、強微分不可能な問題から低次元の制約を伴わずに、最適化の微分可能部分確率に変換することができる。
論文 参考訳(メタデータ) (2022-07-09T12:40:46Z) - Alternating Mahalanobis Distance Minimization for Stable and Accurate CP
Decomposition [4.847980206213335]
本稿では, テンソルの特異値とベクトルを導出するための新しい定式化を導入する。
このアルゴリズムのサブスウィープは、既知のランクの正確なCPDに対して超線形収束率を達成することができることを示す。
すると、アルゴリズムは各因子に対するマハラノビス距離を最適化するものであり、基底距離は他の因子に依存していると見なす。
論文 参考訳(メタデータ) (2022-04-14T19:56:36Z) - Estimating leverage scores via rank revealing methods and randomization [50.591267188664666]
任意のランクの正方形密度あるいはスパース行列の統計レバレッジスコアを推定するアルゴリズムについて検討した。
提案手法は,高密度およびスパースなランダム化次元性還元変換の合成と階調明細化法を組み合わせることに基づく。
論文 参考訳(メタデータ) (2021-05-23T19:21:55Z) - Learned Block Iterative Shrinkage Thresholding Algorithm for
Photothermal Super Resolution Imaging [52.42007686600479]
深層ニューラルネットワークに展開する反復アルゴリズムを用いて,学習したブロックスパース最適化手法を提案する。
本稿では、正規化パラメータの選択を学ぶことができる学習ブロック反復収縮しきい値アルゴリズムを使用することの利点を示す。
論文 参考訳(メタデータ) (2020-12-07T09:27:16Z) - Columnwise Element Selection for Computationally Efficient Nonnegative
Coupled Matrix Tensor Factorization [16.466065626950424]
非負のCMTF (N-CMTF) は、潜在パターン、予測、レコメンデーションを識別するための多くのアプリケーションで使われている。
本稿では,カラム単位の要素選択に基づいて計算効率の良いN-CMTF分解アルゴリズムを提案し,頻繁な勾配更新を防止する。
論文 参考訳(メタデータ) (2020-03-07T03:34:53Z) - Optimal Randomized First-Order Methods for Least-Squares Problems [56.05635751529922]
このアルゴリズムのクラスは、最小二乗問題に対する最も高速な解法のうち、いくつかのランダム化手法を含んでいる。
我々は2つの古典的埋め込み、すなわちガウス射影とアダマール変換のサブサンプリングに焦点を当てる。
得られたアルゴリズムは条件数に依存しない最小二乗問題の解法として最も複雑である。
論文 参考訳(メタデータ) (2020-02-21T17:45:32Z) - Differentiable Top-k Operator with Optimal Transport [135.36099648554054]
SOFTトップk演算子は、エントロピック最適輸送(EOT)問題の解として、トップk演算の出力を近似する。
提案した演算子をk-アネレスト近傍およびビーム探索アルゴリズムに適用し,性能向上を示す。
論文 参考訳(メタデータ) (2020-02-16T04:57:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。