論文の概要: Accelerating Block Coordinate Descent for Nonnegative Tensor
Factorization
- arxiv url: http://arxiv.org/abs/2001.04321v2
- Date: Fri, 20 Nov 2020 11:54:54 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-11 22:56:22.335263
- Title: Accelerating Block Coordinate Descent for Nonnegative Tensor
Factorization
- Title(参考訳): 非負のテンソル因子化のためのブロック座標の高速化
- Authors: Andersen Man Shun Ang, Jeremy E. Cohen, Nicolas Gillis, Le Thi Khanh
Hien
- Abstract要約: 本稿では, 近似非負因数分解 (NTF) のためのブロック降下アルゴリズムの実証収束速度の改善について検討する。
ブロック更新と再起動(HER)の間における補間戦略を提案する。
HERは、高密度NTFのための既存のブロックコーディネートアルゴリズムの実証的な収束速度を著しく加速する。
- 参考スコア(独自算出の注目度): 22.2289974576617
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper is concerned with improving the empirical convergence speed of
block-coordinate descent algorithms for approximate nonnegative tensor
factorization (NTF). We propose an extrapolation strategy in-between block
updates, referred to as heuristic extrapolation with restarts (HER). HER
significantly accelerates the empirical convergence speed of most existing
block-coordinate algorithms for dense NTF, in particular for challenging
computational scenarios, while requiring a negligible additional computational
budget.
- Abstract(参考訳): 本稿では、近似非負のテンソル因子化(NTF)のためのブロック座標降下アルゴリズムの経験的収束速度の改善について検討する。
ブロック更新間の外挿戦略を,ヒューリスティック外挿法(heuristic extrapolation with restarts,her)と呼ぶ。
HERは、高密度NTFのための既存のブロックコーディネートアルゴリズムの実験的収束速度を著しく加速し、特に計算シナリオの難しさに対して、無視できない計算予算を必要とする。
関連論文リスト
- Accelerated First-Order Optimization under Nonlinear Constraints [73.2273449996098]
我々は、制約付き最適化のための一階アルゴリズムと非滑らかなシステムの間で、新しい一階アルゴリズムのクラスを設計する。
これらのアルゴリズムの重要な性質は、制約がスパース変数の代わりに速度で表されることである。
論文 参考訳(メタデータ) (2023-02-01T08:50:48Z) - Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods [75.34939761152587]
2つの分布間の最適な輸送距離の効率的な計算は、様々な応用を促進するアルゴリズムとして機能する。
本稿では,$varepsilon$加法精度で最適な輸送を計算できるスケーラブルな一階最適化法を提案する。
論文 参考訳(メタデータ) (2023-01-30T15:46:39Z) - Distributed stochastic optimization with large delays [59.95552973784946]
大規模最適化問題を解決する最も広く使われている手法の1つは、分散非同期勾配勾配(DASGD)である。
DASGDは同じ遅延仮定の下で大域的最適実装モデルに収束することを示す。
論文 参考訳(メタデータ) (2021-07-06T21:59:49Z) - New Riemannian preconditioned algorithms for tensor completion via
polyadic decomposition [10.620193291237262]
これらのアルゴリズムは、ポリアジック分解形態におけるローランクテンソルの因子行列の積空間上の非ユークリッド計量を利用する。
提案された勾配降下アルゴリズムがテンソル完備問題の定常点にグローバルに収束することを証明する。
合成データと実世界のデータの数値計算結果から,提案アルゴリズムは最先端アルゴリズムよりもメモリと時間において効率的であることが示唆された。
論文 参考訳(メタデータ) (2021-01-26T22:11:06Z) - Fast Convergence Algorithm for Analog Federated Learning [30.399830943617772]
無線チャネル上での効率的なアナログフェデレーション学習のためのAirCompベースのFedSplitアルゴリズムを提案する。
提案アルゴリズムは, 目的関数が強く凸かつ滑らかであるという仮定の下で, 最適解に線形収束することを示す。
我々のアルゴリズムは、他のベンチマークFLアルゴリズムと比較して、より高速な収束を伴う不条件問題に対して、より堅牢であることが理論的および実験的に検証されている。
論文 参考訳(メタデータ) (2020-10-30T10:59:49Z) - An Accelerated DFO Algorithm for Finite-sum Convex Functions [0.0]
デリバティブフリーの最適化(DFO)は最近、機械学習において大きな勢いを増している。
本稿では、有限サム目的関数を用いて、アクセス可能なDFOアルゴリズムを設計する。
論文 参考訳(メタデータ) (2020-07-07T09:57:31Z) - Accelerated Message Passing for Entropy-Regularized MAP Inference [89.15658822319928]
離散値のランダムフィールドにおけるMAP推論の最大化は、機械学習の基本的な問題である。
この問題の難しさから、特殊メッセージパッシングアルゴリズムの導出には線形プログラミング(LP)緩和が一般的である。
古典的加速勾配の根底にある手法を活用することにより,これらのアルゴリズムを高速化するランダム化手法を提案する。
論文 参考訳(メタデータ) (2020-07-01T18:43:32Z) - IDEAL: Inexact DEcentralized Accelerated Augmented Lagrangian Method [64.15649345392822]
本稿では,局所関数が滑らかで凸な分散最適化環境下での原始的手法設計のためのフレームワークを提案する。
提案手法は,加速ラグランジアン法により誘導されるサブプロブレム列を概ね解いたものである。
加速度勾配降下と組み合わせることで,収束速度が最適で,最近導出された下界と一致した新しい原始アルゴリズムが得られる。
論文 参考訳(メタデータ) (2020-06-11T18:49:06Z) - Age-Based Coded Computation for Bias Reduction in Distributed Learning [57.9123881133818]
コード計算は、分散学習の高速化に使用することができる。
勾配ベクトルの部分回復は、各反復時の計算時間をさらに短縮することができる。
重なり合う行動が時間とともに相関すると、推定バイアスが特に顕著になる。
論文 参考訳(メタデータ) (2020-06-02T17:51:11Z) - Efficient Nonnegative Tensor Factorization via Saturating Coordinate
Descent [16.466065626950424]
本稿では,要素選択手法を用いた高速かつ効率的なNTFアルゴリズムを提案する。
経験的解析により,提案アルゴリズムはテンソルサイズ,密度,ランクの点でスケーラブルであることがわかった。
論文 参考訳(メタデータ) (2020-03-07T12:51:52Z) - Columnwise Element Selection for Computationally Efficient Nonnegative
Coupled Matrix Tensor Factorization [16.466065626950424]
非負のCMTF (N-CMTF) は、潜在パターン、予測、レコメンデーションを識別するための多くのアプリケーションで使われている。
本稿では,カラム単位の要素選択に基づいて計算効率の良いN-CMTF分解アルゴリズムを提案し,頻繁な勾配更新を防止する。
論文 参考訳(メタデータ) (2020-03-07T03:34:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。