論文の概要: LRSVRG-IMC: An SVRG-Based Algorithm for LowRank Inductive Matrix Completion

• arxiv url: http://arxiv.org/abs/2201.08516v1
• Date: Fri, 21 Jan 2022 02:39:00 GMT
• ステータス: 処理完了
• システム内更新日: 2022-01-24 20:03:41.387099
• Title: LRSVRG-IMC: An SVRG-Based Algorithm for LowRank Inductive Matrix Completion
• Title（参考訳）: LRSVRG-IMC:低ランク誘導行列補完のためのSVRGに基づくアルゴリズム
• Authors: Shangrong Yu, Yuxin Chen and Hejun Wu
• Abstract要約: LRSVRG-IMCは様々な低ランク・スパース条件下でサドル点から脱出できることを示す。 また, LRSVRG-IMC は, ほぼ最適試料であることも証明した。
• 参考スコア（独自算出の注目度）: 12.37980775538515
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Low-rank inductive matrix completion (IMC) is currently widely used in IoT data completion, recommendation systems, and so on, as the side information in IMC has demonstrated great potential in reducing sample point remains a major obstacle for the convergence of the nonconvex solutions to IMC. What's more, carefully choosing the initial solution alone does not usually help remove the saddle points. To address this problem, we propose a stocastic variance reduction gradient-based algorithm called LRSVRG-IMC. LRSVRG-IMC can escape from the saddle points under various low-rank and sparse conditions with a properly chosen initial input. We also prove that LRSVVRG-IMC achieves both a linear convergence rate and a near-optimal sample complexity. The superiority and applicability of LRSVRG-IMC are verified via experiments on synthetic datasets.
• Abstract（参考訳）: IMCのサイド情報は、サンプルポイントを減らす大きな可能性を示しており、非凸ソリューションのIMCへの収束の大きな障害となっている。 さらに、初期ソリューションのみを慎重に選択することは、通常、サドルポイントを取り除くのに役立ちません。 この問題に対処するために,LRSVRG-IMCと呼ばれる確率的分散低減勾配に基づくアルゴリズムを提案する。 LRSVRG-IMCは、適切に選択された初期入力により、様々な低ランクおよびスパース条件下でサドルポイントから脱出することができる。 また、LRSVVRG-IMCは、線形収束率とほぼ最適サンプル複雑さの両方を達成することを証明した。 LRSVRG-IMCの優位性と適用性は,合成データセットを用いて検証した。

関連論文リスト

• Convergence of Implicit Gradient Descent for Training Two-Layer Physics-Informed Neural Networks [3.680127959836384]
  暗黙の勾配降下(IGD)は、ある種のマルチスケール問題を扱う場合、共通勾配降下(GD)よりも優れる。 IGDは線形収束速度で大域的に最適解を収束することを示す。
  論文  参考訳（メタデータ） (2024-07-03T06:10:41Z)
• Minimally Supervised Learning using Topological Projections in Self-Organizing Maps [55.31182147885694]
  自己組織化マップ(SOM)におけるトポロジカルプロジェクションに基づく半教師付き学習手法を提案する。 提案手法は,まずラベル付きデータ上でSOMを訓練し,最小限のラベル付きデータポイントをキーベストマッチングユニット(BMU)に割り当てる。 提案した最小教師付きモデルが従来の回帰手法を大幅に上回ることを示す。
  論文  参考訳（メタデータ） (2024-01-12T22:51:48Z)
• An inexact LPA for DC composite optimization and application to matrix completions with outliers [5.746154410100363]
  本稿では,複合最適化問題のクラスについて述べる。 合成構造を利用することで、ポテンシャル関数が反復列において1/2$のKL特性を持つ条件を与える。
  論文  参考訳（メタデータ） (2023-03-29T16:15:34Z)
• On the Global Solution of Soft k-Means [159.23423824953412]
  本稿では,ソフトk-平均問題の解法を全世界で提案する。 ミニマルボリュームソフトkMeans (MVSkM) と呼ばれる新しいモデルを提案する。
  論文  参考訳（メタデータ） (2022-12-07T12:06:55Z)
• Tackling Data Heterogeneity: A New Unified Framework for Decentralized SGD with Sample-induced Topology [6.6682038218782065]
  我々は,経験的リスク最小化問題に対して,勾配に基づく最適化手法を統一する汎用フレームワークを開発した。 本稿では,SAGA,Local-SVRG,GT-SAGAなどの分散還元(VR)および勾配追跡(GT)手法の統一的な視点を提供する。 その結果、VRとGTの手法は、それぞれデバイス内およびデバイス間のデータを効果的に排除し、アルゴリズムを最適解に正確に収束させることができることがわかった。
  論文  参考訳（メタデータ） (2022-07-08T07:50:08Z)
• Faster One-Sample Stochastic Conditional Gradient Method for Composite Convex Minimization [61.26619639722804]
  滑らかで非滑らかな項の和として形成される凸有限サム目標を最小化するための条件勾配法(CGM)を提案する。 提案手法は, 平均勾配 (SAG) 推定器を備え, 1回に1回のサンプルしか必要としないが, より高度な分散低減技術と同等の高速収束速度を保証できる。
  論文  参考訳（メタデータ） (2022-02-26T19:10:48Z)
• Differentiable Annealed Importance Sampling and the Perils of Gradient Noise [68.44523807580438]
  Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。 差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。 我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
  論文  参考訳（メタデータ） (2021-07-21T17:10:14Z)
• Federated Deep AUC Maximization for Heterogeneous Data with a Constant Communication Complexity [77.78624443410216]
  異種胸部データ検出のための改良型FDAMアルゴリズムを提案する。 本研究は,提案アルゴリズムの通信が機械数に強く依存し,精度レベルにも強く依存していることを示す。 FDAMアルゴリズムのベンチマークデータセットと、異なる組織の医療用胸部X線画像に対する効果を実験により実証した。
  論文  参考訳（メタデータ） (2021-02-09T04:05:19Z)
• Information Directed Sampling for Linear Partial Monitoring [112.05623123909895]
  線形報酬と観測構造を持つ部分的監視のための情報指向サンプリング(IDS)を導入する。 IDSは、ゲームの正確な可観測性条件に依存する適応的な最悪の後悔率を達成する。 結果がコンテキストおよびカーネル化設定にまで拡張され、アプリケーションの範囲が大幅に増加する。
  論文  参考訳（メタデータ） (2020-02-25T21:30:56Z)
• An Optimal Multistage Stochastic Gradient Method for Minimax Problems [8.615625517708324]
  滑らかかつ強凸な凹凸配置におけるミニマックス最適化問題について検討する。 まず, 定常ステップサイズでグラディエントDescent Ascent (GDA) 法を解析した。 本稿では,学習速度の減衰スケジュールを多段階に設定した多段階型GDAを提案する。
  論文  参考訳（メタデータ） (2020-02-13T18:01:18Z)
• On the Convergence of Stochastic Gradient Descent with Low-Rank Projections for Convex Low-Rank Matrix Problems [19.24470467199451]
  本研究では, 凸緩和に有効な凸最適化問題の解法として, SGD (Gradient Descent) の利用を再検討する。 我々は,SGDが低ランク行列回復問題の大規模凸緩和に実際に適用可能であることを示した。
  論文  参考訳（メタデータ） (2020-01-31T06:00:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。