論文の概要: Convexity in Disguise: A Theoretical Framework for Nonconvex Low-Rank Matrix Estimation

• arxiv url: http://arxiv.org/abs/2605.05446v1
• Date: Wed, 06 May 2026 21:18:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-08 22:27:11.418471
• Title: Convexity in Disguise: A Theoretical Framework for Nonconvex Low-Rank Matrix Estimation
• Title（参考訳）: 分散における凸性:非凸低ランク行列推定のための理論的枠組み
• Abstract要約: 非手順は低ランク行列推定における支配的なアプローチとして現れている。 低ランク行列推定問題のクラスにまたがる非手順の理論的枠組みを開発する。
• 参考スコア（独自算出の注目度）: 2.871875172569441
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Nonconvex methods have emerged as a dominant approach for low-rank matrix estimation, a problem that arises widely in machine learning and AI for learning and representing high-dimensional data. Existing analyses for these methods often require additional regularization to mitigate nonconvexity, even though such regularization is often unnecessary in practice. Moreover, most analyses rely on problem-specific arguments that are difficult to generalize to more complex settings. In this paper, we develop a theoretical framework for studying nonconvex procedures across a broad class of low-rank matrix estimation problems. Rather than focusing on a specific model, we reveal a fundamental mechanism that explains why nonconvex procedures can behave well in low-rank estimation. Our key device is a {\it benign regularizer} that does not alter the original update rule, but yields an equivalent locally strongly convex formulation of the algorithm. This perspective uncovers a disguised convexity inherent in the nonconvex procedure and provides a new route to theoretical guarantees for nonconvex low-rank matrix estimation.
• Abstract（参考訳）: 非凸法は低ランク行列推定において支配的なアプローチとして現れており、これは機械学習や高次元データの学習と表現のためのAIで広く発生する問題である。 これらの手法の既存の解析は、実際にはそのような正規化が不要であるにもかかわらず、非凸性を軽減するために追加の正規化を必要とすることが多い。 さらに、ほとんどの分析はより複雑な設定への一般化が難しい問題固有の議論に依存している。 本稿では,低ランク行列推定問題の幅広いクラスにまたがる非凸過程を研究するための理論的枠組みを開発する。 特定のモデルに焦点をあてるのではなく、低ランク推定において非凸手順がうまく動作する理由を説明する基本的なメカニズムを明らかにする。 我々の鍵となる装置は、元の更新規則を変更するのではなく、アルゴリズムの局所的に強い凸の定式化をもたらすような {\it benign regularizer} である。 この観点は、非凸過程に固有の擬似凸性を明らかにし、非凸低ランク行列推定の理論的保証のための新しい経路を提供する。

関連論文リスト

• The Hidden Cost of Approximation in Online Mirror Descent [56.99972253009168]
  オンラインミラー降下(OMD)は、最適化、機械学習、シーケンシャルな意思決定において多くのアルゴリズムの基盤となる基本的なアルゴリズムパラダイムである。 本研究では,不正確なOMDに関する系統的研究を開始し,正規化器の滑らかさと近似誤差に対する頑健さとの複雑な関係を明らかにする。
  論文  参考訳（メタデータ） (2025-11-27T10:09:07Z)
• Computational Efficient and Minimax Optimal Nonignorable Matrix Completion [2.2306682526405868]
  一般化された非無視的欠落機構に対して,核ノルム正規化行および列ワイズ行列U統計損失関数を提案する。 提案手法は,既存手法に匹敵する計算効率を実現する。
  論文  参考訳（メタデータ） (2025-04-05T01:41:53Z)
• Error Feedback under $(L_0,L_1)$-Smoothness: Normalization and Momentum [56.37522020675243]
  機械学習の幅広い問題にまたがる正規化誤差フィードバックアルゴリズムに対する収束の最初の証明を提供する。 提案手法では,許容可能なステップサイズが大きくなったため,新しい正規化エラーフィードバックアルゴリズムは,各種タスクにおける非正規化エラーよりも優れていた。
  論文  参考訳（メタデータ） (2024-10-22T10:19:27Z)
• Extended convexity and smoothness and their applications in deep learning [5.281849820329249]
  本稿では,ディープラーニングにおける非滑らかな最適化のメカニズムを明らかにすることを目的とする。 解析の結果、勾配降下法(SGD)アルゴリズムは経験的リスクを効果的に最小化できることが示された。
  論文  参考訳（メタデータ） (2024-10-08T08:40:07Z)
• Can Decentralized Stochastic Minimax Optimization Algorithms Converge Linearly for Finite-Sum Nonconvex-Nonconcave Problems? [56.62372517641597]
  分散化されたミニマックス最適化は、幅広い機械学習に応用されているため、ここ数年で活発に研究されている。 本稿では,非コンカブ問題に対する2つの新しい分散化ミニマックス最適化アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-04-24T02:19:39Z)
• Provable Low Rank Plus Sparse Matrix Separation Via Nonconvex Regularizers [0.0]
  本稿では,低ランク行列やスパースベクトルをある種の測定値から回収しようとする大問題について考察する。 凸偏差推定器に基づく手法は、ランクや空間の偏りに悩まされているが、非正則化器を用いる。 本稿では,このような問題に適用した近似交互バイアス降下アルゴリズムの新たな解析法を提案する。
  論文  参考訳（メタデータ） (2021-09-26T22:09:42Z)
• Recent Theoretical Advances in Non-Convex Optimization [56.88981258425256]
  近年、深層ネットワークにおける非最適化アルゴリズムの解析やデータ問題への関心が高まっており、非最適化のための理論的最適化アルゴリズムの最近の結果の概要を概説する。
  論文  参考訳（メタデータ） (2020-12-11T08:28:51Z)
• Learning Fast Approximations of Sparse Nonlinear Regression [50.00693981886832]
  本研究では,Threshold Learned Iterative Shrinkage Algorithming (NLISTA)を導入することでギャップを埋める。 合成データを用いた実験は理論結果と相関し,その手法が最先端の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2020-10-26T11:31:08Z)
• A Scalable, Adaptive and Sound Nonconvex Regularizer for Low-rank Matrix Completion [60.52730146391456]
  そこで我々は,適応的かつ音質の高い"核フロベニウスノルム"と呼ばれる新しい非スケーラブルな低ランク正規化器を提案する。 特異値の計算をバイパスし、アルゴリズムによる高速な最適化を可能にする。 既存の行列学習手法では最速でありながら、最先端の回復性能が得られる。
  論文  参考訳（メタデータ） (2020-08-14T18:47:58Z)
• An Analysis of Regularized Approaches for Constrained Machine Learning [17.300144121921882]
  機械学習(ML)に制約を注入する正規化ベースのアプローチを導入し、専門家の知識を通じて予測モデルを改善する。 我々は,学習者の精度と正規化制約との間の適切なバランスを求める問題に取り組む。
  論文  参考訳（メタデータ） (2020-05-20T15:16:26Z)
• On Distributed Non-convex Optimization: Projected Subgradient Method For Weakly Convex Problems in Networks [13.385373310554327]
  Moreau subgradient 法は、機械学習における線形シャープネス問題を収束させる。 理論的保証を伴う下位段階法の分散実装を提案する。
  論文  参考訳（メタデータ） (2020-04-28T01:01:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。