論文の概要: Improving the Optimization Landscape of Matrix Completion with $ε$-close Surrogates
- arxiv url: http://arxiv.org/abs/2610.41455v1
- Date: Fri, 30 Oct 2026 08:58:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.667571
- Title: Improving the Optimization Landscape of Matrix Completion with $ε$-close Surrogates
- Title（参考訳）: $ε$-close サーロゲートによる行列補完の最適化ランドスケープの改善
- Abstract要約: 観測マスクのNull空間に$-level摂動を注入することにより、有効性(RIP)が有効性(RIP)を持つ基底に$math($)-closeの解が残るノイズ行列サロゲートを構築することができることを示す。
RIPの存在により、強力なテンソルフレームワークを理論的な保証で適用することができる。
- 参考スコア（独自算出の注目度）: 6.115392832549737
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Non-convex optimization is central to machine learning and AI, yet unlike its convex counterpart, it still lacks a general and principled framework. In this work, we try to highlight the importance of combining noisy perturbations with over-parametrization mathematically under the classic setting of matrix completion (MC). Matrix completion is an important non-convex recovery problem in which only a subset of a matrix's entries is observed, and the remaining entries must be recovered using low-rank constraints. This problem is notoriously difficult because observations are limited. However, we show that by injecting $ε$-level perturbations into the nullspace of the observation mask, we can construct noisy matrix sensing surrogates whose solutions remain $\mathcal{O}(ε)$-close to the ground truth with valid restricted isometry property (RIP) constants. The existence of RIP further enables powerful tensor frameworks to be applied with theoretical guarantees. This approach reflects a broader empirical trend in which stochasticity or noise improves the curvature of the optimization landscape, allowing over-parameterized (a.k.a large) models to better separate signal from noise. Assuming each matrix entry is observed independently, we establish quantitative recovery guarantees without explicit requirements on sampling rate or incoherence, and discuss how such assumptions can further strengthen our results.
- Abstract（参考訳）: 非凸最適化は機械学習とAIの中心であるが、その凸最適化とは違い、汎用的で原則化されたフレームワークはいまだに欠けている。
本研究では,行列完備化(MC)の古典的設定の下で,ノイズ摂動と過度パラメトリゼーションを数学的に組み合わせることの重要性を強調した。
行列完備化は、行列のエントリのサブセットのみを観測し、残りのエントリを低ランク制約を用いて復元する重要な非凸回復問題である。
この問題は観測が限られているため、非常に難しい。
しかし、観測マスクのヌル空間に$ε$レベルの摂動を注入することにより、解が基底真理に$\mathcal{O}(ε)$-クロースとなるようなノイズ行列センシングサロゲートを、有効に制限された等尺性(RIP)定数で構築できることが示される。
RIPの存在により、理論的な保証で強力なテンソルフレームワークを適用できるようになる。
このアプローチは、確率性やノイズが最適化ランドスケープの曲率を改善するというより広範な経験的な傾向を反映しており、過度にパラメータ化された(すなわち大きな)モデルがノイズから信号を切り離すことができる。
各行列エントリを独立して観測すると、サンプリング率や不整合性の明示的な要件を伴わずに定量的な回復保証を確立し、そのような仮定が結果をさらに強化する方法について論じる。
関連論文リスト
- MARCEDES: Score-based causal discovery under non-Gaussianity with continuous optimization [6.056500890795248]
非ガウス誤差を持つ構造方程式モデル(SEM)に対応する因果非巡回グラフ構造を学習する問題を考察する。
本稿では,制約のないスコア最小化問題として定式化されたスコアベースDAG学習手法 MARCEDES を提案する。
論文 参考訳（メタデータ） (2026-09-25T00:30:04Z) - Majorization-Minimization Networks for Inverse Problems: An Application to EEG Imaging [4.063392865490957]
逆問題はしばしば誤りを犯し、強い安定性と収束を保証する最適化スキームを必要とする。
本稿では,二段階最適化設定における逆問題に対する学習されたMajorization-Minimization(MM)フレームワークを提案する。
我々は,古典的MM降下保証を保ちながら,各MMステップを管理する構造化曲率行列を学習する。
論文 参考訳（メタデータ） (2026-01-23T10:33:45Z) - Graph-based Clustering Revisited: A Relaxation of Kernel $k$-Means Perspective [73.18641268511318]
本稿では,クラスタリング結果を導出するための正規制約のみを緩和するグラフベースのクラスタリングアルゴリズムを提案する。
二重制約を勾配に変換するために、非負の制約をクラス確率パラメータに変換する。
論文 参考訳（メタデータ） (2025-09-23T09:14:39Z) - Matrix Completion via Residual Spectral Matching [2.677354612516629]
ノイズ行列の完成は、レコメンデーションシステム、信号処理、画像復元などへの応用により、大きな注目を集めている。
本稿では,残差の数値的および位置的情報を含む新しい残差スペクトルマッチング基準を提案する。
スパースランダム行列のスペクトル特性を解析し,低ランク摂動と部分観測の影響を限定することによって,最適統計特性を導出する。
論文 参考訳（メタデータ） (2024-12-13T09:42:42Z) - Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳（メタデータ） (2024-11-21T10:26:17Z) - Exploring the Algorithm-Dependent Generalization of AUPRC Optimization
with List Stability [107.65337427333064]
AUPRC(Area Under the Precision-Recall Curve)の最適化は、機械学習にとって重要な問題である。
本研究では, AUPRC最適化の単依存一般化における最初の試行について述べる。
3つの画像検索データセットの実験は、我々のフレームワークの有効性と健全性に言及する。
論文 参考訳（メタデータ） (2022-09-27T09:06:37Z) - Robust Matrix Completion with Heavy-tailed Noise [0.5837881923712392]
本稿では,重み付き潜在的非対称雑音の存在下での低ランク行列の完全性について検討する。
本稿では,大規模かつ非対称な誤りに対して頑健な重み付き雑音に適応するハマー損失を適応的に適用する。
誤差の2番目のモーメント条件下では、ユークリッド誤差は最小値の統計的推定誤差に到達するまで幾何的に早く落ちることが証明される。
論文 参考訳（メタデータ） (2022-06-09T04:48:48Z) - Semi-Supervised Subspace Clustering via Tensor Low-Rank Representation [64.49871502193477]
本稿では,初期監視情報を同時に拡張し,識別親和性行列を構築することのできる,新しい半教師付きサブスペースクラスタリング手法を提案する。
6つの一般的なベンチマークデータセットの総合的な実験結果から,本手法が最先端手法よりも優れていることを示す。
論文 参考訳（メタデータ） (2022-05-21T01:47:17Z) - Global Convergence of Sub-gradient Method for Robust Matrix Recovery:
Small Initialization, Noisy Measurements, and Over-parameterization [4.7464518249313805]
サブグラディエント法(Sub-gradient method, SubGM)は, 限られた測定値から低ランク行列を復元するために用いられる。
我々は、SubGMが任意の大きさの高密度ノイズ値の下でも、真の解に収束することを示す。
論文 参考訳（メタデータ） (2022-02-17T17:50:04Z) - Solving weakly supervised regression problem using low-rank manifold
regularization [77.34726150561087]
我々は弱い教師付き回帰問題を解く。
weakly"の下では、いくつかのトレーニングポイントではラベルが知られ、未知のものもあれば、無作為なノイズの存在やリソースの欠如などの理由によって不確かであることが分かっています。
数値的な節ではモンテカルロモデルを用いて提案手法を人工と実のデータセットに適用した。
論文 参考訳（メタデータ） (2021-04-13T23:21:01Z) - A Scalable, Adaptive and Sound Nonconvex Regularizer for Low-rank Matrix
Completion [60.52730146391456]
そこで我々は,適応的かつ音質の高い"核フロベニウスノルム"と呼ばれる新しい非スケーラブルな低ランク正規化器を提案する。
特異値の計算をバイパスし、アルゴリズムによる高速な最適化を可能にする。
既存の行列学習手法では最速でありながら、最先端の回復性能が得られる。
論文 参考訳（メタデータ） (2020-08-14T18:47:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。