論文の概要: Tight Majorizations and Convergence Rates of Nuclear Norm Minimization IRLS

• arxiv url: http://arxiv.org/abs/2608.23765v1
• Date: Mon, 24 Aug 2026 18:56:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-26 14:09:34.562534
• Title: Tight Majorizations and Convergence Rates of Nuclear Norm Minimization IRLS
• Title（参考訳）: 核ノルム最小化IRLSのTight Majorizationと収束率
• Abstract要約: 反復再重み付き最小二乗法(IRLS)は、核ノルム最小化に対する自然なアプローチである。 本稿では、低ランク回復における制限された核ノルム最小化のためのIRLS法に対する鋭い収束率を示す。
• 参考スコア（独自算出の注目度）: 10.210183771730536
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Iteratively reweighted least squares (IRLS) methods constitute a natural approach to nuclear norm minimization, but their convergence rates and the role of the weight operator have remained poorly understood. This paper establishes sharp convergence rates for IRLS methods for constrained nuclear norm minimization in low-rank recovery. A central ingredient is a new majorization analysis for the smoothed nuclear norm: we prove that the harmonic-mean weight operator defines a valid global quadratic majorizer. Furthermore, we show that this weight operator is optimal within the family of power-mean weights, clarifying why it improves over classical one-sided reweighting schemes that use only row- or column-space information. Under a Schatten-1 null space property, we prove global linear convergence of IRLS algorithms using a variety of weight operators, including the harmonic-mean weights. For IRLS with harmonic-mean weights, we prove a dimension-independent, locally linear convergence rate. We provide a counterexample showing that this dimension-independent local rate cannot in general be obtained for IRLS algorithms using one-sided weight operators, which predominate in the literature. Numerical experiments corroborate the theoretical results and illustrate the practical advantage of harmonic-mean reweighting across square, rectangular, and adversarially initialized recovery problems.
• Abstract（参考訳）: 繰り返し再重み付き最小二乗法(IRLS)は核ノルム最小化への自然なアプローチであるが、それらの収束速度と重み演算子の役割はいまだに理解されていない。 本稿では、低ランク回復における制限された核ノルム最小化のためのIRLS法に対する鋭い収束率を確立する。 主成分はスムーズ化された核ノルムに対する新たなメジャー化解析であり、ハーモニック平均重み演算子が有効なグローバル2次プライマリザーを定義することを証明している。 さらに、この重み演算子は、行または列空間の情報のみを使用する古典的な片側重み付け方式よりも改善する理由を明らかにし、パワー平均重みの族の中で最適であることを示す。 Schatten-1 null 空間特性の下では、高調波平均重みを含む様々な重み演算子を用いてIRLSアルゴリズムの大域的線形収束を証明している。 調和平均重みを持つIRLSでは、次元に依存しない局所線型収束速度が証明される。 本稿では,この次元に依存しない局所速度を,一方の重み演算子を用いたIRLSアルゴリズムでは一般には得られないことを示す。 数値実験は理論結果を相関させ、正方形、矩形および逆初期化回復問題にまたがる調和平均再重み付けの実用的利点を示す。

関連論文リスト

• Spectral-Transport Stability and Benign Overfitting in Interpolating Learning [0.0]
  統計的学習の補間体制における一般化のための理論的枠組みを開発する。 我々は、有限サンプルリスク境界を証明し、鋭い良性オーバーフィッティング指数を確立し、スペクトル崩壊下での明示的な位相遷移速度を導出する。 このフレームワークはまた、最小スペクトル輸送エネルギーの補間解をどのように選択できるかを示すことによって暗黙の正則化を明確化する。
  論文  参考訳（メタデータ） (2026-04-09T15:19:00Z)
• Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
  プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。 我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。 重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
  論文  参考訳（メタデータ） (2026-02-24T05:32:03Z)
• ODELoRA: Training Low-Rank Adaptation by Solving Ordinary Differential Equations [54.886931928255564]
  低ランク適応(LoRA)は、深層移動学習においてパラメータ効率の高い微調整法として広く採用されている。 常微分方程式(ODE)の形でLoRA因子行列に対する新しい連続時間最適化ダイナミクスを提案する。 ODELoRAは,問題次元の異なるスケールのディープニューラルネットワークのトレーニングに不可欠な特性である,安定した特徴学習を実現する。
  論文  参考訳（メタデータ） (2026-02-07T10:19:36Z)
• A General Weighting Theory for Ensemble Learning: Beyond Variance Reduction via Spectral and Geometric Structure [0.0]
  本稿では,アンサンブル学習のための一般的な重み付け理論を開発する。 我々は、仮説空間に作用する線型作用素としてアンサンブルを定式化する。 非一様構造重みが平均値よりも優れていることを示す。
  論文  参考訳（メタデータ） (2025-12-25T08:51:01Z)
• Deterministic Coreset Construction via Adaptive Sensitivity Trimming [0.2864713389096699]
  実証的リスク最小化のための決定論的コアセット構築のためのフレームワークを開発する。 我々の中心的な貢献は、適応決定論的一様重みトリミング(ADUWT)アルゴリズムである。 我々は,インスタンス最適オラクル,決定論的ストリーミング,公平性に制約されたEMMについて,オープンな問題で結論付けた。
  論文  参考訳（メタデータ） (2025-08-25T17:19:13Z)
• Global Convergence of Iteratively Reweighted Least Squares for Robust Subspace Recovery [16.7214745962719]
  反復重み付き最小広場(IRLS)は、部分空間推定に対するエレガントで経験的に効果的なアプローチである。 本稿では, 決定論的条件下では, 動的正則化を持つ不変IRLSが基底部分空間に線形に収束することを示す。 我々はこれらの保証を、事前の回復理論を欠いた部分空間推定に拡張する。
  論文  参考訳（メタデータ） (2025-06-25T15:23:32Z)
• Global Convergence of Sub-gradient Method for Robust Matrix Recovery: Small Initialization, Noisy Measurements, and Over-parameterization [4.7464518249313805]
  サブグラディエント法(Sub-gradient method, SubGM)は, 限られた測定値から低ランク行列を復元するために用いられる。 我々は、SubGMが任意の大きさの高密度ノイズ値の下でも、真の解に収束することを示す。
  論文  参考訳（メタデータ） (2022-02-17T17:50:04Z)
• Hyperspectral Image Denoising Using Non-convex Local Low-rank and Sparse Separation with Spatial-Spectral Total Variation Regularization [49.55649406434796]
  本研究では,HSI復調のためのロバストな主成分分析のための新しい非特異なアプローチを提案する。 我々は、ランクとスパースコンポーネントの両方に対する正確な近似を開発する。 シミュレーションと実HSIの両方の実験により,提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2022-01-08T11:48:46Z)
• Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
  カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。 我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。 MRP のサブクラスに対する minimax の下位境界を証明する。
  論文  参考訳（メタデータ） (2021-09-24T14:48:20Z)
• On the Convergence of Stochastic Extragradient for Bilinear Games with Restarted Iteration Averaging [96.13485146617322]
  本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。 平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
  論文  参考訳（メタデータ） (2021-06-30T17:51:36Z)
• Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
  帰納バイアスは 経験的に過剰フィットを防げる中心的存在です この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。 我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
  論文  参考訳（メタデータ） (2021-03-23T17:15:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。