論文の概要: Machine Learning-Assisted High-Dimensional Matrix Estimation

• arxiv url: http://arxiv.org/abs/2603.28346v1
• Date: Mon, 30 Mar 2026 12:15:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-31 23:18:45.380754
• Title: Machine Learning-Assisted High-Dimensional Matrix Estimation
• Title（参考訳）: 機械学習による高次元行列推定
• Authors: Wan Tian, Hui Yang, Zhouhui Lian, Lingyue Zhang, Yijie Peng,
• Abstract要約: 乗算器の線形交互方向法(LADMM)に基づく解法を提案する。 次に、学習可能なパラメータを導入し、ニューラルネットワークによる反復スキームで近似演算子をモデル化し、推定精度を改善し、収束を加速する。
• 参考スコア（独自算出の注目度）: 19.738577017139345
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Efficient estimation of high-dimensional matrices-including covariance and precision matrices-is a cornerstone of modern multivariate statistics. Most existing studies have focused primarily on the theoretical properties of the estimators (e.g., consistency and sparsity), while largely overlooking the computational challenges inherent in high-dimensional settings. Motivated by recent advances in learning-based optimization method-which integrate data-driven structures with classical optimization algorithms-we explore high-dimensional matrix estimation assisted by machine learning. Specifically, for the optimization problem of high-dimensional matrix estimation, we first present a solution procedure based on the Linearized Alternating Direction Method of Multipliers (LADMM). We then introduce learnable parameters and model the proximal operators in the iterative scheme with neural networks, thereby improving estimation accuracy and accelerating convergence. Theoretically, we first prove the convergence of LADMM, and then establish the convergence, convergence rate, and monotonicity of its reparameterized counterpart; importantly, we show that the reparameterized LADMM enjoys a faster convergence rate. Notably, the proposed reparameterization theory and methodology are applicable to the estimation of both high-dimensional covariance and precision matrices. We validate the effectiveness of our method by comparing it with several classical optimization algorithms across different structures and dimensions of high-dimensional matrices.
• Abstract（参考訳）: 高次元行列(共分散と精度行列を含む)の効率的な推定は、現代の多変量統計学の基盤となる。 既存のほとんどの研究は、主に推定器の理論的性質(例えば、一貫性と空間性)に焦点を合わせ、高次元設定に固有の計算上の課題を概ね見守っている。 従来の最適化アルゴリズムとデータ駆動構造を統合した学習ベース最適化手法の最近の進歩により,機械学習による高次元行列推定を探求した。 具体的には,高次元行列推定の最適化問題に対して,まず線形交互方向乗算法(LADMM)に基づく解法を提案する。 次に、学習可能なパラメータを導入し、ニューラルネットワークによる反復スキームで近似演算子をモデル化し、推定精度を改善し、収束を加速する。 理論的には、まずLADMMの収束を証明し、次に再パラメータ化されたLADMMの収束、収束、単調性を確立する。 特に、提案された再パラメータ化理論と方法論は、高次元共分散および精度行列の両方の推定に適用できる。 提案手法の有効性を,高次元行列の異なる構造と次元にまたがるいくつかの古典的最適化アルゴリズムと比較することにより検証する。

関連論文リスト

• Multi-Dimensional Visual Data Recovery: Scale-Aware Tensor Modeling and Accelerated Randomized Computation [51.65236537605077]
  我々は,新しいタイプのネットワーク圧縮最適化手法,完全ランダム化テンソルネットワーク圧縮(FCTN)を提案する。 FCTNは多次元データ処理と解析において顕著な業績を残している。 定式化モデルの解法を保証した効率的なアルゴリズムを導出する。
  論文  参考訳（メタデータ） (2026-02-13T14:56:37Z)
• ODELoRA: Training Low-Rank Adaptation by Solving Ordinary Differential Equations [54.886931928255564]
  低ランク適応(LoRA)は、深層移動学習においてパラメータ効率の高い微調整法として広く採用されている。 常微分方程式(ODE)の形でLoRA因子行列に対する新しい連続時間最適化ダイナミクスを提案する。 ODELoRAは,問題次元の異なるスケールのディープニューラルネットワークのトレーニングに不可欠な特性である,安定した特徴学習を実現する。
  論文  参考訳（メタデータ） (2026-02-07T10:19:36Z)
• Improving Matrix Exponential for Generative AI Flows: A Taylor-Based Approach Beyond Paterson--Stockmeyer [1.228544477050145]
  行列指数は科学計算とシステムシミュレーションの基本的な演算子である。 本稿では,生成AIフローの高スループット要求に特化して設計された行列指数関数に対するテイラーアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-12-23T21:25:40Z)
• Generalized Tensor-based Parameter-Efficient Fine-Tuning via Lie Group Transformations [50.010924231754856]
  さまざまな下流タスクに事前訓練された基礎モデルを適用することは、人工知能のコアプラクティスである。 これを解決するために、LoRAのようなパラメータ効率細調整(PEFT)手法が登場し、研究の焦点となっている。 本稿では,行列型PEFT法を高次元パラメータ空間に拡張する一般化法を提案する。
  論文  参考訳（メタデータ） (2025-04-01T14:36:45Z)
• Regularized Projection Matrix Approximation with Applications to Community Detection [1.3761665705201904]
  本稿では,アフィニティ行列からクラスタ情報を復元するための正規化プロジェクション行列近似フレームワークを提案する。 3つの異なるペナルティ関数について検討し, それぞれが有界, 正, スパースシナリオに対応するように調整した。 合成および実世界の両方のデータセットで行った数値実験により、我々の正規化射影行列近似アプローチはクラスタリング性能において最先端の手法を著しく上回っていることが明らかとなった。
  論文  参考訳（メタデータ） (2024-05-26T15:18:22Z)
• Manifold Gaussian Variational Bayes on the Precision Matrix [70.44024861252554]
  複雑なモデルにおける変分推論(VI)の最適化アルゴリズムを提案する。 本研究では,変分行列上の正定値制約を満たすガウス変分推論の効率的なアルゴリズムを開発した。 MGVBPはブラックボックスの性質のため、複雑なモデルにおけるVIのための準備が整ったソリューションである。
  論文  参考訳（メタデータ） (2022-10-26T10:12:31Z)
• Jointly Modeling and Clustering Tensors in High Dimensions [6.072664839782975]
  テンソルの合同ベンチマークとクラスタリングの問題を考察する。 本稿では,統計的精度の高い近傍に幾何的に収束する効率的な高速最適化アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-04-15T21:06:16Z)
• Bilevel Optimization: Convergence Analysis and Enhanced Design [63.64636047748605]
  バイレベル最適化は多くの機械学習問題に対するツールである。 Stoc-BiO という新しい確率効率勾配推定器を提案する。
  論文  参考訳（メタデータ） (2020-10-15T18:09:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。