論文の概要: BOLT: Block-Orthonormal Lanczos for Trace estimation of matrix functions

• arxiv url: http://arxiv.org/abs/2505.12289v1
• Date: Sun, 18 May 2025 08:04:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-20 14:57:11.145297
• Title: BOLT: Block-Orthonormal Lanczos for Trace estimation of matrix functions
• Title（参考訳）: BOLT:Block-Orthonormal Lanczosによる行列関数のトレース推定
• Authors: Kingsley Yeon, Promit Ghosal, Mihai Anitescu,
• Abstract要約: 多くの大規模アプリケーションでは、関連する行列が大きすぎて完全に保存またはアクセスできないため、単一のマットベック製品が実現不可能である。 本稿では,小さな主行列のみで動作するBOLTの変種であるSubblock SLQを紹介する。 理論的な保証を提供し、高次元設定の範囲で強い経験的性能を示す。
• 参考スコア（独自算出の注目度）: 2.4578723416255754
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Efficient matrix trace estimation is essential for scalable computation of log-determinants, matrix norms, and distributional divergences. In many large-scale applications, the matrices involved are too large to store or access in full, making even a single matrix-vector (mat-vec) product infeasible. Instead, one often has access only to small subblocks of the matrix or localized matrix-vector products on restricted index sets. Hutch++ achieves optimal convergence rate but relies on randomized SVD and assumes full mat-vec access, making it difficult to apply in these constrained settings. We propose the Block-Orthonormal Stochastic Lanczos Quadrature (BOLT), which matches Hutch++ accuracy with a simpler implementation based on orthonormal block probes and Lanczos iterations. BOLT builds on the Stochastic Lanczos Quadrature (SLQ) framework, which combines random probing with Krylov subspace methods to efficiently approximate traces of matrix functions, and performs better than Hutch++ in near flat-spectrum regimes. To address memory limitations and partial access constraints, we introduce Subblock SLQ, a variant of BOLT that operates only on small principal submatrices. As a result, this framework yields a proxy KL divergence estimator and an efficient method for computing the Wasserstein-2 distance between Gaussians - both compatible with low-memory and partial-access regimes. We provide theoretical guarantees and demonstrate strong empirical performance across a range of high-dimensional settings.
• Abstract（参考訳）: 効率的な行列トレース推定は、対数行列式、行列ノルム、分布分岐のスケーラブルな計算に不可欠である。 多くの大規模アプリケーションでは、関連する行列が大きすぎて完全に保存またはアクセスできないため、単一の行列ベクトル(mat-vec)製品でさえ実現不可能である。 代わりに、しばしば制限された指数集合上の行列や局所行列ベクトル積の小さな部分ブロックにしかアクセスできない。 Hutch++は最適な収束率を達成するが、ランダム化されたSVDに依存し、完全なマットベックアクセスを前提としており、これらの制約された設定に適用することは困難である。 本稿では,Hutch++の精度と正則なブロックプローブとLanczos反復に基づく簡易な実装とを一致させるブロックオルソノーマルなLanczos Quadrature (BOLT)を提案する。 BOLTはStochastic Lanczos Quadrature (SLQ) フレームワーク上に構築されており、ランダムなプローブとKrylov部分空間法を組み合わせることで、行列関数のトレースを効率的に近似し、フラットスペクトルに近い条件下ではHutch++よりも優れた性能を発揮する。 メモリ制限や部分アクセス制限に対処するため,小さな主部分行列のみで動作するBOLTの変種であるSubblock SLQを導入する。 結果として、このフレームワークはプロキシKL分散推定器と、ガウス間のワッサーシュタイン-2距離を計算する効率的な方法を得る。 理論的な保証を提供し、高次元設定の範囲で強い経験的性能を示す。

関連論文リスト

• Spectral Entry-wise Matrix Estimation for Low-Rank Reinforcement Learning [53.445068584013896]
  低ランク構造を持つ強化学習(RL)における行列推定問題について検討した。 低ランク帯では、回収される行列は期待される腕の報酬を指定し、低ランクマルコフ決定プロセス(MDP)では、例えばMDPの遷移カーネルを特徴付ける。 簡単なスペクトルベースの行列推定手法は,行列の特異部分空間を効率よく復元し,ほぼ最小の入力誤差を示すことを示す。
  論文  参考訳（メタデータ） (2023-10-10T17:06:41Z)
• Blockwise Stochastic Variance-Reduced Methods with Parallel Speedup for Multi-Block Bilevel Optimization [43.74656748515853]
  非定常多重ブロック双レベル最適化問題には$mgg 1$低レベル問題があり、機械学習において重要な応用がある。 a)標準BO問題の最先端の複雑さを1ブロックに合わせること,(b)サンプルブロックごとのサンプルをサンプリングして並列高速化すること,(c)高次元ヘッセン行列推定器の逆計算を避けること,の3つの特性を実現することを目的とする。
  論文  参考訳（メタデータ） (2023-05-30T04:10:11Z)
• Semi-Supervised Subspace Clustering via Tensor Low-Rank Representation [64.49871502193477]
  本稿では,初期監視情報を同時に拡張し,識別親和性行列を構築することのできる,新しい半教師付きサブスペースクラスタリング手法を提案する。 6つの一般的なベンチマークデータセットの総合的な実験結果から,本手法が最先端手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-05-21T01:47:17Z)
• Stochastic regularized majorization-minimization with weakly convex and multi-convex surrogates [0.0]
  提案アルゴリズムの最初の最適性ギャップは,非テンソル依存データ設定下での様々な手法の期待損失率で減衰することを示す。 非テンション依存データ設定の下で, 各種手法の収束点を求める。
  論文  参考訳（メタデータ） (2022-01-05T15:17:35Z)
• Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via GDPA Linearization [59.87663954467815]
  アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。 本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。 実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
  論文  参考訳（メタデータ） (2021-09-10T07:01:15Z)
• Robust 1-bit Compressive Sensing with Partial Gaussian Circulant Matrices and Generative Priors [54.936314353063494]
  我々は,ロバストな1ビット圧縮センシングのための相関に基づく最適化アルゴリズムのリカバリ保証を提供する。 我々は,実用的な反復アルゴリズムを用いて,画像データセットの数値実験を行い,結果の相関付けを行う。
  論文  参考訳（メタデータ） (2021-08-08T05:28:06Z)
• A Two Stage Generalized Block Orthogonal Matching Pursuit (TSGBOMP) Algorithm [0.3867363075280543]
  いくつかの投射からの未知のスパース信号の回収は、圧縮センシングの重要な目的である。 BOMPのような既存のブロックスパース回復アルゴリズムは、一様ブロックサイズと既知のブロック境界を仮定する。 本稿では,第1段階が粗いブロック位置同定段階である2段階の手順を提案する。 第2のステージは、第1のステージで選択されたウィンドウ内の非ゼロクラスタのより微細なローカライズを実行する。
  論文  参考訳（メタデータ） (2020-08-18T17:00:55Z)
• Fused-Lasso Regularized Cholesky Factors of Large Nonstationary Covariance Matrices of Longitudinal Data [0.0]
  大きな共分散行列のコレスキー因子のサブ対角線の滑らかさは、時系列および長手データに対する自己回帰モデルの非定常度の度合いと密接に関連している。 行ごとに分離するColesky因子のスパース推定アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-07-22T02:38:16Z)
• Multi-Objective Matrix Normalization for Fine-grained Visual Recognition [153.49014114484424]
  双線形プールは細粒度視覚認識(FGVC)において大きな成功を収める 近年,行列パワー正規化は双線形特徴量において2次情報を安定化させることができることが示されている。 両線形表現を同時に正規化できる効率的な多目的行列正規化法(MOMN)を提案する。
  論文  参考訳（メタデータ） (2020-03-30T08:40:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。