論文の概要: Generalized Leverage Scores: Geometric Interpretation and Applications
- arxiv url: http://arxiv.org/abs/2206.08054v1
- Date: Thu, 16 Jun 2022 10:14:08 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-18 05:22:53.334944
- Title: Generalized Leverage Scores: Geometric Interpretation and Applications
- Title(参考訳): 一般レバレッジスコア:幾何学的解釈とその応用
- Authors: Bruno Ordozgoiti, Antonis Matakos, Aristides Gionis
- Abstract要約: 我々は、行列の列を特異ベクトルの任意の部分集合に関連付けるためにレバレッジスコアの定義を拡張する。
この結果を用いて、2つのよく知られた問題に対する証明可能な保証付き近似アルゴリズムを設計する。
- 参考スコア(独自算出の注目度): 15.86621510551207
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In problems involving matrix computations, the concept of leverage has found
a large number of applications. In particular, leverage scores, which relate
the columns of a matrix to the subspaces spanned by its leading singular
vectors, are helpful in revealing column subsets to approximately factorize a
matrix with quality guarantees. As such, they provide a solid foundation for a
variety of machine-learning methods. In this paper we extend the definition of
leverage scores to relate the columns of a matrix to arbitrary subsets of
singular vectors. We establish a precise connection between column and
singular-vector subsets, by relating the concepts of leverage scores and
principal angles between subspaces. We employ this result to design
approximation algorithms with provable guarantees for two well-known problems:
generalized column subset selection and sparse canonical correlation analysis.
We run numerical experiments to provide further insight on the proposed
methods. The novel bounds we derive improve our understanding of fundamental
concepts in matrix approximations. In addition, our insights may serve as
building blocks for further contributions.
- Abstract(参考訳): 行列計算に関わる問題において、レバレッジの概念は多くの応用を見出した。
特に、行列の列をその先頭の特異ベクトルにまたがる部分空間に関連付けるスコアを活用することは、行列を品質保証で大まかに分解する列部分集合を明らかにするのに役立つ。
そのため、さまざまな機械学習手法の確立された基盤を提供する。
本稿では、行列の列を特異ベクトルの任意の部分集合に関連付けるためにレバレッジスコアの定義を拡張する。
点数と部分空間間の主角の概念を関連付けることで、列部分集合と特異ベクトル部分集合の間の正確な接続を確立する。
この結果を用いて、一般化カラムサブセット選択とスパース正準相関解析という、2つのよく知られた問題に対する証明可能な保証付き近似アルゴリズムを設計する。
提案手法のさらなる知見を提供するため, 数値実験を実施している。
新たな境界は、行列近似の基本概念の理解を改善する。
さらに私たちの洞察は、さらなるコントリビューションのためのビルディングブロックとして役立ちます。
関連論文リスト
- Understanding Matrix Function Normalizations in Covariance Pooling through the Lens of Riemannian Geometry [63.694184882697435]
グローバル共分散プーリング(GCP)は、高レベルの表現の2階統計を利用して、ディープニューラルネットワーク(DNN)の性能を向上させることが実証されている。
論文 参考訳(メタデータ) (2024-07-15T07:11:44Z) - Synergistic eigenanalysis of covariance and Hessian matrices for enhanced binary classification [72.77513633290056]
本稿では, 学習モデルを用いて評価したヘッセン行列をトレーニングセットで評価した共分散行列の固有解析と, 深層学習モデルで評価したヘッセン行列を組み合わせた新しい手法を提案する。
本手法は複雑なパターンと関係を抽出し,分類性能を向上する。
論文 参考訳(メタデータ) (2024-02-14T16:10:42Z) - A Bayesian Perspective for Determinant Minimization Based Robust
Structured Matrix Factorizatio [10.355894890759377]
構造行列分解問題に対するベイズ的視点を導入する。
解析結果から, 行列行列の因数分解に対するロバストな行列式を導出する手法が提案される。
論文 参考訳(メタデータ) (2023-02-16T16:48:41Z) - Accelerated structured matrix factorization [0.0]
行列分解は、複雑な高次元データにおいて、実際の信号は一般に低次元構造にあるという考え方を利用する。
ベイジアン縮退を先取りして,高次元行列分解のための計算に便利な手法を考案する。
行と列のエンティティ間の依存性は、要素内でフレキシブルなスパースパターンを誘導することによってモデル化される。
論文 参考訳(メタデータ) (2022-12-13T11:35:01Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - Semi-Supervised Subspace Clustering via Tensor Low-Rank Representation [64.49871502193477]
本稿では,初期監視情報を同時に拡張し,識別親和性行列を構築することのできる,新しい半教師付きサブスペースクラスタリング手法を提案する。
6つの一般的なベンチマークデータセットの総合的な実験結果から,本手法が最先端手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-05-21T01:47:17Z) - High-Dimensional Sparse Bayesian Learning without Covariance Matrices [66.60078365202867]
共分散行列の明示的な構成を避ける新しい推論手法を提案する。
本手法では, 数値線形代数と共役勾配アルゴリズムの対角線推定結果とを結合する。
いくつかのシミュレーションにおいて,本手法は計算時間とメモリにおける既存手法よりも拡張性が高い。
論文 参考訳(メタデータ) (2022-02-25T16:35:26Z) - Matrix Decomposition and Applications [8.034728173797953]
1954年、Alston S. Householder は行列分解に関する最初の近代的な研究の1つである Principles of Numerical Analysis を出版した。
行列分解は、主にニューラルネットワークに適合するバック伝搬アルゴリズムの開発によって、機械学習のコア技術となった。
論文 参考訳(メタデータ) (2022-01-01T08:13:48Z) - Learning a Compressive Sensing Matrix with Structural Constraints via
Maximum Mean Discrepancy Optimization [17.104994036477308]
本稿では,圧縮センシング関連回復問題に対する測定行列を得るための学習に基づくアルゴリズムを提案する。
ニューラルネットワーク関連のトピックにおけるこのようなメトリクスの最近の成功は、機械学習に基づく問題の解決策を動機付けている。
論文 参考訳(メタデータ) (2021-10-14T08:35:54Z) - Projection techniques to update the truncated SVD of evolving matrices [17.22107982549168]
本稿では,新しい行や列の追加に伴う行列のランク-k truncated Singular Value Decomposition (SVD) の更新の問題について考察する。
提案するフレームワークは純粋に代数的であり、一般的な更新問題をターゲットにしている。
実アプリケーションから得られた行列の結果から,提案アルゴリズムの精度が向上する可能性が示唆された。
論文 参考訳(メタデータ) (2020-10-13T13:46:08Z) - Multi-View Spectral Clustering with High-Order Optimal Neighborhood
Laplacian Matrix [57.11971786407279]
マルチビュースペクトルクラスタリングは、データ間の固有のクラスタ構造を効果的に明らかにすることができる。
本稿では,高次最適近傍ラプラシア行列を学習するマルチビュースペクトルクラスタリングアルゴリズムを提案する。
提案アルゴリズムは, 1次ベースと高次ベースの両方の線形結合の近傍を探索し, 最適ラプラシア行列を生成する。
論文 参考訳(メタデータ) (2020-08-31T12:28:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。