論文の概要: QR and LQ Decomposition Matrix Backpropagation Algorithms for Square,
Wide, and Deep -- Real or Complex -- Matrices and Their Software
Implementation
- arxiv url: http://arxiv.org/abs/2009.10071v4
- Date: Fri, 11 Dec 2020 12:54:23 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-16 21:10:05.765435
- Title: QR and LQ Decomposition Matrix Backpropagation Algorithms for Square,
Wide, and Deep -- Real or Complex -- Matrices and Their Software
Implementation
- Title（参考訳）: QRおよびLQ分解行列バックプロパゲーションアルゴリズムによる正方形,広角,深部 – 実あるいは複雑 -- 行列とそのソフトウェア実装
- Authors: Denisa A.O. Roberts and Lucas R. Roberts
- Abstract要約: この記事では、正方形(m = n)、幅(m n)、深さ(m > n)のいずれかの行列のQR分解に対する行列バックプロパゲーションアルゴリズムを、階数$k = min(m, n)$で提示する。
我々は, ピボット(フルランク)QR分解と深部入力行列のLQ分解のための新しい行列バックプロパゲーション結果を得た。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This article presents matrix backpropagation algorithms for the QR
decomposition of matrices $A_{m, n}$, that are either square (m = n), wide (m <
n), or deep (m > n), with rank $k = min(m, n)$. Furthermore, we derive novel
matrix backpropagation results for the pivoted (full-rank) QR decomposition and
for the LQ decomposition of deep input matrices. Differentiable QR
decomposition offers a numerically stable, computationally efficient method to
solve least squares problems frequently encountered in machine learning and
computer vision. Other use cases such as graph learning and network compression
are listed in the article. Software implementation across popular deep learning
frameworks (PyTorch, TensorFlow, MXNet) incorporate the methods for general use
within the deep learning community. Furthermore, this article aids the
practitioner in understanding the matrix backpropagation methodology as part of
larger computational graphs.
- Abstract（参考訳）: 本稿では、正方形(m = n)、幅(m < n)、深さ(m > n)、階数$k = min(m, n)$のいずれかである行列のQR分解に対する行列バックプロパゲーションアルゴリズムを提案する。
さらに, ピボット(フルランク)QR分解と深部入力行列のLQ分解のための新しい行列バックプロパゲーション結果を導出した。
微分可能QR分解は、機械学習やコンピュータビジョンで頻繁に発生する最小二乗問題を解くために、数値的に安定で、計算的に効率的な方法を提供する。
グラフ学習やネットワーク圧縮といった他のユースケースもこの記事に記載されている。
一般的なディープラーニングフレームワーク(PyTorch、TensorFlow、MXNet)にまたがるソフトウェア実装には、ディープラーニングコミュニティで一般的に使用される方法が組み込まれている。
さらに,本論文は,大規模計算グラフの一部として行列バックプロパゲーション手法の理解を支援する。
関連論文リスト
- An Efficient Algorithm for Clustered Multi-Task Compressive Sensing [60.70532293880842]
クラスタ化マルチタスク圧縮センシングは、複数の圧縮センシングタスクを解決する階層モデルである。
このモデルに対する既存の推論アルゴリズムは計算コストが高く、高次元ではうまくスケールしない。
本稿では,これらの共分散行列を明示的に計算する必要をなくし,モデル推論を大幅に高速化するアルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-09-30T15:57:14Z) - Deep Unrolling for Nonconvex Robust Principal Component Analysis [75.32013242448151]
我々はロバスト成分分析のためのアルゴリズムを設計する(A)
行列を低主行列とスパース主行列の和に分解する。
論文 参考訳（メタデータ） (2023-07-12T03:48:26Z) - Batch-efficient EigenDecomposition for Small and Medium Matrices [65.67315418971688]
EigenDecomposition (ED)は多くのコンピュータビジョンアルゴリズムとアプリケーションの中心にある。
本稿では,コンピュータビジョンの応用シナリオに特化したQRベースのED手法を提案する。
論文 参考訳（メタデータ） (2022-07-09T09:14:12Z) - Efficient GPU implementation of randomized SVD and its applications [17.71779625877989]
行列分解は、次元データの圧縮やディープラーニングアルゴリズムなど、機械学習においてユビキタスである。
行列分解の典型的な解は、計算コストと時間を大幅に増大させる複雑さを持つ。
我々は,計算行列分解の計算負担を軽減するために,現代のグラフィカル処理ユニット(GPU)で並列に動作する効率的な処理操作を利用する。
論文 参考訳（メタデータ） (2021-10-05T07:42:41Z) - Non-PSD Matrix Sketching with Applications to Regression and
Optimization [56.730993511802865]
非PSDおよび2乗根行列の次元削減法を提案する。
複数のダウンストリームタスクにこれらのテクニックをどのように使用できるかを示す。
論文 参考訳（メタデータ） (2021-06-16T04:07:48Z) - Robust CUR Decomposition: Theory and Imaging Applications [9.280330114137778]
本稿では、CUR分解フレームワークにおけるロバストPCAの使用とその応用を検討する。
我々は、ロバストPCAの2つの重要なイメージングアプリケーションを検討する:ビデオフォアグラウンド背景分離と顔モデリング。
論文 参考訳（メタデータ） (2021-01-05T17:58:15Z) - Denise: Deep Robust Principal Component Analysis for Positive
Semidefinite Matrices [8.1371986647556]
Deniseは、共分散行列の堅牢なPCAのためのディープラーニングベースのアルゴリズムである。
実験により、デニスは分解品質の点で最先端の性能と一致していることが示された。
論文 参考訳（メタデータ） (2020-04-28T15:45:21Z) - Sketching Transformed Matrices with Applications to Natural Language
Processing [76.6222695417524]
本稿では, 変換行列を用いて, 与えられた小さな行列の積を計算するための空間効率のよいスケッチアルゴリズムを提案する。
提案手法は誤差が小さく,空間と時間の両方で効率がよいことを示す。
論文 参考訳（メタデータ） (2020-02-23T03:07:31Z) - Fast Generalized Matrix Regression with Applications in Machine Learning [46.79740387890322]
スケッチ技術を用いてGMR問題を効率的に解く高速一般化行列回帰アルゴリズム(Fast GMR)を提案する。
我々は,Fast GMRアルゴリズムを対称正定値行列近似と単一パス特異値分解に適用する。
論文 参考訳（メタデータ） (2019-12-27T07:03:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。