論文の概要: Approximating Matrix Functions with Deep Neural Networks and Transformers
- arxiv url: http://arxiv.org/abs/2602.07800v1
- Date: Sun, 08 Feb 2026 03:45:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-10 20:26:24.807434
- Title: Approximating Matrix Functions with Deep Neural Networks and Transformers
- Title(参考訳): ニューラルネットワークと変圧器を用いた行列関数の近似
- Authors: Rahul Padmanabhan, Simone Brugiapaglia,
- Abstract要約: 変換器を含むニューラルネットワークを用いて,スカラー関数を行列にマッピングする行列関数の近似について検討した。
数値エンコーディングに適した変圧器エンコーダデコーダは、確率の高い5%の相対誤差で特定の行列関数を近似できることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Transformers have revolutionized natural language processing, but their use for numerical computation has received less attention. We study the approximation of matrix functions, which map scalar functions to matrices, using neural networks including transformers. We focus on functions mapping square matrices to square matrices of the same dimension. These types of matrix functions appear throughout scientific computing, e.g., the matrix exponential in continuous-time Markov chains and the matrix sign function in stability analysis of dynamical systems. In this paper, we make two contributions. First, we prove bounds on the width and depth of ReLU networks needed to approximate the matrix exponential to an arbitrary precision. Second, we show experimentally that a transformer encoder-decoder with suitable numerical encodings can approximate certain matrix functions at a relative error of 5% with high probability. Our study reveals that the encoding scheme strongly affects performance, with different schemes working better for different functions.
- Abstract(参考訳): 変換器は自然言語処理に革命をもたらしたが、数値計算への利用はそれほど注目されていない。
変換器を含むニューラルネットワークを用いて,スカラー関数を行列にマッピングする行列関数の近似について検討した。
正方行列を同じ次元の正方行列に写像する関数に焦点をあてる。
これらの種類の行列関数は、科学計算全体を通して現れる、例えば、連続時間マルコフ連鎖における行列指数と、力学系の安定性解析における行列記号関数である。
本稿では2つのコントリビューションを行う。
まず、行列指数を任意の精度で近似するために必要なReLUネットワークの幅と深さの有界性を証明する。
第二に, 数値エンコーディングに適した変圧器エンコーダデコーダは, 高確率で5%の相対誤差で行列関数を近似できることを示した。
本研究は,符号化方式が性能に強く影響していることを明らかにする。
関連論文リスト
- NeuMatC: A General Neural Framework for Fast Parametric Matrix Operation [75.91285900600549]
我々は、一般的なパラメトリック行列演算タスクをエレガントに扱うtextbftextitNeural Matrix Computation Framework (NeuMatC)を提案する。
NeuMatCは、パラメータから対応する行列演算結果への低ランクかつ連続的なマッピングを教師なしで学習する。
合成と実世界の両方のデータセットの実験結果は、NeuMatCの有望な性能を示している。
論文 参考訳(メタデータ) (2025-11-28T07:21:17Z) - The Ubiquitous Sparse Matrix-Matrix Products [0.0]
スパース行列と他の(密度またはスパース)行列との乗算は、多くのデータサイエンスアプリケーションの計算パターンをキャプチャする基本的な演算である。
我々は,スパース行列行列行列演算の統一処理と,機械学習,計算生物学,化学,グラフアルゴリズム,科学計算などのリッチな応用空間を提供する。
論文 参考訳(メタデータ) (2025-08-06T04:26:52Z) - Quantum Eigensolver for Non-Normal Matrices via Ground State Energy Estimation [0.4511923587827302]
大規模な固有値問題は、古典的コンピュータにとって大きな課題となっている。
本稿では,少なくとも1-p_rm fail$の確率で,固有値の推定値を加算誤差$epsilon$内に出力する量子アルゴリズムを提案する。
我々のアルゴリズムはこのスケーリングを実現する最初の一般固有値アルゴリズムである。
論文 参考訳(メタデータ) (2025-02-25T11:43:47Z) - Bauer's Spectral Factorization Method for Low Order Multiwavelet Filter
Design [0.6138671548064355]
本稿では,Bauer$'$s法に基づく行列スペクトルの高速分解法を提案する。
バウアー法を非線形行列方程式(NME)に変換する
NMEは2つの異なる数値アルゴリズムによって解決される。
論文 参考訳(メタデータ) (2023-12-09T00:26:52Z) - Quantum algorithms for matrix operations and linear systems of equations [65.62256987706128]
本稿では,「Sender-Receiver」モデルを用いた行列演算のための量子アルゴリズムを提案する。
これらの量子プロトコルは、他の量子スキームのサブルーチンとして使用できる。
論文 参考訳(メタデータ) (2022-02-10T08:12:20Z) - Fast Differentiable Matrix Square Root and Inverse Square Root [65.67315418971688]
微分可能な行列平方根と逆平方根を計算するためのより効率的な2つの変種を提案する。
前方伝搬には, Matrix Taylor Polynomial (MTP) を用いる方法と, Matrix Pad'e Approximants (MPA) を使用する方法がある。
一連の数値実験により、両方の手法がSVDやNSの繰り返しと比較してかなりスピードアップすることが示された。
論文 参考訳(メタデータ) (2022-01-29T10:00:35Z) - Fast Differentiable Matrix Square Root [65.67315418971688]
微分可能な行列平方根を計算するために、より効率的な2つの変種を提案する。
前方伝播には, Matrix Taylor Polynomial (MTP) を用いる方法がある。
もう1つの方法は Matrix Pad'e Approximants (MPA) を使うことである。
論文 参考訳(メタデータ) (2022-01-21T12:18:06Z) - Sparse Factorization of Large Square Matrices [10.94053598642913]
本稿では,大面積の正方行列とスパースフルランク行列の積を近似する。
近似では、我々の手法は$Ntimes N$ full matrix に対して$N(log N)2$ non-zero number しか必要としない。
近似行列がスパースかつハイランクである場合,本手法により近似精度が向上することを示す。
論文 参考訳(メタデータ) (2021-09-16T18:42:21Z) - Robust 1-bit Compressive Sensing with Partial Gaussian Circulant
Matrices and Generative Priors [54.936314353063494]
我々は,ロバストな1ビット圧縮センシングのための相関に基づく最適化アルゴリズムのリカバリ保証を提供する。
我々は,実用的な反復アルゴリズムを用いて,画像データセットの数値実験を行い,結果の相関付けを行う。
論文 参考訳(メタデータ) (2021-08-08T05:28:06Z) - Non-PSD Matrix Sketching with Applications to Regression and
Optimization [56.730993511802865]
非PSDおよび2乗根行列の次元削減法を提案する。
複数のダウンストリームタスクにこれらのテクニックをどのように使用できるかを示す。
論文 参考訳(メタデータ) (2021-06-16T04:07:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。