論文の概要: Recent and Upcoming Developments in Randomized Numerical Linear Algebra for Machine Learning
- arxiv url: http://arxiv.org/abs/2406.11151v1
- Date: Mon, 17 Jun 2024 02:30:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-06-18 18:43:55.316175
- Title: Recent and Upcoming Developments in Randomized Numerical Linear Algebra for Machine Learning
- Title(参考訳): 機械学習のためのランダム化数値線形代数の最近の動向と今後の展開
- Abstract要約: RandNLA (Randomized Numerical Linear Algebra) は、ランダムネスを用いてユビキタス行列問題に対する改良アルゴリズムを開発する分野である。
この記事では、これらの開発状況を踏まえた自己完結したRandNLAの概要を紹介する。
- 参考スコア(独自算出の注目度): 49.0767291348921
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large matrices arise in many machine learning and data analysis applications, including as representations of datasets, graphs, model weights, and first and second-order derivatives. Randomized Numerical Linear Algebra (RandNLA) is an area which uses randomness to develop improved algorithms for ubiquitous matrix problems. The area has reached a certain level of maturity; but recent hardware trends, efforts to incorporate RandNLA algorithms into core numerical libraries, and advances in machine learning, statistics, and random matrix theory, have lead to new theoretical and practical challenges. This article provides a self-contained overview of RandNLA, in light of these developments.
- Abstract(参考訳): 大規模な行列は、データセット、グラフ、モデルウェイト、第1および第2階微分の表現など、多くの機械学習およびデータ分析アプリケーションで発生する。
RandNLA (Randomized Numerical Linear Algebra) は、ランダムネスを用いてユビキタス行列問題に対する改良アルゴリズムを開発する分野である。
この領域は一定の成熟度に達しているが、最近のハードウェアのトレンド、RandNLAアルゴリズムを核となる数値ライブラリに組み込む取り組み、機械学習、統計学、ランダム行列理論の進歩は、新たな理論的および実践的な課題をもたらしている。
この記事では、これらの開発状況を踏まえた自己完結したRandNLAの概要を紹介する。
関連論文リスト
- Advanced Linear Algebra with Applications - Part I (Numerical linear algebra for PDEs, machine learning, and data assimilation) [0.0]
講義ノートは、高度な数値線型代数のマスターレベルコースの最初の部分を形成する。
エイムは、なぜこの主題が前世代よりもかなり中心になったのかを示すものである。
論文 参考訳(メタデータ) (2026-08-21T15:44:43Z) - RL4RLA: Teaching ML to Discover Randomized Linear Algebra Algorithms Through Curriculum Design and Graph-Based Search [18.388661543349]
本稿では、解釈可能なシンボリックRLAアルゴリズムの発見を自動化する一般的なRLフレームワークであるRL4RLAを提案する。
ブラックボックスアプローチとは異なり、本手法は基本線形代数プリミティブから明示的なアルゴリズムを構築し、検証可能かつ実装可能な表現を保証する。
我々はRL4RLAがスケッチ・アンド・プレコンディション・ソルバ、ランダム化カッツマーズ、ニュートン・スケッチを含む最先端の手法を再検討することを示した。
論文 参考訳(メタデータ) (2026-05-18T07:57:26Z) - Approximate Distributed Coded Computing: Polynomial Codes and Randomized Sketching [22.19006991194303]
符号化コンピューティングは、符号化理論を用いてテキスト冗長性を導入し、大規模システムにおけるボトルネックを克服する分散パラダイムである。
同じ静脈において、ランダム化された数値線型代数は、線形代数演算のテキスト圧縮と加速に確率的手法を用いる。
本稿では、両分野の基礎を概観し、最適化と機械学習アルゴリズムの高速化の両手法を組み合わせた分散スキームについて述べる。
論文 参考訳(メタデータ) (2026-05-16T01:50:27Z) - Algebraic Machine Learning: Learning as computing an algebraic decomposition of a task [41.94295877935867]
本稿では,学習の分析を容易にする数学を用いた抽象代数に基づく代替基盤を提案する。
このアプローチでは、タスクとデータのゴールは代数の公理として符号化され、これらの公理とそれらの論理結果のみが成立するモデルが得られる。
我々は、MNIST、FashionMNIST、CIFAR-10、医療画像などの標準データセット上でこの新しい学習原則を検証し、最適化された多層パーセプトロンに匹敵する性能を達成する。
論文 参考訳(メタデータ) (2025-02-27T10:13:42Z) - CoLA: Exploiting Compositional Structure for Automatic and Efficient
Numerical Linear Algebra [62.37017125812101]
機械学習における大規模線形代数問題に対して, CoLA という, 単純だが汎用的なフレームワークを提案する。
線形演算子抽象と合成ディスパッチルールを組み合わせることで、CoLAはメモリと実行時の効率的な数値アルゴリズムを自動的に構築する。
偏微分方程式,ガウス過程,同変モデル構築,教師なし学習など,幅広い応用で有効性を示す。
論文 参考訳(メタデータ) (2023-09-06T14:59:38Z) - Generalization Bounds for Data-Driven Numerical Linear Algebra [24.961270871124217]
データ駆動アルゴリズムは、トレーニングされた入力サンプルから学習することで、未知のアプリケーション固有の分布からの入力に内部構造やパラメータを適用することができる。
いくつかの最近の研究は、数値線形代数における問題にこのアプローチを適用し、性能において顕著な経験的利得を得た。
本研究では、Gupta と Roughgarden が提案するデータ駆動アルゴリズム選択のためのPAC学習フレームワークにおいて、これらのアルゴリズムの一般化境界を証明する。
論文 参考訳(メタデータ) (2022-06-16T02:23:45Z) - Matrix Decomposition and Applications [8.034728173797953]
1954年、Alston S. Householder は行列分解に関する最初の近代的な研究の1つである Principles of Numerical Analysis を出版した。
行列分解は、主にニューラルネットワークに適合するバック伝搬アルゴリズムの開発によって、機械学習のコア技術となった。
論文 参考訳(メタデータ) (2022-01-01T08:13:48Z) - Photonic co-processors in HPC: using LightOn OPUs for Randomized
Numerical Linear Algebra [53.13961454500934]
従来のハードウェアでは,次元削減のためのランダム化ステップ自体が計算ボトルネックとなる可能性がある。
ランダム化は,様々な重要なrandnlaアルゴリズムにおいて,精度損失が無視できないほど大幅に高速化できることを示す。
論文 参考訳(メタデータ) (2021-04-29T15:48:52Z) - Quantum-Inspired Algorithms from Randomized Numerical Linear Algebra [53.46106569419296]
我々は、リコメンダシステムと最小二乗回帰のためのクエリをサポートする古典的な(量子でない)動的データ構造を作成する。
これらの問題に対する以前の量子インスパイアされたアルゴリズムは、レバレッジやリッジレベレッジスコアを偽装してサンプリングしていると我々は主張する。
論文 参考訳(メタデータ) (2020-11-09T01:13:07Z) - Determinantal Point Processes in Randomized Numerical Linear Algebra [80.27102478796613]
数値線形代数(RandNLA)は、科学計算、データサイエンス、機械学習などで発生する行列問題に対する改良されたアルゴリズムを開発するためにランダム性を使用する。
最近の研究により、DPPとRandNLAの間の深い実りある関係が明らかになり、新たな保証とアルゴリズムの改善につながった。
論文 参考訳(メタデータ) (2020-05-07T00:39:52Z) - Learning Gaussian Graphical Models via Multiplicative Weights [54.252053139374205]
乗算重み更新法に基づいて,Klivans と Meka のアルゴリズムを適用した。
アルゴリズムは、文献の他のものと質的に類似したサンプル複雑性境界を楽しみます。
ランタイムが低い$O(mp2)$で、$m$サンプルと$p$ノードの場合には、簡単にオンライン形式で実装できる。
論文 参考訳(メタデータ) (2020-02-20T10:50:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。