論文の概要: Boosting Nystr\"{o}m Method

• arxiv url: http://arxiv.org/abs/2302.11032v1
• Date: Tue, 21 Feb 2023 22:20:55 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-23 17:04:43.524956
• Title: Boosting Nystr\"{o}m Method
• Title（参考訳）: boosting Nystr\"{o}m method
• Authors: Keaton Hamm, Zhaoying Lu, Wenbo Ouyang, Hao Helen Zhang
• Abstract要約: Nystr"om法は、大きな行列の低ランク近似を生成する効果的なツールである。 我々は,複数の弱い'Nystr'om近似を反復的に生成するNystr"omを高速化する新しいアルゴリズム群を提案する。 我々は、Nystr"omアルゴリズムの高速化により、カーネル行列に対するより効率的で正確な低ランク近似が得られることを示した。
• 参考スコア（独自算出の注目度）: 0.688204255655161
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The Nystr\"{o}m method is an effective tool to generate low-rank approximations of large matrices, and it is particularly useful for kernel-based learning. To improve the standard Nystr\"{o}m approximation, ensemble Nystr\"{o}m algorithms compute a mixture of Nystr\"{o}m approximations which are generated independently based on column resampling. We propose a new family of algorithms, boosting Nystr\"{o}m, which iteratively generate multiple ``weak'' Nystr\"{o}m approximations (each using a small number of columns) in a sequence adaptively - each approximation aims to compensate for the weaknesses of its predecessor - and then combine them to form one strong approximation. We demonstrate that our boosting Nystr\"{o}m algorithms can yield more efficient and accurate low-rank approximations to kernel matrices. Improvements over the standard and ensemble Nystr\"{o}m methods are illustrated by simulation studies and real-world data analysis.
• Abstract（参考訳）: nystr\"{o}m法は、大きな行列の低ランク近似を生成する効果的なツールであり、カーネルベースの学習に特に有用である。 標準的な Nystr\"{o}m 近似を改善するために、エンサンブル Nystr\"{o}m アルゴリズムはカラム再サンプリングに基づいて独立に生成される Nystr\"{o}m 近似の混合を計算する。 そこで我々は,逐次的に複数の ``weak'' nystr\"{o}m 近似(それぞれ,少数の列を用いて)を順応的に生成する nystr\"{o}m という新しいアルゴリズムを提案する。 我々は、nystr\"{o}mアルゴリズムが、カーネル行列に対するより効率的で正確な低ランク近似をもたらすことを実証する。 標準的なNystr\"{o}m法の改良はシミュレーション研究と実世界のデータ解析によって説明される。

関連論文リスト

• Faster WIND: Accelerating Iterative Best-of-$N$ Distillation for LLM Alignment [81.84950252537618]
  本稿では,反復的BONDと自己プレイアライメントの統一的なゲーム理論接続を明らかにする。 WINレート支配(WIN rate Dominance, WIND)という新しいフレームワークを構築し, 正規化利率支配最適化のためのアルゴリズムを多数提案する。
  論文  参考訳（メタデータ） (2024-10-28T04:47:39Z)
• An Efficient Algorithm for Clustered Multi-Task Compressive Sensing [60.70532293880842]
  クラスタ化マルチタスク圧縮センシングは、複数の圧縮センシングタスクを解決する階層モデルである。 このモデルに対する既存の推論アルゴリズムは計算コストが高く、高次元ではうまくスケールしない。 本稿では,これらの共分散行列を明示的に計算する必要をなくし,モデル推論を大幅に高速化するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-09-30T15:57:14Z)
• Self-concordant Smoothing for Large-Scale Convex Composite Optimization [0.0]
  2つの凸関数の和を最小化する自己協和スムージングの概念を導入し、そのうちの1つは滑らかであり、もう1つは非滑らかである。 本稿では, 近位ニュートンアルゴリズムであるProx-N-SCOREと近位一般化したガウスニュートンアルゴリズムであるProx-GGN-SCOREの2つのアルゴリズムの収束性を証明する。
  論文  参考訳（メタデータ） (2023-09-04T19:47:04Z)
• Accelerating Cutting-Plane Algorithms via Reinforcement Learning Surrogates [49.84541884653309]
  凸離散最適化問題に対する現在の標準的なアプローチは、カットプレーンアルゴリズムを使うことである。 多くの汎用カット生成アルゴリズムが存在するにもかかわらず、大規模な離散最適化問題は、難易度に悩まされ続けている。 そこで本研究では,強化学習による切削平面アルゴリズムの高速化手法を提案する。
  論文  参考訳（メタデータ） (2023-07-17T20:11:56Z)
• Making the Nystr\"om method highly accurate for low-rank approximations [0.0]
  我々はNystr"om法を非対称行列や長方形行列に対して高い精度で適用するための一連の戦略を提案する。 結果として得られる方法(高速ナイストローム法と呼ばれる)は、高速なピボット戦略として、ナイストローム法(英語版)とスキンのランク-リーベリング因子化(英語版)を扱います。
  論文  参考訳（メタデータ） (2023-07-11T20:25:46Z)
• Nystrom Method for Accurate and Scalable Implicit Differentiation [25.29277451838466]
  我々は,Nystrom法が他の手法と同等あるいは優れた性能を連続的に達成していることを示す。 提案手法は数値的な不安定さを回避し,反復を伴わない行列演算で効率的に計算できる。
  論文  参考訳（メタデータ） (2023-02-20T02:37:26Z)
• Efficient Approximate Kernel Based Spike Sequence Classification [56.2938724367661]
  SVMのような機械学習モデルは、シーケンスのペア間の距離/相似性の定義を必要とする。 厳密な手法により分類性能は向上するが、計算コストが高い。 本稿では,その予測性能を向上させるために,近似カーネルの性能を改善する一連の方法を提案する。
  論文  参考訳（メタデータ） (2022-09-11T22:44:19Z)
• High-Dimensional Sparse Bayesian Learning without Covariance Matrices [66.60078365202867]
  共分散行列の明示的な構成を避ける新しい推論手法を提案する。 本手法では, 数値線形代数と共役勾配アルゴリズムの対角線推定結果とを結合する。 いくつかのシミュレーションにおいて,本手法は計算時間とメモリにおける既存手法よりも拡張性が高い。
  論文  参考訳（メタデータ） (2022-02-25T16:35:26Z)
• Sublinear Time Approximation of Text Similarity Matrices [50.73398637380375]
  一般的なNystr"om法を不確定な設定に一般化する。 我々のアルゴリズムは任意の類似性行列に適用でき、行列のサイズでサブ線形時間で実行される。 本手法は,CUR分解の単純な変種とともに,様々な類似性行列の近似において非常によく機能することを示す。
  論文  参考訳（メタデータ） (2021-12-17T17:04:34Z)
• Beyond Nystr\"omformer -- Approximation of self-attention by Spectral Shifting [0.0]
  Transformerは、自己意識に基づく多くの自然言語タスクのための強力なツールです。 自己アテンションの計算はその二次時間の複雑さによるボトルネックである。
  論文  参考訳（メタデータ） (2021-03-09T12:48:16Z)
• Spectral Clustering using Eigenspectrum Shape Based Nystrom Sampling [19.675277307158435]
  本稿では,新しいサンプリング手法であるCentroid Minimum Sum of Squared similarities (CMS3)と,それをいつ使用するかを示す,スケーラブルなNystromベースのクラスタリングアルゴリズムを提案する。 我々のデータセットはデータセットの固有スペクトル形状に依存しており、他の最先端手法と比較して、テストにおいて競合する低ランク近似が得られる。
  論文  参考訳（メタデータ） (2020-07-21T17:49:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。