論文の概要: Covariance-Free Sparse Bayesian Learning

• arxiv url: http://arxiv.org/abs/2105.10439v1
• Date: Fri, 21 May 2021 16:20:07 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-25 06:17:22.051764
• Title: Covariance-Free Sparse Bayesian Learning
• Title（参考訳）: 共分散自由スパースベイズ学習
• Authors: Alexander Lin, Andrew H. Song, Berkin Bilgic, and Demba Ba
• Abstract要約: 共分散行列の明示的な反転を回避する新しいSBL推論アルゴリズムを導入する。 私たちの手法は、既存のベースラインよりも数千倍も高速です。 我々は,SBLが高次元信号回復問題に難なく対処できる新しいアルゴリズムについて紹介する。
• 参考スコア（独自算出の注目度）: 62.24008859844098
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Sparse Bayesian learning (SBL) is a powerful framework for tackling the sparse coding problem while also providing uncertainty quantification. However, the most popular inference algorithms for SBL become too expensive for high-dimensional problems due to the need to maintain a large covariance matrix. To resolve this issue, we introduce a new SBL inference algorithm that avoids explicit computation of the covariance matrix, thereby saving significant time and space. Instead of performing costly matrix inversions, our covariance-free method solves multiple linear systems to obtain provably unbiased estimates of the posterior statistics needed by SBL. These systems can be solved in parallel, enabling further acceleration of the algorithm via graphics processing units. In practice, our method can be up to thousands of times faster than existing baselines, reducing hours of computation time to seconds. We showcase how our new algorithm enables SBL to tractably tackle high-dimensional signal recovery problems, such as deconvolution of calcium imaging data and multi-contrast reconstruction of magnetic resonance images. Finally, we open-source a toolbox containing all of our implementations to drive future research in SBL.
• Abstract（参考訳）: スパースベイズ学習(sparse bayesian learning、sbl)は、スパースコーディング問題に取り組むための強力なフレームワークであり、不確実性定量化も提供する。 しかし、SBLの最も一般的な推論アルゴリズムは、大きな共分散行列を維持する必要があるため、高次元問題には高すぎる。 この問題を解決するために,共分散行列の明示的な計算を回避し,時間と空間を節約する新しいSBL推論アルゴリズムを提案する。 コストのかかる行列反転を行う代わりに,複数の線形系を解き,sblが必要とする後方統計量の偏りのない推定値を得る。 これらのシステムは並列に解くことができ、グラフィックス処理ユニットによるアルゴリズムのさらなる加速を可能にする。 実際、我々の手法は既存のベースラインよりも数千倍高速であり、計算時間を数秒に短縮することができる。 我々は,SBLがカルシウム画像データのデコンボリューションや磁気共鳴画像のマルチコントラスト再構成といった高次元信号回復問題に,どのように対処できるかを示す。 最後に、SBLにおける将来の研究を推進するために、すべての実装を含むツールボックスをオープンソースにします。

関連論文リスト

• A Mirror Descent-Based Algorithm for Corruption-Tolerant Distributed Gradient Descent [57.64826450787237]
  本研究では, 分散勾配降下アルゴリズムの挙動を, 敵対的腐敗の有無で解析する方法を示す。 汚職耐性の分散最適化アルゴリズムを設計するために、(怠慢な)ミラー降下からアイデアをどう使うかを示す。 MNISTデータセットの線形回帰、サポートベクトル分類、ソフトマックス分類に基づく実験は、我々の理論的知見を裏付けるものである。
  論文  参考訳（メタデータ） (2024-07-19T08:29:12Z)
• An Efficient Algorithm for Clustered Multi-Task Compressive Sensing [60.70532293880842]
  クラスタ化マルチタスク圧縮センシングは、複数の圧縮センシングタスクを解決する階層モデルである。 このモデルに対する既存の推論アルゴリズムは計算コストが高く、高次元ではうまくスケールしない。 本稿では,これらの共分散行列を明示的に計算する必要をなくし,モデル推論を大幅に高速化するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-09-30T15:57:14Z)
• Sublinear Time Algorithms for Several Geometric Optimization (With Outliers) Problems In Machine Learning [8.794896028549323]
  ユークリッド空間$mathbbRd$における最小閉球(MEB)問題を再考する。 本稿では,MEBの安定性の概念を紹介する。 安定仮定の下では、半径近似MEBの2つのサンプリングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-01-07T15:03:45Z)
• High-Dimensional Sparse Bayesian Learning without Covariance Matrices [66.60078365202867]
  共分散行列の明示的な構成を避ける新しい推論手法を提案する。 本手法では, 数値線形代数と共役勾配アルゴリズムの対角線推定結果とを結合する。 いくつかのシミュレーションにおいて,本手法は計算時間とメモリにおける既存手法よりも拡張性が高い。
  論文  参考訳（メタデータ） (2022-02-25T16:35:26Z)
• COSMIC: fast closed-form identification from large-scale data for LTV systems [4.10464681051471]
  データから離散時間線形時変系を同定するための閉形式法を提案する。 我々は、最適性を保証するアルゴリズムを開発し、軌跡ごとに考慮されるインスタントの数を線形に増加させる複雑性を持つ。 本アルゴリズムは,彗星インターセプタミッション用の低忠実度および機能工学シミュレーションの両方に適用した。
  論文  参考訳（メタデータ） (2021-12-08T16:07:59Z)
• Solving weakly supervised regression problem using low-rank manifold regularization [77.34726150561087]
  我々は弱い教師付き回帰問題を解く。 weakly"の下では、いくつかのトレーニングポイントではラベルが知られ、未知のものもあれば、無作為なノイズの存在やリソースの欠如などの理由によって不確かであることが分かっています。 数値的な節ではモンテカルロモデルを用いて提案手法を人工と実のデータセットに適用した。
  論文  参考訳（メタデータ） (2021-04-13T23:21:01Z)
• Stochastic Bundle Adjustment for Efficient and Scalable 3D Reconstruction [43.736296034673124]
  カメラ数に比例したReduced Camera System(RCS)を解く際のボトルネックによって、Levenberg-Marquardt (LM)アルゴリズムのような現在のバンドル調整ソルバが制限される。 本稿では,CS を LM のほぼ内部で分解し,効率と拡張性を向上するバンドル調整アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-08-02T10:26:09Z)
• Multiscale Non-stationary Stochastic Bandits [83.48992319018147]
  本稿では,非定常線形帯域問題に対して,Multiscale-LinUCBと呼ばれる新しいマルチスケール変更点検出法を提案する。 実験結果から,提案手法は非定常環境下での他の最先端アルゴリズムよりも優れていた。
  論文  参考訳（メタデータ） (2020-02-13T00:24:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。