論文の概要: Sparse Bayesian Learning Algorithms Revisited: From Learning Majorizers to Structured Algorithmic Learning using Neural Networks

• arxiv url: http://arxiv.org/abs/2604.02513v1
• Date: Thu, 02 Apr 2026 21:14:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-06 17:20:24.204318
• Title: Sparse Bayesian Learning Algorithms Revisited: From Learning Majorizers to Structured Algorithmic Learning using Neural Networks
• Title（参考訳）: Sparse Bayesian Learning Algorithms Revisited: From Learning Majorizers to Structured Algorithmic Learning using Neural Networks
• Authors: Rushabha Balaji, Kuan-Lin Chen, Danijela Cabric, Bhaskar D. Rao,
• Abstract要約: 最大化最小化(MM)原理を用いて,最も一般的なSBLアルゴリズムを導出可能であることを示す。 また、深層学習の強力なモデリング機能を導入し、SBLアルゴリズムのクラスをさらに拡張する。 本稿では,異なるスパースリカバリ問題に対して,従来のMMベースアーキテクチャよりも優れた性能を持つ新しいディープラーニングアーキテクチャを提案する。
• 参考スコア（独自算出の注目度）: 31.265508848093187
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Sparse Bayesian Learning is one of the most popular sparse signal recovery methods, and various algorithms exist under the SBL paradigm. However, given a performance metric and a sparse recovery problem, it is difficult to know a-priori the best algorithm to choose. This difficulty is in part due to a lack of a unified framework to derive SBL algorithms. We address this issue by first showing that the most popular SBL algorithms can be derived using the majorization-minimization (MM) principle, providing hitherto unknown convergence guarantees to this class of SBL methods. Moreover, we show that the two most popular SBL update rules not only fall under the MM framework but are both valid descent steps for a common majorizer, revealing a deeper analytical compatibility between these algorithms. Using this insight and properties from MM theory we expand the class of SBL algorithms, and address finding the best SBL algorithm via data within the MM framework. Second, we go beyond the MM framework by introducing the powerful modeling capabilities of deep learning to further expand the class of SBL algorithms, aiming to learn a superior SBL update rule from data. We propose a novel deep learning architecture that can outperform the classical MM based ones across different sparse recovery problems. Our architecture's complexity does not scale with the measurement matrix dimension, hence providing a unique opportunity to test generalization capability across different matrices. For parameterized dictionaries, this invariance allows us to train and test the model across different parameter ranges. We also showcase our model's ability to learn a functional mapping by its zero-shot performance on unseen measurement matrices. Finally, we test our model's performance across different numbers of snapshots, signal-to-noise ratios, and sparsity levels.
• Abstract（参考訳）: スパースベイズ学習(Sparse Bayesian Learning)は、最も一般的なスパース信号回復法の一つであり、様々なアルゴリズムがSBLパラダイムの下で存在する。 しかし、性能指標とスパースリカバリの問題を考えると、アプリオリが最適なアルゴリズムであることを知ることは困難である。 この難しさは、SBLアルゴリズムを導出するための統一されたフレームワークが欠如していることによる。 本稿では、まず、最も一般的なSBLアルゴリズムがMassalization-minimization(MM)原則を用いて導出可能であることを示し、このクラスのSBLメソッドに対して、未知の収束保証を提供する。 さらに、最も人気のある2つのSBL更新ルールは、MMフレームワークに該当するだけでなく、共通のプライマリエータの降下ステップでもあることを示し、これらのアルゴリズム間の深い解析的互換性を明らかにした。 MM理論から得られたこの洞察と特性を用いて、SBLアルゴリズムのクラスを拡張し、MMフレームワーク内のデータを介して最高のSBLアルゴリズムを見つけることに取り組む。 第2に、深層学習の強力なモデリング機能を導入し、SBLアルゴリズムのクラスをさらに拡張し、データから優れたSBL更新ルールを学習することを目的として、MMフレームワークを超えた。 本稿では,異なるスパースリカバリ問題に対して,従来のMMベースアーキテクチャよりも優れた性能を持つ新しいディープラーニングアーキテクチャを提案する。 アーキテクチャの複雑さは測定行列次元とスケールしないので、異なる行列をまたいだ一般化能力をテストするユニークな機会を提供する。 パラメータ化辞書の場合、この不変性により、異なるパラメータ範囲でモデルをトレーニングし、テストすることができます。 また,未知の計測行列上でゼロショット性能で関数型マッピングを学習する能力についても紹介する。 最後に、異なる数のスナップショット、信号と雑音の比率、空間レベルの異なるモデルの性能をテストする。

関連論文リスト

• GBM-based Bregman Proximal Algorithms for Constrained Learning [3.667453772837954]
  我々はBregman近位アルゴリズムのフレームワーク内で制約付き学習タスクにGBMを適用する。 本稿では,学習対象関数が凸である場合に,大域的最適性を保証する新しいブレグマン法を提案する。 本稿では,Bregmanアルゴリズムフレームワークの有効性を示すための実験的な証拠を提供する。
  論文  参考訳（メタデータ） (2023-08-21T14:56:51Z)
• An Efficient 1 Iteration Learning Algorithm for Gaussian Mixture Model And Gaussian Mixture Embedding For Neural Network [2.261786383673667]
  新しいアルゴリズムは、古典的な期待最大化(EM)アルゴリズムよりも頑丈さと単純さをもたらす。 また、精度も向上し、学習に1回しかかからない。
  論文  参考訳（メタデータ） (2023-08-18T10:17:59Z)
• Meta-Learning Adversarial Bandit Algorithms [55.72892209124227]
  我々は,バンディットフィードバックを用いたオンラインメタラーニングについて研究する。 我々は自己協和障壁正規化器を用いてオンラインミラー降下一般化(OMD)をチューニングすることを学ぶ。
  論文  参考訳（メタデータ） (2023-07-05T13:52:10Z)
• Learning Hidden Markov Models Using Conditional Samples [72.20944611510198]
  本稿では,隠れマルコフモデル(HMM)の学習における計算複雑性について述べる。 本稿では,HMMの条件分布からサンプルを問合せする対話型アクセスモデルを提案する。 具体的には、正確な条件付き確率に対するクエリアクセスが可能な設定において、HMMを学習するための効率的なアルゴリズムを得る。
  論文  参考訳（メタデータ） (2023-02-28T16:53:41Z)
• High-Dimensional Sparse Bayesian Learning without Covariance Matrices [66.60078365202867]
  共分散行列の明示的な構成を避ける新しい推論手法を提案する。 本手法では, 数値線形代数と共役勾配アルゴリズムの対角線推定結果とを結合する。 いくつかのシミュレーションにおいて,本手法は計算時間とメモリにおける既存手法よりも拡張性が高い。
  論文  参考訳（メタデータ） (2022-02-25T16:35:26Z)
• Covariance-Free Sparse Bayesian Learning [62.24008859844098]
  共分散行列の明示的な反転を回避する新しいSBL推論アルゴリズムを導入する。 私たちの手法は、既存のベースラインよりも数千倍も高速です。 我々は,SBLが高次元信号回復問題に難なく対処できる新しいアルゴリズムについて紹介する。
  論文  参考訳（メタデータ） (2021-05-21T16:20:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。