論文の概要: L1 Regularization Paths in Linear Models by Parametric Gaussian Message Passing
- arxiv url: http://arxiv.org/abs/2604.16949v1
- Date: Sat, 18 Apr 2026 10:18:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-21 21:52:52.25378
- Title: L1 Regularization Paths in Linear Models by Parametric Gaussian Message Passing
- Title(参考訳): パラメトリックガウスメッセージパッシングによる線形モデルのL1正規化パス
- Authors: Yun-Peng Li, Hans-Andrea Loeliger,
- Abstract要約: 本稿では,2つの新しいアルゴリズムを提案する。
提案アルゴリズムの核心は、関連する因子グラフを透過するパラメトリックガウスメッセージである。
- 参考スコア(独自算出の注目度): 6.376852004129252
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The paper considers the computation of L1 regularization paths in a state space setting, which includes L1 regularized Kalman smoothing, linear SVM, LASSO, and more. The paper proposes two new algorithms, which are duals of each other; the first algorithm applies to L1 regularization of independent variables while the second applies to L1 regularization of dependent variables. The heart of the proposed algorithms is parametric Gaussian message passing (i.e., Kalman-type forward-backward recursions) in the pertinent factor graphs. The proposed methods are broadly applicable, they (usually) require only matrix multiplications, and their complexity can be competitive with prior methods in some cases.
- Abstract(参考訳): 本稿では、L1正規化カルマン平滑化、線形SVM、LASSOなどを含む状態空間設定におけるL1正規化パスの計算について考察する。
第一のアルゴリズムは独立変数のL1正則化に適用し、第二のアルゴリズムは依存変数のL1正則化に適用する。
提案アルゴリズムの中心は、関連する因子グラフにおけるパラメトリックガウスメッセージパッシング(カルマン型前方再帰)である。
提案手法は広く適用可能であり、(通常)行列乗法のみを必要とする。
関連論文リスト
- Universality of first-order methods on random and deterministic matrices [3.358511427906668]
一般一階法(英: General First-order method、GFOM)は、行列ベクトル乗算とエントリーワイド非線形性によって状態ベクトルを更新するフレキシブルな反復アルゴリズムのクラスである。
本稿では,入力行列の制限トラフィック分布,行列エントリ中の置換不変量の制限値の収集を通じて,GFOMを解析する。
我々は、いくつかの従来のAMP変種を統一して新しい入力タイプに一般化する新しいAMPを設計する。
論文 参考訳(メタデータ) (2026-04-13T17:03:53Z) - A Catalyst Framework for the Quantum Linear System Problem via the Proximal Point Algorithm [9.804179673817574]
古典的近位点法(PPA)に着想を得た量子線形系問題(QLSP)に対する新しい量子アルゴリズムを提案する。
提案手法は,既存のtexttimattQLSP_solverを経由した修正行列の逆変換が可能なメタアルゴリズムとみなすことができる。
ステップサイズ$eta$を慎重に選択することにより、提案アルゴリズムは線形システムに対して、以前のアプローチの適用性を阻害する条件数への依存を軽減するために、効果的に事前条件を定めることができる。
論文 参考訳(メタデータ) (2024-06-19T23:15:35Z) - High-Dimensional Sparse Bayesian Learning without Covariance Matrices [66.60078365202867]
共分散行列の明示的な構成を避ける新しい推論手法を提案する。
本手法では, 数値線形代数と共役勾配アルゴリズムの対角線推定結果とを結合する。
いくつかのシミュレーションにおいて,本手法は計算時間とメモリにおける既存手法よりも拡張性が高い。
論文 参考訳(メタデータ) (2022-02-25T16:35:26Z) - Coordinate Linear Variance Reduction for Generalized Linear Programming [27.365677554732304]
この問題における線形構造は、効率的でスケーラブルな1次アルゴリズムの設計に利用できることを示す。
textscclvr はスペクトルノルムではなく、線形制約行列 (GLP) の最大行ノルムに依存する(GLP) に対して、より複雑な結果をもたらす。
論文 参考訳(メタデータ) (2021-11-02T18:57:23Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - Accelerated Message Passing for Entropy-Regularized MAP Inference [89.15658822319928]
離散値のランダムフィールドにおけるMAP推論の最大化は、機械学習の基本的な問題である。
この問題の難しさから、特殊メッセージパッシングアルゴリズムの導出には線形プログラミング(LP)緩和が一般的である。
古典的加速勾配の根底にある手法を活用することにより,これらのアルゴリズムを高速化するランダム化手法を提案する。
論文 参考訳(メタデータ) (2020-07-01T18:43:32Z) - Effective Dimension Adaptive Sketching Methods for Faster Regularized
Least-Squares Optimization [56.05635751529922]
スケッチに基づくL2正規化最小二乗問題の解法を提案する。
我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
論文 参考訳(メタデータ) (2020-06-10T15:00:09Z) - Multi-Objective Matrix Normalization for Fine-grained Visual Recognition [153.49014114484424]
双線形プールは細粒度視覚認識(FGVC)において大きな成功を収める
近年,行列パワー正規化は双線形特徴量において2次情報を安定化させることができることが示されている。
両線形表現を同時に正規化できる効率的な多目的行列正規化法(MOMN)を提案する。
論文 参考訳(メタデータ) (2020-03-30T08:40:35Z) - Optimal Randomized First-Order Methods for Least-Squares Problems [56.05635751529922]
このアルゴリズムのクラスは、最小二乗問題に対する最も高速な解法のうち、いくつかのランダム化手法を含んでいる。
我々は2つの古典的埋め込み、すなわちガウス射影とアダマール変換のサブサンプリングに焦点を当てる。
得られたアルゴリズムは条件数に依存しない最小二乗問題の解法として最も複雑である。
論文 参考訳(メタデータ) (2020-02-21T17:45:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。