論文の概要: Online Orthogonal Matching Pursuit
- arxiv url: http://arxiv.org/abs/2011.11117v2
- Date: Wed, 10 Feb 2021 12:44:51 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-22 09:01:03.943698
- Title: Online Orthogonal Matching Pursuit
- Title(参考訳): オンライン直交マッチング追跡
- Authors: El Mehdi Saad, Gilles Blanchard, Sylvain Arlot
- Abstract要約: 疎線形回帰のランダムな設計設定におけるオンラインサポート回復のための新しいオンラインアルゴリズム:オンライン直交マッチング法(OOMP)を提案する。
提案手法は,候補となる特徴にのみ必要なサンプルの割り当てと,回帰係数を推定するために選択した変数集合の最適化を逐次的に選択する。
- 参考スコア(独自算出の注目度): 6.6389732792316005
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Greedy algorithms for feature selection are widely used for recovering sparse
high-dimensional vectors in linear models. In classical procedures, the main
emphasis was put on the sample complexity, with little or no consideration of
the computation resources required. We present a novel online algorithm: Online
Orthogonal Matching Pursuit (OOMP) for online support recovery in the random
design setting of sparse linear regression. Our procedure selects features
sequentially, alternating between allocation of samples only as needed to
candidate features, and optimization over the selected set of variables to
estimate the regression coefficients. Theoretical guarantees about the output
of this algorithm are proven and its computational complexity is analysed.
- Abstract(参考訳): 特徴選択のためのグレディアルゴリズムは、線形モデルにおけるスパース高次元ベクトルの復元に広く用いられている。
古典的手法では、必要となる計算資源をほとんど考慮せずに、サンプルの複雑さに重点が置かれた。
疎線形回帰のランダムな設計設定におけるオンラインサポート回復のための新しいオンラインアルゴリズム:オンライン直交マッチング法(OOMP)を提案する。
提案手法は,候補となる特徴にのみ必要なサンプルの割り当てと,回帰係数を推定するために選択した変数集合の最適化を順次選択する。
このアルゴリズムの出力に関する理論的保証が証明され、計算複雑性が解析される。
関連論文リスト
- Precise asymptotics of reweighted least-squares algorithms for linear diagonal networks [15.074950361970194]
我々は、IRLS、最近提案されたリンリン-RFMアルゴリズム、交互対角ニューラルネットワークを含むアルゴリズム群を統一的に分析する。
適切に選択された再重み付けポリシーにより、少数のスパース構造が良好な性能が得られることを示す。
また、これを再重み付け方式で活用することで、座標ワイド再重み付けよりもテスト誤差が良好に向上することを示す。
論文 参考訳(メタデータ) (2024-06-04T20:37:17Z) - On Sample-Efficient Offline Reinforcement Learning: Data Diversity,
Posterior Sampling, and Beyond [29.449446595110643]
本稿では、オフラインRLにおけるカバレッジ対策の以前の概念を仮定したデータ多様性の概念を提案する。
オフラインRLのためのモデルなしPSベースのアルゴリズムは、自然界において頻繁(即ち最悪の場合)な準最適境界を持つ新しいアルゴリズムである。
論文 参考訳(メタデータ) (2024-01-06T20:52:04Z) - Low-rank extended Kalman filtering for online learning of neural
networks from streaming data [71.97861600347959]
非定常データストリームから非線形関数のパラメータを推定するための効率的なオンライン近似ベイズ推定アルゴリズムを提案する。
この方法は拡張カルマンフィルタ (EKF) に基づいているが、新しい低ランク+斜角行列分解法を用いている。
変分推論に基づく手法とは対照的に,本手法は完全に決定論的であり,ステップサイズチューニングを必要としない。
論文 参考訳(メタデータ) (2023-05-31T03:48:49Z) - Deterministic Online Classification: Non-iteratively Reweighted
Recursive Least-Squares for Binary Class Rebalancing [1.370633147306388]
Weighted Least-Squares (WLS) は、特定の重み設計による決定論的バッチソリューションとして広く使われている。
WLSの新しい決定論的オンライン分類アルゴリズムを導入する。
提案したオンライン定式化はバッチ定式化に完全に収束し、既存の最先端のオンライン二項分類アルゴリズムより優れていることを示す。
論文 参考訳(メタデータ) (2023-01-22T23:44:18Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via
GDPA Linearization [59.87663954467815]
アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。
本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。
実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
論文 参考訳(メタデータ) (2021-09-10T07:01:15Z) - Optimal Rates for Random Order Online Optimization [60.011653053877126]
敵が損失関数を選択できるカテットガルバー2020onlineについて検討するが、一様にランダムな順序で提示される。
2020onlineアルゴリズムが最適境界を達成し,安定性を著しく向上することを示す。
論文 参考訳(メタデータ) (2021-06-29T09:48:46Z) - Linear regression with partially mismatched data: local search with
theoretical guarantees [9.398989897176953]
本稿では,予測と応答のペアが部分的に一致しない線形回帰の重要な変種について検討する。
最適化定式化を用いて、基礎となる回帰係数とミスマッチに対応する置換を同時に学習する。
我々は,局所探索アルゴリズムが線形速度でほぼ最適解に収束することを証明した。
論文 参考訳(メタデータ) (2021-06-03T23:32:12Z) - Piecewise linear regression and classification [0.20305676256390928]
本稿では,線形予測器を用いた多変量回帰と分類問題の解法を提案する。
本論文で記述されたアルゴリズムのpython実装は、http://cse.lab.imtlucca.it/bemporad/parcで利用可能である。
論文 参考訳(メタデータ) (2021-03-10T17:07:57Z) - Online Model Selection for Reinforcement Learning with Function
Approximation [50.008542459050155]
我々は、$tildeO(L5/6 T2/3)$ regretで最適な複雑性に適応するメタアルゴリズムを提案する。
また、メタアルゴリズムは、インスタンス依存の後悔境界を著しく改善することを示す。
論文 参考訳(メタデータ) (2020-11-19T10:00:54Z) - Activation Relaxation: A Local Dynamical Approximation to
Backpropagation in the Brain [62.997667081978825]
活性化緩和(AR)は、バックプロパゲーション勾配を力学系の平衡点として構成することで動機付けられる。
我々のアルゴリズムは、正しいバックプロパゲーション勾配に迅速かつ堅牢に収束し、単一のタイプの計算単位しか必要とせず、任意の計算グラフで操作できる。
論文 参考訳(メタデータ) (2020-09-11T11:56:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。