論文の概要: Modified Hard Thresholding Pursuit with Regularization Assisted Support
Identification
- arxiv url: http://arxiv.org/abs/2006.01436v1
- Date: Tue, 2 Jun 2020 07:54:54 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-26 01:28:23.462907
- Title: Modified Hard Thresholding Pursuit with Regularization Assisted Support
Identification
- Title(参考訳): 正則化支援同定を用いた修正ハードしきい値追従法
- Authors: Samrat Mukhopadhyay, Mrityunjoy Chakraborty
- Abstract要約: ハードしきい値追跡(HTP)は近年提案されている反復スパース回復アルゴリズムである。
正規化HTP(RHTP)と呼ばれる一般化HTPアルゴリズムを提案する。
RHTPは、理論的にも数値的にも、ノイズのない測定ベクトルとノイズの多い測定ベクトルの両方でより高速な収束vis-a-vis HTPを楽しむことが証明されている。
- 参考スコア(独自算出の注目度): 0.45687771576879593
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Hard thresholding pursuit (HTP) is a recently proposed iterative sparse
recovery algorithm which is a result of combination of a support selection step
from iterated hard thresholding (IHT) and an estimation step from the
orthogonal matching pursuit (OMP). HTP has been seen to enjoy improved recovery
guarantee along with enhanced speed of convergence. Much of the success of HTP
can be attributed to its improved support selection capability due to the
support selection step from IHT. In this paper, we propose a generalized HTP
algorithm, called regularized HTP (RHTP), where the support selection step of
HTP is replaced by a IHT-type support selection where the cost function is
replaced by a regularized cost function, while the estimation step continues to
use the least squares function. With decomposable regularizer, satisfying
certain regularity conditions, the RHTP algorithm is shown to produce a
sequence dynamically equivalent to a sequence evolving according to a HTP-like
evolution, where the identification stage has a gradient premultiplied with a
time-varying diagonal matrix. RHTP is also proven, both theoretically, and
numerically, to enjoy faster convergence vis-a-vis HTP with both noiseless and
noisy measurement vectors.
- Abstract(参考訳): ハードしきい値追跡 (HTP) は, 繰り返しハードしきい値追跡 (IHT) からの支持選択ステップと直交マッチング探索 (OMP) からの推定ステップを組み合わせた, 最近提案された反復スパース回復アルゴリズムである。
HTPは回復保証の改善と収束速度の向上を享受している。
HTPの成功の多くは、IHTからのサポート選択ステップによってサポート選択能力が改善されたためである。
本稿では,HTPの支持選択ステップをIHT型サポート選択に置き換え,コスト関数を正則化コスト関数に置き換え,推定ステップを最小二乗関数を使い続ける一般化HTPアルゴリズムを提案する。
分解可能な正規化器により、ある規則性条件を満たすRHTPアルゴリズムは、HTPのような進化に従って進化するシーケンスと動的に等価なシーケンスを生成する。
RHTPはまた、理論的にも数値的にも、ノイズのない、ノイズの多い測定ベクトルでより高速な収束vis-a-vis HTPを楽しむことが証明されている。
関連論文リスト
- Transformer-based Stagewise Decomposition for Large-Scale Multistage Stochastic Optimization [1.3124513975412255]
本稿では,トランスフォーマーに基づく段階分解アルゴリズムであるTrranSDDPを紹介する。
本研究では,値関数の分数次線形近似を効率よく生成することを示す。
論文 参考訳(メタデータ) (2024-04-03T09:08:15Z) - Stochastic Optimization for Non-convex Problem with Inexact Hessian
Matrix, Gradient, and Function [99.31457740916815]
信頼領域(TR)と立方体を用いた適応正則化は、非常に魅力的な理論的性質を持つことが証明されている。
TR法とARC法はヘッセン関数,勾配関数,関数値の非コンパクトな計算を同時に行うことができることを示す。
論文 参考訳(メタデータ) (2023-10-18T10:29:58Z) - TETRIS-ADAPT-VQE: An adaptive algorithm that yields shallower, denser
circuit ans\"atze [0.0]
TETRIS-ADAPT-VQEと呼ばれるアルゴリズムを導入する。
その結果、CNOTゲートの数や変動パラメータを増大させることなく、より密度が高く、より浅い回路が得られる。
これらの改善により、量子ハードウェアに実用的な量子優位性を示すという目標に近づきます。
論文 参考訳(メタデータ) (2022-09-21T18:00:02Z) - On the Use of Quality Diversity Algorithms for The Traveling Thief
Problem [11.590506672325668]
現実世界の最適化では、いくつかのサブプロブレムが相互作用し、主要な問題を形成するのが一般的である。
本稿では,旅行セールスパーソン問題(TSP)とクナップサック問題(KP)の相互依存性を品質多様性(QD)アプローチを用いて検討する。
論文 参考訳(メタデータ) (2021-12-16T05:08:39Z) - Continuation Path with Linear Convergence Rate [18.405645120971496]
経路追従アルゴリズムは、一連のサブプロブレムを順次解決する合成最適化問題によく用いられる。
本稿では,経路追従アルゴリズムの一次双対解析と,対象問題に対する線形収束率を保証するために,各サブプロブレムがどの程度正確に解けるかを決定する。
スパーシリティ誘導ペナルティによる最適化を考慮し、正規化パラメータに対するアクティブセットの変化を分析する。
論文 参考訳(メタデータ) (2021-12-09T18:42:13Z) - PER-ETD: A Polynomially Efficient Emphatic Temporal Difference Learning
Method [49.93717224277131]
PEriodically Restarted-ETD(PEriodically Restarted-ETD)と呼ばれる新しいETD手法を提案する。
PER-ETD は ETD と同じ所望の固定点に収束するが, 指数的なサンプルの複雑性は向上する。
論文 参考訳(メタデータ) (2021-10-13T17:40:12Z) - Momentum Accelerates the Convergence of Stochastic AUPRC Maximization [80.8226518642952]
高精度リコール曲線(AUPRC)に基づく領域の最適化について検討し,不均衡なタスクに広く利用されている。
我々は、$O (1/epsilon4)$のより優れた反復による、$epsilon$定常解を見つけるための新しい運動量法を開発する。
また,O(1/epsilon4)$と同じ複雑さを持つ適応手法の新たなファミリを設計し,実際により高速な収束を享受する。
論文 参考訳(メタデータ) (2021-07-02T16:21:52Z) - Adaptive Sampling for Best Policy Identification in Markov Decision
Processes [79.4957965474334]
本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。
最先端アルゴリズムの利点を論じ、解説する。
論文 参考訳(メタデータ) (2020-09-28T15:22:24Z) - Balancing Rates and Variance via Adaptive Batch-Size for Stochastic
Optimization Problems [120.21685755278509]
本研究は,ステップサイズの減衰が正確な収束に必要であるという事実と,一定のステップサイズがエラーまでの時間でより速く学習するという事実のバランスをとることを目的とする。
ステップサイズのミニバッチを最初から修正するのではなく,パラメータを適応的に進化させることを提案する。
論文 参考訳(メタデータ) (2020-07-02T16:02:02Z) - Accelerated Message Passing for Entropy-Regularized MAP Inference [89.15658822319928]
離散値のランダムフィールドにおけるMAP推論の最大化は、機械学習の基本的な問題である。
この問題の難しさから、特殊メッセージパッシングアルゴリズムの導出には線形プログラミング(LP)緩和が一般的である。
古典的加速勾配の根底にある手法を活用することにより,これらのアルゴリズムを高速化するランダム化手法を提案する。
論文 参考訳(メタデータ) (2020-07-01T18:43:32Z) - Surrogate Assisted Optimisation for Travelling Thief Problems [14.836145520657592]
トラベリング泥棒問題(TTP)は、2つの相互依存NPハードコンポーネントを含む多成分最適化問題である。
最近の最先端TTP解法は、根底にあるTPとKPの解を反復的かつインターリーブ的に修正している。
そこで本研究では,TTP ソリューションに繋がる初期 TSP ツアーの特徴を学習する適応的サロゲートモデルにより,探索をより効率的にすることを提案する。
論文 参考訳(メタデータ) (2020-05-14T02:49:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。