論文の概要: Deep-RLS: A Model-Inspired Deep Learning Approach to Nonlinear PCA
- arxiv url: http://arxiv.org/abs/2011.07458v2
- Date: Wed, 18 Nov 2020 04:45:01 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-25 07:14:59.835513
- Title: Deep-RLS: A Model-Inspired Deep Learning Approach to Nonlinear PCA
- Title(参考訳): Deep-RLS:非線形PCAに対するモデルに基づくディープラーニングアプローチ
- Authors: Zahra Esmaeilbeig, Shahin Khobahi, Mojtaba Soltanalian
- Abstract要約: 非線形PCAを実現するために,Deep-RLSと呼ばれるタスクベースのディープラーニング手法を提案する。
特に、ブラインドソース分離(BSS)問題に対する非線形PCAを定式化し、Deep-RLSが音源信号の復元精度を大幅に向上させることを示す。
- 参考スコア(独自算出の注目度): 12.629088975832797
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work, we consider the application of model-based deep learning in
nonlinear principal component analysis (PCA). Inspired by the deep unfolding
methodology, we propose a task-based deep learning approach, referred to as
Deep-RLS, that unfolds the iterations of the well-known recursive least squares
(RLS) algorithm into the layers of a deep neural network in order to perform
nonlinear PCA. In particular, we formulate the nonlinear PCA for the blind
source separation (BSS) problem and show through numerical analysis that
Deep-RLS results in a significant improvement in the accuracy of recovering the
source signals in BSS when compared to the traditional RLS algorithm.
- Abstract(参考訳): 本研究では,非線形主成分分析(pca)におけるモデルベース深層学習の応用について考察する。
本稿では,Deep-RLS(Deep-RLS)と呼ばれるタスクベースのディープラーニング手法を提案する。この手法は,よく知られた再帰最小二乗法(RLS)アルゴリズムの繰り返しを,非線形PCAを実行するためにディープニューラルネットワークの層に展開する。
特に、ブラインドソース分離(BSS)問題に対する非線形PCAを定式化し、Deep-RLSが従来のRSSアルゴリズムと比較してBSSのソース信号の復元精度を大幅に向上することを示す。
関連論文リスト
- Component-based Sketching for Deep ReLU Nets [55.404661149594375]
各種タスクのためのディープネットコンポーネントに基づくスケッチ手法を開発した。
我々はディープネットトレーニングを線形経験的リスク最小化問題に変換する。
提案したコンポーネントベーススケッチは飽和関数の近似においてほぼ最適であることを示す。
論文 参考訳(メタデータ) (2024-09-21T15:30:43Z) - Nonlinear model reduction for operator learning [1.0364028373854508]
本稿では,ニューラルネットワークとカーネル主成分分析(KPCA)を組み合わせた演算子学習のための効率的なフレームワークを提案する。
本結果は,POD-DeepONetよりもKPCA-DeepONetの方が優れていることを示す。
論文 参考訳(メタデータ) (2024-03-27T16:24:26Z) - On Sample-Efficient Offline Reinforcement Learning: Data Diversity,
Posterior Sampling, and Beyond [29.449446595110643]
本稿では、オフラインRLにおけるカバレッジ対策の以前の概念を仮定したデータ多様性の概念を提案する。
オフラインRLのためのモデルなしPSベースのアルゴリズムは、自然界において頻繁(即ち最悪の場合)な準最適境界を持つ新しいアルゴリズムである。
論文 参考訳(メタデータ) (2024-01-06T20:52:04Z) - Iterative Preference Learning from Human Feedback: Bridging Theory and Practice for RLHF under KL-Constraint [56.74058752955209]
本稿では,RLHFによる強化学習を用いた生成モデルのアライメント過程について検討する。
まず、オフラインPPOやオフラインDPOのような既存の一般的な手法の主な課題を、環境の戦略的探索に欠如していると認識する。
有限サンプル理論保証を用いた効率的なアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-12-18T18:58:42Z) - Deep Learning Meets Adaptive Filtering: A Stein's Unbiased Risk
Estimator Approach [13.887632153924512]
本稿では,Deep RLSとDeep EASIというタスクベースのディープラーニングフレームワークを紹介する。
これらのアーキテクチャは、元のアルゴリズムの繰り返しをディープニューラルネットワークの層に変換し、効率的なソース信号推定を可能にする。
性能をさらに向上するために、我々は、スタインの非バイアスリスク推定器(SURE)に基づく代理損失関数を用いた、これらの深層無ロールネットワークのトレーニングを提案する。
論文 参考訳(メタデータ) (2023-07-31T14:26:41Z) - The Power of Learned Locally Linear Models for Nonlinear Policy
Optimization [26.45568696453259]
本稿では,一般的な非線形システムに対する簡易な戦略の厳密な分析を行う。
非線形系力学の局所線形モデルの推定と$mathttiLQR$のようなポリシー更新の繰り返しを行うアルゴリズムを解析する。
論文 参考訳(メタデータ) (2023-05-16T17:13:00Z) - A Provably Efficient Model-Free Posterior Sampling Method for Episodic
Reinforcement Learning [50.910152564914405]
強化学習のための既存の後方サンプリング手法は、モデルベースであるか、線形MDPを超える最悪の理論的保証がないかによって制限される。
本稿では,理論的保証を伴うより一般的な補足的強化学習問題に適用可能な,後部サンプリングのモデルフリーな新しい定式化を提案する。
論文 参考訳(メタデータ) (2022-08-23T12:21:01Z) - Robust lEarned Shrinkage-Thresholding (REST): Robust unrolling for
sparse recover [87.28082715343896]
我々は、モデルミス特定を前進させるのに堅牢な逆問題を解決するためのディープニューラルネットワークについて検討する。
我々は,アルゴリズムの展開手法を根底にある回復問題のロバストバージョンに適用することにより,新しい堅牢なディープニューラルネットワークアーキテクチャを設計する。
提案したRESTネットワークは,圧縮センシングとレーダイメージングの両問題において,最先端のモデルベースおよびデータ駆動アルゴリズムを上回る性能を示す。
論文 参考訳(メタデータ) (2021-10-20T06:15:45Z) - Learned Robust PCA: A Scalable Deep Unfolding Approach for
High-Dimensional Outlier Detection [23.687598836093333]
ロバストな主成分分析は機械学習において重要なツールであり、低ランク再構成タスクにおける外れ値を検出する。
本稿では,LRPCAと呼ばれる高次元RPCA問題に対するスケーラブルで学習可能なアプローチを提案する。
LRPCAは、ニューラルネットワークAltProjのような最先端のRPCAアルゴリズムよりも、両方のデータセットの実際のアプリケーションで優れていることを示す。
論文 参考訳(メタデータ) (2021-10-11T23:37:55Z) - Learning to Estimate RIS-Aided mmWave Channels [50.15279409856091]
そこでは,観測観測のために,既知の基地局とRIS位相制御行列を併用したアップリンクチャネル推定手法を提案する。
推定性能を向上し, トレーニングオーバーヘッドを低減するため, 深部展開法において, mmWaveチャネルの固有チャネル幅を生かした。
提案したディープ・アンフォールディング・ネットワーク・アーキテクチャは,トレーニングオーバーヘッドが比較的小さく,オンライン計算の複雑さも比較的小さく,最小二乗法(LS)法より優れていることが確認された。
論文 参考訳(メタデータ) (2021-07-27T06:57:56Z) - Rectified Linear Postsynaptic Potential Function for Backpropagation in
Deep Spiking Neural Networks [55.0627904986664]
スパイキングニューラルネットワーク(SNN)は、時間的スパイクパターンを用いて情報を表現し、伝達する。
本稿では,情報符号化,シナプス可塑性,意思決定におけるスパイクタイミングダイナミクスの寄与について検討し,将来のDeepSNNやニューロモルフィックハードウェアシステムの設計への新たな視点を提供する。
論文 参考訳(メタデータ) (2020-03-26T11:13:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。