論文の概要: Deep Equilibrium Assisted Block Sparse Coding of Inter-dependent
Signals: Application to Hyperspectral Imaging
- arxiv url: http://arxiv.org/abs/2203.15901v1
- Date: Tue, 29 Mar 2022 21:00:39 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-31 16:21:10.672645
- Title: Deep Equilibrium Assisted Block Sparse Coding of Inter-dependent
Signals: Application to Hyperspectral Imaging
- Title(参考訳): 相互依存信号の深い平衡支援ブロックスパース符号化:ハイパースペクトルイメージングへの応用
- Authors: Alexandros Gkillas, Dimitris Ampeliotis, Kostas Berberidis
- Abstract要約: 相互依存信号のデータセットは、列が強い依存を示す行列として定義される。
ニューラルネットワークは、事前に構造として機能し、基礎となる信号相互依存性を明らかにするために使用される。
ディープ・アンローリングとディープ・平衡に基づくアルゴリズムが開発され、高度に解釈可能で簡潔なディープ・ラーニング・ベース・アーキテクチャを形成する。
- 参考スコア(独自算出の注目度): 71.57324258813675
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this study, the problem of computing a sparse representation for datasets
of inter-dependent signals, given a fixed dictionary, is considered. A dataset
of inter-dependent signals is defined as a matrix whose columns demonstrate
strong dependencies. A computational efficient sparse coding optimization
problem is derived by employing regularization terms that are adapted to the
properties of the signals of interest. Exploiting the merits of the learnable
regularization techniques, a neural network is employed to act as structure
prior and reveal the underlying signal interdependencies. To solve the
optimization problem Deep unrolling and Deep equilibrium based algorithms are
developed, forming highly interpretable and concise deep-learning-based
architectures, that process the input dataset in a block-by-block fashion.
Extensive simulation results, in the context of hyperspectral image denoising,
are provided, that demonstrate that the proposed algorithms outperform
significantly other sparse coding approaches and exhibit superior performance
against recent state-of-the-art deep-learning-based denoising models. In a
wider perspective, our work provides a unique bridge between a classic
approach, that is the sparse representation theory, and modern representation
tools that are based on deep learning modeling.
- Abstract(参考訳): 本研究では,固定辞書が与えられた場合,相互依存信号のデータセットのスパース表現を計算する問題を考える。
相互依存信号のデータセットは、列が強い依存を示す行列として定義される。
計算効率のよいスパース符号化最適化問題は、興味のある信号の特性に適合する正規化項を用いて導出される。
学習可能な正規化手法の利点を生かして、ニューラルネットワークを構造として、基礎となる信号相互依存性を明らかにする。
そこで,Deep Unrolling と Deep equilibrium based algorithm が開発され,高度に解釈可能かつ簡潔なディープラーニングベースアーキテクチャが構築され,入力データセットをブロック単位で処理する。
ハイパースペクトル画像雑音化の文脈において,提案手法が他のスパース符号化手法をかなり上回っており,最新のディープラーニングに基づく雑音化モデルに対して優れた性能を示すことを示す,広範なシミュレーション結果が得られた。
より広い視点で見ると、我々の研究は、疎表現理論である古典的なアプローチと、ディープラーニングモデリングに基づく現代的な表現ツールとの間に独自の橋渡しを提供する。
関連論文リスト
- GASE: Graph Attention Sampling with Edges Fusion for Solving Vehicle Routing Problems [6.084414764415137]
車両のルーティング問題を解決するためにEdges Fusionフレームワークを用いた適応型グラフ注意サンプリングを提案する。
提案手法は,既存の手法を2.08%-6.23%上回り,より強力な一般化能力を示す。
論文 参考訳(メタデータ) (2024-05-21T03:33:07Z) - Neural Harmonium: An Interpretable Deep Structure for Nonlinear Dynamic
System Identification with Application to Audio Processing [4.599180419117645]
解釈可能性(Interpretability)は、モデルを一般化し、その限界を明らかにする能力を理解するのに役立ちます。
本稿では,動的システムモデリングのための因果解釈可能な深部構造を提案する。
提案モデルは,時間周波数領域におけるシステムモデリングによる調和解析を利用する。
論文 参考訳(メタデータ) (2023-10-10T21:32:15Z) - Learning Interpretable Deep Disentangled Neural Networks for
Hyperspectral Unmixing [16.02193274044797]
非線形性および終端変動を考慮した高スペクトルアンミックスのための新しい解釈可能な深層学習法を提案する。
モデルは、バックプロパゲーションを使用してエンドツーエンドに学習され、セルフ教師付き戦略を使用してトレーニングされる。
合成および実データを用いた実験結果から,提案手法の性能が示唆された。
論文 参考訳(メタデータ) (2023-10-03T18:21:37Z) - Towards a Better Theoretical Understanding of Independent Subnetwork Training [56.24689348875711]
独立サブネットワークトレーニング(IST)の理論的考察
ISTは、上記の問題を解決するための、最近提案され、非常に効果的である。
圧縮通信を用いた分散手法など,ISTと代替手法の基本的な違いを同定する。
論文 参考訳(メタデータ) (2023-06-28T18:14:22Z) - Annealing Optimization for Progressive Learning with Stochastic
Approximation [0.0]
計算資源が限られているアプリケーションのニーズを満たすために設計された学習モデルを導入する。
我々は,オンラインな勾配近似アルゴリズムとして定式化されたオンラインプロトタイプベースの学習アルゴリズムを開発した。
学習モデルは、教師なし、教師なし、強化学習に使用される、解釈可能で、徐々に成長する競争的ニューラルネットワークモデルと見なすことができる。
論文 参考訳(メタデータ) (2022-09-06T21:31:01Z) - Adaptive Discrete Communication Bottlenecks with Dynamic Vector
Quantization [76.68866368409216]
入力に条件付けされた離散化の厳密度を動的に選択する学習を提案する。
コミュニケーションボトルネックの動的に変化する厳密さは、視覚的推論や強化学習タスクにおけるモデル性能を向上させることができることを示す。
論文 参考訳(メタデータ) (2022-02-02T23:54:26Z) - Anomaly Detection on Attributed Networks via Contrastive Self-Supervised
Learning [50.24174211654775]
本論文では,アトリビュートネットワーク上の異常検出のためのコントラスト型自己監視学習フレームワークを提案する。
このフレームワークは、新しいタイプのコントラストインスタンスペアをサンプリングすることで、ネットワークデータからのローカル情報を完全に活用します。
高次元特性と局所構造から情報埋め込みを学習するグラフニューラルネットワークに基づくコントラスト学習モデルを提案する。
論文 参考訳(メタデータ) (2021-02-27T03:17:20Z) - Relative gradient optimization of the Jacobian term in unsupervised deep
learning [9.385902422987677]
データを正しく記述した表現的確率モデルを学習することは、機械学習におけるユビキタスな問題である。
このタスクには深度モデルが広く使用されているが、その最大可能性に基づくトレーニングでは、ジャコビアンの対数行列式を推定する必要がある。
このようなニューラルネットワークの正確なトレーニングのための新しいアプローチを提案する。
論文 参考訳(メタデータ) (2020-06-26T16:41:08Z) - MetaSDF: Meta-learning Signed Distance Functions [85.81290552559817]
ニューラルな暗示表現で形状を一般化することは、各関数空間上の学習先行値に比例する。
形状空間の学習をメタラーニング問題として定式化し、勾配に基づくメタラーニングアルゴリズムを利用してこの課題を解決する。
論文 参考訳(メタデータ) (2020-06-17T05:14:53Z) - Belief Propagation Reloaded: Learning BP-Layers for Labeling Problems [83.98774574197613]
最も単純な推論手法の1つとして、切り詰められた最大積のBelief伝播を取り上げ、それをディープラーニングモデルの適切なコンポーネントにするために必要となるものを加えます。
このBP-Layerは畳み込みニューラルネットワーク(CNN)の最終ブロックまたは中間ブロックとして使用できる
このモデルは様々な密集予測問題に適用可能であり、パラメータ効率が高く、ステレオ、光フロー、セマンティックセグメンテーションにおける堅牢な解を提供する。
論文 参考訳(メタデータ) (2020-03-13T13:11:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。