論文の概要: Loop Unrolled Shallow Equilibrium Regularizer (LUSER) -- A
Memory-Efficient Inverse Problem Solver
- arxiv url: http://arxiv.org/abs/2210.04987v1
- Date: Mon, 10 Oct 2022 19:50:37 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-12 17:14:42.825560
- Title: Loop Unrolled Shallow Equilibrium Regularizer (LUSER) -- A
Memory-Efficient Inverse Problem Solver
- Title（参考訳）: Loop Unrolled Shallow Equilibrium Regularizer (LUSER) -- メモリ効率の良い逆問題解法
- Authors: Peimeng Guan, Jihui Jin, Justin Romberg, Mark A. Davenport
- Abstract要約: 逆問題では、潜在的に破損し、しばしば不適切な測定結果から、いくつかの基本的な関心のシグナルを再構築することを目的としている。
浅い平衡正規化器(L)を用いたLUアルゴリズムを提案する。
これらの暗黙のモデルは、より深い畳み込みネットワークと同じくらい表現力があるが、トレーニング中にはるかにメモリ効率が良い。
- 参考スコア（独自算出の注目度）: 26.87738024952936
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In inverse problems we aim to reconstruct some underlying signal of interest
from potentially corrupted and often ill-posed measurements. Classical
optimization-based techniques proceed by optimizing a data consistency metric
together with a regularizer. Current state-of-the-art machine learning
approaches draw inspiration from such techniques by unrolling the iterative
updates for an optimization-based solver and then learning a regularizer from
data. This loop unrolling (LU) method has shown tremendous success, but often
requires a deep model for the best performance leading to high memory costs
during training. Thus, to address the balance between computation cost and
network expressiveness, we propose an LU algorithm with shallow equilibrium
regularizers (LUSER). These implicit models are as expressive as deeper
convolutional networks, but far more memory efficient during training. The
proposed method is evaluated on image deblurring, computed tomography (CT), as
well as single-coil Magnetic Resonance Imaging (MRI) tasks and shows similar,
or even better, performance while requiring up to 8 times less computational
resources during training when compared against a more typical LU architecture
with feedforward convolutional regularizers.
- Abstract（参考訳）: 逆問題では、潜在的に腐敗し、しばしば不適切な測定結果から、いくつかの関心のシグナルを再構築することを目的としています。
古典的な最適化に基づく手法は、正規化器と共にデータの一貫性を最適化する。
現在の最先端機械学習アプローチは、最適化ベースのソルバの反復更新をロールアウトして、データから正規化子を学習することで、そのようなテクニックからインスピレーションを得ている。
このループアンロール(lu)メソッドは大きな成功を収めているが、トレーニング中に高いメモリコストをもたらす最高のパフォーマンスのために、深いモデルを必要とすることが多い。
そこで本稿では,計算コストとネットワーク表現性のバランスに対処するため,浅平衡正規化器 (LUSER) を用いたLUアルゴリズムを提案する。
これらの暗黙のモデルは、より深い畳み込みネットワークと同じくらい表現力があるが、トレーニング中にはるかにメモリ効率が高い。
提案手法は,画像劣化,CT,および単コイル磁気共鳴イメージング(MRI)タスクに基づいて評価し,フィードフォワード畳み込み正規化器を用いたより一般的なLUアーキテクチャと比較した場合,トレーニング中に最大8倍の計算資源を必要とする一方で,類似あるいはそれ以上の性能を示す。
関連論文リスト
- An Optimization-based Deep Equilibrium Model for Hyperspectral Image
Deconvolution with Convergence Guarantees [71.57324258813675]
本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。
新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。
導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
論文 参考訳（メタデータ） (2023-06-10T08:25:16Z) - Curvature regularization for Non-line-of-sight Imaging from
Under-sampled Data [5.591221518341613]
非視線イメージング(NLOS)は、視線で測定されたデータから3次元の隠れたシーンを再構築することを目的としている。
曲率正規化に基づく新しいNLOS再構成モデルを提案する。
提案したアルゴリズムを,合成データセットと実データセットの両方で評価する。
論文 参考訳（メタデータ） (2023-01-01T14:10:43Z) - Effective Invertible Arbitrary Image Rescaling [77.46732646918936]
Invertible Neural Networks (INN)は、ダウンスケーリングとアップスケーリングのサイクルを共同で最適化することにより、アップスケーリングの精度を大幅に向上させることができる。
本研究の1つのモデルのみをトレーニングすることにより、任意の画像再スケーリングを実現するために、単純で効果的な非可逆的再スケーリングネットワーク(IARN)を提案する。
LR出力の知覚品質を損なうことなく、双方向任意再スケーリングにおいて最先端(SOTA)性能を実現する。
論文 参考訳（メタデータ） (2022-09-26T22:22:30Z) - Deep Equilibrium Assisted Block Sparse Coding of Inter-dependent
Signals: Application to Hyperspectral Imaging [71.57324258813675]
相互依存信号のデータセットは、列が強い依存を示す行列として定義される。
ニューラルネットワークは、事前に構造として機能し、基礎となる信号相互依存性を明らかにするために使用される。
ディープ・アンローリングとディープ・平衡に基づくアルゴリズムが開発され、高度に解釈可能で簡潔なディープ・ラーニング・ベース・アーキテクチャを形成する。
論文 参考訳（メタデータ） (2022-03-29T21:00:39Z) - Denoising Diffusion Restoration Models [110.1244240726802]
Denoising Diffusion Restoration Models (DDRM) は効率的で教師なしの後方サンプリング手法である。
DDRMの汎用性を、超高解像度、デブロアリング、インペイント、カラー化のためにいくつかの画像データセットに示す。
論文 参考訳（メタデータ） (2022-01-27T20:19:07Z) - Joint inference and input optimization in equilibrium networks [68.63726855991052]
ディープ均衡モデル(Deep equilibrium model)は、従来のネットワークの深さを予測し、代わりに単一の非線形層の固定点を見つけることによってネットワークの出力を計算するモデルのクラスである。
この2つの設定の間には自然なシナジーがあることが示されています。
この戦略は、生成モデルのトレーニングや、潜時符号の最適化、デノベートやインペインティングといった逆問題に対するトレーニングモデル、対逆トレーニング、勾配に基づくメタラーニングなど、様々なタスクにおいて実証される。
論文 参考訳（メタデータ） (2021-11-25T19:59:33Z) - DRO: Deep Recurrent Optimizer for Structure-from-Motion [46.34708595941016]
本稿では,recurrent neural network in structure-from-motion (sfm)に基づく新しい最適化手法を提案する。
神経は奥行きをアップデートし、カメラはイテレーションを通じて機能測定コストを最小化します。
実験により, 繰り返し計算により, 深度とポーズを補正しながら, 特徴量コストを効果的に低減できることを示した。
論文 参考訳（メタデータ） (2021-03-24T13:59:40Z) - Deep Equilibrium Architectures for Inverse Problems in Imaging [14.945209750917483]
ディープニューラルネットワークによるイメージングにおける逆問題に対する最近の取り組みは、最適化手法の一定数の反復に触発されたアーキテクチャを使用している。
本稿では,再構成精度を4dB PSNRに向上させた,無限の繰り返しに対応する代替手法について述べる。
論文 参考訳（メタデータ） (2021-02-16T03:49:58Z) - Optimization-driven Machine Learning for Intelligent Reflecting Surfaces
Assisted Wireless Networks [82.33619654835348]
インテリジェントサーフェス(IRS)は、個々の散乱素子の位相シフトを制御して無線チャネルを再形成するために用いられる。
散乱素子の規模が大きいため、受動ビームフォーミングは一般に高い計算複雑性によって挑戦される。
本稿では、IRS支援無線ネットワークの性能向上のための機械学習(ML)アプローチに焦点を当てる。
論文 参考訳（メタデータ） (2020-08-29T08:39:43Z) - Neural Network-based Reconstruction in Compressed Sensing MRI Without
Fully-sampled Training Data [17.415937218905125]
CS-MRIは、アンダーサンプリングされたMR画像の再構成を約束している。
ニューラルネットワークで繰り返しをアンロールすることで、古典的なテクニックの反復性をモデル化するディープラーニングモデルが開発されている。
本稿では,古典的最適化方式で広く用いられている損失関数を応用して,非学習型再構成ネットワークを教師なしで訓練するための新しい戦略について検討する。
論文 参考訳（メタデータ） (2020-07-29T17:46:55Z) - Hyperspectral Unmixing Network Inspired by Unfolding an Optimization
Problem [2.4016406737205753]
ハイパースペクトル画像(HSI)アンミックスタスクは本質的に逆問題であり、最適化アルゴリズムによってよく解決される。
本稿では,U-ADMM-AENetとU-ADMM-BUNetという2つの新しいネットワークアーキテクチャを提案する。
本研究は,機械学習の文献において,展開された構造が対応する解釈を見つけることを示し,提案手法の有効性をさらに示すものである。
論文 参考訳（メタデータ） (2020-05-21T18:49:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。