論文の概要: Accelerating Deep Unrolling Networks via Dimensionality Reduction

• arxiv url: http://arxiv.org/abs/2208.14784v1
• Date: Wed, 31 Aug 2022 11:45:21 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-01 13:14:09.606058
• Title: Accelerating Deep Unrolling Networks via Dimensionality Reduction
• Title（参考訳）: 次元性低減によるディープアンロールネットワークの高速化
• Authors: Junqi Tang, Subhadip Mukherjee, Carola-Bibiane Sch\"onlieb
• Abstract要約: ディープ・アンローリング・ネットワークは現在、逆問題の画像化のための最先端のソリューションである。 X線CTやMRIなどの高次元イメージングタスクでは、ディープ・アンローリング・スキームは通常非効率になる。 本稿では,次元削減方式を用いた効率的なディープ・アンローリング・ネットワークを設計するための新しいパラダイムを提案する。
• 参考スコア（独自算出の注目度）: 5.73658856166614
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this work we propose a new paradigm for designing efficient deep unrolling networks using dimensionality reduction schemes, including minibatch gradient approximation and operator sketching. The deep unrolling networks are currently the state-of-the-art solutions for imaging inverse problems. However, for high-dimensional imaging tasks, especially X-ray CT and MRI imaging, the deep unrolling schemes typically become inefficient both in terms of memory and computation, due to the need of computing multiple times the high-dimensional forward and adjoint operators. Recently researchers have found that such limitations can be partially addressed by unrolling the stochastic gradient descent (SGD), inspired by the success of stochastic first-order optimization. In this work, we explore further this direction and propose first a more expressive and practical stochastic primal-dual unrolling, based on the state-of-the-art Learned Primal-Dual (LPD) network, and also a further acceleration upon stochastic primal-dual unrolling, using sketching techniques to approximate products in the high-dimensional image space. The operator sketching can be jointly applied with stochastic unrolling for the best acceleration and compression performance. Our numerical experiments on X-ray CT image reconstruction demonstrate the remarkable effectiveness of our accelerated unrolling schemes.
• Abstract（参考訳）: 本研究では,ミニバッチ勾配近似や演算子スケッチを含む次元低減スキームを用いて,効率的なディープアンロールネットワークを設計するための新しいパラダイムを提案する。 ディープアンロールネットワークは現在、逆問題を画像化するための最先端のソリューションである。 しかし、高次元イメージングタスク、特にX線CTとMRIでは、高次元のフォワードおよびアジョイント演算子を複数回計算する必要があるため、ディープ・アンローリング・スキームはメモリと計算の両方で非効率になる。 近年の研究者らは、確率的一階最適化の成功に触発された確率勾配降下(SGD)を解き放つことで、そのような制限に部分的に対処できることを発見した。 そこで本研究では,まず,最先端学習型プライマル・デュアル(lpd)ネットワークに基づく,より表現豊かで実用的な確率的プライマル・デュアル・アンロールングを提案し,さらに,高次元画像空間における製品近似のためのスケッチ技術を用いて,確率的プライマル・デュアル・アンロールングを加速する。 オペレータのスケッチは、最高の加速度および圧縮性能のために確率的アンロールと共同で適用することができる。 X線CT画像再構成に関する数値実験により,加速アンロール方式の有効性が示された。

関連論文リスト

• Sketched Equivariant Imaging Regularization and Deep Internal Learning for Inverse Problems [4.287621751502392]
  等変イメージング(EI)正則化は、ディープイメージングネットワークの教師なしトレーニングにおけるデファクト技術となっている。 本稿では,ランダムなスケッチ手法を応用したスケッチ付きEI正規化手法を提案する。 次に、スケッチしたEI正規化を拡張して、高速化された深層学習フレームワークを開発する。
  論文  参考訳（メタデータ） (2024-11-08T18:33:03Z)
• Learning Efficient and Effective Trajectories for Differential Equation-based Image Restoration [59.744840744491945]
  我々は, この手法の軌道最適化を再構築し, 復元品質と効率の両立に焦点をあてる。 本稿では,複雑な経路を適応可能なサイズで複数の管理可能なステップに合理化するためのコスト対応トラジェクトリー蒸留法を提案する。 実験では提案手法の有意な優位性を示し, 最先端手法よりも最大2.1dBのPSNR改善を実現した。
  論文  参考訳（メタデータ） (2024-10-07T07:46:08Z)
• Iterative Soft Shrinkage Learning for Efficient Image Super-Resolution [91.3781512926942]
  画像超解像(SR)は、CNNからトランスフォーマーアーキテクチャへの広範なニューラルネットワーク設計を目撃している。 本研究は,市販のネットワーク設計を生かし,基礎となる計算オーバーヘッドを低減するため,超高解像度イテレーションにおけるネットワークプルーニングの可能性について検討する。 本研究では, ランダムネットワークのスパース構造を最適化し, 重要でない重みを小さめに微調整することにより, 反復型軟収縮率(ISS-P)法を提案する。
  論文  参考訳（メタデータ） (2023-03-16T21:06:13Z)
• Loop Unrolled Shallow Equilibrium Regularizer (LUSER) -- A Memory-Efficient Inverse Problem Solver [26.87738024952936]
  逆問題では、潜在的に破損し、しばしば不適切な測定結果から、いくつかの基本的な関心のシグナルを再構築することを目的としている。 浅い平衡正規化器(L)を用いたLUアルゴリズムを提案する。 これらの暗黙のモデルは、より深い畳み込みネットワークと同じくらい表現力があるが、トレーニング中にはるかにメモリ効率が良い。
  論文  参考訳（メタデータ） (2022-10-10T19:50:37Z)
• Fast Auto-Differentiable Digitally Reconstructed Radiographs for Solving Inverse Problems in Intraoperative Imaging [2.6027967363792865]
  デジタル再構成ラジオグラフィ(DRR)は術前設定でよく研究されている。 DRRはスライス・ツー・ボリューム登録や3次元再構成といった逆問題の解決に利用できる。
  論文  参考訳（メタデータ） (2022-08-26T15:49:28Z)
• Operator Sketching for Deep Unrolling Networks [5.025654873456756]
  我々は,演算子スケッチを用いた効率的なディープ・アンローリング・ネットワーク設計のための新しいパラダイムを提案する。 X線CT画像再構成に関する数値実験により,スケッチ付きアンロール方式の有効性が示された。
  論文  参考訳（メタデータ） (2022-03-21T17:34:18Z)
• Accelerating Plug-and-Play Image Reconstruction via Multi-Stage Sketched Gradients [5.025654873456756]
  本稿では,次元削減手法を用いて高速なプラグアンドプレイ(ランチ)アルゴリズムを設計するための新しいパラダイムを提案する。 加速度に勾配反復を利用する既存のアプローチとは異なり、我々は新しい多段階スケッチ勾配反復を提案する。
  論文  参考訳（メタデータ） (2022-03-14T17:12:09Z)
• A Deep-Unfolded Reference-Based RPCA Network For Video Foreground-Background Separation [86.35434065681925]
  本稿では,ロバスト主成分分析(RPCA)問題に対するディープアンフォールディングに基づくネットワーク設計を提案する。 既存の設計とは異なり,本手法は連続するビデオフレームのスパース表現間の時間的相関をモデル化することに焦点を当てている。 移動MNISTデータセットを用いた実験により、提案したネットワークは、ビデオフォアグラウンドとバックグラウンドの分離作業において、最近提案された最先端のRPCAネットワークより優れていることが示された。
  論文  参考訳（メタデータ） (2020-10-02T11:40:09Z)
• Deep Variational Network Toward Blind Image Restoration [60.45350399661175]
  ブラインド画像復元はコンピュータビジョンでは一般的だが難しい問題である。 両利点を両立させることを目的として,新しいブラインド画像復元手法を提案する。 画像デノイングと超解像という2つの典型的なブラインド赤外線タスクの実験により,提案手法が現状よりも優れた性能を達成できることが実証された。
  論文  参考訳（メタデータ） (2020-08-25T03:30:53Z)
• Iterative Algorithm Induced Deep-Unfolding Neural Networks: Precoding Design for Multiuser MIMO Systems [59.804810122136345]
  本稿では,AIIDNN(ディープ・アンフォールディング・ニューラルネット)を一般化した,ディープ・アンフォールディングのためのフレームワークを提案する。 古典的重み付き最小二乗誤差(WMMSE)反復アルゴリズムの構造に基づく効率的なIAIDNNを提案する。 提案したIAIDNNは,計算複雑性を低減した反復WMMSEアルゴリズムの性能を効率よく向上することを示す。
  論文  参考訳（メタデータ） (2020-06-15T02:57:57Z)
• Video Face Super-Resolution with Motion-Adaptive Feedback Cell [90.73821618795512]
  深部畳み込みニューラルネットワーク(CNN)の発展により,ビデオ超解像法(VSR)は近年,顕著な成功を収めている。 本稿では,動作補償を効率的に捕捉し,適応的にネットワークにフィードバックする,シンプルで効果的なブロックである動き適応型フィードバックセル(MAFC)を提案する。
  論文  参考訳（メタデータ） (2020-02-15T13:14:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。