論文の概要: Accelerating Deep Unrolling Networks via Dimensionality Reduction
- arxiv url: http://arxiv.org/abs/2208.14784v1
- Date: Wed, 31 Aug 2022 11:45:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-01 13:14:09.606058
- Title: Accelerating Deep Unrolling Networks via Dimensionality Reduction
- Title（参考訳）: 次元性低減によるディープアンロールネットワークの高速化
- Authors: Junqi Tang, Subhadip Mukherjee, Carola-Bibiane Sch\"onlieb
- Abstract要約: ディープ・アンローリング・ネットワークは現在、逆問題の画像化のための最先端のソリューションである。
X線CTやMRIなどの高次元イメージングタスクでは、ディープ・アンローリング・スキームは通常非効率になる。
本稿では,次元削減方式を用いた効率的なディープ・アンローリング・ネットワークを設計するための新しいパラダイムを提案する。
- 参考スコア（独自算出の注目度）: 5.73658856166614
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work we propose a new paradigm for designing efficient deep unrolling
networks using dimensionality reduction schemes, including minibatch gradient
approximation and operator sketching. The deep unrolling networks are currently
the state-of-the-art solutions for imaging inverse problems. However, for
high-dimensional imaging tasks, especially X-ray CT and MRI imaging, the deep
unrolling schemes typically become inefficient both in terms of memory and
computation, due to the need of computing multiple times the high-dimensional
forward and adjoint operators. Recently researchers have found that such
limitations can be partially addressed by unrolling the stochastic gradient
descent (SGD), inspired by the success of stochastic first-order optimization.
In this work, we explore further this direction and propose first a more
expressive and practical stochastic primal-dual unrolling, based on the
state-of-the-art Learned Primal-Dual (LPD) network, and also a further
acceleration upon stochastic primal-dual unrolling, using sketching techniques
to approximate products in the high-dimensional image space. The operator
sketching can be jointly applied with stochastic unrolling for the best
acceleration and compression performance. Our numerical experiments on X-ray CT
image reconstruction demonstrate the remarkable effectiveness of our
accelerated unrolling schemes.
- Abstract（参考訳）: 本研究では,ミニバッチ勾配近似や演算子スケッチを含む次元低減スキームを用いて,効率的なディープアンロールネットワークを設計するための新しいパラダイムを提案する。
ディープアンロールネットワークは現在、逆問題を画像化するための最先端のソリューションである。
しかし、高次元イメージングタスク、特にX線CTとMRIでは、高次元のフォワードおよびアジョイント演算子を複数回計算する必要があるため、ディープ・アンローリング・スキームはメモリと計算の両方で非効率になる。
近年の研究者らは、確率的一階最適化の成功に触発された確率勾配降下(SGD)を解き放つことで、そのような制限に部分的に対処できることを発見した。
そこで本研究では,まず,最先端学習型プライマル・デュアル(lpd)ネットワークに基づく,より表現豊かで実用的な確率的プライマル・デュアル・アンロールングを提案し,さらに,高次元画像空間における製品近似のためのスケッチ技術を用いて,確率的プライマル・デュアル・アンロールングを加速する。
オペレータのスケッチは、最高の加速度および圧縮性能のために確率的アンロールと共同で適用することができる。
X線CT画像再構成に関する数値実験により,加速アンロール方式の有効性が示された。
関連論文リスト
- Sketched Equivariant Imaging Regularization and Deep Internal Learning for Inverse Problems [4.287621751502392]
等変イメージング(EI)正則化は、ディープイメージングネットワークの教師なしトレーニングにおけるデファクト技術となっている。
本稿では,ランダムなスケッチ手法を応用したスケッチ付きEI正規化手法を提案する。
次に、スケッチしたEI正規化を拡張して、高速化された深層学習フレームワークを開発する。
論文 参考訳（メタデータ） (2024-11-08T18:33:03Z) - Inter-slice Super-resolution of Magnetic Resonance Images by Pre-training and Self-supervised Fine-tuning [49.197385954021456]
臨床実践では、2次元磁気共鳴(MR)シーケンスが広く採用されている。個々の2次元スライスを積み重ねて3次元ボリュームを形成できるが、比較的大きなスライスススペーシングは可視化とその後の解析タスクに課題をもたらす可能性がある。
スライス間隔を低減するため,ディープラーニングに基づく超解像技術が広く研究されている。
現在のほとんどのソリューションは、教師付きトレーニングのために、かなりの数の高解像度と低解像度の画像を必要とするが、通常は現実のシナリオでは利用できない。
論文 参考訳（メタデータ） (2024-06-10T02:20:26Z) - Iterative Soft Shrinkage Learning for Efficient Image Super-Resolution [91.3781512926942]
画像超解像(SR)は、CNNからトランスフォーマーアーキテクチャへの広範なニューラルネットワーク設計を目撃している。
本研究は,市販のネットワーク設計を生かし,基礎となる計算オーバーヘッドを低減するため,超高解像度イテレーションにおけるネットワークプルーニングの可能性について検討する。
本研究では, ランダムネットワークのスパース構造を最適化し, 重要でない重みを小さめに微調整することにより, 反復型軟収縮率(ISS-P)法を提案する。
論文 参考訳（メタデータ） (2023-03-16T21:06:13Z) - GLEAM: Greedy Learning for Large-Scale Accelerated MRI Reconstruction [50.248694764703714]
アンロールされたニューラルネットワークは、最近最先端の加速MRI再構成を達成した。
これらのネットワークは、物理ベースの一貫性とニューラルネットワークベースの正規化を交互に組み合わせることで、反復最適化アルゴリズムをアンロールする。
我々は,高次元画像設定のための効率的なトレーニング戦略である加速度MRI再構成のためのグレディ・ラーニングを提案する。
論文 参考訳（メタデータ） (2022-07-18T06:01:29Z) - Operator Sketching for Deep Unrolling Networks [5.025654873456756]
我々は,演算子スケッチを用いた効率的なディープ・アンローリング・ネットワーク設計のための新しいパラダイムを提案する。
X線CT画像再構成に関する数値実験により,スケッチ付きアンロール方式の有効性が示された。
論文 参考訳（メタデータ） (2022-03-21T17:34:18Z) - Accelerating Plug-and-Play Image Reconstruction via Multi-Stage Sketched
Gradients [5.025654873456756]
本稿では,次元削減手法を用いて高速なプラグアンドプレイ(ランチ)アルゴリズムを設計するための新しいパラダイムを提案する。
加速度に勾配反復を利用する既存のアプローチとは異なり、我々は新しい多段階スケッチ勾配反復を提案する。
論文 参考訳（メタデータ） (2022-03-14T17:12:09Z) - Homography Decomposition Networks for Planar Object Tracking [11.558401177707312]
平面オブジェクトトラッキングは、ロボット工学、ビジュアルサーボ、ビジュアルSLAMといったAIアプリケーションにおいて重要な役割を果たす。
本稿では, ホログラフィ変換を2つのグループに分解することで, 条件数を大幅に削減し, 安定化する新しいホモグラフィ分解ネットワークを提案する。
論文 参考訳（メタデータ） (2021-12-15T06:13:32Z) - SHINE: SHaring the INverse Estimate from the forward pass for bi-level
optimization and implicit models [15.541264326378366]
近年,深層ニューラルネットワークの深度を高める手法として暗黙の深度学習が登場している。
トレーニングは双レベル問題として実行され、その計算複雑性は巨大なヤコビ行列の反復反転によって部分的に駆動される。
本稿では,この計算ボトルネックに対処する新たな手法を提案する。
論文 参考訳（メタデータ） (2021-06-01T15:07:34Z) - Riggable 3D Face Reconstruction via In-Network Optimization [58.016067611038046]
本稿では,単眼画像からの3次元顔再構成法を提案する。
表情、ポーズ、照明を含む画像ごとのパーソナライズされた顔リグとパラメータを共同で推定する。
実験により,SOTA復元精度,ロバスト性,一般化能力が得られた。
論文 参考訳（メタデータ） (2021-04-08T03:53:20Z) - A Deep-Unfolded Reference-Based RPCA Network For Video
Foreground-Background Separation [86.35434065681925]
本稿では,ロバスト主成分分析(RPCA)問題に対するディープアンフォールディングに基づくネットワーク設計を提案する。
既存の設計とは異なり,本手法は連続するビデオフレームのスパース表現間の時間的相関をモデル化することに焦点を当てている。
移動MNISTデータセットを用いた実験により、提案したネットワークは、ビデオフォアグラウンドとバックグラウンドの分離作業において、最近提案された最先端のRPCAネットワークより優れていることが示された。
論文 参考訳（メタデータ） (2020-10-02T11:40:09Z) - The Power of Triply Complementary Priors for Image Compressive Sensing [89.14144796591685]
本稿では,一対の相補的な旅先を含むLRD画像モデルを提案する。
次に、画像CSのためのRDモデルに基づく新しいハイブリッド・プラグイン・アンド・プレイ・フレームワークを提案する。
そこで,提案したH-based image CS問題の解法として,単純で効果的なアルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-05-16T08:17:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。