論文の概要: Invertible ResNets for Inverse Imaging Problems: Competitive Performance with Provable Regularization Properties
- arxiv url: http://arxiv.org/abs/2409.13482v1
- Date: Fri, 20 Sep 2024 13:15:26 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-07 06:53:09.648123
- Title: Invertible ResNets for Inverse Imaging Problems: Competitive Performance with Provable Regularization Properties
- Title（参考訳）: Invertible ResNets for Inverse Imaging Problems: Competitive Performance with Provable Regularization Properties (特集:情報ネットワーク)
- Authors: Clemens Arndt, Judith Nickel,
- Abstract要約: Arndtらによる最近の研究は、可逆的残差ネットワーク(iResNets)に基づくデータ駆動型再構成法を解析して、このギャップに対処している。
Arndtらによる理論的結果のいくつかを非線形逆問題に包含するように拡張し、大規模高性能iResNetアーキテクチャの設計に対する洞察を提供する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Learning-based methods have demonstrated remarkable performance in solving inverse problems, particularly in image reconstruction tasks. Despite their success, these approaches often lack theoretical guarantees, which are crucial in sensitive applications such as medical imaging. Recent works by Arndt et al (2023 Inverse Problems 39 125018, 2024 Inverse Problems 40 045021) addressed this gap by analyzing a data-driven reconstruction method based on invertible residual networks (iResNets). They revealed that, under reasonable assumptions, this approach constitutes a convergent regularization scheme. However, the performance of the reconstruction method was only validated on academic toy problems and small-scale iResNet architectures. In this work, we address this gap by evaluating the performance of iResNets on two real-world imaging tasks: a linear blurring operator and a nonlinear diffusion operator. To do so, we extend some of the theoretical results from Arndt et al to encompass nonlinear inverse problems and offer insights for the design of large-scale performant iResNet architectures. Through numerical experiments, we compare the performance of our iResNet models against state-of-the-art neural networks, confirming their efficacy. Additionally, we numerically investigate the theoretical guarantees of this approach and demonstrate how the invertibility of the network enables a deeper analysis of the learned forward operator and its learned regularization.
- Abstract（参考訳）: 学習に基づく手法は、逆問題、特に画像再構成タスクにおいて顕著な性能を示した。
彼らの成功にもかかわらず、これらのアプローチは理論的な保証を欠くことが多く、医療画像のようなセンシティブな応用に不可欠である。
Arndt et al (2023 Inverse Problems 39 125018, 2024 Inverse Problems 40 045021) による最近の研究は、非可逆残差ネットワーク (iResNets) に基づくデータ駆動再構築法を解析することによって、このギャップに対処している。
彼らは合理的な仮定の下で、このアプローチが収束正則化スキームを構成することを明らかにした。
しかし, 再現法の性能は, 学術的な玩具問題や小型のiResNetアーキテクチャでのみ検証された。
本研究では,2つの実世界の画像処理タスク(線形ぼやけた演算子と非線形拡散演算子)におけるiResNetsの性能を評価することで,このギャップに対処する。
そのため、Arndtらによる理論的結果のいくつかを非線形逆問題を含むように拡張し、大規模高性能iResNetアーキテクチャの設計に対する洞察を提供する。
数値実験により,iResNetモデルの性能を最先端のニューラルネットワークと比較し,その有効性を確認した。
さらに,本手法の理論的保証を数値的に検討し,ネットワークの可逆性によって学習したフォワード演算子とその学習正規化をより深く解析できることを示す。
関連論文リスト
- Component-based Sketching for Deep ReLU Nets [55.404661149594375]
各種タスクのためのディープネットコンポーネントに基づくスケッチ手法を開発した。
我々はディープネットトレーニングを線形経験的リスク最小化問題に変換する。
提案したコンポーネントベーススケッチは飽和関数の近似においてほぼ最適であることを示す。
論文 参考訳（メタデータ） (2024-09-21T15:30:43Z) - Generalization and Estimation Error Bounds for Model-based Neural
Networks [78.88759757988761]
スパースリカバリのためのモデルベースネットワークの一般化能力は、通常のReLUネットワークよりも優れていることを示す。
我々は,高一般化を保証したモデルベースネットワークの構築を可能にする実用的な設計規則を導出する。
論文 参考訳（メタデータ） (2023-04-19T16:39:44Z) - Training Adaptive Reconstruction Networks for Blind Inverse Problems [0.0]
本研究では,ネットワークをフォワード演算子のファミリーでトレーニングすることで,再構成品質を著しく向上させることなく適応性問題を解くことができることを示す。
実験には、感度推定とオフ共鳴効果を備えたMRI(MRI)による部分フーリエサンプリング問題、傾斜した形状のコンピュータ断層撮影(CT)、フレネル回折核による画像劣化などが含まれる。
論文 参考訳（メタデータ） (2022-02-23T07:56:02Z) - Robust lEarned Shrinkage-Thresholding (REST): Robust unrolling for
sparse recover [87.28082715343896]
我々は、モデルミス特定を前進させるのに堅牢な逆問題を解決するためのディープニューラルネットワークについて検討する。
我々は,アルゴリズムの展開手法を根底にある回復問題のロバストバージョンに適用することにより,新しい堅牢なディープニューラルネットワークアーキテクチャを設計する。
提案したRESTネットワークは,圧縮センシングとレーダイメージングの両問題において,最先端のモデルベースおよびデータ駆動アルゴリズムを上回る性能を示す。
論文 参考訳（メタデータ） (2021-10-20T06:15:45Z) - Joint Learning of Neural Transfer and Architecture Adaptation for Image
Recognition [77.95361323613147]
現在の最先端の視覚認識システムは、大規模データセット上でニューラルネットワークを事前トレーニングし、より小さなデータセットでネットワーク重みを微調整することに依存している。
本稿では,各ドメインタスクに適応したネットワークアーキテクチャの動的適応と,効率と効率の両面で重みの微調整の利点を実証する。
本手法は,ソースドメインタスクでスーパーネットトレーニングを自己教師付き学習に置き換え,下流タスクで線形評価を行うことにより,教師なしパラダイムに容易に一般化することができる。
論文 参考訳（メタデータ） (2021-03-31T08:15:17Z) - Solving Inverse Problems With Deep Neural Networks -- Robustness
Included? [3.867363075280544]
近年の研究では、複数の画像再構成タスクにおけるディープニューラルネットワークの不安定性が指摘されている。
分類における敵対的攻撃と類似して、入力領域のわずかな歪みが深刻な成果物を生じさせる可能性が示された。
本稿では、未決定の逆問題を解決するためのディープラーニングベースのアルゴリズムの堅牢性について広範な研究を行うことにより、この懸念に新たな光を当てる。
論文 参考訳（メタデータ） (2020-11-09T09:33:07Z) - Kernel-Based Smoothness Analysis of Residual Networks [85.20737467304994]
ResNets(Residual Networks)は、これらの強力なモダンアーキテクチャの中でも際立っている。
本稿では,2つのモデル,すなわちResNetsが勾配よりもスムーズな傾向を示す。
論文 参考訳（メタデータ） (2020-09-21T16:32:04Z) - Dynamically Computing Adversarial Perturbations for Recurrent Neural
Networks [33.61168219427157]
畳み込みと繰り返しのニューラルネットワークは、分類タスクにおける最先端のパフォーマンスを達成するために広く利用されている。
また、これらのネットワークは、入力に対して慎重に加法摂動を作れば、相対的に容易に操作可能であることも指摘されている。
我々は,このような事例に対して,敵例の存在とネットワークのロバスト性マージンを理論的に保証する。
論文 参考訳（メタデータ） (2020-09-07T03:37:03Z) - Self-Organized Operational Neural Networks for Severe Image Restoration
Problems [25.838282412957675]
畳み込みニューラルネットワーク(CNN)に基づく離散学習は、ノイズとクリーンのイメージペアのトレーニング例から学習することで、画像復元を行うことを目的としている。
これは畳み込みに基づく変換の本質的な線形性によるものであり、深刻な復元問題に対処するには不十分である。
画像復元のための自己組織型ONN(Self-ONN)を提案する。
論文 参考訳（メタデータ） (2020-08-29T02:19:41Z) - Iterative Network for Image Super-Resolution [69.07361550998318]
単一画像超解像(SISR)は、最近の畳み込みニューラルネットワーク(CNN)の発展により、大幅に活性化されている。
本稿では、従来のSISRアルゴリズムに関する新たな知見を提供し、反復最適化に依存するアプローチを提案する。
反復最適化の上に,新しい反復型超解像ネットワーク (ISRN) を提案する。
論文 参考訳（メタデータ） (2020-05-20T11:11:47Z) - Improving Robustness of Deep-Learning-Based Image Reconstruction [24.882806652224854]
逆問題解法では, 測定空間における敵の効果を分析し, 研究する必要がある。
本稿では,高機能な画像再構成ネットワークを構築するために,min-maxの定式化に使用される逆例を生成する補助ネットワークを提案する。
提案したmin-max学習方式を用いた線形ネットワークは,実際に同じ解に収束する。
論文 参考訳（メタデータ） (2020-02-26T22:12:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。