論文の概要: Towards Architecture-Agnostic Untrained Network Priors for Image Reconstruction with Frequency Regularization

• arxiv url: http://arxiv.org/abs/2312.09988v3
• Date: Fri, 19 Jul 2024 03:54:44 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-23 00:16:29.791966
• Title: Towards Architecture-Agnostic Untrained Network Priors for Image Reconstruction with Frequency Regularization
• Title（参考訳）: 周波数規則化による画像再構成のためのアーキテクチャ非依存ネットワーク優先
• Authors: Yilin Liu, Yunkui Pang, Jiang Li, Yong Chen, Pew-Thian Yap,
• Abstract要約: ネットワーク先行のスペクトルバイアスを直接変調する効率的なアーキテクチャ非依存手法を提案する。 ほんの数行のコードで、パフォーマンスの低いアーキテクチャでの過度な適合を減らし、パフォーマンスの低いアーキテクチャとパフォーマンスのギャップを埋めることができます。 その結果、アーキテクチャ上のバイアス、過度な適合、および未トレーニングのネットワークプリエントのランタイム上の問題に、アーキテクチャの変更なしに同時に対処できることが初めて明らかとなった。
• 参考スコア（独自算出の注目度）: 14.73423587548693
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Untrained networks inspired by deep image priors have shown promising capabilities in recovering high-quality images from noisy or partial measurements without requiring training sets. Their success is widely attributed to implicit regularization due to the spectral bias of suitable network architectures. However, the application of such network-based priors often entails superfluous architectural decisions, risks of overfitting, and lengthy optimization processes, all of which hinder their practicality. To address these challenges, we propose efficient architecture-agnostic techniques to directly modulate the spectral bias of network priors: 1) bandwidth-constrained input, 2) bandwidth-controllable upsamplers, and 3) Lipschitz-regularized convolutional layers. We show that, with just a few lines of code, we can reduce overfitting in underperforming architectures and close performance gaps with high-performing counterparts, minimizing the need for extensive architecture tuning. This makes it possible to employ a more compact model to achieve performance similar or superior to larger models while reducing runtime. Demonstrated on inpainting-like MRI reconstruction task, our results signify for the first time that architectural biases, overfitting, and runtime issues of untrained network priors can be simultaneously addressed without architectural modifications. Our code is publicly available.
• Abstract（参考訳）: ディープイメージにインスパイアされた未学習のネットワークは、トレーニングセットを必要とせず、ノイズや部分的な測定から高品質なイメージを復元する有望な能力を示している。 彼らの成功は、適切なネットワークアーキテクチャのスペクトルバイアスによる暗黙の正則化によるところが大きい。 しかし、そのようなネットワークベースの事前の応用は、しばしば過剰なアーキテクチャ上の決定、過度に適合するリスク、そして長い最適化プロセスを必要とし、それらすべてが実用性を妨げている。 これらの課題に対処するため、ネットワーク先行のスペクトルバイアスを直接変調する効率的なアーキテクチャ非依存手法を提案する。 1)帯域制限入力 2 帯域幅制御可能なアップサンプラー及び 3)リプシッツ規則化畳み込み層 ほんの数行のコードで、パフォーマンスの低いアーキテクチャでの過度な適合を減らし、ハイパフォーマンスなアーキテクチャとパフォーマンスのギャップを埋めることができ、広範なアーキテクチャチューニングの必要性を最小化できます。 これにより、よりコンパクトなモデルを使用して、ランタイムを減らしながら、より大きなモデルと似た、あるいは優れたパフォーマンスを実現することができる。 インパインティングのようなMRI再構成タスクを例に挙げた結果,アーキテクチャ上の偏り,過度な適合性,および実行時問題などが,アーキテクチャ上の変更なしに同時に対処できることが示唆された。 私たちのコードは公開されています。

関連論文リスト

• Rotation Equivariant Proximal Operator for Deep Unfolding Methods in Image Restoration [62.41329042683779]
  本稿では, 回転対称性を組み込んだ高精度な回転同変近位ネットワークを提案する。 本研究は, 回転対称性の先行を深く展開する枠組みに効果的に組み込む, 高精度な回転同変近位ネットワークを提案する。
  論文  参考訳（メタデータ） (2023-12-25T11:53:06Z)
• Distance Weighted Trans Network for Image Completion [52.318730994423106]
  本稿では,DWT(Distance-based Weighted Transformer)を利用した画像コンポーネント間の関係をよりよく理解するためのアーキテクチャを提案する。 CNNは、粗い事前の局所的なテクスチャ情報を強化するために使用される。 DWTブロックは、特定の粗いテクスチャやコヒーレントな視覚構造を復元するために使用される。
  論文  参考訳（メタデータ） (2023-10-11T12:46:11Z)
• Iterative Soft Shrinkage Learning for Efficient Image Super-Resolution [91.3781512926942]
  画像超解像(SR)は、CNNからトランスフォーマーアーキテクチャへの広範なニューラルネットワーク設計を目撃している。 本研究は,市販のネットワーク設計を生かし,基礎となる計算オーバーヘッドを低減するため,超高解像度イテレーションにおけるネットワークプルーニングの可能性について検討する。 本研究では, ランダムネットワークのスパース構造を最適化し, 重要でない重みを小さめに微調整することにより, 反復型軟収縮率(ISS-P)法を提案する。
  論文  参考訳（メタデータ） (2023-03-16T21:06:13Z)
• Single Cell Training on Architecture Search for Image Denoising [16.72206392993489]
  コンポーネントブロックレベルに着目して最適な探索問題を再構成する。 さらに,空間的およびチャネル的ミスマッチを扱うための,革新的な次元マッチングモジュールを統合する。 提案したDenoising Prior Neural Architecture Search (DPNAS) は、1つのGPUで1日で画像復元タスクの最適なアーキテクチャ検索を完了させることで実証した。
  論文  参考訳（メタデータ） (2022-12-13T04:47:24Z)
• RDRN: Recursively Defined Residual Network for Image Super-Resolution [58.64907136562178]
  深部畳み込みニューラルネットワーク(CNN)は、単一画像超解像において顕著な性能を得た。 本稿では,注目ブロックを効率的に活用する新しいネットワークアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2022-11-17T11:06:29Z)
• FlowNAS: Neural Architecture Search for Optical Flow Estimation [65.44079917247369]
  本研究では,フロー推定タスクにおいて,より優れたエンコーダアーキテクチャを自動で見つけるために,FlowNASというニューラルアーキテクチャ探索手法を提案する。 実験の結果、スーパーネットワークから受け継いだ重み付きアーキテクチャは、KITTI上で4.67%のF1-allエラーを達成していることがわかった。
  論文  参考訳（メタデータ） (2022-07-04T09:05:25Z)
• Residual Multiplicative Filter Networks for Multiscale Reconstruction [24.962697695403037]
  我々は,学習した再構成の周波数サポートをきめ細かな制御で粗大な最適化を可能にする,新しい座標ネットワークアーキテクチャとトレーニング手法を提案する。 これらの修正によって、自然画像への粗大なフィッティングのマルチスケール最適化が実現されることを示す。 次に, 単粒子Creo-EM再構成問題に対する合成データセットのモデル評価を行った。
  論文  参考訳（メタデータ） (2022-06-01T20:16:28Z)
• DeepRLS: A Recurrent Network Architecture with Least Squares Implicit Layers for Non-blind Image Deconvolution [15.986942312624]
  非盲点画像デコンボリューションの問題について検討する。 本稿では,画像品質の非常に競争力のある復元結果をもたらす新しい再帰的ネットワークアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2021-12-10T13:16:51Z)
• Impact of Aliasing on Generalization in Deep Convolutional Networks [29.41652467340308]
  深層畳み込みネットワークの一般化におけるエイリアスの影響について検討する。 キー位置で非トレーニング可能な低域通過フィルタを挿入することでエイリアスを緩和する方法を示す。
  論文  参考訳（メタデータ） (2021-08-07T17:12:03Z)
• Unsupervised Monocular Depth Learning with Integrated Intrinsics and Spatio-Temporal Constraints [61.46323213702369]
  本研究は,大規模深度マップとエゴモーションを予測可能な教師なし学習フレームワークを提案する。 本結果は,KITTI運転データセットの複数シーケンスにおける現在の最先端技術と比較して,高い性能を示す。
  論文  参考訳（メタデータ） (2020-11-02T22:26:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。