論文の概要: Restore-RWKV: Efficient and Effective Medical Image Restoration with RWKV

• arxiv url: http://arxiv.org/abs/2407.11087v3
• Date: Mon, 06 Jan 2025 15:27:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-07 17:02:31.420202
• Title: Restore-RWKV: Efficient and Effective Medical Image Restoration with RWKV
• Title（参考訳）: Restore-RWKV:RWKVを用いた効率的な医用画像修復
• Authors: Zhiwen Yang, Jiayin Li, Hui Zhang, Dan Zhao, Bingzheng Wei, Yan Xu,
• Abstract要約: 医用画像修復のための最初のRWKVモデルであるRestore-RWKVを提案する。 本稿では,線形計算複雑性を伴う大域的依存関係を捕捉する再帰的WKV(Re-WKV)アテンション機構を提案する。 実験の結果,Restore-RWKV は様々な医療画像復元作業において SOTA の性能を発揮することが示された。
• 参考スコア（独自算出の注目度）: 15.585071228529731
• License:
• Abstract: Transformers have revolutionized medical image restoration, but the quadratic complexity still poses limitations for their application to high-resolution medical images. The recent advent of the Receptance Weighted Key Value (RWKV) model in the natural language processing field has attracted much attention due to its ability to process long sequences efficiently. To leverage its advanced design, we propose Restore-RWKV, the first RWKV-based model for medical image restoration. Since the original RWKV model is designed for 1D sequences, we make two necessary modifications for modeling spatial relations in 2D medical images. First, we present a recurrent WKV (Re-WKV) attention mechanism that captures global dependencies with linear computational complexity. Re-WKV incorporates bidirectional attention as basic for a global receptive field and recurrent attention to effectively model 2D dependencies from various scan directions. Second, we develop an omnidirectional token shift (Omni-Shift) layer that enhances local dependencies by shifting tokens from all directions and across a wide context range. These adaptations make the proposed Restore-RWKV an efficient and effective model for medical image restoration. Even a lightweight variant of Restore-RWKV, with only 1.16 million parameters, achieves comparable or even superior results compared to existing state-of-the-art (SOTA) methods. Extensive experiments demonstrate that the resulting Restore-RWKV achieves SOTA performance across a range of medical image restoration tasks, including PET image synthesis, CT image denoising, MRI image super-resolution, and all-in-one medical image restoration. Code is available at: https://github.com/Yaziwel/Restore-RWKV.
• Abstract（参考訳）: トランスフォーマーは、医療画像の復元に革命をもたらしたが、この二次的な複雑さは、高解像度の医療画像への応用に制限を与えている。 近年、自然言語処理分野におけるReceptance Weighted Key Value (RWKV) モデルの出現は、長いシーケンスを効率的に処理できることから、多くの注目を集めている。 医用画像復元のためのRWKVモデルであるRestore-RWKVを提案する。 元のRWKVモデルは1次元のシーケンス用に設計されているため、2次元医用画像の空間関係をモデル化するために2つの必要な修正を行う。 まず,線形計算複雑性を伴う大域的依存関係を捕捉する再帰的WKV(Re-WKV)アテンション機構を提案する。 Re-WKVは、グローバルな受容場の基本として双方向の注意を取り入れ、様々なスキャン方向からの2D依存を効果的にモデル化する。 第2に、全方向のトークンシフト(Omni-Shift)層を開発し、全方向から広いコンテキスト範囲にわたってトークンをシフトすることで、局所的な依存関係を高める。 これらの適応により、提案したRestore-RWKVは、医用画像復元の効率的かつ効果的なモデルとなる。 Restore-RWKVの軽量版でさえ、116万のパラメータしか持たず、既存のSOTA(State-of-the-art)メソッドと比較すると、同等またはそれ以上の結果が得られる。 大規模な実験により、restore-RWKVはPET画像合成、CT画像のノイズ化、MRI画像の超解像、オールインワンの医用画像復元など、様々な医療用画像復元タスクにおいてSOTA性能を達成することが示された。 コードは、https://github.com/Yaziwel/Restore-RWKVで入手できる。

関連論文リスト

• RWKV-UNet: Improving UNet with Long-Range Cooperation for Effective Medical Image Segmentation [39.11918061481855]
  本稿では,RWKV構造をU-Netアーキテクチャに統合する新しいモデルであるRWKV-UNetを提案する。 この統合により、長い範囲の依存関係をキャプチャし、コンテキスト理解を改善するモデルの能力が向上する。 RWKV-UNetは,様々な種類の医用画像のセグメンテーションにおいて最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2025-01-14T22:03:00Z)
• Exploring Real&Synthetic Dataset and Linear Attention in Image Restoration [47.26304397935705]
  画像復元は、劣化した入力から高品質な画像を復元することを目的としている。 既存のメソッドにはイテレーションと設定のための統一的なトレーニングベンチマークがない。 本稿では,画像複雑性に基づいた新しい画像フィルタリング手法であるReSynという大規模IRデータセットを提案する。
  論文  参考訳（メタデータ） (2024-12-05T02:11:51Z)
• Empowering Image Recovery_ A Multi-Attention Approach [96.25892659985342]
  Diverse Restormer (DART) は、様々なソースからの情報を統合して復元課題に対処する画像復元手法である。 DARTは、全体的なパフォーマンスを高めるために、カスタマイズされたアテンションメカニズムを採用している。 5つの復元作業における評価は、常にDARTを最前線に配置する。
  論文  参考訳（メタデータ） (2024-04-06T12:50:08Z)
• Fill the K-Space and Refine the Image: Prompting for Dynamic and Multi-Contrast MRI Reconstruction [31.404228406642194]
  ダイナミックまたはマルチコントラスト磁気共鳴画像(MRI)再構成の鍵は、フレーム間またはコントラスト間情報を探索することにある。 本稿では,これらの制約に対処する2段階MRI再構成パイプラインを提案する。 提案手法は,従来の高速MRI再建法より有意に優れていた。
  論文  参考訳（メタデータ） (2023-09-25T02:51:00Z)
• Spatial and Modal Optimal Transport for Fast Cross-Modal MRI Reconstruction [54.19448988321891]
  本稿では,T1重み付き画像(T1WIs)を補助モダリティとして活用し,T2WIsの取得を高速化するエンド・ツー・エンドのディープラーニングフレームワークを提案する。 最適輸送(OT)を用いてT1WIを整列させてT2WIを合成し、クロスモーダル合成を行う。 再構成されたT2WIと合成されたT2WIがT2画像多様体に近づき、繰り返しが増加することを示す。
  論文  参考訳（メタデータ） (2023-05-04T12:20:51Z)
• R2C-GAN: Restore-to-Classify Generative Adversarial Networks for Blind X-Ray Restoration and COVID-19 Classification [16.487334958543908]
  汎用画像復元と分類のための共同モデルを提案する: 生成的逆数ネットワーク(R2C-GAN)の再構築 このような共同最適化されたモデルは、回復後にどんな病気もそのまま維持する。 提案手法では, 90%以上のF1スコアが得られた。
  論文  参考訳（メタデータ） (2022-09-29T13:28:34Z)
• Model-Guided Multi-Contrast Deep Unfolding Network for MRI Super-resolution Reconstruction [68.80715727288514]
  MRI観察行列を用いて,反復型MGDUNアルゴリズムを新しいモデル誘導深部展開ネットワークに展開する方法を示す。 本稿では,医療画像SR再構成のためのモデルガイド型解釈可能なDeep Unfolding Network(MGDUN)を提案する。
  論文  参考訳（メタデータ） (2022-09-15T03:58:30Z)
• Transformer-empowered Multi-scale Contextual Matching and Aggregation for Multi-contrast MRI Super-resolution [55.52779466954026]
  マルチコントラスト・スーパーレゾリューション (SR) 再構成により, SR画像の高画質化が期待できる。 既存の手法では、これらの特徴をマッチングし、融合させる効果的なメカニズムが欠如している。 そこで本稿では,トランスフォーマーを利用したマルチスケールコンテキストマッチングとアグリゲーション技術を開発することで,これらの問題を解決する新しいネットワークを提案する。
  論文  参考訳（メタデータ） (2022-03-26T01:42:59Z)
• ReconFormer: Accelerated MRI Reconstruction Using Recurrent Transformer [60.27951773998535]
  本稿では,MRI再構成のためのリカレントトランスモデルである textbfReconFormer を提案する。 高度にアンダーサンプリングされたk空間データから高純度磁気共鳴像を反復的に再構成することができる。 パラメータ効率が向上し,最先端手法よりも大幅に向上したことを示す。
  論文  参考訳（メタデータ） (2022-01-23T21:58:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。