論文の概要: Large Window-based Mamba UNet for Medical Image Segmentation: Beyond
Convolution and Self-attention
- arxiv url: http://arxiv.org/abs/2403.07332v1
- Date: Tue, 12 Mar 2024 05:34:51 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-13 22:41:08.154829
- Title: Large Window-based Mamba UNet for Medical Image Segmentation: Beyond
Convolution and Self-attention
- Title(参考訳): 医用画像セグメンテーションのための大きな窓ベースのmamba unet:畳み込みとセルフアテンションを超えて
- Authors: Jinhong Wang, Jintai Chen, Danny Chen and Jian Wu
- Abstract要約: 2次元および3次元の医用画像セグメンテーションのためのLMa-UNet(Large Window-based Mamba U-shape Network)を提案する。
LMa-UNetの際立った特徴は、小さなカーネルベースのCNNや小さなウィンドウベースのトランスフォーマーに比べて、局所的な空間モデリングに優れた大きなウィンドウの利用である。
- 参考スコア(独自算出の注目度): 10.773829425283177
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: In clinical practice, medical image segmentation provides useful information
on the contours and dimensions of target organs or tissues, facilitating
improved diagnosis, analysis, and treatment. In the past few years,
convolutional neural networks (CNNs) and Transformers have dominated this area,
but they still suffer from either limited receptive fields or costly long-range
modeling. Mamba, a State Space Sequence Model (SSM), recently emerged as a
promising paradigm for long-range dependency modeling with linear complexity.
In this paper, we introduce a Large Window-based Mamba U}-shape Network, or
LMa-UNet, for 2D and 3D medical image segmentation. A distinguishing feature of
our LMa-UNet is its utilization of large windows, excelling in locally spatial
modeling compared to small kernel-based CNNs and small window-based
Transformers, while maintaining superior efficiency in global modeling compared
to self-attention with quadratic complexity. Additionally, we design a novel
hierarchical and bidirectional Mamba block to further enhance the global and
neighborhood spatial modeling capability of Mamba. Comprehensive experiments
demonstrate the effectiveness and efficiency of our method and the feasibility
of using large window size to achieve large receptive fields. Codes are
available at https://github.com/wjh892521292/LMa-UNet.
- Abstract(参考訳): 臨床実践において、医用画像セグメンテーションは、対象臓器や組織の輪郭や寸法に関する有用な情報を提供し、診断、分析、治療の改善を促進する。
過去数年間、畳み込みニューラルネットワーク(CNN)とトランスフォーマーがこの領域を支配してきたが、それでも限られた受容野または高価な長距離モデリングに悩まされている。
状態空間シーケンスモデル(ssm)であるmambaは、線形複雑性を持つ長距離依存性モデリングの有望なパラダイムとして最近登場した。
本稿では,2次元および3次元の医用画像セグメンテーションのためのLMa-UNet(Large Window-based Mamba U}-shape Network)を提案する。
LMa-UNetの特長は、小さなカーネルベースのCNNや小さなウィンドウベースのトランスフォーマーに比べて、局所的な空間モデリングに優れ、また、二次的複雑性を伴う自己注意に比べて、グローバルなモデリングにおいて優れた効率を維持することである。
さらに,mambaのグローバルおよび近傍空間モデリング能力をさらに高めるために,新しい階層的かつ双方向のmambaブロックを設計した。
包括的実験により,本手法の有効性と有効性が実証され,大きな窓サイズを用いて大きな受容場を実現することが可能となった。
コードはhttps://github.com/wjh892521292/LMa-UNetで公開されている。
関連論文リスト
- VM-UNET-V2 Rethinking Vision Mamba UNet for Medical Image Segmentation [8.278068663433261]
本稿では,MambaアーキテクチャにインスパイアされたVison Mamba-UNetV2を提案する。
VM-UNetV2は、医用画像セグメンテーションタスクにおいて競合する性能を示す。
我々はISIC17、ISIC18、CVC-300、CVC-ClinicDB、Kvasir CVC-ColonDB、ETIS-LaribPolypDBのパブリックデータセットに関する包括的な実験を行う。
論文 参考訳(メタデータ) (2024-03-14T08:12:39Z) - MamMIL: Multiple Instance Learning for Whole Slide Images with State
Space Models [58.39336492765728]
がん診断のゴールドスタンダードである病理診断は、TransformerとMIL(Multiple Case Learning)フレームワークを併用して、全スライド画像(WSI)を用いて、優れたパフォーマンスを実現している。
選択的構造化状態空間モデル(Mamba)とMILとの協調によるWSI分類のためのMamMILフレームワークを提案する。
具体的には、マンバが一方向一次元(一次元)シーケンスモデリングしか行えないという問題を解決するため、双方向状態空間モデルと2次元コンテキスト認識ブロックを革新的に導入する。
論文 参考訳(メタデータ) (2024-03-08T09:02:13Z) - The Hidden Attention of Mamba Models [61.25846109294293]
Mamba層は効率的な選択状態空間モデル(SSM)を提供する。
このようなモデルを注意駆動モデルとみなすことができる。
この新たな視点により、トランスの自己注意層と基礎となるメカニズムを比較することができる。
論文 参考訳(メタデータ) (2024-03-03T18:58:21Z) - Mamba-UNet: UNet-Like Pure Visual Mamba for Medical Image Segmentation [22.72152196750845]
Mamba-UNetは,医療画像のセグメンテーションにおいてU-Netとマンバの能力を相乗化する新しいアーキテクチャである。
Mamba-UNetは純粋なVisual Mamba(VMamba)ベースのエンコーダデコーダ構造を採用しており、空間情報を保存するためにスキップ接続を注入している。
我々は,MRI心組織分節データセットの公開実験を行った。
論文 参考訳(メタデータ) (2024-02-07T18:33:04Z) - nnMamba: 3D Biomedical Image Segmentation, Classification and Landmark
Detection with State Space Model [24.955052600683423]
本稿では、CNNの強みとステートスペースシーケンスモデル(SSM)の高度な長距離モデリング機能を統合する新しいアーキテクチャであるnnMambaを紹介する。
6つのデータセットの実験では、3D画像のセグメンテーション、分類、ランドマーク検出など、一連の困難なタスクにおいて、nnMambaが最先端のメソッドよりも優れていることが示されている。
論文 参考訳(メタデータ) (2024-02-05T21:28:47Z) - Swin-UMamba: Mamba-based UNet with ImageNet-based pretraining [85.08169822181685]
本稿では,医療画像のセグメンテーションに特化して設計された新しいマンバモデルSwin-UMambaを紹介する。
Swin-UMamba は CNN や ViT,最新の Mamba ベースのモデルと比較して,優れたパフォーマンスを示している。
論文 参考訳(メタデータ) (2024-02-05T18:58:11Z) - VM-UNet: Vision Mamba UNet for Medical Image Segmentation [3.170171905334503]
医用画像セグメンテーションのためのU字型アーキテクチャモデルVision Mamba UNet(VM-UNet)を提案する。
我々はISIC17,ISIC18,Synapseデータセットの総合的な実験を行い,VM-UNetが医用画像分割タスクにおいて競争力を発揮することを示す。
論文 参考訳(メタデータ) (2024-02-04T13:37:21Z) - VMamba: Visual State Space Model [96.83847407325486]
畳み込みニューラルネットワーク(CNN)とビジョントランスフォーマー(ViT)は、視覚表現学習の最も一般的な2つの基礎モデルである。
計算効率を向上しつつ,これらのコンポーネントを継承する新しいアーキテクチャを提案する。
空間領域を横断するクロススキャンモジュール(CSM)を導入し,任意の非因果的視覚画像を順序付きパッチシーケンスに変換する。
論文 参考訳(メタデータ) (2024-01-18T17:55:39Z) - U-Mamba: Enhancing Long-range Dependency for Biomedical Image
Segmentation [10.083902382768406]
バイオメディカルイメージセグメンテーションのための汎用ネットワークであるU-Mambaを紹介する。
ディープシークエンスモデルの新たなファミリーであるState Space Sequence Models (SSM) にインスパイアされ、我々はハイブリッドCNN-SSMブロックを設計する。
我々は,CTおよびMR画像における腹部臓器の3次元分節化,内視鏡画像における計器の分節化,顕微鏡画像における細胞分節化の4つの課題について実験を行った。
論文 参考訳(メタデータ) (2024-01-09T18:53:20Z) - MISSU: 3D Medical Image Segmentation via Self-distilling TransUNet [55.16833099336073]
医用画像セグメンテーションのためのトランスフォーマーベースUNetを提案する。
グローバルな意味情報と局所的な空間的詳細特徴を同時に学習する。
MISSUは従来の最先端手法よりも優れた性能を発揮する。
論文 参考訳(メタデータ) (2022-06-02T07:38:53Z) - Global Filter Networks for Image Classification [90.81352483076323]
本稿では,対数線形複雑度を持つ周波数領域における長期空間依存性を学習する,概念的に単純だが計算効率のよいアーキテクチャを提案する。
この結果から,GFNetはトランスフォーマー型モデルやCNNの効率,一般化能力,堅牢性において,非常に競争力のある代替手段となる可能性が示唆された。
論文 参考訳(メタデータ) (2021-07-01T17:58:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。