論文の概要: SMAFormer: Synergistic Multi-Attention Transformer for Medical Image Segmentation
- arxiv url: http://arxiv.org/abs/2409.00346v2
- Date: Mon, 16 Sep 2024 13:23:55 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-17 22:48:25.653580
- Title: SMAFormer: Synergistic Multi-Attention Transformer for Medical Image Segmentation
- Title(参考訳): SMAFormer: 医用画像分割のための相乗的マルチアテンション変換器
- Authors: Fuchen Zheng, Xuhang Chen, Weihuang Liu, Haolun Li, Yingtie Lei, Jiahui He, Chi-Man Pun, Shounjun Zhou,
- Abstract要約: SMAFormerはトランスフォーマーをベースとしたアーキテクチャで,腫瘍や臓器のセグメンテーションを強化するために複数の注意機構を融合する。
まず、Pixel Attention、Channel Attention、Spatial Attention for Feature Enrichmentの利点を生かしたSMAトランスフォーマーブロックを提案する。
第2に,注目機構遷移と特徴融合の間に生じる情報損失の課題に対処するため,我々は特徴融合変調器を設計する。
- 参考スコア(独自算出の注目度): 28.490211130600702
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In medical image segmentation, specialized computer vision techniques, notably transformers grounded in attention mechanisms and residual networks employing skip connections, have been instrumental in advancing performance. Nonetheless, previous models often falter when segmenting small, irregularly shaped tumors. To this end, we introduce SMAFormer, an efficient, Transformer-based architecture that fuses multiple attention mechanisms for enhanced segmentation of small tumors and organs. SMAFormer can capture both local and global features for medical image segmentation. The architecture comprises two pivotal components. First, a Synergistic Multi-Attention (SMA) Transformer block is proposed, which has the benefits of Pixel Attention, Channel Attention, and Spatial Attention for feature enrichment. Second, addressing the challenge of information loss incurred during attention mechanism transitions and feature fusion, we design a Feature Fusion Modulator. This module bolsters the integration between the channel and spatial attention by mitigating reshaping-induced information attrition. To evaluate our method, we conduct extensive experiments on various medical image segmentation tasks, including multi-organ, liver tumor, and bladder tumor segmentation, achieving state-of-the-art results. Code and models are available at: \url{https://github.com/CXH-Research/SMAFormer}.
- Abstract(参考訳): 医用画像のセグメンテーションでは、特に注意機構とスキップ接続を用いた残差ネットワークを基盤とした特殊なコンピュータビジョン技術が性能向上に役立っている。
それにもかかわらず、以前のモデルは小さな不規則な形状の腫瘍を分断する際にしばしば失敗する。
この目的のために,小型腫瘍や臓器のセグメンテーションを強化するための複数の注意機構を融合した,効率的なトランスフォーマーベースのアーキテクチャであるSMAFormerを紹介した。
SMAFormerは、医療画像セグメンテーションのローカル機能とグローバル機能の両方をキャプチャできる。
アーキテクチャは、2つの重要なコンポーネントから構成される。
まず,SMA (Synergistic Multi-Attention) Transformer Blockを提案する。
第2に、注意機構遷移と特徴融合の間に生じる情報損失の課題に対処し、特徴融合変調器を設計する。
このモジュールは、リシェイピングによって引き起こされる情報の減少を緩和することにより、チャネルと空間的注意の融合を促進する。
本手法を評価するため,多臓器,肝腫瘍,膀胱腫瘍の分節化など,様々な医療画像の分節化作業について広範な実験を行い,その結果を得た。
コードとモデルは以下の通りである。
関連論文リスト
- Lagrange Duality and Compound Multi-Attention Transformer for Semi-Supervised Medical Image Segmentation [27.758157788769253]
半教師付き学習における総合的な学習目標として,境界認識型コントラスト損失と統合されたラグランジュ二重性損失(LDC)を提案する。
また、ResUNetとTransformerの強みを相乗化する新しいネットワークであるCMAformerを紹介する。
以上の結果から,CMAformerは機能融合フレームワークと新たな一貫性の喪失と相まって,半教師付き学習アンサンブルにおいて強い相補性を示すことが明らかとなった。
論文 参考訳(メタデータ) (2024-09-12T06:52:46Z) - AFFSegNet: Adaptive Feature Fusion Segmentation Network for Microtumors and Multi-Organ Segmentation [32.74195208408193]
医用画像のセグメンテーションは、コンピュータビジョンにおいて重要な課題であり、診断、治療計画、疾患モニタリングにおける臨床医を支援する。
本稿では,局所的特徴とグローバルな特徴を効果的に統合し,正確な医用画像分割を実現するトランスフォーマアーキテクチャである適応意味ネットワーク(ASSNet)を提案する。
多臓器、肝腫瘍、膀胱腫瘍の分節を含む様々な医療画像の分節タスクに関するテストは、ATSNetが最先端の結果を達成することを実証している。
論文 参考訳(メタデータ) (2024-09-12T06:25:44Z) - Dual-scale Enhanced and Cross-generative Consistency Learning for Semi-supervised Medical Image Segmentation [49.57907601086494]
医用画像のセグメンテーションはコンピュータ支援診断において重要な役割を担っている。
半教師型医用画像(DEC-Seg)のための新しいDual-scale Enhanced and Cross-generative consistency learning frameworkを提案する。
論文 参考訳(メタデータ) (2023-12-26T12:56:31Z) - DA-TransUNet: Integrating Spatial and Channel Dual Attention with
Transformer U-Net for Medical Image Segmentation [5.5582646801199225]
本研究では,DA-TransUNetと呼ばれる新しい深層画像分割フレームワークを提案する。
トランスフォーマーとデュアルアテンションブロック(DA-Block)を従来のU字型アーキテクチャに統合することを目的としている。
以前のトランスフォーマーベースのU-netモデルとは異なり、DA-TransUNetはトランスフォーマーとDA-Blockを使用してグローバルな特徴とローカルな特徴だけでなく、画像固有の位置とチャネルの特徴を統合する。
論文 参考訳(メタデータ) (2023-10-19T08:25:03Z) - Scale-aware Super-resolution Network with Dual Affinity Learning for
Lesion Segmentation from Medical Images [50.76668288066681]
低解像度医用画像から様々な大きさの病変を適応的に分割する,スケールアウェアな超解像ネットワークを提案する。
提案するネットワークは,他の最先端手法と比較して一貫した改善を実現した。
論文 参考訳(メタデータ) (2023-05-30T14:25:55Z) - Multi-scale Hierarchical Vision Transformer with Cascaded Attention
Decoding for Medical Image Segmentation [8.530680502975095]
マルチスケール階層型VIsion Transformer (MERIT) バックボーンネットワークを導入し、SAを複数スケールで計算することでモデルの一般化性を向上させる。
注意に基づくデコーダCASCADE(Cascaded Attention Decoding)も組み込んで,MERITが生成するマルチステージ機能をさらに改良する。
論文 参考訳(メタデータ) (2023-03-29T17:58:40Z) - Learning from partially labeled data for multi-organ and tumor
segmentation [102.55303521877933]
本稿では,トランスフォーマーに基づく動的オンデマンドネットワーク(TransDoDNet)を提案する。
動的ヘッドにより、ネットワークは複数のセグメンテーションタスクを柔軟に達成することができる。
我々はMOTSと呼ばれる大規模にラベル付けされたMulti-Organ and tumorベンチマークを作成し、他の競合相手よりもTransDoDNetの方が優れた性能を示す。
論文 参考訳(メタデータ) (2022-11-13T13:03:09Z) - MISSU: 3D Medical Image Segmentation via Self-distilling TransUNet [55.16833099336073]
医用画像セグメンテーションのためのトランスフォーマーベースUNetを提案する。
グローバルな意味情報と局所的な空間的詳細特徴を同時に学習する。
MISSUは従来の最先端手法よりも優れた性能を発揮する。
論文 参考訳(メタデータ) (2022-06-02T07:38:53Z) - TransAttUnet: Multi-level Attention-guided U-Net with Transformer for
Medical Image Segmentation [33.45471457058221]
本稿では,TransAttUnetと呼ばれるトランスフォーマーベースの医用画像セマンティックセマンティック・セマンティック・フレームワークを提案する。
特に,デコーダブロック間の複数スケールのスキップ接続を確立することで,セマンティック・スケールのアップサンプリング機能を集約する。
我々の手法は一貫して最先端のベースラインを上回っている。
論文 参考訳(メタデータ) (2021-07-12T09:17:06Z) - Medical Transformer: Gated Axial-Attention for Medical Image
Segmentation [73.98974074534497]
医用画像分割タスクにおけるトランスフォーマティブネットワークアーキテクチャの利用可能性について検討する。
セルフアテンションモジュールに追加の制御機構を導入することで,既存のアーキテクチャを拡張するGated Axial-Attentionモデルを提案する。
医療画像上で効果的にモデルを訓練するために,さらにパフォーマンスを向上させる局所的グローバルトレーニング戦略 (logo) を提案する。
論文 参考訳(メタデータ) (2021-02-21T18:35:14Z) - TransUNet: Transformers Make Strong Encoders for Medical Image
Segmentation [78.01570371790669]
医用画像のセグメンテーションは医療システムの開発に必須の前提条件である。
様々な医療画像セグメンテーションタスクにおいて、U-Netとして知られるu字型アーキテクチャがデファクトスタンダードとなっている。
医用画像セグメンテーションの強力な代替手段として,トランスフォーマーとU-Netの両方を有効活用するTransUNetを提案する。
論文 参考訳(メタデータ) (2021-02-08T16:10:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。