論文の概要: Does Your ViT Still Need U-Net for Segmentation?
- arxiv url: http://arxiv.org/abs/2607.00223v1
- Date: Tue, 30 Jun 2026 22:02:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-02 19:56:07.651662
- Title: Does Your ViT Still Need U-Net for Segmentation?
- Title(参考訳): VitはセグメンテーションにU-Netが必要なのか?
- Abstract要約: ビジョントランスフォーマー(ViT)は、自己注意を通じて畳み込みネットワークの限られた受容領域を克服する。
大規模プレトレーニングの最近の進歩は、ViTの表現能力を再定義している。
現代のVTバックボーンに基づくエンコーダのみの医療画像セグメンテーションのための重要なアーキテクチャ選択について検討する。
- 参考スコア(独自算出の注目度): 13.659814967168325
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Medical image segmentation is dominated by U-Net-style encoder-decoder architectures. Vision Transformers (ViTs) overcome the limited receptive field of convolutional networks through self-attention, enabling modeling of long-range dependencies. Early ViT-based segmentation methods typically retained U-Net-style decoders because pretrained ViT representations were insufficient to support accurate dense prediction. Recent advances in large-scale pretraining have redefined the representation capability of ViTs, reducing the reliance on U-Net-style decoder architectures in modern vision models. This prompts two questions: Is the U-Net paradigm still necessary for medical image segmentation? If not, how should an encoder-only segmentation framework be designed? Motivated by these questions, we explore key architectural choices for encoder-only medical image segmentation based on modern ViT backbones and establish a query-based encoder-only design with multi-level query modeling and learnable block fusion, realized in Encoder-only Segmentation (EoSeg). Extensive experiments across seven benchmark datasets spanning CT, MRI, histopathology, endoscopy, and dermoscopy validate the effectiveness of the proposed design across diverse medical imaging modalities, including mDice scores of 85.50% on Synapse, 91.73% on ACDC, and 93.27% on GlaS. The results demonstrate that a U-Net-style decoder is no longer necessary for medical image segmentation with modern ViT backbones and further show that EoSeg provides an effective encoder-only design. Code is available at: https://github.com/Retinal-Research/EoSeg
- Abstract(参考訳): 医用画像のセグメンテーションはU-Netスタイルのエンコーダデコーダアーキテクチャによって支配されている。
ビジョントランスフォーマー(ViT)は、自己アテンションを通じて畳み込みネットワークの限られた受容領域を克服し、長距離依存のモデリングを可能にする。
初期のViTベースのセグメンテーション手法は、トレーニング済みのViT表現が正確な密度予測をサポートするには不十分であったため、U-Netスタイルのデコーダを保持していた。
大規模プレトレーニングの最近の進歩は、ViTの表現能力を再定義し、現代のビジョンモデルにおけるU-Netスタイルのデコーダアーキテクチャへの依存を減らした。
U-Netパラダイムは、医療画像のセグメンテーションにはまだ必要か?
もしそうでなければ、エンコーダのみのセグメンテーションフレームワークをどのように設計すべきか?
これらの質問に触発された我々は、現代のViTバックボーンに基づくエンコーダのみの医療画像セグメンテーションのための重要なアーキテクチャ選択を探求し、マルチレベルクエリモデリングと学習可能なブロック融合を備えたクエリベースのエンコーダのみの設計を確立し、エンコーダのみのセグメンテーション(EoSeg)で実現した。
CT、MRI、病理組織学、内視鏡、皮膚内視鏡にまたがる7つのベンチマークデータセットにわたる大規模な実験により、mDiceスコアが85.50%、Synapseが91.73%、ACDCが91.27%、GlaSが93.27%、様々な医療画像モダリティにまたがる提案された設計の有効性が検証された。
その結果,現代のVTバックボーンによる医用画像分割にはU-Netスタイルのデコーダは不要であることが示され,EoSegが効果的なエンコーダのみの設計を提供することを示す。
コードは、https://github.com/Retinal-Research/EoSegで入手できる。
関連論文リスト
- Hi-End-MAE: Hierarchical encoder-driven masked autoencoders are stronger vision learners for medical image segmentation [21.183229457060634]
10KCTの大規模データセットでHi-End-MAEを事前訓練し、7つの公開医用画像セグメンテーションベンチマークでその性能を評価する。
Hi-End-MAEは、様々な下流タスクにまたがる優れた伝達学習能力を実現し、医用画像の応用におけるViTの可能性を明らかにする。
論文 参考訳(メタデータ) (2025-02-12T12:14:02Z) - SegViTv2: Exploring Efficient and Continual Semantic Segmentation with
Plain Vision Transformers [76.13755422671822]
本稿では,エンコーダ・デコーダ・フレームワークを用いた意味的セグメンテーションのためのプレーンビジョン変換器(ViT)の能力について検討する。
Intention-to-Mask(atm)モジュールを導入し、平易なViTに有効な軽量デコーダを設計する。
我々のデコーダは、様々なViTバックボーンを使用して人気のあるデコーダUPerNetより優れ、計算コストの5%程度しか消費しない。
論文 参考訳(メタデータ) (2023-06-09T22:29:56Z) - MISSU: 3D Medical Image Segmentation via Self-distilling TransUNet [55.16833099336073]
医用画像セグメンテーションのためのトランスフォーマーベースUNetを提案する。
グローバルな意味情報と局所的な空間的詳細特徴を同時に学習する。
MISSUは従来の最先端手法よりも優れた性能を発揮する。
論文 参考訳(メタデータ) (2022-06-02T07:38:53Z) - LeViT-UNet: Make Faster Encoders with Transformer for Medical Image
Segmentation [6.2059756782278965]
本稿では,LeViT TransformerモジュールをU-Netアーキテクチャに統合したLeViT-UNetを提案する。
具体的には、LeViT-UNetのエンコーダとしてLeViTを使用し、Transformerブロックの精度と効率をよりよくトレードオフする。
論文 参考訳(メタデータ) (2021-07-19T05:48:51Z) - UTNet: A Hybrid Transformer Architecture for Medical Image Segmentation [6.646135062704341]
トランスフォーマーアーキテクチャは多くの自然言語処理タスクで成功している。
医用画像セグメンテーションを強化するために,自己意識を畳み込みニューラルネットワークに統合する強力なハイブリッドトランスフォーマーアーキテクチャUTNetを提案する。
論文 参考訳(メタデータ) (2021-07-02T00:56:27Z) - Atrous Residual Interconnected Encoder to Attention Decoder Framework
for Vertebrae Segmentation via 3D Volumetric CT Images [1.8146155083014204]
本稿では,3次元容積CT画像を用いた新しい椎骨分割法を提案する。
提案モデルは,ミニバッチトレーニング性能の最適化にレイヤ正規化を用いた,エンコーダからデコーダへの構造に基づく。
実験の結果,本モデルは他の医学的意味セグメンテーション法と比較して競争力が得られた。
論文 参考訳(メタデータ) (2021-04-08T12:09:16Z) - Deep ensembles based on Stochastic Activation Selection for Polyp
Segmentation [82.61182037130406]
本研究は,大腸内視鏡検査における画像分割,特に正確なポリープ検出とセグメンテーションを扱う。
イメージセグメンテーションの基本アーキテクチャはエンコーダとデコーダで構成されている。
我々はデコーダのバックボーンを変更することで得られるDeepLabアーキテクチャのバリエーションを比較した。
論文 参考訳(メタデータ) (2021-04-02T02:07:37Z) - TransUNet: Transformers Make Strong Encoders for Medical Image
Segmentation [78.01570371790669]
医用画像のセグメンテーションは医療システムの開発に必須の前提条件である。
様々な医療画像セグメンテーションタスクにおいて、U-Netとして知られるu字型アーキテクチャがデファクトスタンダードとなっている。
医用画像セグメンテーションの強力な代替手段として,トランスフォーマーとU-Netの両方を有効活用するTransUNetを提案する。
論文 参考訳(メタデータ) (2021-02-08T16:10:50Z) - Rethinking Semantic Segmentation from a Sequence-to-Sequence Perspective
with Transformers [149.78470371525754]
セマンティックセグメンテーションをシーケンスからシーケンスへの予測タスクとして扱う。
具体的には、イメージをパッチのシーケンスとしてエンコードするために純粋なトランスをデプロイします。
トランスのすべての層でモデル化されたグローバルコンテキストにより、このエンコーダは、SETR(SEgmentation TRansformer)と呼ばれる強力なセグメンテーションモデルを提供するための単純なデコーダと組み合わせることができる。
SETRはADE20K(50.28% mIoU)、Pascal Context(55.83% mIoU)、およびCityscapesの競争力のある結果に関する最新技術を達成している。
論文 参考訳(メタデータ) (2020-12-31T18:55:57Z) - Beyond Single Stage Encoder-Decoder Networks: Deep Decoders for Semantic
Image Segmentation [56.44853893149365]
セマンティックセグメンテーションのための単一エンコーダ-デコーダ手法は、セマンティックセグメンテーションの品質とレイヤー数あたりの効率の観点からピークに達している。
そこで本研究では,より多くの情報コンテンツを取得するために,浅層ネットワークの集合を用いたデコーダに基づく新しいアーキテクチャを提案する。
アーキテクチャをさらに改善するために,ネットワークの注目度を高めるために,クラスの再バランスを目的とした重み関数を導入する。
論文 参考訳(メタデータ) (2020-07-19T18:44:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。