論文の概要: Harnessing Lightweight Transformer with Contextual Synergic Enhancement for Efficient 3D Medical Image Segmentation

• arxiv url: http://arxiv.org/abs/2603.23390v1
• Date: Tue, 24 Mar 2026 16:24:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.583103
• Title: Harnessing Lightweight Transformer with Contextual Synergic Enhancement for Efficient 3D Medical Image Segmentation
• Title（参考訳）: 高能率3次元医用画像分割のための文脈交感神経刺激を用いた高調波型軽量変圧器
• Authors: Xinyu Liu, Zhen Chen, Wuyang Li, Chenxin Li, Yixuan Yuan,
• Abstract要約: モデル効率を実現するための軽量トランスであるLight-UNETRを提案する。 Light-UNETRは軽量次元減少(LIDR)モジュールを備えており、空間次元とチャネル次元を減少させる。 また,変換器のデータ効率向上を目的としたCSE学習戦略も導入した。
• 参考スコア（独自算出の注目度）: 59.711744386226194
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Transformers have shown remarkable performance in 3D medical image segmentation, but their high computational requirements and need for large amounts of labeled data limit their applicability. To address these challenges, we consider two crucial aspects: model efficiency and data efficiency. Specifically, we propose Light-UNETR, a lightweight transformer designed to achieve model efficiency. Light-UNETR features a Lightweight Dimension Reductive Attention (LIDR) module, which reduces spatial and channel dimensions while capturing both global and local features via multi-branch attention. Additionally, we introduce a Compact Gated Linear Unit (CGLU) to selectively control channel interaction with minimal parameters. Furthermore, we introduce a Contextual Synergic Enhancement (CSE) learning strategy, which aims to boost the data efficiency of Transformers. It first leverages the extrinsic contextual information to support the learning of unlabeled data with Attention-Guided Replacement, then applies Spatial Masking Consistency that utilizes intrinsic contextual information to enhance the spatial context reasoning for unlabeled data. Extensive experiments on various benchmarks demonstrate the superiority of our approach in both performance and efficiency. For example, with only 10% labeled data on the Left Atrial Segmentation dataset, our method surpasses BCP by 1.43% Jaccard while drastically reducing the FLOPs by 90.8% and parameters by 85.8%. Code is released at https://github.com/CUHK-AIM-Group/Light-UNETR.
• Abstract（参考訳）: トランスフォーマーは3次元医用画像セグメンテーションにおいて顕著な性能を示したが、高い計算要求と大量のラベル付きデータを必要とするため、適用性が制限された。 これらの課題に対処するために、モデル効率とデータ効率の2つの重要な側面を考えます。 具体的には、モデル効率を実現するために設計された軽量トランスであるLight-UNETRを提案する。 Light-UNETRは軽量次元減少注意(LIDR)モジュールを備えており、空間とチャネルの次元を減らし、グローバルとローカルの両方の特徴をマルチブランチで捉えている。 さらに,最小パラメータとのチャネル相互作用を選択的に制御するCGLU(Compact Gated Linear Unit)を導入する。 さらに,変換器のデータ効率を向上させることを目的とした,文脈交感神経性増強(CSE)学習戦略を導入する。 まず,非ラベルデータの学習を支援するために外在的文脈情報を活用する。次に,非ラベルデータに対する空間的文脈推論を強化するために,内在的文脈情報を利用する空間的マスキング一貫性を適用する。 様々なベンチマークに関する大規模な実験は、性能と効率の両方において、我々のアプローチの優位性を実証している。 例えば、左心房セグメンテーションデータセットのラベル付きデータは10%に過ぎず、我々の手法はBCPを1.43%上回り、FLOPを90.8%、パラメータを85.8%減らした。 コードはhttps://github.com/CUHK-AIM-Group/Light-UNETRで公開されている。

関連論文リスト

• Ultra-Resolution Adaptation with Ease [62.56434979517156]
  我々は,EmphURAEと呼ばれる超高分解能適応のための重要なガイドラインのセットを提案する。 重み行列の小さな成分のチューニングは、合成データが利用できない場合に広く使用される低ランクアダプタよりも優れていることを示す。 URAEは、FLUX1.1[Pro] Ultraのような最先端のクローズドソースモデルに匹敵する2K世代の性能を達成している。
  論文  参考訳（メタデータ） (2025-03-20T16:44:43Z)
• CARE Transformer: Mobile-Friendly Linear Visual Transformer via Decoupled Dual Interaction [77.8576094863446]
  本稿では,新しいdetextbfCoupled dutextbfAl-interactive lineatextbfR atttextbfEntion (CARE) 機構を提案する。 まず,非対称な特徴分離戦略を提案し,非対称的に学習プロセスを局所帰納バイアスと長距離依存に分解する。 分離学習方式を採用し,特徴間の相補性を完全に活用することにより,高い効率性と精度を両立させることができる。
  論文  参考訳（メタデータ） (2024-11-25T07:56:13Z)
• SegStitch: Multidimensional Transformer for Robust and Efficient Medical Imaging Segmentation [15.811141677039224]
  最先端の手法、特にトランスフォーマーを利用した手法は、3Dセマンティックセグメンテーションにおいて顕著に採用されている。 しかし、局所的な特徴や計算の複雑さが無視されているため、普通の視覚変換器は困難に直面する。 本稿では,SegStitchを提案する。SegStitchは変圧器とODEブロックを結合した革新的なアーキテクチャである。
  論文  参考訳（メタデータ） (2024-08-01T12:05:02Z)
• UNETR++: Delving into Efficient and Accurate 3D Medical Image Segmentation [93.88170217725805]
  本稿では,高画質なセグメンテーションマスクと,パラメータ,計算コスト,推論速度の両面での効率性を提供するUNETR++という3次元医用画像セグメンテーション手法を提案する。 我々の設計の核となるのは、空間的およびチャネル的な識別的特徴を効率的に学習する、新しい効率的な対注意ブロック(EPA)の導入である。 Synapse, BTCV, ACDC, BRaTs, Decathlon-Lungの5つのベンチマークで評価した結果, 効率と精度の両面で, コントリビューションの有効性が示された。
  論文  参考訳（メタデータ） (2022-12-08T18:59:57Z)
• TRACER: Extreme Attention Guided Salient Object Tracing Network [3.2434811678562676]
  本稿では,注意誘導型トレーシングモジュールを組み込んで,鮮明なエッジで有意な物体を検出するTRACERを提案する。 13の既存手法との比較により、TRACERは5つのベンチマークデータセットで最先端のパフォーマンスを達成することが明らかになった。
  論文  参考訳（メタデータ） (2021-12-14T13:20:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。