論文の概要: HCS-TNAS: Hybrid Constraint-driven Semi-supervised Transformer-NAS for Ultrasound Image Segmentation
- arxiv url: http://arxiv.org/abs/2407.04203v2
- Date: Fri, 16 Aug 2024 08:27:14 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-19 17:59:12.110878
- Title: HCS-TNAS: Hybrid Constraint-driven Semi-supervised Transformer-NAS for Ultrasound Image Segmentation
- Title(参考訳): HCS-TNAS:超音波画像分割のためのハイブリッド拘束駆動半教師付き変圧器-NAS
- Authors: Renqi Chen, Xinzhe Zheng, Haoyang Su, Kehan Wu,
- Abstract要約: 超音波セグメンテーションのためのハイブリッド拘束駆動半教師型トランスフォーマー-NAS(HCS-TNAS)を提案する。
HCS-TNASは、ViTのアテンション計算の前に、マルチスケールトークン検索のための効率的なNAS-ViTモジュールを含み、より少ない計算コストでコンテキスト情報とローカル情報を効果的にキャプチャする。
公開データセットの実験では、HCS-TNASが最先端のパフォーマンスを達成し、超音波セグメンテーションの限界を押し上げることが示されている。
- 参考スコア(独自算出の注目度): 0.34089646689382486
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Precise ultrasound segmentation is vital for clinicians to provide comprehensive diagnoses. However, developing a model that accurately segments ultrasound images is challenging due to the images' low quality and the scarcity of extensive labeled data. This results in two main solutions: (1) optimizing multi-scale feature representations, and (2) increasing resistance to data dependency. The first approach necessitates an advanced network architecture, but a handcrafted network is knowledge-intensive and often yields limited improvement. In contrast, neural architecture search (NAS) can more easily attain optimal performance, albeit with significant computational costs. Regarding the second issue, semi-supervised learning (SSL) is an established method, but combining it with complex NAS faces the risk of overfitting to a few labeled samples without extra constraints. Therefore, we introduce a hybrid constraint-driven semi-supervised Transformer-NAS (HCS-TNAS), balancing both solutions for segmentation. HCS-TNAS includes an Efficient NAS-ViT module for multi-scale token search before ViT's attention calculation, effectively capturing contextual and local information with lower computational costs, and a hybrid SSL framework that adds network independence and contrastive learning to the optimization for solving data dependency. By further developing a stage-wise optimization strategy, a rational network structure is identified. Experiments on public datasets show that HCS-TNAS achieves state-of-the-art performance, pushing the limit of ultrasound segmentation.
- Abstract(参考訳): 超音波の精密セグメンテーションは、臨床医が包括的診断を行う上で不可欠である。
しかし, 画像の品質が低く, ラベル付きデータが少ないため, 精度の高い超音波画像分割モデルの開発は困難である。
その結果,(1)マルチスケール特徴表現の最適化,(2)データ依存に対する抵抗の増大という2つの主要な解が得られた。
最初のアプローチは高度なネットワークアーキテクチャを必要とするが、手作りのネットワークは知識集約的であり、しばしば限られた改善をもたらす。
対照的に、ニューラルネットワークサーチ(NAS)は計算コストが大きいにもかかわらず、より容易に最適な性能が得られる。
2つ目の問題に関して、半教師付き学習(SSL)は確立された手法であるが、複雑なNASと組み合わせることで、余分な制約なしにいくつかのラベル付きサンプルに過度に適合するリスクに直面している。
そこで我々は,ハイブリッド制約駆動半教師付きトランスフォーマー-NAS (HCS-TNAS) を導入する。
HCS-TNASは、ViTのアテンション計算の前にマルチスケールトークン検索のための効率的なNAS-ViTモジュールを備え、計算コストを下げてコンテキスト情報とローカル情報を効果的にキャプチャし、データ依存を解決するための最適化にネットワーク独立性とコントラスト学習を追加するハイブリッドSSLフレームワークを含んでいる。
段階的な最適化戦略をさらに発展させることで、合理的なネットワーク構造が特定される。
公開データセットの実験では、HCS-TNASが最先端のパフォーマンスを達成し、超音波セグメンテーションの限界を押し上げることが示されている。
関連論文リスト
- Semi-Mamba-UNet: Pixel-Level Contrastive and Pixel-Level Cross-Supervised Visual Mamba-based UNet for Semi-Supervised Medical Image Segmentation [11.637738540262797]
本研究では,従来のCNNベースのUNetと純粋に視覚的なMambaベースのエンコーダデコーダアーキテクチャを組み込んだセミマンバUNetを,半教師付き学習フレームワークに統合する。
この革新的なSSLアプローチは、両方のネットワークを利用して擬似ラベルを生成し、ピクセルレベルで相互に相互に監督する。
本稿では,2対のプロジェクタを用いた自己教師型画素レベルのコントラスト学習戦略を導入し,特徴学習機能をさらに強化する。
論文 参考訳(メタデータ) (2024-02-11T17:09:21Z) - ADASR: An Adversarial Auto-Augmentation Framework for Hyperspectral and
Multispectral Data Fusion [54.668445421149364]
HSI(Deep Learning-based Hyperspectral Image)は、HSI(Hyperspectral Image)とMSI(Multispectral Image)を深層ニューラルネットワーク(DNN)に融合させることにより、高空間分解能HSI(HR-HSI)を生成することを目的としている。
本稿では, HSI-MSI 融合のためのデータ多様性を向上するために, HSI-MSI サンプルペアの自動最適化と拡張を行う新しい逆自動データ拡張フレームワーク ADASR を提案する。
論文 参考訳(メタデータ) (2023-10-11T07:30:37Z) - SSHNN: Semi-Supervised Hybrid NAS Network for Echocardiographic Image
Segmentation [2.8358100463599722]
SSHNNと呼ばれる医用画像分割のための半教師付きハイブリッドNASネットワークを提案する。
SSHNNでは、詳細を失うのを避けるために、正規化されたスカラーの代わりに、レイヤワイズ機能融合における畳み込み操作を創造的に利用する。
具体的には,ラベル付き医用画像データセットの限られたボリューム問題を克服するために,半教師付きアルゴリズムであるMean-Teacherを実装した。
論文 参考訳(メタデータ) (2023-09-09T03:38:40Z) - HKNAS: Classification of Hyperspectral Imagery Based on Hyper Kernel
Neural Architecture Search [104.45426861115972]
設計したハイパーカーネルを利用して,構造パラメータを直接生成することを提案する。
我々は1次元または3次元の畳み込みを伴う画素レベルの分類と画像レベルの分類を別々に行う3種類のネットワークを得る。
6つの公開データセットに関する一連の実験は、提案手法が最先端の結果を得ることを示した。
論文 参考訳(メタデータ) (2023-04-23T17:27:40Z) - Iterative Soft Shrinkage Learning for Efficient Image Super-Resolution [91.3781512926942]
画像超解像(SR)は、CNNからトランスフォーマーアーキテクチャへの広範なニューラルネットワーク設計を目撃している。
本研究は,市販のネットワーク設計を生かし,基礎となる計算オーバーヘッドを低減するため,超高解像度イテレーションにおけるネットワークプルーニングの可能性について検討する。
本研究では, ランダムネットワークのスパース構造を最適化し, 重要でない重みを小さめに微調整することにより, 反復型軟収縮率(ISS-P)法を提案する。
論文 参考訳(メタデータ) (2023-03-16T21:06:13Z) - HASA: Hybrid Architecture Search with Aggregation Strategy for
Echinococcosis Classification and Ovary Segmentation in Ultrasound Images [0.0]
超音波(US)画像分類と分割のためのハイブリッドNASフレームワークを提案する。
本手法は、上記の米国画像分類および分割タスクに対して、より強力で軽量なモデルを生成することができる。
論文 参考訳(メタデータ) (2022-04-14T01:43:00Z) - Federated Split Vision Transformer for COVID-19 CXR Diagnosis using
Task-Agnostic Training [28.309185925167565]
フェデレートラーニングは、複数の病院で患者のCXRデータを収集することなく、胸部X線(CXR)画像上の新型コロナウイルス診断のためのニューラルネットワークトレーニングを可能にする。
直感的に分解可能な構成を持つ最近開発されたディープラーニングアーキテクチャであるVision Transformerは、性能を犠牲にすることなく、分割学習に最適であることを示す。
本研究は,医用画像の協調学習におけるTransformerの適合性を確認し,将来的な実世界の実現に向けての道筋をたどるものである。
論文 参考訳(メタデータ) (2021-11-02T02:54:30Z) - Trilevel Neural Architecture Search for Efficient Single Image
Super-Resolution [127.92235484598811]
本稿では,高効率単一画像超解像(SR)のための3レベルニューラルネットワーク探索法を提案する。
離散探索空間をモデル化するために、離散探索空間に新たな連続緩和を適用し、ネットワークパス、セル操作、カーネル幅の階層的混合を構築する。
階層型スーパーネット方式による最適化を行うため,効率的な探索アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-01-17T12:19:49Z) - Cross-Attention in Coupled Unmixing Nets for Unsupervised Hyperspectral
Super-Resolution [79.97180849505294]
本稿では,HSIの空間分解能を高めるために,CUCaNetというクロスアテンション機構を備えた新しい結合型アンミックスネットワークを提案する。
3つの広く使われているHS-MSデータセットに対して、最先端のHSI-SRモデルと比較実験を行った。
論文 参考訳(メタデータ) (2020-07-10T08:08:20Z) - Searching Central Difference Convolutional Networks for Face
Anti-Spoofing [68.77468465774267]
顔認識システムにおいて、顔の反偽造(FAS)が重要な役割を担っている。
最先端のFASメソッドの多くは、スタック化された畳み込みと専門家が設計したネットワークに依存している。
ここでは、中央差分畳み込み(CDC)に基づくフレームレベルの新しいFAS手法を提案する。
論文 参考訳(メタデータ) (2020-03-09T12:48:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。