論文の概要: Is attention all you need in medical image analysis? A review

• arxiv url: http://arxiv.org/abs/2307.12775v1
• Date: Mon, 24 Jul 2023 13:24:56 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-25 14:24:54.964530
• Title: Is attention all you need in medical image analysis? A review
• Title（参考訳）: 医療画像分析に必要なのは注意だけか? レビュー
• Authors: Giorgos Papanastasiou, Nikolaos Dikaios, Jiahao Huang, Chengjia Wang, Guang Yang
• Abstract要約: CNNは、過去数年間で医療画像分析(MIA)のパフォーマンス向上を達成した。 CNNは、局所的なピクセル相互作用を効率的にモデル化し、小規模MIデータでトレーニングすることができる。 人工知能の最近の進歩は、データからグローバルな関係を学習できるトランスフォーマーを生み出した。
• 参考スコア（独自算出の注目度）: 2.9092303340991363
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Medical imaging is a key component in clinical diagnosis, treatment planning and clinical trial design, accounting for almost 90% of all healthcare data. CNNs achieved performance gains in medical image analysis (MIA) over the last years. CNNs can efficiently model local pixel interactions and be trained on small-scale MI data. The main disadvantage of typical CNN models is that they ignore global pixel relationships within images, which limits their generalisation ability to understand out-of-distribution data with different 'global' information. The recent progress of Artificial Intelligence gave rise to Transformers, which can learn global relationships from data. However, full Transformer models need to be trained on large-scale data and involve tremendous computational complexity. Attention and Transformer compartments (Transf/Attention) which can well maintain properties for modelling global relationships, have been proposed as lighter alternatives of full Transformers. Recently, there is an increasing trend to co-pollinate complementary local-global properties from CNN and Transf/Attention architectures, which led to a new era of hybrid models. The past years have witnessed substantial growth in hybrid CNN-Transf/Attention models across diverse MIA problems. In this systematic review, we survey existing hybrid CNN-Transf/Attention models, review and unravel key architectural designs, analyse breakthroughs, and evaluate current and future opportunities as well as challenges. We also introduced a comprehensive analysis framework on generalisation opportunities of scientific and clinical impact, based on which new data-driven domain generalisation and adaptation methods can be stimulated.
• Abstract（参考訳）: 医療画像は、臨床診断、治療計画、臨床試験設計において重要な要素であり、医療データの約90%を占めている。 CNNは過去数年間で医療画像分析(MIA)のパフォーマンス向上を達成した。 cnnはローカルピクセルインタラクションを効率的にモデル化し、小規模miデータでトレーニングすることができる。 典型的なcnnモデルの主な欠点は、画像内のグローバルピクセル関係を無視することであり、異なる「グローバル」情報を持つ分散データの一般化能力を制限することである。 人工知能の最近の進歩は、データからグローバルな関係を学ぶことができるトランスフォーマーを生み出した。 しかし、完全なトランスフォーマーモデルは大規模データで訓練され、膨大な計算量を必要とする。 グローバルな関係をモデル化するための特性を十分に維持できるアテンションとトランスフォーマーのコンパートメント(Transf/Attention)は、フルトランスフォーマーの軽量な代替品として提案されている。 近年,CNN や Transf/Attention アーキテクチャから補完的なローカル・グローバル特性を補完する傾向が高まり,新たなハイブリッドモデルが誕生した。 過去数年間、様々なmia問題に対するcnn-transf/attentionハイブリッドモデルの成長が見られた。 本システムレビューでは,既存のcnn-transf/attentionモデルと主要なアーキテクチャ設計のレビューと展開,ブレークスルーの分析,現在と将来の機会の評価,課題について検討する。 我々はまた、新しいデータ駆動ドメインの一般化と適応法を刺激できる、科学的および臨床的影響の一般化の機会に関する包括的な分析フレームワークも導入した。

関連論文リスト

• CNN-Transformer Rectified Collaborative Learning for Medical Image Segmentation [60.08541107831459]
  本稿では,医用画像セグメンテーションのための強力なCNNベースモデルとトランスフォーマーベースモデルを学習するための,CNN-Transformer修正協調学習フレームワークを提案する。 具体的には,学生ソフトラベルの誤り領域を適応的に選択・修正する基礎的真理を取り入れた修正ロジット・ワイド・コラボレーティブ・ラーニング(RLCL)戦略を提案する。 また,機能空間におけるCNNベースモデルとTransformerベースモデル間の効果的な知識伝達を実現するために,クラス認識型特徴量協調学習(CFCL)戦略を提案する。
  論文  参考訳（メタデータ） (2024-08-25T01:27:35Z)
• TractGraphFormer: Anatomically Informed Hybrid Graph CNN-Transformer Network for Classification from Diffusion MRI Tractography [20.096952203108394]
  拡散MRIトラクトグラフィーに適したグラフCNN-TransformerディープラーニングフレームワークであるTractGraphFormerを紹介する。 このモデルは、ホワイトマター構造の局所解剖学的特徴と大域的特徴に依存する。 TractGraphFormerは、性予知テストにおいて、子供と若者の大規模なデータセットで強いパフォーマンスを示す。
  論文  参考訳（メタデータ） (2024-07-11T22:14:57Z)
• Transformer-CNN Fused Architecture for Enhanced Skin Lesion Segmentation [0.0]
  畳み込みニューラルネットワーク(CNN)は、非常に高度な医療画像セグメンテーションを持つ。 CNNは、長距離依存関係の学習とグローバルコンテキストの取得に苦労している。 我々は、トランスフォーマーがグローバルな依存関係をキャプチャする能力と、CNNが低レベル空間の詳細をキャプチャする能力を組み合わせたハイブリッドアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2024-01-10T18:36:14Z)
• Breast Ultrasound Tumor Classification Using a Hybrid Multitask CNN-Transformer Network [63.845552349914186]
  胸部超音波(BUS)画像分類において,グローバルな文脈情報の収集が重要な役割を担っている。 ビジョントランスフォーマーは、グローバルなコンテキスト情報をキャプチャする能力が改善されているが、トークン化操作によって局所的なイメージパターンを歪めてしまう可能性がある。 本研究では,BUS腫瘍分類とセグメンテーションを行うハイブリッドマルチタスクディープニューラルネットワークであるHybrid-MT-ESTANを提案する。
  論文  参考訳（メタデータ） (2023-08-04T01:19:32Z)
• MedViT: A Robust Vision Transformer for Generalized Medical Image Classification [4.471084427623774]
  我々は,CNNの局所性と視覚変換器のグローバル接続性を備えた,頑健で効率的なCNN-Transformerハイブリッドモデルを提案する。 提案したハイブリッドモデルは,MedMNIST-2Dデータセットの大規模コレクションに関する最先端の研究と比較して,高い堅牢性と一般化能力を示す。
  論文  参考訳（メタデータ） (2023-02-19T02:55:45Z)
• How GNNs Facilitate CNNs in Mining Geometric Information from Large-Scale Medical Images [2.2699159408903484]
  畳み込みニューラルネットワーク(CNN)が捉えたグローバルな画像レベルの表現を強化するための融合フレームワークを提案する。 大腸癌と胃癌の大規模なコホートから得られた組織学的データセットの融合戦略について検討した。
  論文  参考訳（メタデータ） (2022-06-15T15:27:48Z)
• A Data-scalable Transformer for Medical Image Segmentation: Architecture, Model Efficiency, and Benchmark [45.543140413399506]
  MedFormerは、一般化可能な3次元医用画像セグメンテーションのために設計されたデータスケーリング可能なトランスフォーマーである。 提案手法には, 望ましい帰納バイアス, 線形複雑度を考慮した階層的モデリング, マルチスケール特徴融合の3つの要素が組み込まれている。
  論文  参考訳（メタデータ） (2022-02-28T22:59:42Z)
• Transformers in Medical Imaging: A Survey [88.03790310594533]
  トランスフォーマーはいくつかのコンピュータビジョン問題に適用され、最先端の結果が得られた。 医療画像はまた、局所受容野を持つCNNと比較して、グローバルな文脈を捉えられるトランスフォーマーへの関心が高まっている。 本稿では,最近提案された建築設計から未解決問題に至るまで,医療画像におけるトランスフォーマーの応用について概説する。
  論文  参考訳（メタデータ） (2022-01-24T18:50:18Z)
• Medical Transformer: Gated Axial-Attention for Medical Image Segmentation [73.98974074534497]
  医用画像分割タスクにおけるトランスフォーマティブネットワークアーキテクチャの利用可能性について検討する。 セルフアテンションモジュールに追加の制御機構を導入することで,既存のアーキテクチャを拡張するGated Axial-Attentionモデルを提案する。 医療画像上で効果的にモデルを訓練するために,さらにパフォーマンスを向上させる局所的グローバルトレーニング戦略 (logo) を提案する。
  論文  参考訳（メタデータ） (2021-02-21T18:35:14Z)
• Domain Generalization for Medical Imaging Classification with Linear-Dependency Regularization [59.5104563755095]
  本稿では,医用画像分類分野におけるディープニューラルネットワークの一般化能力向上のための,シンプルだが効果的なアプローチを提案する。 医用画像の領域変数がある程度コンパクトであることに感銘を受けて,変分符号化による代表的特徴空間の学習を提案する。
  論文  参考訳（メタデータ） (2020-09-27T12:30:30Z)
• Select-ProtoNet: Learning to Select for Few-Shot Disease Subtype Prediction [55.94378672172967]
  本研究は, 類似患者のサブグループを同定し, 数発の疾患のサブタイプ予測問題に焦点を当てた。 新しいモデルを開発するためにメタラーニング技術を導入し、関連する臨床課題から共通の経験や知識を抽出する。 我々の新しいモデルは、単純だが効果的なメタ学習マシンであるPrototypeal Networkと呼ばれる、慎重に設計されたメタラーナーに基づいて構築されている。
  論文  参考訳（メタデータ） (2020-09-02T02:50:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。