論文の概要: Graph Flow: Cross-layer Graph Flow Distillation for Dual-Efficient Medical Image Segmentation

• arxiv url: http://arxiv.org/abs/2203.08667v2
• Date: Thu, 17 Mar 2022 01:20:26 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-18 10:42:16.495372
• Title: Graph Flow: Cross-layer Graph Flow Distillation for Dual-Efficient Medical Image Segmentation
• Title（参考訳）: graph flow:二重効率医用画像セグメンテーションのためのクロスレイヤーグラフフロー蒸留
• Authors: Wenxuan Zou, Muyi Sun
• Abstract要約: ネットワーク効率およびアノテーション効率の良い医用画像セグメンテーションにおいて,クロスレイヤグラフフローの知識を活用するための,新しい総合的知識蒸留法であるグラフフローを提案する。 本稿では,異なるモダリティおよびマルチカテゴリの医療画像データセットに対して,最先端の性能を示す手法の顕著な性能を示す。
• 参考スコア（独自算出の注目度）: 0.76146285961466
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: With the development of deep convolutional neural networks, medical image segmentation has achieved a series of breakthroughs in recent years. However, the higher-performance convolutional neural networks always mean numerous parameters and expensive computation costs, which will hinder the applications in clinical scenarios. Meanwhile, the scarceness of large-scale annotated medical image datasets further impedes the application of high-performance networks. To tackle these problems, we propose Graph Flow, a novel comprehensive knowledge distillation method, to exploit the cross-layer graph flow knowledge for both network-efficient and annotation-efficient medical image segmentation. Specifically, our Graph Flow Distillation constructs a variation graph which is employed to measure the flow of channel-wise salience features between different layers. Next, the knowledge included in the variation graph is transferred from a well-trained cumbersome teacher network to a non-trained compact student network. In addition, an unsupervised Paraphraser Module is designed to refine the knowledge of the teacher network, which is also beneficial for the stabilization of training procedure. Furthermore, we build a unified distillation framework by integrating the adversarial distillation and the vanilla logits distillation, which can further promote the final performance respectively. As a result, extensive experiments conducted on Gastric Cancer Segmentation Dataset and Synapse Multi-organ Segmentation Dataset demonstrate the prominent ability of our method which achieves state-of-the-art performance on these different-modality and multi-category medical image datasets. Moreover, we demonstrate the effectiveness of our Graph Flow through a new semi-supervised paradigm for dual-efficient medical image segmentation.
• Abstract（参考訳）: 深層畳み込みニューラルネットワークの開発により、医療画像のセグメンテーションは近年、一連のブレークスルーを達成している。 しかし、高性能畳み込みニューラルネットワークは、常に多くのパラメータと高価な計算コストを意味し、臨床シナリオの応用を妨げる。 一方で、大規模な注釈付き医用画像データセットの不足は、高性能ネットワークの適用をさらに妨げている。 そこで本研究では,ネットワーク効率とアノテーション効率のよい医用画像セグメンテーションにおいて,クロスレイヤーグラフフロー知識を活用すべく,新しい包括的知識蒸留法であるgraph flowを提案する。 特に,グラフフロー蒸留では,異なる層間のチャネルワイド・サリエンス特性のフローを測定するために,変動グラフを構築している。 次に、変動グラフに含まれる知識を、よく訓練された教師ネットワークから訓練されていないコンパクトな生徒ネットワークに転送する。 さらに教師ネットワークの知識を洗練するために教師なしのパラフレーザーモジュールが設計されており、これは訓練手順の安定化にも有用である。 さらに, 対向蒸留とバニラロジット蒸留を統合した統合蒸留の枠組みを構築し, それぞれが最終性能の向上を図っている。 その結果,胃癌分画データセットとsynapse multi-organ segmentationデータセットを用いた広範な実験により,これらの異なるモダリティおよびマルチカテゴリの医療画像データセットにおいて,最先端のパフォーマンスを実現する方法の著明な性能が示された。 さらに,デュアル効率な医用画像分割のための半教師付きパラダイムによるグラフフローの有効性を示す。

関連論文リスト

• Predicting Stroke through Retinal Graphs and Multimodal Self-supervised Learning [0.46835339362676565]
  脳卒中の早期発見は介入に不可欠であり、信頼できるモデルを必要とする。 臨床情報とともに効率的な網膜像表現法を提案し,心血管の健康状態の包括的把握を試みた。
  論文  参考訳（メタデータ） (2024-11-08T14:40:56Z)
• Mew: Multiplexed Immunofluorescence Image Analysis through an Efficient Multiplex Network [84.88767228835928]
  マルチプレックスネットワークのレンズを通してmIF画像を効率的に処理する新しいフレームワークであるMewを紹介する。 Mew は、幾何学情報のための Voronoi ネットワークと、セルワイドの均一性を捉えるセル型ネットワークという、2つの異なる層からなる多重ネットワークを革新的に構築する。 このフレームワークは、トレーニング中にグラフ全体を処理できるスケーラブルで効率的なグラフニューラルネットワーク(GNN)を備えている。
  論文  参考訳（メタデータ） (2024-07-25T08:22:30Z)
• Multi-Task Multi-Scale Contrastive Knowledge Distillation for Efficient Medical Image Segmentation [0.0]
  本論文は,医用画像分割作業におけるニューラルネットワーク間の知識伝達の実現可能性を検討することを目的とする。 データボリュームが制限される医療画像の文脈では、より大きなトレーニング済みネットワークからの知識を活用することが有用である。
  論文  参考訳（メタデータ） (2024-06-05T12:06:04Z)
• Graph Relation Distillation for Efficient Biomedical Instance Segmentation [80.51124447333493]
  本稿では,効率的なバイオメディカル・インスタンス・セグメンテーションのためのグラフ関係蒸留手法を提案する。 画像内レベルと画像間レベルの両方に展開する2つのグラフ蒸留方式を導入する。 多くのバイオメディカルデータセットの実験結果から,本手法の有効性が検証された。
  論文  参考訳（メタデータ） (2024-01-12T04:41:23Z)
• Classification of developmental and brain disorders via graph convolutional aggregation [6.6356049194991815]
  本稿では,グラフサンプリングにおける集約を利用したアグリゲータ正規化グラフ畳み込みネットワークを提案する。 提案モデルは,画像特徴と非画像特徴の両方をグラフノードとエッジに組み込むことで,識別グラフノード表現を学習する。 我々は、自閉症脳画像データ交換(ABIDE)とアルツハイマー病神経イメージングイニシアチブ(ADNI)という2つの大きなデータセット上の最近のベースライン手法と比較して、我々のモデルをベンチマークした。
  論文  参考訳（メタデータ） (2023-11-13T14:36:29Z)
• Contrastive Brain Network Learning via Hierarchical Signed Graph Pooling Model [64.29487107585665]
  脳機能ネットワーク上のグラフ表現学習技術は、臨床表現型および神経変性疾患のための新しいバイオマーカーの発見を容易にする。 本稿では,脳機能ネットワークからグラフレベル表現を抽出する階層型グラフ表現学習モデルを提案する。 また、モデルの性能をさらに向上させるために、機能的脳ネットワークデータをコントラスト学習のために拡張する新たな戦略を提案する。
  論文  参考訳（メタデータ） (2022-07-14T20:03:52Z)
• Efficient Medical Image Segmentation Based on Knowledge Distillation [30.857487609003197]
  医用画像セグメンテーションネットワークから知識を抽出し,別の軽量ネットワークを訓練することで,効率的なアーキテクチャを提案する。 また,教師から学生ネットワークへ意味領域情報を伝達するために,医用画像セグメンテーションに適した新しい蒸留モジュールを考案した。 本研究では,本手法で蒸留した軽量ネットワークが,比較的高い動作速度と低いストレージ使用量を必要とするシナリオにおいて,無視できない価値を持つことを示す。
  論文  参考訳（メタデータ） (2021-08-23T07:41:10Z)
• Few-shot Medical Image Segmentation using a Global Correlation Network with Discriminative Embedding [60.89561661441736]
  医療画像分割のための新しい手法を提案する。 深層畳み込みネットワークを用いた数ショット画像セグメンタを構築します。 深層埋め込みの識別性を高め,同一クラスの特徴領域のクラスタリングを促進する。
  論文  参考訳（メタデータ） (2020-12-10T04:01:07Z)
• Graph-Based Neural Network Models with Multiple Self-Supervised Auxiliary Tasks [79.28094304325116]
  グラフ畳み込みネットワークは、構造化されたデータポイント間の関係をキャプチャするための最も有望なアプローチである。 マルチタスク方式でグラフベースニューラルネットワークモデルを学習するための3つの新しい自己教師付き補助タスクを提案する。
  論文  参考訳（メタデータ） (2020-11-14T11:09:51Z)
• Towards Deeper Graph Neural Networks [63.46470695525957]
  グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。 いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。 本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
  論文  参考訳（メタデータ） (2020-07-18T01:11:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。