論文の概要: Rethinking U-net Skip Connections for Biomedical Image Segmentation
- arxiv url: http://arxiv.org/abs/2402.08276v1
- Date: Tue, 13 Feb 2024 08:07:14 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-14 16:04:22.393131
- Title: Rethinking U-net Skip Connections for Biomedical Image Segmentation
- Title（参考訳）: バイオメディカルイメージセグメンテーションのためのU-netスキップ接続の再検討
- Authors: Frauke Wilm, Jonas Ammeling, Mathias \"Ottl, Rutger H.J. Fick, Marc
Aubreville, Katharina Breininger
- Abstract要約: アウト・オブ・ディストリビューションデータは、ニューラルネットワークの性能を著しく損なう可能性がある。
以前の研究では、トレーニングされたネットワーク層は、このドメインシフトに対する感受性が異なることが示されていた。
Hellinger 距離を用いて各ネットワーク層固有の領域感受性を定量化する。
- 参考スコア（独自算出の注目度）: 0.4154350202907906
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The U-net architecture has significantly impacted deep learning-based
segmentation of medical images. Through the integration of long-range skip
connections, it facilitated the preservation of high-resolution features.
Out-of-distribution data can, however, substantially impede the performance of
neural networks. Previous works showed that the trained network layers differ
in their susceptibility to this domain shift, e.g., shallow layers are more
affected than deeper layers. In this work, we investigate the implications of
this observation of layer sensitivity to domain shifts of U-net-style
segmentation networks. By copying features of shallow layers to corresponding
decoder blocks, these bear the risk of re-introducing domain-specific
information. We used a synthetic dataset to model different levels of data
distribution shifts and evaluated the impact on downstream segmentation
performance. We quantified the inherent domain susceptibility of each network
layer, using the Hellinger distance. These experiments confirmed the higher
domain susceptibility of earlier network layers. When gradually removing skip
connections, a decrease in domain susceptibility of deeper layers could be
observed. For downstream segmentation performance, the original U-net
outperformed the variant without any skip connections. The best performance,
however, was achieved when removing the uppermost skip connection - not only in
the presence of domain shifts but also for in-domain test data. We validated
our results on three clinical datasets - two histopathology datasets and one
magnetic resonance dataset - with performance increases of up to 10% in-domain
and 13% cross-domain when removing the uppermost skip connection.
- Abstract（参考訳）: U-netアーキテクチャは、深層学習に基づく医療画像のセグメンテーションに大きな影響を与えている。
長距離スキップ接続の統合により、高解像度の特徴の保存が容易になった。
しかし、分配外データは、ニューラルネットワークのパフォーマンスを実質的に阻害する可能性がある。
以前の研究では、トレーニングされたネットワーク層は、このドメインシフトに対する感受性が異なることが示されており、例えば、浅い層はより深い層よりも影響を受けやすい。
本研究は,U-net型セグメンテーションネットワークの領域シフトに対する層感度の影響について考察する。
浅い層の特徴を対応するデコーダブロックにコピーすることで、これらはドメイン固有の情報を再導入するリスクを負う。
合成データセットを用いて、異なるレベルのデータ分散シフトをモデル化し、下流セグメンテーション性能への影響を評価した。
我々は,Hellinger距離を用いて,各ネットワーク層固有の領域感受性を定量化した。
これらの実験により、以前のネットワーク層よりも高いドメイン感受性が確認された。
スキップ接続を徐々に除去すると,より深い層の磁化率の低下が観察された。
ダウンストリームセグメンテーション性能では、元のu-netはスキップ接続なしで派生型よりも優れていた。
しかし、最高のパフォーマンスは、最上位のスキップ接続を取り除くことで達成された - ドメインシフトがあるだけでなく、ドメイン内テストデータに対しても。
その結果,2つの病理組織学的データセットと1つの磁気共鳴データセットの3つの臨床データセットで,最大10%のドメインと13%のクロスドメインのパフォーマンス向上が得られた。
関連論文リスト
- MD-CSDNetwork: Multi-Domain Cross Stitched Network for Deepfake
Detection [80.83725644958633]
現在のディープフェイク生成法では、偽画像やビデオの周波数スペクトルに識別的アーティファクトが残されている。
MD-CSDNetwork(MD-CSDNetwork)と呼ばれる新しい手法を提案する。
論文 参考訳（メタデータ） (2021-09-15T14:11:53Z) - Unsupervised Domain Adaptation for Retinal Vessel Segmentation with
Adversarial Learning and Transfer Normalization [22.186070895966022]
本稿では,ソースドメインとターゲットドメイン間の分布差を低減するために,エントロピーに基づく逆学習戦略を提案する。
ディープネットワークの転送性をさらに向上するために,新しい転送正規化層を提案する。
我々の手法は、他の最先端手法と比較して大きな性能向上をもたらす。
論文 参考訳（メタデータ） (2021-08-04T02:45:37Z) - Anatomy of Domain Shift Impact on U-Net Layers in MRI Segmentation [0.08156494881838945]
SpotTUnetはCNNアーキテクチャであり、最適に微調整されるべきレイヤを自動的に選択する。
本手法は,アノテートデータの極端な不足下においても,非フレキシブル微調整法と同等の精度で動作可能であることを示す。
論文 参考訳（メタデータ） (2021-07-10T21:13:55Z) - Joint Learning of Neural Transfer and Architecture Adaptation for Image
Recognition [77.95361323613147]
現在の最先端の視覚認識システムは、大規模データセット上でニューラルネットワークを事前トレーニングし、より小さなデータセットでネットワーク重みを微調整することに依存している。
本稿では,各ドメインタスクに適応したネットワークアーキテクチャの動的適応と,効率と効率の両面で重みの微調整の利点を実証する。
本手法は,ソースドメインタスクでスーパーネットトレーニングを自己教師付き学習に置き換え,下流タスクで線形評価を行うことにより,教師なしパラダイムに容易に一般化することができる。
論文 参考訳（メタデータ） (2021-03-31T08:15:17Z) - Two-Step Image Dehazing with Intra-domain and Inter-domain Adaption [9.13515529835267]
本稿では,ドメイン内ギャップとドメイン間ギャップを最小限に抑えるために,新しい2段階デハージングネットワーク(TSDN)を提案する。
我々のフレームワークは、合成データセットと実際のデータセットの両方で最先端のアルゴリズムに対して好意的に機能する。
論文 参考訳（メタデータ） (2021-02-06T04:02:14Z) - First U-Net Layers Contain More Domain Specific Information Than The
Last Ones [0.055997926295092294]
最初のレイヤの微調整は、ほとんどすべての教師付きドメイン適応設定において、最後のレイヤの微調整よりも大幅に優れています。
最初のレイヤの微調整は、新しいドメインからの注釈付きデータの量が厳密に制限されている場合、ネットワーク全体の微調整よりも優れた戦略である。
論文 参考訳（メタデータ） (2020-08-17T14:31:10Z) - Understanding and Diagnosing Vulnerability under Adversarial Attacks [62.661498155101654]
ディープニューラルネットワーク(DNN)は敵の攻撃に弱いことが知られている。
本稿では,潜在変数の分類に使用される特徴を説明するために,新しい解釈可能性手法であるInterpretGANを提案する。
また、各層がもたらす脆弱性を定量化する最初の診断方法も設計する。
論文 参考訳（メタデータ） (2020-07-17T01:56:28Z) - Self-Challenging Improves Cross-Domain Generalization [81.99554996975372]
畳み込みニューラルネットワーク(CNN)は、ラベルと相関する支配的特徴を活性化することにより、画像分類を行う。
ドメイン外データに対するCNNの一般化を著しく改善する簡単なトレーニングである自己整合表現(RSC)を導入する。
RSCはトレーニングデータ上で活性化される主要な機能に対して反復的に挑戦し、ラベルと相関する残りの機能を有効にするようネットワークに強制する。
論文 参考訳（メタデータ） (2020-07-05T21:42:26Z) - The Heterogeneity Hypothesis: Finding Layer-Wise Differentiated Network
Architectures [179.66117325866585]
我々は、通常見過ごされる設計空間、すなわち事前定義されたネットワークのチャネル構成を調整することを検討する。
この調整は、拡張ベースラインネットワークを縮小することで実現でき、性能が向上する。
画像分類、視覚追跡、画像復元のための様々なネットワークとデータセットで実験を行う。
論文 参考訳（メタデータ） (2020-06-29T17:59:26Z) - Unsupervised Intra-domain Adaptation for Semantic Segmentation through
Self-Supervision [73.76277367528657]
畳み込みニューラルネットワークに基づくアプローチは、セマンティックセグメンテーションにおいて顕著な進歩を遂げた。
この制限に対処するために、グラフィックエンジンから生成された注釈付きデータを使用してセグメンテーションモデルをトレーニングする。
ドメイン間およびドメイン間ギャップを最小化する2段階の自己教師付きドメイン適応手法を提案する。
論文 参考訳（メタデータ） (2020-04-16T15:24:11Z) - Fine tuning U-Net for ultrasound image segmentation: which layers? [3.265773263570237]
大規模なデータセットでトレーニングされたネットワークを微調整することは、不足した高価なデータの問題を克服するための完全なトレーニングに代わるものだ。
乳房超音波画像分割における自然像の区分けを訓練したU-Netの異なる層を微調整した影響について検討した。
論文 参考訳（メタデータ） (2020-02-19T20:45:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。