論文の概要: Training robust deep learning models for medical imaging tasks with
spectral decoupling
- arxiv url: http://arxiv.org/abs/2103.17171v1
- Date: Wed, 31 Mar 2021 15:47:01 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-01 19:26:11.768384
- Title: Training robust deep learning models for medical imaging tasks with
spectral decoupling
- Title(参考訳): スペクトルデカップリングを用いた医用画像タスクのための堅牢な深層学習モデルの訓練
- Authors: Joona Pohjonen, Carolin St\"urenberg, Antti Rannikko, Tuomas Mirtti,
Esa Pitk\"anen
- Abstract要約: スペクトル分離は、強いスプリアス相関を持つデータセット上でニューラルネットワークのトレーニングを可能にする。
スペクトルデカップリングで訓練されたネットワークは、異なる中心からのデータセットの重量減衰よりも精度を10パーセント向上させる。
その結果、スペクトル分離により、複数の中心にまたがってトレーニング可能なロバストなニューラルネットワークが利用可能であることが判明した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep neural networks show impressive performance in medical imaging tasks.
However, many current networks generalise poorly to data unseen during
training, for example data generated by different centres. Such behaviour can
be caused by networks overfitting easy-to-learn, or statistically dominant,
features while disregarding other potentially informative features. Moreover,
dominant features can lead to learning spurious correlations. For instance,
indistinguishable differences in the sharpness of the images from two different
scanners can degrade the performance of the network significantly.
To address these challenges, we evaluate the utility of spectral decoupling
in the context of medical image analysis. Spectral decoupling encourages the
neural network to learn more features by simply regularising the networks'
unnormalized prediction scores with an L2 penalty.
Simulation experiments show that spectral decoupling allows training neural
networks on datasets with strong spurious correlations. Networks trained
without spectral decoupling do not learn the original task and appear to make
false predictions based on the spurious correlations. Spectral decoupling also
significantly increases networks' robustness for data distribution shifts. To
validate our findings, we train networks with and without spectral decoupling
to detect prostate cancer on haematoxylin and eosin stained whole slide images.
The networks are then evaluated with data scanned in the same centre with two
different scanners, and data from a different centre. Networks trained with
spectral decoupling increase the accuracy by 10 percentage points over weight
decay on the dataset from a different centre.
Our results show that spectral decoupling allows training generalisable and
robust neural networks to be used across multiple centres, and recommend its
use in future medical imaging tasks.
- Abstract(参考訳): 深層ニューラルネットワークは、医用イメージングタスクで印象的なパフォーマンスを示す。
しかし、多くの現在のネットワークはトレーニング中、例えば異なるセンターで生成されたデータなど、見過ごせないデータに対して不十分に一般化している。
このような振る舞いは、他の潜在的な情報的特徴を無視しながら、簡単に学習できる、あるいは統計的に支配的な特徴を過度に適合させるネットワークによって引き起こされる。
さらに、支配的な特徴はスプリアス相関の学習につながる可能性がある。
例えば、2つの異なるスキャナによる画像のシャープさの相違は、ネットワークの性能を著しく低下させる可能性がある。
これらの課題に対処するために,医療画像解析におけるスペクトル分離の有用性を評価する。
スペクトルデカップリングは、L2ペナルティでネットワークの非正規化予測スコアを規則化することで、ニューラルネットワークがより多くの機能を学ぶことを奨励する。
シミュレーション実験により、スペクトルデカップリングにより、強いスプリアス相関を持つデータセット上でニューラルネットワークをトレーニングできることが示されている。
スペクトル分離なしでトレーニングされたネットワークは、元のタスクを学習せず、スプリアス相関に基づいて誤った予測をするように見える。
スペクトルデカップリングは、データ分散シフトに対するネットワークの堅牢性を大幅に向上させる。
以上の結果を検証するために,haematoxylinおよびeosinの前立腺癌検出のために,スペクトルデカップリングを伴わずにネットワークを訓練した。
ネットワークは、2つの異なるスキャナーで同じセンターでスキャンされたデータと、別のセンターのデータで評価される。
スペクトルデカップリングで訓練されたネットワークは、異なる中心からのデータセットの重量減衰よりも精度を10パーセント向上させる。
以上の結果から,スペクトルデカップリングにより,複数のセンターにまたがって,汎用的かつ堅牢なニューラルネットワークのトレーニングが可能になることが示唆された。
関連論文リスト
- LMBF-Net: A Lightweight Multipath Bidirectional Focal Attention Network for Multifeatures Segmentation [15.091476025563528]
網膜疾患は、早期に診断や治療を受けなければ、両眼で不可逆的な視力喪失を引き起こす可能性がある。
多くのラベルや属性で網膜画像をセグメント化するための現在のディープラーニング技術は、検出精度と一般性に乏しい。
本稿では,多機能セグメンテーションのためのマルチパス畳み込みニューラルネットワークを提案する。
論文 参考訳(メタデータ) (2024-07-03T07:37:09Z) - Slicer Networks [8.43960865813102]
医用画像解析のための新しいアーキテクチャであるスライダネットワークを提案する。
スライダ・ネットワークは、スプレイティング・ブルーリング・スライシング・プロセスを通じて、機能マップを戦略的に洗練し、アップサンプルする。
異なる医療画像アプリケーションにわたる実験により、スライカーネットワークの精度と効率が向上したことが確認された。
論文 参考訳(メタデータ) (2024-01-18T09:50:26Z) - Assessing Neural Network Representations During Training Using
Noise-Resilient Diffusion Spectral Entropy [55.014926694758195]
ニューラルネットワークにおけるエントロピーと相互情報は、学習プロセスに関する豊富な情報を提供する。
データ幾何を利用して基礎となる多様体にアクセスし、これらの情報理論測度を確実に計算する。
本研究は,高次元シミュレーションデータにおける固有次元と関係強度の耐雑音性の測定結果である。
論文 参考訳(メタデータ) (2023-12-04T01:32:42Z) - Are Deep Learning Classification Results Obtained on CT Scans Fair and
Interpretable? [0.0]
ほとんどの肺結節分類論文は、ディープラーニングを用いてランダムにシャッフルし、それをトレーニング、検証、テストセットに分割する。
対照的に、厳密な患者レベルの分離で訓練されたディープニューラルネットワークは、新しい患者画像が検査された場合でも、正確性を維持する。
厳密な患者レベルの分離で訓練されたディープニューラルネットワークの活性化のヒートマップの可視化は、関連する結節に対する集中度が高いことを示している。
論文 参考訳(メタデータ) (2023-09-22T05:57:25Z) - Data-Efficient Vision Transformers for Multi-Label Disease
Classification on Chest Radiographs [55.78588835407174]
視覚変換器(ViT)は一般的な画像の分類性能が高いにもかかわらず、このタスクには適用されていない。
ViTは、畳み込みではなくパッチベースの自己アテンションに依存しており、CNNとは対照的に、ローカル接続に関する事前の知識は存在しない。
以上の結果から,ViTとCNNのパフォーマンスはViTの利点に匹敵するものの,DeiTsはトレーニング用に適度に大規模なデータセットが利用可能であれば,前者よりも優れることがわかった。
論文 参考訳(メタデータ) (2022-08-17T09:07:45Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳(メタデータ) (2022-02-01T17:11:13Z) - Correlation between image quality metrics of magnetic resonance images
and the neural network segmentation accuracy [0.0]
本研究では,MR画像の画質指標とニューラルネットワークのセグメンテーション精度の相関について検討した。
IQMに基づくトレーニング入力を用いたランダムなトレーニング入力に基づくモデル間のセグメンテーション精度の違いは、セグメンテーション精度における画像品質指標の役割に光を当てた。
論文 参考訳(メタデータ) (2021-11-01T17:02:34Z) - HistoTransfer: Understanding Transfer Learning for Histopathology [9.231495418218813]
我々は、ImageNetと病理組織データに基づいてトレーニングされたネットワークから抽出された特徴の性能を比較した。
より複雑なネットワークを用いて学習した機能が性能向上につながるかどうかを検討する。
論文 参考訳(メタデータ) (2021-06-13T18:55:23Z) - Leveraging Sparse Linear Layers for Debuggable Deep Networks [86.94586860037049]
学習した深い特徴表現に疎い線形モデルを適用することで、よりデバッグ可能なニューラルネットワークを実現する方法を示す。
その結果、スパースな説明は、スプリアス相関を特定し、誤分類を説明し、視覚および言語タスクにおけるモデルバイアスを診断するのに役立ちます。
論文 参考訳(メタデータ) (2021-05-11T08:15:25Z) - Domain Generalization for Medical Imaging Classification with
Linear-Dependency Regularization [59.5104563755095]
本稿では,医用画像分類分野におけるディープニューラルネットワークの一般化能力向上のための,シンプルだが効果的なアプローチを提案する。
医用画像の領域変数がある程度コンパクトであることに感銘を受けて,変分符号化による代表的特徴空間の学習を提案する。
論文 参考訳(メタデータ) (2020-09-27T12:30:30Z) - Curriculum By Smoothing [52.08553521577014]
畳み込みニューラルネットワーク(CNN)は、画像分類、検出、セグメンテーションなどのコンピュータビジョンタスクにおいて顕著な性能を示している。
アンチエイリアスフィルタやローパスフィルタを用いてCNNの機能埋め込みを円滑化するエレガントなカリキュラムベースのスキームを提案する。
トレーニング中に特徴マップ内の情報量が増加するにつれて、ネットワークはデータのより優れた表現を徐々に学習することができる。
論文 参考訳(メタデータ) (2020-03-03T07:27:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。