論文の概要: Contrastive Learning with Continuous Proxy Meta-Data for 3D MRI Classification

• arxiv url: http://arxiv.org/abs/2106.08808v1
• Date: Wed, 16 Jun 2021 14:17:04 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-17 17:40:01.059221
• Title: Contrastive Learning with Continuous Proxy Meta-Data for 3D MRI Classification
• Title（参考訳）: 3次元MRI分類のための連続プロキシメタデータを用いたコントラスト学習
• Authors: Benoit Dufumier, Pietro Gori, Julie Victor, Antoine Grigis, Michel Wessa, Paolo Brambilla, Pauline Favre, Mircea Polosan, Colm McDonald, Camille Marie Piguet, Edouard Duchesnay
• Abstract要約: 我々は、y-Aware InfoNCE Losという新たな損失を導入することで、対照的な学習フレームワークにおいて、継続的なプロキシメタデータを活用することを提案する。 104ドルの健康脳MRIスキャンで事前訓練された3D CNNモデルは、3つの分類タスクに関連する特徴を抽出することができる。 微調整された場合、これらのタスクをスクラッチからトレーニングした3D CNNと、最先端の自己管理手法を上回ります。
• 参考スコア（独自算出の注目度）: 1.714108629548376
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Traditional supervised learning with deep neural networks requires a tremendous amount of labelled data to converge to a good solution. For 3D medical images, it is often impractical to build a large homogeneous annotated dataset for a specific pathology. Self-supervised methods offer a new way to learn a representation of the images in an unsupervised manner with a neural network. In particular, contrastive learning has shown great promises by (almost) matching the performance of fully-supervised CNN on vision tasks. Nonetheless, this method does not take advantage of available meta-data, such as participant's age, viewed as prior knowledge. Here, we propose to leverage continuous proxy metadata, in the contrastive learning framework, by introducing a new loss called y-Aware InfoNCE loss. Specifically, we improve the positive sampling during pre-training by adding more positive examples with similar proxy meta-data with the anchor, assuming they share similar discriminative semantic features.With our method, a 3D CNN model pre-trained on $10^4$ multi-site healthy brain MRI scans can extract relevant features for three classification tasks: schizophrenia, bipolar diagnosis and Alzheimer's detection. When fine-tuned, it also outperforms 3D CNN trained from scratch on these tasks, as well as state-of-the-art self-supervised methods. Our code is made publicly available here.
• Abstract（参考訳）: ディープニューラルネットワークによる従来の教師付き学習は、優れたソリューションに収束するために、膨大なラベル付きデータを必要とする。 3d医療画像の場合、特定の病理学のために大きな均質な注釈付きデータセットを構築することは、しばしば非実用的である。 自己教師付き手法は、ニューラルネットワークを用いて教師なしの方法で画像の表現を学習する新しい方法を提供する。 特に、対照的な学習は、視覚タスクにおける完全な教師付きcnnのパフォーマンスに(ほぼ)マッチする大きな期待を示してきた。 しかし,この手法は,事前知識とみなす参加者の年齢など,利用可能なメタデータを活用できない。 本稿では,y-aware infonce lossと呼ばれる新たな損失を導入することで,コントラスト学習フレームワークにおいて,連続的なプロキシメタデータを活用することを提案する。 特に,類似したプロキシメタデータをアンカーと追加することにより,類似した識別的意味的特徴を仮定して,事前学習中のポジティブサンプリングを改善する。本手法では,10^4$の健常脳のmriスキャンにより,統合失調症,双極性診断,アルツハイマー病の検出という3つの分類課題に関連する特徴を抽出することができる。 微調整された場合、これらのタスクをスクラッチからトレーニングした3D CNNと、最先端の自己管理手法を上回ります。 私たちのコードはここで公開されています。

関連論文リスト

• Enhancing Weakly Supervised 3D Medical Image Segmentation through Probabilistic-aware Learning [52.249748801637196]
  3次元医用画像のセグメンテーションは、疾患の診断と治療計画に重要な意味を持つ課題である。 近年の深層学習の進歩は、完全に教師付き医療画像のセグメンテーションを著しく強化している。 本稿では,3次元医用画像に特化して設計された,確率的適応型弱教師付き学習パイプラインを提案する。
  論文  参考訳（メタデータ） (2024-03-05T00:46:53Z)
• Disruptive Autoencoders: Leveraging Low-level features for 3D Medical Image Pre-training [51.16994853817024]
  本研究は、3Dラジオグラフィ画像のための効果的な事前学習フレームワークの設計に焦点をあてる。 ローカルマスキングと低レベルの摂動の組み合わせによって生成された破壊から、オリジナルのイメージを再構築しようとする事前トレーニングフレームワークであるDisruptive Autoencodersを紹介する。 提案する事前トレーニングフレームワークは、複数のダウンストリームタスクでテストされ、最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2023-07-31T17:59:42Z)
• MOCA: Self-supervised Representation Learning by Predicting Masked Online Codebook Assignments [72.6405488990753]
  自己教師付き学習は、ビジョントランスフォーマーネットワークの欲求を軽減できる。 所望のプロパティを統一する単段および単段のMOCAを提案する。 我々は,様々な評価プロトコルにおいて,低照度設定と強力な実験結果に対して,最先端の新たな結果を得る。
  論文  参考訳（メタデータ） (2023-07-18T15:46:20Z)
• ALSO: Automotive Lidar Self-supervision by Occupancy estimation [70.70557577874155]
  本稿では,ポイントクラウド上で動作している深層知覚モデルのバックボーンを事前学習するための自己教師型手法を提案する。 中心となる考え方は、3Dポイントがサンプリングされる表面の再構成であるプリテキストタスクでモデルをトレーニングすることである。 直感的には、もしネットワークがわずかな入力ポイントのみを考慮し、シーン表面を再構築できるなら、おそらく意味情報の断片をキャプチャする。
  論文  参考訳（メタデータ） (2022-12-12T13:10:19Z)
• Intelligent Masking: Deep Q-Learning for Context Encoding in Medical Image Analysis [48.02011627390706]
  我々は,対象地域を排除し,事前訓練の手順を改善する,新たな自己指導型アプローチを開発した。 予測モデルに対してエージェントを訓練することで、下流の分類タスクで抽出した意味的特徴を大幅に改善できることを示す。
  論文  参考訳（メタデータ） (2022-03-25T19:05:06Z)
• Benchmarking CNN on 3D Anatomical Brain MRI: Architectures, Data Augmentation and Deep Ensemble Learning [2.1446056201053185]
  我々は最近のSOTA(State-of-the-art)3D CNNの広範なベンチマークを提案し、データ拡張と深層アンサンブル学習の利点も評価した。 年齢予測,性別分類,統合失調症診断の3つの課題について,N=10kスキャンを含む多地点の脳解剖学的MRIデータセットを用いて実験を行った。 その結果,VBM画像の予測精度は擬似RAWデータよりも有意に向上した。 DenseNetとSmall-DenseNetは、私たちが提案したより軽量なバージョンで、すべてのデータレシエーションのパフォーマンスにおいて優れた妥協を提供する。
  論文  参考訳（メタデータ） (2021-06-02T13:00:35Z)
• Convolution-Free Medical Image Segmentation using Transformers [8.130670465411239]
  近接する画像パッチ間の自己注意に基づく別の手法が,競争的あるいはよりよい結果が得られることを示す。 提案モデルにより,3つのデータセット上でのCNNの状態よりも優れたセグメンテーション精度が得られることを示す。
  論文  参考訳（メタデータ） (2021-02-26T18:49:13Z)
• Uniformizing Techniques to Process CT scans with 3D CNNs for Tuberculosis Prediction [5.270882613122642]
  深部2次元畳み込みニューラルネットワーク(CNN)を用いたボリュームデータにおける医用画像解析への共通アプローチ 個々のスライスを2D CNNで独立に扱うと、意図したタスクのパフォーマンスが低下する深度情報を意図的に破棄する。 上記の問題に対処するためのボリューム均一化手法のセットを評価する。 画像情報のみを活用する全手法に勝るテストセットに対して,曲線下面積 (AUC) と二分分類精度 (ACC) を67.5%と報告した。
  論文  参考訳（メタデータ） (2020-07-26T21:53:47Z)
• Embedding Task Knowledge into 3D Neural Networks via Self-supervised Learning [21.902313057142905]
  自己教師付き学習(SSL)は、アノテーション付きデータの潜在的な解決策である。 我々は,3次元医用画像分類,すなわちタスク関連コントラスト予測符号化(TCPC)のための新しいSSL手法を提案する。 TCPCは、タスク知識を3Dニューラルネットワークのトレーニングに組み込む。
  論文  参考訳（メタデータ） (2020-06-10T12:37:39Z)
• 3D Self-Supervised Methods for Medical Imaging [7.65168530693281]
  本稿では,プロキシタスクの形式で,5種類の自己教師型手法の3次元バージョンを提案する。 提案手法は,未ラベルの3次元画像からニューラルネットワークの特徴学習を容易にし,専門家のアノテーションに必要なコストを削減することを目的としている。 開発したアルゴリズムは、3D Contrastive Predictive Coding, 3D Rotation Prediction, 3D Jigsaw puzzles, Relative 3D patch location, 3D Exemplar Networkである。
  論文  参考訳（メタデータ） (2020-06-06T09:56:58Z)
• 3D medical image segmentation with labeled and unlabeled data using autoencoders at the example of liver segmentation in CT images [58.720142291102135]
  本研究では、畳み込みニューラルネットワークによるセグメンテーションを改善するために、オートエンコーダ抽出機能の可能性を検討する。 コンボリューション・オートエンコーダを用いてラベルのないデータから特徴を抽出し,CT画像における3次元肝セグメンテーションの目標タスクを実行するために,マルチスケールの完全畳み込みCNNを用いた。
  論文  参考訳（メタデータ） (2020-03-17T20:20:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。