論文の概要: Contrastive Cross-Modal Pre-Training: A General Strategy for Small Sample Medical Imaging

• arxiv url: http://arxiv.org/abs/2010.03060v5
• Date: Thu, 9 Sep 2021 00:25:53 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-10 04:59:49.689218
• Title: Contrastive Cross-Modal Pre-Training: A General Strategy for Small Sample Medical Imaging
• Title（参考訳）: 造影クロスモーダルプリトレーニング:小標本医用画像化のための一般戦略
• Authors: Gongbo Liang, Connor Greenwell, Yu Zhang, Xiaoqin Wang, Ramakanth Kavuluru, Nathan Jacobs
• Abstract要約: ニューラルネットワークのイメージ解釈性能を改善するために,弱い監視形態を提案する。 画像テキストマッチングタスクを用いて特徴抽出器を訓練し、教師付きタスクのための転写学習設定で微調整する。 最終的な結果は、推論中にテキストレポートを必要とせずに、画像を自動的に解釈するニューラルネットワークである。
• 参考スコア（独自算出の注目度）: 17.530514174860826
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A key challenge in training neural networks for a given medical imaging task is often the difficulty of obtaining a sufficient number of manually labeled examples. In contrast, textual imaging reports, which are often readily available in medical records, contain rich but unstructured interpretations written by experts as part of standard clinical practice. We propose using these textual reports as a form of weak supervision to improve the image interpretation performance of a neural network without requiring additional manually labeled examples. We use an image-text matching task to train a feature extractor and then fine-tune it in a transfer learning setting for a supervised task using a small labeled dataset. The end result is a neural network that automatically interprets imagery without requiring textual reports during inference. This approach can be applied to any task for which text-image pairs are readily available. We evaluate our method on three classification tasks and find consistent performance improvements, reducing the need for labeled data by 67%-98%.
• Abstract（参考訳）: 与えられた医療画像タスクのためのニューラルネットワークのトレーニングにおける重要な課題は、手作業でラベル付けされたサンプルを十分な数の取得が困難であることが多い。 対照的に、しばしば医療記録で容易に利用できるテキストイメージングレポートは、標準的な臨床実践の一部として専門家によって書かれた豊富なが非構造的な解釈を含んでいる。 本稿では、これらのテキストレポートを弱い監視形態として使用して、手動でラベル付けした追加の例を必要としないニューラルネットワークの画像解釈性能を向上させることを提案する。 画像テキストマッチングタスクを用いて特徴抽出器を訓練し、小さなラベル付きデータセットを用いて教師付きタスクの伝達学習設定で微調整する。 最終的な結果は、推論中にテキストレポートを必要とせずに画像を自動的に解釈するニューラルネットワークである。 このアプローチは、テキストと画像のペアが容易に利用できるタスクに適用できる。 本手法を3つの分類タスクで評価し,一貫した性能向上を実現し,ラベル付きデータの必要性を67%～98%削減した。

関連論文リスト

• Learning Generalized Medical Image Representations through Image-Graph Contrastive Pretraining [11.520404630575749]
  胸部X線と構造化レポート知識グラフを組み合わせた画像グラフコントラスト学習フレームワークを開発した。 提案手法は,リレーショナルグラフ畳み込みネットワークとトランスフォーマーアテンションを介して,非連結グラフ成分を一意に符号化する。
  論文  参考訳（メタデータ） (2024-05-15T12:27:38Z)
• MLIP: Medical Language-Image Pre-training with Masked Local Representation Learning [20.33625985769796]
  既存のコントラスト言語画像事前学習は、豊富な画像とテキストのペアをマッチングすることで、共同表現を学習することを目的としている。 本稿では,限られた画像テキストの医療データをより効率的に活用する医用言語-画像事前学習フレームワークを提案する。 評価の結果、MLIPはゼロ/フェーショット分類や少数ショット分割タスクにおいて、従来よりも大きなマージンで性能が向上していることがわかった。
  論文  参考訳（メタデータ） (2024-01-03T07:54:13Z)
• Unified Medical Image-Text-Label Contrastive Learning With Continuous Prompt [3.218449686637963]
  本稿では,連続的なプロンプトに基づく画像-テキスト-ラベルのコントラスト学習フレームワークを提案する。 我々は,Unified Medical Contrastive Learningフレームワークが下流のタスクに優れた性能を示すことを示す十分な実験を通して実証する。
  論文  参考訳（メタデータ） (2023-07-12T05:19:10Z)
• Learning to Exploit Temporal Structure for Biomedical Vision-Language Processing [53.89917396428747]
  視覚言語処理における自己教師あり学習は、画像とテキストのモダリティのセマンティックアライメントを利用する。 トレーニングと微調整の両方で利用できる場合、事前のイメージとレポートを明示的に説明します。 我々のアプローチはBioViL-Tと呼ばれ、テキストモデルと共同で訓練されたCNN-Transformerハイブリッドマルチイメージエンコーダを使用する。
  論文  参考訳（メタデータ） (2023-01-11T16:35:33Z)
• Universal Multimodal Representation for Language Understanding [110.98786673598015]
  本研究は,一般的なNLPタスクの補助信号として視覚情報を利用する新しい手法を提案する。 各文に対して、まず、既存の文-画像ペア上で抽出された軽トピック-画像検索テーブルから、フレキシブルな画像を検索する。 そして、テキストと画像はそれぞれトランスフォーマーエンコーダと畳み込みニューラルネットワークによって符号化される。
  論文  参考訳（メタデータ） (2023-01-09T13:54:11Z)
• Self-Supervised Learning as a Means To Reduce the Need for Labeled Data in Medical Image Analysis [64.4093648042484]
  胸部X線画像のデータセットとバウンディングボックスラベルを用いて,13種類の異常の分類を行った。 ラベル付きデータの平均精度と精度を60%に抑えることで,完全教師付きモデルと同等の性能が得られることを示す。
  論文  参考訳（メタデータ） (2022-06-01T09:20:30Z)
• Robust Medical Image Classification from Noisy Labeled Data with Global and Local Representation Guided Co-training [73.60883490436956]
  本稿では,ロバストな医用画像分類のためのグローバルおよびローカルな表現学習を用いた新しい協調学習パラダイムを提案する。 ノイズラベルフィルタを用いた自己アンサンブルモデルを用いて、クリーンでノイズの多いサンプルを効率的に選択する。 また,ネットワークを暗黙的に正規化してノイズの多いサンプルを利用するための,グローバルかつ局所的な表現学習手法を設計する。
  論文  参考訳（メタデータ） (2022-05-10T07:50:08Z)
• Cascaded Robust Learning at Imperfect Labels for Chest X-ray Segmentation [61.09321488002978]
  不完全アノテーションを用いた胸部X線分割のための新しいカスケードロバスト学習フレームワークを提案する。 モデルは3つの独立したネットワークから成り,ピアネットワークから有用な情報を効果的に学習できる。 提案手法は,従来の手法と比較して,セグメント化タスクの精度を大幅に向上させることができる。
  論文  参考訳（メタデータ） (2021-04-05T15:50:16Z)
• Contrastive Learning of Medical Visual Representations from Paired Images and Text [38.91117443316013]
  本研究では,自然発生した記述的ペアリングテキストを活用することで,医用視覚表現を学習するための教師なし戦略であるConVIRTを提案する。 この2つのモダリティ間の双方向のコントラスト的目的を通じて、ペア化されたテキストデータを用いて医療画像エンコーダを事前訓練する手法は、ドメインに依存しないため、追加の専門家による入力は不要である。
  論文  参考訳（メタデータ） (2020-10-02T02:10:18Z)
• Multi-label Thoracic Disease Image Classification with Cross-Attention Networks [65.37531731899837]
  胸部X線画像から胸部疾患を自動分類するためのCAN(Cross-Attention Networks)を提案する。 また,クロスエントロピー損失を超える新たな損失関数を設計し,クラス間の不均衡を克服する。
  論文  参考訳（メタデータ） (2020-07-21T14:37:00Z)
• Train, Learn, Expand, Repeat [0.15833270109954134]
  教師付き機械学習モデルのトレーニングに成功するためには、高品質なラベル付きデータが不可欠である。 専門的にデータをラベル付けできる医療専門家は、希少で高価なリソースである。 本手法は頭蓋内出血(ICH)の頭蓋内CT検査に応用する。
  論文  参考訳（メタデータ） (2020-03-18T20:55:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。