論文の概要: Incremental Learning Meets Transfer Learning: Application to Multi-site Prostate MRI Segmentation

• arxiv url: http://arxiv.org/abs/2206.01369v1
• Date: Fri, 3 Jun 2022 02:32:01 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-07 02:37:46.095455
• Title: Incremental Learning Meets Transfer Learning: Application to Multi-site Prostate MRI Segmentation
• Title（参考訳）: インクリメンタルラーニングとトランスファーラーニング:多地点MRIセグメンテーションへの応用
• Authors: Chenyu You, Jinlin Xiang, Kun Su, Xiaoran Zhang, Siyuan Dong, John Onofrey, Lawrence Staib, James S. Duncan
• Abstract要約: インクリメンタルトランスファー学習(ITL)と呼ばれる新しいマルチサイトセグメンテーションフレームワークを提案する。 ITLは、エンドツーエンドのシーケンシャルな方法で、マルチサイトデータセットからモデルを学習する。 ITLトレーニングスキームを活用することで、漸進的な学習における破滅的な問題を軽減できることを示す。
• 参考スコア（独自算出の注目度）: 16.50535949349874
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Many medical datasets have recently been created for medical image segmentation tasks, and it is natural to question whether we can use them to sequentially train a single model that (1) performs better on all these datasets, and (2) generalizes well and transfers better to the unknown target site domain. Prior works have achieved this goal by jointly training one model on multi-site datasets, which achieve competitive performance on average but such methods rely on the assumption about the availability of all training data, thus limiting its effectiveness in practical deployment. In this paper, we propose a novel multi-site segmentation framework called incremental-transfer learning (ITL), which learns a model from multi-site datasets in an end-to-end sequential fashion. Specifically, "incremental" refers to training sequentially constructed datasets, and "transfer" is achieved by leveraging useful information from the linear combination of embedding features on each dataset. In addition, we introduce our ITL framework, where we train the network including a site-agnostic encoder with pre-trained weights and at most two segmentation decoder heads. We also design a novel site-level incremental loss in order to generalize well on the target domain. Second, we show for the first time that leveraging our ITL training scheme is able to alleviate challenging catastrophic forgetting problems in incremental learning. We conduct experiments using five challenging benchmark datasets to validate the effectiveness of our incremental-transfer learning approach. Our approach makes minimal assumptions on computation resources and domain-specific expertise, and hence constitutes a strong starting point in multi-site medical image segmentation.
• Abstract（参考訳）: 近年,医療画像のセグメンテーションタスクのために多くの医療データセットが作成されており,(1)これらのデータセットの精度を向上し,(2)正常に一般化し,未知のサイトドメインに転送する単一モデルを逐次訓練できるかどうかに疑問が呈されている。 従来の作業では、平均的な競合性能を達成するマルチサイトデータセットで1つのモデルを共同トレーニングすることで、この目標を達成していたが、そのような方法は、すべてのトレーニングデータの可用性に関する仮定に依存しているため、実際のデプロイメントでの有効性が制限される。 本稿では,マルチサイトデータセットからエンドツーエンドシーケンシャルにモデルを学習するインクリメンタル・トランスファー・ラーニング(itl)と呼ばれる新しいマルチサイトセグメンテーションフレームワークを提案する。 具体的には、インクリメンタル(incremental)とは、シーケンシャルに構築されたデータセットをトレーニングすることであり、各データセットに埋め込み機能の線形結合から有用な情報を活用することで、"トランスファー(transfer)"を実現する。 さらに,事前にトレーニングした重み付きサイト非依存エンコーダと,少なくとも2つのセグメンテーションデコーダヘッドを含むネットワークをトレーニングする ITL フレームワークを導入する。 ターゲットドメインをうまく一般化するために、新しいサイトレベルのインクリメンタルな損失も設計します。 第2に, itlの学習方法を活用することで, 漸進的学習における難解な難題を軽減できることを初めて示す。 5つの挑戦的なベンチマークデータセットを用いて実験を行い、インクリメンタルトランスファー学習アプローチの有効性を検証する。 本手法は計算資源とドメイン固有の専門知識の仮定を最小化し,多地点医用画像セグメンテーションにおいて強固な出発点となる。

関連論文リスト

• Multi-Stage Knowledge Integration of Vision-Language Models for Continual Learning [79.46570165281084]
  蒸留法における人間の学習過程をエミュレートするマルチステージ知識統合ネットワーク(MulKI)を提案する。 Mulkiは、イデオロギーの排除、新しいイデオロギーの追加、イデオロギーの排除、コネクティクスの作りという4つの段階を通じてこれを達成している。 提案手法は,下流タスク間の連続学習をサポートしながら,ゼロショット能力の維持における大幅な改善を示す。
  論文  参考訳（メタデータ） (2024-11-11T07:36:19Z)
• Motor Imagery Decoding Using Ensemble Curriculum Learning and Collaborative Training [11.157243900163376]
  マルチオブジェクトEEGデータセットは、いくつかの種類のドメインシフトを示す。 これらの領域シフトは、堅牢なクロスオブジェクトの一般化を妨げる。 複数の特徴抽出器を組み込んだ2段階モデルアンサンブルアーキテクチャを提案する。 我々のモデルアンサンブルアプローチはカリキュラム学習と協調学習の力を組み合わせたものであることを実証する。
  論文  参考訳（メタデータ） (2022-11-21T13:45:44Z)
• Training a universal instance segmentation network for live cell images of various cell types and imaging modalities [10.644558286623813]
  本稿では,様々な細胞タイプと画像モダリティのためのユニバーサルセグメンテーションネットワークを訓練する試みについて述べる。 従来のバイナリトレーニングターゲットを、直接インスタンスセグメンテーション用の3つのクラスを含むように修正しました。 本手法は, 初年度の1次予選において, 最良走者として評価され, 追加競技で3位を確保した。
  論文  参考訳（メタデータ） (2022-07-28T18:57:30Z)
• Learning from Temporal Spatial Cubism for Cross-Dataset Skeleton-based Action Recognition [88.34182299496074]
  アクションラベルはソースデータセットでのみ利用可能だが、トレーニング段階のターゲットデータセットでは利用できない。 我々は,2つの骨格に基づく行動データセット間の領域シフトを低減するために,自己スーパービジョン方式を利用する。 時間的セグメントや人体部分のセグメンテーションとパーフォーミングにより、我々は2つの自己教師あり学習分類タスクを設計する。
  論文  参考訳（メタデータ） (2022-07-17T07:05:39Z)
• Continual Coarse-to-Fine Domain Adaptation in Semantic Segmentation [22.366638308792734]
  ディープニューラルネットワークは通常、特定のタスクとデータ分散のために、単一のショットでトレーニングされる。 実際の環境では、タスクとアプリケーションドメインの両方が変更される可能性がある。 本稿では,ドメインシフトが存在する場合のセマンティックセグメンテーションアーキテクチャの粗大な学習という新たな課題を紹介する。
  論文  参考訳（メタデータ） (2022-01-18T13:31:19Z)
• Omni-Training for Data-Efficient Deep Learning [80.28715182095975]
  近年の進歩により、適切に訓練されたモデルが重要な特性であるトランスファービリティを持つことが明らかとなった。 事前訓練とメタトレーニングの厳密な組み合わせは、どちらの種類のトランスファー可能性も達成できない。 このことが提案されているOmni-Trainingフレームワークを,データ効率のよいディープラーニングに動機付けている。
  論文  参考訳（メタデータ） (2021-10-14T16:30:36Z)
• Unsupervised Domain Adaptive Learning via Synthetic Data for Person Re-identification [101.1886788396803]
  人物再識別(re-ID)は、ビデオ監視に広く応用されているため、ますます注目を集めている。 残念なことに、主流のディープラーニング手法では、モデルをトレーニングするために大量のラベル付きデータが必要です。 本稿では,コンピュータゲーム内で合成されたre-IDサンプルを自動的に生成するデータコレクタを開発し,同時にアノテートするデータラベラを構築した。
  論文  参考訳（メタデータ） (2021-09-12T15:51:41Z)
• Curriculum Graph Co-Teaching for Multi-Target Domain Adaptation [78.28390172958643]
  マルチターゲットドメイン適応(MTDA)における複数のドメインシフトを軽減するのに役立つ2つの重要な側面を同定する。 本論文では,二重分類器ヘッドを用いたCGCT(Curriculum Graph Co-Teaching)を提案する。そのうちの1つがグラフ畳み込みネットワーク(GCN)である。 ドメインラベルが利用可能になると、まずより簡単なターゲットドメインに適応し、続いて難しいドメインに適応する逐次適応戦略であるDomain-Aware Curriculum Learning (DCL)を提案する。
  論文  参考訳（メタデータ） (2021-04-01T23:41:41Z)
• Dual-Teacher: Integrating Intra-domain and Inter-domain Teachers for Annotation-efficient Cardiac Segmentation [65.81546955181781]
  本稿では,新しい半教師付きドメイン適応手法,すなわちDual-Teacherを提案する。 学生モデルは、2つの教師モデルによってラベル付けされていない対象データとラベル付けされた情報源データの知識を学習する。 提案手法では, ラベルなしデータとモダリティ間データとを並列に利用でき, 性能が向上することを示した。
  論文  参考訳（メタデータ） (2020-07-13T10:00:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。