論文の概要: Rethinking the Mean Teacher Strategy from the Perspective of Self-paced Learning
- arxiv url: http://arxiv.org/abs/2505.11018v1
- Date: Fri, 16 May 2025 09:14:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-19 14:36:14.463533
- Title: Rethinking the Mean Teacher Strategy from the Perspective of Self-paced Learning
- Title(参考訳): 自己完結型学習の視点からの平均教師戦略の再考
- Authors: Pengchen Zhang, Alan J. X. Guo, Sipin Luo, Zhe Han, Lin Guo,
- Abstract要約: 半監督的医用画像分割は手作業によるアノテーションのコスト削減の可能性から注目されている。
本研究では,教師データに対するMT戦略を,時間的ラグ型教師モデルと地上の真理ラベルとの出力合意によって制御されたセルフペースト学習の形式として再解釈する。
- 参考スコア(独自算出の注目度): 5.6818939992896365
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Semi-supervised medical image segmentation has attracted significant attention due to its potential to reduce manual annotation costs. The mean teacher (MT) strategy, commonly understood as introducing smoothed, temporally lagged consistency regularization, has demonstrated strong performance across various tasks in this field. In this work, we reinterpret the MT strategy on supervised data as a form of self-paced learning, regulated by the output agreement between the temporally lagged teacher model and the ground truth labels. This idea is further extended to incorporate agreement between a temporally lagged model and a cross-architectural model, which offers greater flexibility in regulating the learning pace and enables application to unlabeled data. Specifically, we propose dual teacher-student learning (DTSL), a framework that introduces two groups of teacher-student models with different architectures. The output agreement between the cross-group teacher and student models is used as pseudo-labels, generated via a Jensen-Shannon divergence-based consensus label generator (CLG). Extensive experiments on popular datasets demonstrate that the proposed method consistently outperforms existing state-of-the-art approaches. Ablation studies further validate the effectiveness of the proposed modules.
- Abstract(参考訳): 半監督的医用画像分割は手作業によるアノテーションのコスト削減の可能性から注目されている。
平均教師 (MT) 戦略は, 時間的ラグによる整合性正規化を円滑に導入することが一般的であり, この分野の様々なタスクにおいて高い性能を示した。
本研究では,教師データに対するMT戦略を,時間的ラグ型教師モデルと地上の真理ラベルとの出力合意によって制御されたセルフペースト学習の形式として再解釈する。
この考え方はさらに拡張され、時間ラグモデルとクロスアーキテクチャモデルとの合意が組み合わされ、学習ペースの調整の柔軟性が向上し、ラベルなしデータへの適用が可能になる。
具体的には、異なるアーキテクチャを持つ教師学生モデルの2つのグループを導入するフレームワークである2つの教師学生学習(DTSL)を提案する。
クロスグループ教師と学生モデルの出力合意は、Jensen-Shannon発散に基づくコンセンサスラベル生成器(CLG)を介して生成される擬似ラベルとして使用される。
一般的なデータセットに対する大規模な実験は、提案手法が既存の最先端手法を一貫して上回っていることを示している。
アブレーション研究は、提案されたモジュールの有効性をさらに検証する。
関連論文リスト
- PMT: Progressive Mean Teacher via Exploring Temporal Consistency for Semi-Supervised Medical Image Segmentation [51.509573838103854]
医用画像セグメンテーションのための半教師付き学習フレームワークであるプログレッシブ平均教師(PMT)を提案する。
我々のPMTは、トレーニングプロセスにおいて、堅牢で多様な特徴を学習することで、高忠実な擬似ラベルを生成する。
CT と MRI の異なる2つのデータセットに対する実験結果から,本手法が最先端の医用画像分割法より優れていることが示された。
論文 参考訳(メタデータ) (2024-09-08T15:02:25Z) - Robust Training of Federated Models with Extremely Label Deficiency [84.00832527512148]
フェデレーション半教師付き学習(FSSL)は、ラベル不足を伴う分散データを用いて機械学習モデルを協調訓練するための強力なパラダイムとして登場した。
我々は,ラベル付きおよびラベルなしデータの異なる視点から洞察を提供することにより相互指導を強化するために,ツインサイトと呼ばれる新しいツインモデルパラダイムを提案する。
4つのベンチマークデータセットに関する包括的な実験は、Twin-sightが様々な実験環境において最先端の手法を著しく上回っていることを示す重要な証拠となる。
論文 参考訳(メタデータ) (2024-02-22T10:19:34Z) - Alternate Diverse Teaching for Semi-supervised Medical Image Segmentation [62.021828104757745]
そこで我々は,教師-学生の枠組みにおける多様な教育手法であるAD-MTを提案する。
一人の生徒モデルと2つの訓練不可能な教師モデルがあり、それは定期的に、ランダムに、別の方法で、モーメントを更新する。
論文 参考訳(メタデータ) (2023-11-29T02:44:54Z) - Competitive Ensembling Teacher-Student Framework for Semi-Supervised
Left Atrium MRI Segmentation [8.338801567668233]
半教師付き学習は、専門家から豊富な注釈を取得する必要性を効果的に軽減するため、医療画像のセグメンテーションが大幅に進歩している。
本稿では,3次元MR画像から左心房分節を半教師する簡易で効率的な競争力のある教員養成フレームワークを提案する。
論文 参考訳(メタデータ) (2023-10-21T09:23:34Z) - Distantly-Supervised Named Entity Recognition with Adaptive Teacher
Learning and Fine-grained Student Ensemble [56.705249154629264]
NERモデルの堅牢性を改善するために,自己学習型教員学生フレームワークを提案する。
本稿では,2つの教員ネットワークからなる適応型教員学習を提案する。
微粒な学生アンサンブルは、教師モデルの各フラグメントを、生徒の対応するフラグメントの時間移動平均で更新し、各モデルフラグメントのノイズに対する一貫した予測を強化する。
論文 参考訳(メタデータ) (2022-12-13T12:14:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。