論文の概要: Task-Performance Routing for Multi-Teacher Distillation in CT Medical Image Segmentation
- arxiv url: http://arxiv.org/abs/2610.41362v1
- Date: Fri, 30 Oct 2026 07:27:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.643429
- Title: Task-Performance Routing for Multi-Teacher Distillation in CT Medical Image Segmentation
- Title(参考訳): CT医用画像セグメントにおける多教師蒸留のためのタスクパフォーマンスルーティング
- Abstract要約: 本稿では,教師の授業時の重み付けを学習経路パラメータなしで決定するタスクパフォーマンスルーティング(TPR)を提案する。
階層的な空間分割は、浅いステージにおけるきめ細かいルーティングと深いステージにおける粗いきめ細かなルーティングを提供する。
MSD-Pancreasでは、Diceスコアは65.40%、SwinUNETRは68.25%、U-Netは64.38%、適応アンサンブルは67.45%である。
- 参考スコア(独自算出の注目度): 9.729897255104898
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Pre-trained models offer complementary strengths in CT organ segmentation, but their relative accuracy varies across organs and spatial regions. Multi-teacher knowledge distillation can combine these strengths in a single student, yet global or instance-level teacher weights overlook variation within a 3D volume. We propose Task-Performance Routing (TPR), which uses region-wise segmentation errors to determine teacher weights during training without learned routing parameters. In hard regions, TPR favors teachers with lower prediction errors; in easy regions, it uses uniform weights to combine their knowledge. A hierarchical spatial partition provides fine-grained routing in shallow encoder stages and coarse-grained routing in deep stages. Experiments on BTCV, MSD-Liver, and MSD-Pancreas with two teacher pairs and two backbone architectures show higher Dice scores than the individual teachers, adaptive ensembles, and evaluated multi-teacher distillation baselines. On MSD-Pancreas, TPR achieves Dice scores of 65.40% with SwinUNETR and 68.25% with U-Net, compared with 64.38% and 67.45% for the corresponding adaptive ensembles. Inference uses the student alone, with no routing or teacher overhead. Code is available at https://github.com/EdvinCecilia/TPR_MultiTeacher.
- Abstract(参考訳): 事前訓練されたモデルはCT臓器分割において補完的な強度を与えるが、その相対的精度は臓器や空間領域によって異なる。
マルチ教師の知識蒸留は、これらの強度を1人の学生で組み合わせることができるが、グローバルまたはインスタンスレベルの教師の重みは、3Dボリュームの範囲内で見落としている。
本稿では,学習経路パラメータを使わずに学習中の教師の重みを決定するために,領域分割誤差を用いたタスクパフォーマンスルーティング(TPR)を提案する。
難しい地域では、TPRは予測エラーの少ない教師を好んでおり、容易な地域では、知識を組み合わせるために均一な重みを使用する。
階層的な空間分割は、浅いエンコーダステージにおけるきめ細かいルーティングと深いステージにおける粗いきめ細かなルーティングを提供する。
BTCV,MSD-Liver,MSD-Pancreasを2組の教師ペアと2組のバックボーンアーキテクチャで実験したところ,個々の教師よりもDiceスコアが高く,適応アンサンブル,マルチティーチンガー蒸留ベースラインの評価が得られた。
MSD-Pancreasでは、Diceスコアは65.40%、SwinUNETRは68.25%、U-Netは64.38%、適応アンサンブルは67.45%である。
推論は学生のみを使用し、ルーティングや教師のオーバーヘッドは発生しない。
コードはhttps://github.com/EdvinCecilia/TPR_MultiTeacherで入手できる。
関連論文リスト
- Simplifying and Improving On-Policy Distillation for Few-Step Diffusion [60.45650436067934]
少ない段階の蒸留は拡散・流動モデルのサンプリングコストを低減させるが、既存の手法では補助的なスコアモデルや特殊なアーキテクチャを必要とすることが多い。
4-NFE生成の基盤として, 簡易なオン・ポリティクス速度回帰法がすでに有効であることを示す。
本稿では,学習者の区間平均予測から局所的な補正を分離する訓練専用残差プロキシであるPivotを紹介する。
論文 参考訳(メタデータ) (2026-10-13T14:35:46Z) - From Dissonance to Orchestration: Teacher Intervention in On-Policy Distillation [43.75423570055352]
オンライン蒸留(OPD)は、より強い教師からのフィードバックを用いて、学生を独自の推論軌道で訓練する。
より深い介入により、ロールアウトの精度が低下し、非政治負荷が増大する。
MaESTROは、教師が受け継いだときとそれが生成する時間に共同で適応するために、ローカルポリシーの不一致を使用する。
論文 参考訳(メタデータ) (2026-09-29T13:06:14Z) - MOPD-Router: Rethinking Teacher Routing in Multi-Teacher On-Policy Distillation [25.107813325230207]
ドメインラベルや個別のルーティングモデルを訓練することなく,各トークンにおける教師プール全体の管理をルーティングするフレームワークを提案する。
本インターフェースでは,教師がポストトレーニング中に取得した特殊化を,現在のトークンで生徒に補正するかどうかによって,各教師をスコアリングするExpertAlignを提案する。
論文 参考訳(メタデータ) (2026-09-25T05:32:03Z) - AMRD: Adaptive Multi-Teacher Relational Distillation for Lightweight Speech Emotion Recognition [28.481172353868725]
音声感情認識(SER)はリアルタイムアプリケーションには不可欠だが、エッジデバイスには高機能な大規模な自己教師型モデルではコストがかかりすぎる。
適応型多教師蒸留 (AMRD) を提案し, バッチ間での教師の信頼性, およびロジトレベルの蒸留の2つの課題に対処する。
IECAPとCREMA-DMOでは、AMRDは、ほとんどの設定でシングルティーチンガー蒸留ベースラインを上回っている。
論文 参考訳(メタデータ) (2026-07-28T04:53:27Z) - Dual-Teacher Ensemble Models with Double-Copy-Paste for 3D Semi-Supervised Medical Image Segmentation [31.460549289419923]
半教師付き学習(SSL)技術は、3次元医用画像セグメンテーションの高ラベリングコストに対処する。
本稿では,サンプルの特性に基づいて異なるアンサンブル法を選択するSSE(Staged Selective Ensemble)モジュールを提案する。
3次元医用画像分割作業における提案手法の有効性を実験的に検証した。
論文 参考訳(メタデータ) (2024-10-15T11:23:15Z) - Low-complexity deep learning frameworks for acoustic scene
classification using teacher-student scheme and multiple spectrograms [59.86658316440461]
提案システムは,教師のネットワークを訓練する(Phase I)と,教師の知識を蒸留して学生のネットワークを訓練する(Phase II)の2つの段階から構成される。
DCASE 2023 Task 1 Developmentデータセットで実施した実験は,低複雑さの要求を満たすとともに,57.4%の最高の分類精度を達成した。
論文 参考訳(メタデータ) (2023-05-16T14:21:45Z) - Graph Consistency based Mean-Teaching for Unsupervised Domain Adaptive
Person Re-Identification [54.58165777717885]
本論文では,教師ネットワークと学生ネットワークの間にGCC(Graph Consistency Constraint)を構築するためのGCMT(Graph Consistency Based Mean-Teaching)手法を提案する。
マーケット-1501、デュークMTMCreID、MSMT17の3つのデータセットの実験により、提案されたGCMTは最先端の手法よりも明確なマージンで優れていることが示された。
論文 参考訳(メタデータ) (2021-05-11T04:09:49Z) - Differentiable Feature Aggregation Search for Knowledge Distillation [47.94874193183427]
単教師蒸留フレームワークにおける多教師蒸留を模倣する特徴集約について紹介する。
DFAは、ニューラルネットワーク探索においてDARTSによって動機付けられた2段階の微分可能特徴集合探索法である。
実験の結果,DFAはCIFAR-100およびCINIC-10データセットの既存手法よりも優れていた。
論文 参考訳(メタデータ) (2020-08-02T15:42:29Z) - Inter-Region Affinity Distillation for Road Marking Segmentation [81.3619453527367]
本研究では,大規模な教員ネットワークからより小さな学生ネットワークへ知識を蒸留する問題について検討する。
我々の手法はInter-Region Affinity KD(IntRA-KD)として知られている。
論文 参考訳(メタデータ) (2020-04-11T04:26:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。