論文の概要: Knowledge Transfer Scaling Laws for 3D Medical Imaging
- arxiv url: http://arxiv.org/abs/2605.06859v1
- Date: Thu, 07 May 2026 19:00:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-11 19:43:38.562651
- Title: Knowledge Transfer Scaling Laws for 3D Medical Imaging
- Title(参考訳): 3次元医用イメージングのための知識伝達スケーリング法
- Authors: Ho Hin Lee, Dongna Du, Chu Wang, Yuankai Huo, Shi Gu, James C. Gee, Yifan Wu,
- Abstract要約: 各種医用画像領域は事前訓練中に変化率でスケールし, 領域間の知識伝達は強い非対称性を示す。
これらの結果により、スケーリング法則最適化問題としてデータの割り当てを定式化する。
実証的には、Transfer-awareのアロケーションは、データプロポーショナルサンプリングを最大58%上回っている。
- 参考スコア(独自算出の注目度): 17.692545975214795
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Vision foundation models are increasingly moving beyond 2D to volumetric domains such as 3D medical imaging, where unified pretraining across different imaging modalities (i.e. CT, MRI, and PET) could provide foundational models for diverse clinical tasks. However, training such models requires mixing heterogeneous imaging domains, and current mixture strategies remain largely heuristic. In this work, we observe that different medical imaging domains scale at variable rates during pretraining, and knowledge transfer between domains is strongly asymmetric: training on one domain can substantially improve another, but the reverse may be much weaker. Interestingly, both MAE reconstruction loss and cross-domain transfer follow predictable power-law trends with domain-specific behaviors. Motivated by these findings, we formulate data allocation as a scaling-law optimization problem. The derived allocations reveal an interpretable hub-and-island structure: highly transferable domains emerge as hubs that benefit many others and deserve strategic allocation, while isolated domains act as islands requiring direct investment. Empirically, transfer-aware allocation outperforms data-proportional sampling by up to 58% and generalizes well to unseen budgets with r=0.989. Downstream validation on disease classification and organ/lesion segmentation further confirms that the derived transfer-aware mixtures provide stronger pretrained representations for clinical 3D medical imaging tasks.
- Abstract(参考訳): ビジョン基礎モデルは、2次元から3次元の医療画像のようなボリューム領域へ、様々な画像モダリティ(CT、MRI、PET)にまたがる統一的な事前訓練によって、多様な臨床タスクのための基礎モデルを提供するようになってきている。
しかし、そのようなモデルの訓練には異種画像領域の混合が必要であり、現在の混合戦略は概ねヒューリスティックなままである。
本研究は, 異なる医用画像領域が事前訓練中に変動速度でスケールし, ドメイン間の知識伝達が強く非対称であることが観察された。
興味深いことに、MAE再構成損失とクロスドメイン転送は、ドメイン固有の振る舞いを伴う予測可能なパワーロートレンドに従っている。
これらの結果により、スケーリング法則最適化問題としてデータの割り当てを定式化する。
高度に移動可能なドメインは、他の多くのドメインに利益をもたらし、戦略的アロケーションに値するハブとして現れ、一方、孤立したドメインは直接投資を必要とする島として振る舞う。
実証的に、転送アウェアの割り当ては、データプロポーショナルサンプリングを最大58%上回り、r=0.989で見つからない予算に最適化する。
疾患分類と臓器/臓器のセグメンテーションの下流での検証により、導出された転写認識混合物が臨床3D医療画像タスクに対してより強力な事前訓練された表現を提供することが確認された。
関連論文リスト
- A Robust Unsupervised Domain Adaptation Framework for Medical Image Classification Using RKHS-MMD [0.9634859579172255]
医療画像のラベル付けは医療画像の分野で大きなボトルネックとなっている。
本稿では、転送学習と再生カーネル空間に基づく最大平均離散性損失を組み合わせた教師なしドメイン適応フレームワークを提案する。
RKHS-MMDは、標準の最大平均差よりも、モダリティギャップの低減に優れた性能を示す。
論文 参考訳(メタデータ) (2026-05-05T14:14:25Z) - Can Diffusion Models Bridge the Domain Gap in Cardiac MR Imaging? [2.0202525145391093]
そこで本研究では,所定の基準に類似した人工心臓MR画像を生成するソースドメイン上で訓練された拡散モデルを提案する。
合成データは、空間的および構造的忠実性を維持し、ソースドメインと類似性を確保し、セグメンテーションマスクとの互換性を確保する。
ドメイン一般化、ドメイン不変セグメンテーションモデルは、合成ソースドメインデータに基づいて訓練され、ドメイン適応では、DMを用いてターゲットドメインデータをソースドメインへシフトする。
論文 参考訳(メタデータ) (2025-08-08T13:57:48Z) - Multimodal Causal-Driven Representation Learning for Generalizable Medical Image Segmentation [56.52520416420957]
医用画像セグメンテーションにおける領域一般化に取り組むために, MCDRL(Multimodal Causal-Driven Representation Learning)を提案する。
MCDRLは競合する手法より一貫して優れ、セグメンテーション精度が優れ、堅牢な一般化性を示す。
論文 参考訳(メタデータ) (2025-08-07T03:41:41Z) - M3DA: Benchmark for Unsupervised Domain Adaptation in 3D Medical Image Segmentation [4.327603420628437]
ドメインシフトは、MRIやCTなどのソースからの3D医療画像のセグメンテーションにディープラーニングを適用する上で、大きな課題となる。
提案するベンチマークでは,10以上の既存ドメイン適応手法を評価した。
結果から、ドメイン間のパフォーマンスギャップを一貫して埋めることはできません。
論文 参考訳(メタデータ) (2025-02-24T10:29:32Z) - Domain Generalization with Adversarial Intensity Attack for Medical
Image Segmentation [27.49427483473792]
実世界のシナリオでは、トレーニング中に露出していない新しいドメインや異なるドメインのデータに遭遇することが一般的である。
ドメイン一般化(Domain Generalization, DG)は、モデルがこれまで見つからなかったドメインからのデータを扱うことを可能にする、有望な方向である。
本稿では,敵対的トレーニングを活用して無限のスタイルでトレーニングデータを生成する,AdverIN(Adversarial Intensity Attack)と呼ばれる新しいDG手法を提案する。
論文 参考訳(メタデータ) (2023-04-05T19:40:51Z) - Unsupervised Domain Transfer with Conditional Invertible Neural Networks [83.90291882730925]
条件付き可逆ニューラルネットワーク(cINN)に基づくドメイン転送手法を提案する。
提案手法は本質的に,その可逆的アーキテクチャによるサイクル一貫性を保証し,ネットワークトレーニングを最大限効率的に行うことができる。
提案手法は,2つの下流分類タスクにおいて,現実的なスペクトルデータの生成を可能にし,その性能を向上する。
論文 参考訳(メタデータ) (2023-03-17T18:00:27Z) - Cross-Site Severity Assessment of COVID-19 from CT Images via Domain
Adaptation [64.59521853145368]
CT画像によるコロナウイルス病2019(COVID-19)の早期かつ正確な重症度評価は,集中治療単位のイベント推定に有効である。
ラベル付きデータを拡張し、分類モデルの一般化能力を向上させるためには、複数のサイトからデータを集約する必要がある。
この課題は、軽度の感染症と重度の感染症の集団不均衡、部位間のドメイン分布の相違、不均一な特徴の存在など、いくつかの課題に直面する。
論文 参考訳(メタデータ) (2021-09-08T07:56:51Z) - Cross-Modality Brain Tumor Segmentation via Bidirectional
Global-to-Local Unsupervised Domain Adaptation [61.01704175938995]
本論文では,UDAスキームに基づくBiGL(Bidirectional Global-to-Local)適応フレームワークを提案する。
具体的には、脳腫瘍をセグメント化するために、双方向画像合成およびセグメンテーションモジュールを提案する。
提案手法は, 最先端の非教師なし領域適応法を大きなマージンで上回っている。
論文 参考訳(メタデータ) (2021-05-17T10:11:45Z) - Self-Attentive Spatial Adaptive Normalization for Cross-Modality Domain
Adaptation [9.659642285903418]
放射線科医の費用負担を軽減するための医用画像のクロスモダリティ合成
本稿では,教師なしまたは教師なし(非ペア画像データ)の設定が可能な医用画像における画像から画像への変換手法を提案する。
論文 参考訳(メタデータ) (2021-03-05T16:22:31Z) - Domain Shift in Computer Vision models for MRI data analysis: An
Overview [64.69150970967524]
機械学習とコンピュータビジョン手法は、医用画像解析において優れた性能を示している。
しかし、現在臨床応用はごくわずかである。
異なるソースや取得ドメインのデータへのモデルの不適切な転送性は、その理由の1つです。
論文 参考訳(メタデータ) (2020-10-14T16:34:21Z) - Domain Generalization for Medical Imaging Classification with
Linear-Dependency Regularization [59.5104563755095]
本稿では,医用画像分類分野におけるディープニューラルネットワークの一般化能力向上のための,シンプルだが効果的なアプローチを提案する。
医用画像の領域変数がある程度コンパクトであることに感銘を受けて,変分符号化による代表的特徴空間の学習を提案する。
論文 参考訳(メタデータ) (2020-09-27T12:30:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。