論文の概要: Towards Democratising Low-Data Medical Image Classification: CPU-Trainable ZACH-ViT and Its Geometric Variants
- arxiv url: http://arxiv.org/abs/2611.16608v1
- Date: Thu, 12 Nov 2026 10:46:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.447023
- Title: Towards Democratising Low-Data Medical Image Classification: CPU-Trainable ZACH-ViT and Its Geometric Variants
- Title(参考訳): 低次元医用画像分類の民主化に向けて:CPU制御可能なZACH-ViTとその幾何学的変数
- Abstract要約: 線形, ユークリッドプロトタイプ, ポインケア, 球面ヘッドの4つのZACH-ViT変異体を, 2つのコンパクトなマルチインスタンス学習ベースラインとともに評価した。
すべてのモデルは、7つのMedMNIST+データセットと3つの外部ベンチマークで260,000パラメータ未満でスクラッチからトレーニングされている。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Medical image classification in resource-constrained settings must contend with limited annotations and computational capacity. We evaluate four ZACH-ViT variants with linear, Euclidean prototype, Poincare and spherical heads alongside two compact multiple-instance-learning baselines. All models are trained from scratch with fewer than 260,000 parameters across seven MedMNIST+ datasets and three external benchmarks (PCam, ISIC2017 and Shenzhen tuberculosis radiographs). The low-data protocol uses 50 training images per class and five seeds, with validation-selected checkpoints at 23 and 47 epochs; a full-data reference uses one seed. Compact-TransMIL achieves the highest ten-dataset mean test Macro-F1 at 23 epochs (53.34%) and with full data (73.93%). At 47 epochs, ZACH-Linear narrowly leads (57.76% versus 57.54% for Compact-TransMIL). Extending training improves Macro-F1 in 239 of 300 paired comparisons. On ISIC2017, hZACH-Spherical has the highest 47-epoch low-data Macro-F1 (44.09% with SD 4.09%), whereas ZACH-EuclideanProto leads with full data (51.27%). We additionally conduct 40 CPU-only training runs on ISIC2017 and Shenzhen using four CPU threads; model-only single-image inference requires approximately 4-9 ms, while image decoding and preprocessing substantially increase end-to-end latency. The results demonstrate the feasibility of CPU-only training on the tested platform and the task- and regime-dependence of compact medical imaging under strict resource constraints.
- Abstract(参考訳): リソース制限された設定における医用画像分類は、限られたアノテーションや計算能力と競合しなければならない。
線形, ユークリッドプロトタイプ, ポインケア, 球面ヘッドの4つのZACH-ViT変異体を, 2つのコンパクトなマルチインスタンス学習ベースラインとともに評価した。
すべてのモデルは、7つのMedMNIST+データセットと3つの外部ベンチマーク(PCam、ISIC2017、深セン結核ラジオグラフ)で260,000パラメータ未満でスクラッチからトレーニングされている。
ローデータプロトコルは、クラス毎に50のトレーニングイメージと5つのシードを使用し、バリデーション選択されたチェックポイントは23と47のエポックで、フルデータ参照は1つのシードを使用する。
Compact-TransMILは、23 epochs (53.34%) と完全なデータ (73.93%) で最高10データセットの平均テストのマクロF1を達成する。
47エポックではZACH-Linearがわずかにリードする(コンパクトトランスMILでは57.76%、コンパクトトランスMILでは57.54%)。
拡張トレーニングは300対比較の239でマクロF1を改善する。
ISIC2017では、hZACH-Sphericalは47エポックな低データのマクロF1(44.09%がSD 4.09%)であり、ZACH-EuclideanProtoは全データ(51.27%)をリードしている。
さらに、4つのCPUスレッドを使用してISIC2017と深センで40のCPU専用トレーニングを実行する。
その結果、テストプラットフォーム上でのCPUのみのトレーニングの実現可能性や、厳密なリソース制約下でのコンパクトな医療画像のタスク・アンド・レシデンスの実現可能性を示した。
関連論文リスト
- Accuracy Is Not Enough: An Efficiency- and Statistics-Aware Benchmark of ResNet50 and Vision Transformer for Explainable Multi-Class Gastrointestinal Diseases Classification [0.0]
パブリックなKvasirデータセット上の8クラスGI分類のためのResNet50とViT-B/16の制御可能なベンチマークを示す。
クロスバリデーションでは、ResNet50とViT-B/16は92.12%の精度で91.70%に達し、+/-3パーセンテージのマージンで等価となった。
論文 参考訳(メタデータ) (2026-10-25T00:39:12Z) - Open ultrasound foundation model for robust segmentation and clinical measurement across heterogeneous settings [66.3653308198376]
SonoCorpusは、24の臨床応用と17の国にまたがる53のパブリックデータセットから、456,963のイメージと1,626,085のエキスパートマスクを統合するオープンリソースである。
SonoBaseは、事前にトレーニングされたインタラクティブセグメンテーション基盤モデルである。
論文 参考訳(メタデータ) (2026-09-16T15:34:21Z) - ProCUA-SFT Technical Report [80.97543110323542]
コンピュータ使用エージェント(CUA)の訓練には、全デスクトップ環境で収集された大規模で多様な軌跡データが必要である。
93Kの合成軌道から抽出した3.1MステップレベルのSFTサンプルのデータセットであるProCUA-SFTについて述べる。
ProCUA-SFTの微調整UI-TARS 7Bは、OSWorldで45.0%、ベースモデルよりも18.7ポイント改善されている。
論文 参考訳(メタデータ) (2026-06-15T22:04:11Z) - CLIP Architecture for Abdominal CT Image-Text Alignment and Zero-Shot Learning: Investigating Batch Composition and Data Scaling [1.349025992778434]
医用画像とレポートの対比学習により訓練された視覚言語モデルは、強力なゼロショット診断能力を示す。
我々は,左右対称InfoNCE損失を用いた3次元腹部CTボリュームと放射線診断レポートとを一致させるデュアルエンコーダモデルであるMerlinを再現する。
論文 参考訳(メタデータ) (2026-04-15T07:10:01Z) - True 4-Bit Quantized Convolutional Neural Network Training on CPU: Achieving Full-Precision Parity [0.0]
本稿では,コモディティCPU上での標準PyTorch演算を用いて,真の4ビット精度で畳み込みニューラルネットワークを訓練する方法を提案する。
本稿では, 対称量子化, 動的層間スケーリング, ストレートスルー推定器と組み合わせて, 安定収束と競争精度を実現する, タンフベースのソフトウェイトクリッピング手法を提案する。
論文 参考訳(メタデータ) (2026-03-14T13:03:11Z) - PriVi: Towards A General-Purpose Video Model For Primate Behavior In The Wild [50.656578456979496]
大規模な霊長類中心のビデオ事前トレーニングデータセットであるPriViを紹介する。
大規模ビデオモデルであるV-JEPAをPriVi上でプレトレーニングし、霊長類固有の表現を学習する。
その結果、霊長類中心の事前学習はデータ効率と一般化を大幅に改善することが示された。
論文 参考訳(メタデータ) (2025-11-12T19:27:40Z) - ENSAM: an efficient foundation model for interactive segmentation of 3D medical images [0.0]
ENSAMは、普遍的な3次元医用画像セグメンテーションのためのプロンプト可能なモデルである。
ENSAMは、限られたデータと計算予算の下で優れた性能を達成するように設計されている。
ENSAMは, マルチモーダル3次元医用画像を用いた隠れテストセットで評価した。
論文 参考訳(メタデータ) (2025-09-19T11:20:22Z) - From Embeddings to Accuracy: Comparing Foundation Models for Radiographic Classification [33.96915720287914]
ラジオグラフィー分類における軽量アダプタの訓練のための7つの基礎モデルからの埋め込みを評価する。
MedImageInsightの埋め込みとSVMとアダプタの組み合わせは、曲線(mAUC)における平均面積が93.1%に達した。
これらの軽量グループは計算効率が良く、数分でトレーニングし、CPU上で数秒で推論を行う。
論文 参考訳(メタデータ) (2025-05-16T03:39:46Z) - DataComp: In search of the next generation of multimodal datasets [179.79323076587255]
DataCompは、Common Crawlの128億の画像テキストペアの候補プールを中心にしたデータセット実験用のテストベッドである。
我々のベンチマークは、複数の計算スケールから成っている。
特に、最良のベースラインであるDataComp-1Bは、ImageNetでCLIP ViT-L/14をスクラッチから79.2%のゼロショット精度でトレーニングすることが可能です。
論文 参考訳(メタデータ) (2023-04-27T11:37:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。