論文の概要: MoPET: Parameter-Efficient Mixture-of-Experts for Unified Medical Image Classification
- arxiv url: http://arxiv.org/abs/2607.29462v2
- Date: Mon, 03 Aug 2026 07:08:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:24.299757
- Title: MoPET: Parameter-Efficient Mixture-of-Experts for Unified Medical Image Classification
- Title(参考訳): MoPET: 統一医用画像分類のためのパラメータ効率のよい混合実験
- Abstract要約: MoPETは、学習したスパースルータを使用して、低ランクのPEFT専門家の小さなサブセットを介して各入力を指示する、Mix-of-experts(MoE)手法である。
1つのMOPETモデルが4つの異種データセットを1つのネットワークに統合し、最良のPEFTアダプタよりも平均精度を向上させることを示す。
- 参考スコア(独自算出の注目度): 6.260347944370044
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Adapting deep learning models to profound clinical heterogeneity typically relies on parameter-efficient fine-tuning (PEFT) to avoid the severe overfitting associated with full end-to-end network updates. Although PEFT successfully navigates limited data scenarios, it inherently forces the training of a separate, isolated adapter for every specific diagnostic task. Consolidating these isolated adapters into a single generalist network risks negative transfer, as optimization gradients from conflicting visual domains interfere. To address this, we propose MoPET, a mixture-of-experts (MoE) method that uses a learned sparse router to direct each input through a small subset of low-rank PEFT experts injected into a frozen foundation model, sharing capacity across datasets while limiting cross-domain gradient conflict. Through selected evaluations on the MedMNIST benchmark, we first establish that PEFT outperforms full network updates, improving average accuracy from 86.50% to 88.97%. We then show that a single MoPET model consolidates four heterogeneous datasets into one network, improving average accuracy over the best isolated PEFT adapters (93.46% versus 92.83%). Finally, we show that co-training with auxiliary datasets improves accuracy on data-constrained clinical targets, raising average target accuracy over the strongest isolated adapter from 81.58% to 83.58%. Our source code is publicly available at https://github.com/sdoerrich97/mopet.
- Abstract(参考訳): 深層学習モデルを深い臨床的不均一性に適応させるには、完全なエンドツーエンドネットワーク更新に伴う過度なオーバーフィットを避けるために、パラメータ効率の良い微調整(PEFT)が一般的である。
PEFTは、限られたデータシナリオをうまくナビゲートするが、本質的には、特定の診断タスクごとに独立したアダプタのトレーニングを強制する。
分離されたアダプタを単一のジェネリストネットワークに統合すると、競合する視覚領域からの最適化勾配が干渉するため、負の転送のリスクが生じる。
そこで本研究では,学習したスパースルータを用いて,凍結基盤モデルに挿入された低ランクPEFT専門家の小さなサブセットを通じて各入力を誘導し,データセット間でのキャパシティを共有するMOPETを提案する。
MedMNISTベンチマークで選択された評価により、PEFTは完全なネットワーク更新を上回り、平均精度は86.50%から88.97%に向上した。
次に、単一のMOPETモデルが4つの異種データセットを1つのネットワークに統合し、最良のPEFTアダプタの平均精度(93.46%対92.83%)を向上させることを示した。
最後に, 補助的データセットを用いた共同トレーニングにより, データ制約された臨床ターゲットの精度が向上し, 81.58% から 83.58% まで最強孤立アダプタの平均目標精度が向上することを示した。
ソースコードはhttps://github.com/sdoerrich97/mopet.comで公開されています。
関連論文リスト
- AdapterMoE: A Two-Stage Hard-Routing Mixture-of-Experts Architecture for Multi-Crop Disease Recognition with Calibrated Rejection and Incremental Learning [0.0]
マルチクロップ認識は、Mixture-of-Experts (MoE) に適合するが、従来のソフトルーティングMoEは、作物の割り当てをエンドツーエンドで自由に学習する。
本稿ではAdapterMoEを提案する: RouterHeadが作物を分類し、最大ソフトマックス確率閾値で非ターゲット作物を拒絶する。
専門家はデータレベルで厳格にアイソレーションされているため、設計は専門家の崩壊を回避し、ローカル、クラスタごとのアップデートのための add_crop インターフェースを公開する。
論文 参考訳(メタデータ) (2026-08-09T16:45:21Z) - Selecting Samples on Graphs: A Unified Dataset Pruning Framework for Lossless Training Acceleration [71.77541419885925]
グラフベースの統合DPフレームワークを提案する。
データセットを重み付きグラフとしてモデル化することにより、DPは最大重み付き傾き問題(MWCP)としてキャストできる。
ResNet-50でImageNet-1kの精度を犠牲にすることなく、トレーニング時間を40%以上短縮する。
論文 参考訳(メタデータ) (2026-06-11T05:13:32Z) - Adaptive Split-MMD Training for Small-Sample Cross-Dataset P300 EEG Classification [12.103074826558531]
データセット間のシフトは、大きなソースデータセットで小さなターゲットセットを増やそうとするときに発生する。
適応分割最大値離散化学習(AS-MMD)を紹介する。
AS-MMDは、ターゲット重み付き損失とソース/ターゲットサイズ比の平方根に結びついたウォームアップを組み合わせる。
目標のみのトレーニングやプールトレーニングよりも優れています。
論文 参考訳(メタデータ) (2025-10-24T18:48:21Z) - Efficient Federated Learning with Heterogeneous Data and Adaptive Dropout [62.73150122809138]
Federated Learning(FL)は、複数のエッジデバイスを使用したグローバルモデルの協調トレーニングを可能にする、有望な分散機械学習アプローチである。
動的不均一モデルアグリゲーション(FedDH)と適応ドロップアウト(FedAD)の2つの新しい手法を備えたFedDHAD FLフレームワークを提案する。
これら2つの手法を組み合わせることで、FedDHADは精度(最大6.7%)、効率(最大2.02倍高速)、コスト(最大15.0%小型)で最先端のソリューションを大幅に上回っている。
論文 参考訳(メタデータ) (2025-07-14T16:19:00Z) - Improving Robustness of Foundation Models in Domain Adaptation with Soup-Adapters [0.0]
複数の独立したアダプタをトレーニングし、その出力を平均化することにより、新しいモデルの性能が向上し、個々のアダプタと比較して分散シフトに対して堅牢であることを示す。
これはまた、DINOv2向けのCLIPアダプタスタイルのテクニックを探求し、この設定でCLIPと直接比較する最初の研究である。
論文 参考訳(メタデータ) (2025-07-08T09:26:10Z) - SPIRE: Conditional Personalization for Federated Diffusion Generative Models [7.8583640700306585]
Shared Backbone Personal Identity Representation Embeddings (SPIRE)は、FLで条件付き生成としてクライアント拡散ベースの生成をキャストするフレームワークである。
SPIREは、ネットワークを(i)人口レベルのスコア関数を学習する高容量なグローバルバックボーンと、(ii)ローカルデータ統計を符号化する軽量で学習可能なクライアント埋め込みに分解する。
我々の分析は、クライアントの埋め込みが共有スコアネットワークをパーソナライズするバイアスとしてどのように振舞うかを示唆している。
論文 参考訳(メタデータ) (2025-06-14T01:40:31Z) - PulmoFusion: Advancing Pulmonary Health with Efficient Multi-Modal Fusion [31.28925796862013]
従来のリモートスピロメトリでは、効果的な肺モニタリングに必要な精度が欠如している。
本稿では,RGBやサーマルビデオデータと患者のメタデータを統合するマルチモーダル予測モデルを用いた,新しい非侵襲的アプローチを提案する。
論文 参考訳(メタデータ) (2025-01-29T15:10:09Z) - Just How Flexible are Neural Networks in Practice? [89.80474583606242]
ニューラルネットワークは、パラメータを持つ少なくとも多くのサンプルを含むトレーニングセットに適合できると広く信じられている。
しかし実際には、勾配や正規化子など、柔軟性を制限したトレーニング手順によるソリューションしか見つからない。
論文 参考訳(メタデータ) (2024-06-17T12:24:45Z) - PerAda: Parameter-Efficient Federated Learning Personalization with Generalization Guarantees [95.87604231887353]
既存のpFL手法は高い通信コストと計算コストをもたらすか、テスト通信に弱い。
PerAdaではパラメータ蒸留とpFL pFLが特に試験時間分布において優れた性能を示す。
私たちのコードはhttps://github.com/NV/PerAda.comで公開されています。
論文 参考訳(メタデータ) (2023-02-13T19:00:37Z) - ScoreMix: A Scalable Augmentation Strategy for Training GANs with
Limited Data [93.06336507035486]
GAN(Generative Adversarial Networks)は通常、限られたトレーニングデータが利用できる場合、過度に適合する。
ScoreMixは、様々な画像合成タスクのための、新しくスケーラブルなデータ拡張手法である。
論文 参考訳(メタデータ) (2022-10-27T02:55:15Z) - Suppressing Poisoning Attacks on Federated Learning for Medical Imaging [4.433842217026879]
本稿では, ビザンチン障害に対する耐性を有する分散型外乱抑制法(DOS)を提案する。
提案手法は,異なるクライアントのローカルパラメータ更新間の距離を計算し,各クライアントに対してアウトラヤスコアを求める。
得られたアウトリーチスコアはソフトマックス関数を用いて正規化重みに変換され、局所パラメータの重み付け平均がグローバルモデル更新に使用される。
論文 参考訳(メタデータ) (2022-07-15T00:43:34Z) - Back to the Source: Diffusion-Driven Test-Time Adaptation [77.4229736436935]
テスト時間適応はテスト入力を利用し、シフトしたターゲットデータ上でテストした場合、ソースデータに基づいてトレーニングされたモデルの精度を向上させる。
代わりに、生成拡散モデルを用いて、すべてのテスト入力をソース領域に向けて投影することで、ターゲットデータを更新する。
論文 参考訳(メタデータ) (2022-07-07T17:14:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。