論文の概要: Model Merging for Medical LVLMs: A Benchmark and a Winner-Take-All Approach
- arxiv url: http://arxiv.org/abs/2607.15661v1
- Date: Fri, 17 Jul 2026 06:13:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-20 17:56:52.772356
- Title: Model Merging for Medical LVLMs: A Benchmark and a Winner-Take-All Approach
- Title(参考訳): 医療用LVLMのモデルマージング : ベンチマークと完全アプローチ
- Abstract要約: 大型ビジョン言語モデル(LVLM)は、特殊な医療画像に適応することができる。
複数の専門家のLVLMを実際にデプロイすると、かなりの計算と運用上のオーバーヘッドが発生する。
医療用LVLMのモデルマージに関する最初の体系的研究について述べる。
- 参考スコア(独自算出の注目度): 33.18889550881221
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large vision-language models (LVLMs) can be adapted to specialized medical imaging tasks via parameter-efficient fine-tuning approaches such as low-rank adaptation (LoRA), leading to a growing ecosystem of expert models tailored to specific imaging modalities and clinical scenarios. However, deploying multiple expert LVLMs in practice incurs substantial computational and operational overhead. Model merging provides a promising solution by consolidating multiple experts into a single model without retraining, yet it remains largely unexplored in the medical domain. In this work, we present the first systematic study of model merging for medical LVLMs. We introduce MergeMedBench, a comprehensive benchmark spanning eight imaging modalities and diverse clinical task types, comprising 16 LoRA fine-tuned models built upon two mainstream architectures. We conduct an extensive evaluation of existing merging methods and further propose winner-take-all, a simple and hyperparameter-free approach that retains only the most dominant parameters across expert models. By preserving the critical parameters that govern model behavior and discarding weaker ones, our method avoids the information dilution inherent in averaging- or alignment-based strategies. Despite its simplicity, winner-take-all consistently outperforms existing approaches, offering both a new perspective on LoRA merging and a strong practical baseline for future research.
- Abstract(参考訳): 大規模視覚言語モデル(LVLM)は、ローランク適応(LoRA)のようなパラメータ効率のよい微調整アプローチを通じて、特殊な医用画像タスクに適応することができる。
しかし、複数の専門家のLVLMを実際にデプロイすると、かなりの計算と運用上のオーバーヘッドが発生する。
モデルマージは、複数の専門家をトレーニングせずに単一のモデルに統合することで、有望なソリューションを提供する。
本稿では,医療用LVLMのモデルマージに関する最初の体系的研究について述べる。
MergeMedBenchは、8つの画像モダリティと多様な臨床タスクタイプにまたがる包括的なベンチマークであり、2つの主流アーキテクチャ上に構築された16のLORA微調整モデルで構成されている。
我々は既存のマージ手法を広範囲に評価し、また、エキスパートモデル全体において最も支配的なパラメータのみを保持する単純かつハイパーパラメータフリーなアプローチである、入賞者すべてを提案する。
モデル行動を管理する重要なパラメータを保存し,弱いパラメータを破棄することにより,平均的戦略やアライメントに基づく戦略に固有の情報の希釈を回避する。
単純さにもかかわらず、勝者は既存のアプローチを一貫して上回り、LoRAの合併に対する新たな視点と将来の研究のための強力な実践的ベースラインを提供する。
関連論文リスト
- MedSAM-Agent: Empowering Interactive Medical Image Segmentation with Multi-turn Agentic Reinforcement Learning [53.37068897861388]
MedSAM-Agentは、対話的なセグメンテーションを多段階の自律的な意思決定プロセスとして再構築するフレームワークである。
マルチターン・エンド・ツー・エンドの成果検証を統合した2段階のトレーニングパイプラインを開発した。
6つの医療モダリティと21のデータセットにわたる実験は、MedSAM-Agentが最先端のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2026-02-03T09:47:49Z) - MMedExpert-R1: Strengthening Multimodal Medical Reasoning via Domain-Specific Adaptation and Clinical Guideline Reinforcement [63.82954136824963]
医療ビジョンランゲージモデルでは、現実世界のシナリオで必要とされる複雑な臨床推論を伴う知覚タスクが優れている。
本稿ではドメイン固有の適応とガイドライン強化を通じてこれらの課題に対処する新しい推論MedVLMを提案する。
論文 参考訳(メタデータ) (2026-01-16T02:32:07Z) - MedAlign: A Synergistic Framework of Multimodal Preference Optimization and Federated Meta-Cognitive Reasoning [52.064286116035134]
我々はMed-VQA(Med-VQA)のための視覚的LVLM応答を保証するフレームワークであるMedAlignを開発した。
まず、優先学習を視覚的コンテキストに合わせるために、マルチモーダルな直接選好最適化(mDPO)の目的を提案する。
次に、画像とテキストの類似性を生かし、クエリを専門的でコンテキスト拡張されたLVLMにルーティングする検索型混合処理(RA-MoE)アーキテクチャを設計する。
論文 参考訳(メタデータ) (2025-10-24T02:11:05Z) - Merge and Guide: Unifying Model Merging and Guided Decoding for Controllable Multi-Objective Generation [49.98025799046136]
Merge-And-GuidEは、ガイド付きデコーディングにモデルマージを利用する2段階のフレームワークである。
ステージ1では、MAGEはガイダンスとベースモデルの互換性の問題を解決する。
ステージ2では、明示的で暗黙的な値モデルを統一的なガイダンスプロキシにマージします。
論文 参考訳(メタデータ) (2025-10-04T11:10:07Z) - MedSAMix: A Training-Free Model Merging Approach for Medical Image Segmentation [21.766481181140527]
医用画像セグメンテーションのためのトレーニングフリーモデルマージ手法であるMedSAMixを提案する。
MedSAMixは、ドメイン固有の精度と一般化の両方において、一貫して性能を改善していることを示す。
臨床応用として,ドメイン固有性と一般化可能性の要求を満たすための2つの体制を開発する。
論文 参考訳(メタデータ) (2025-08-14T19:35:57Z) - Multimodal Masked Autoencoder Pre-training for 3D MRI-Based Brain Tumor Analysis with Missing Modalities [0.0]
BM-MAEはマルチモーダルMRIデータに適したマスク付き画像モデリング事前学習戦略である。
利用可能なモダリティの組み合わせにシームレスに適応し、モダリティ内情報とモダリティ間情報の両方をキャプチャするリッチな表現を抽出する。
欠落したモダリティを迅速かつ効率的に再構築し、その実用的価値を強調します。
論文 参考訳(メタデータ) (2025-05-01T14:51:30Z) - MedMAP: Promoting Incomplete Multi-modal Brain Tumor Segmentation with Alignment [20.358300924109162]
臨床ではMRIの特定のモダリティが欠如している可能性があるため、より困難なシナリオが提示される。
知識蒸留、ドメイン適応、共有潜在空間は一般的に有望な戦略として現れている。
本稿では,事前学習モデルの置換として,係わるモダリティの潜在的特徴を適切に定義された分布アンカーに整合させる新しいパラダイムを提案する。
論文 参考訳(メタデータ) (2024-08-18T13:16:30Z) - Large Language Model Distilling Medication Recommendation Model [58.94186280631342]
大規模言語モデル(LLM)の強力な意味理解と入力非依存特性を利用する。
本研究は, LLMを用いて既存の薬剤推奨手法を変換することを目的としている。
これを軽減するため,LLMの習熟度をよりコンパクトなモデルに伝達する機能レベルの知識蒸留技術を開発した。
論文 参考訳(メタデータ) (2024-02-05T08:25:22Z) - Ambiguous Medical Image Segmentation using Diffusion Models [60.378180265885945]
我々は,グループ洞察の分布を学習することで,複数の可算出力を生成する単一拡散モデルに基づくアプローチを提案する。
提案モデルでは,拡散の固有のサンプリングプロセスを利用してセグメンテーションマスクの分布を生成する。
その結果,提案手法は既存の最先端曖昧なセグメンテーションネットワークよりも優れていることがわかった。
論文 参考訳(メタデータ) (2023-04-10T17:58:22Z) - Few-shot segmentation of medical images based on meta-learning with
implicit gradients [0.48861336570452174]
医用画像セグメンテーションのための数ショット設定において,最適化に基づく暗黙的メタ学習iMAMLアルゴリズムを活用することを提案する。
このアプローチでは、さまざまなトレーニングサンプルから学んだ重みを活用でき、新しい未知のデータセットにデプロイすることができます。
論文 参考訳(メタデータ) (2021-06-06T19:52:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。