論文の概要: InfiMed2: A Generalist Medical Multimodal Foundation Model from Contextual Evidence and Stability-Aware Supervision
- arxiv url: http://arxiv.org/abs/2609.34798v1
- Date: Mon, 28 Sep 2026 10:01:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 02:50:16.98116
- Title: InfiMed2: A Generalist Medical Multimodal Foundation Model from Contextual Evidence and Stability-Aware Supervision
- Title(参考訳): InfiMed2: コンテキストエビデンスと安定性を考慮した一般医用マルチモーダルファンデーションモデル
- Abstract要約: InfiMed2は4Bと27Bの汎用医療マルチモーダルファンデーションモデルである。
InfiMed2-4BはRLVR以降の平均精度66.73%に達し、Qwen3.5-9Bを上回り、InfiMed2-27Bは73.72%に達した。
- 参考スコア(独自算出の注目度): 22.744239076245396
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent medical multimodal models have benefited from larger corpora, broader modality coverage, and stronger reasoning-oriented training, yet effective data design across continued pretraining (CPT) and post-training remains challenging. Medical sources vary substantially in structure, granularity, and information density, and their utility shifts as training progresses from broad knowledge acquisition to late-stage consolidation. Meanwhile, post-training is often dominated by short-form visual question answering, providing limited supervision for informative and answer-consistent explanations. We introduce InfiMed2, a family of 4B and 27B generalist medical multimodal foundation models built around stage-aware data design. We curate a 55.68B-token corpus that combines broad clinical knowledge with context-rich biomedical visual evidence through source-specific processing. Our CPT pipeline first adapts the vision encoder, then builds broad medical knowledge, and finally transitions to an evidence-focused data mixture during learning-rate decay. For supervised fine-tuning (SFT), we regenerate visual question-answering responses using answer stability, answer-masked reconstruction, and correctness-constrained selection to produce more informative and answer-consistent supervision. The 4B model is further optimized with reinforcement learning with verifiable rewards (RLVR). Across five medical multimodal benchmarks, InfiMed2-4B achieves 66.73% mean accuracy after RLVR, surpassing the larger Qwen3.5-9B, while InfiMed2-27B reaches 73.72%, the highest among the evaluated open-weight models.
- Abstract(参考訳): 最近の医療マルチモーダルモデルは、より大きなコーパス、より広範なモダリティカバレッジ、より強力な推論指向のトレーニングの恩恵を受けている。
医療源は構造、粒度、情報密度に大きく異なり、訓練が幅広い知識獲得から後期統合へと進むにつれて、その実用性は変化していく。
一方、ポストトレーニングは短時間の視覚的質問応答によって支配されることが多く、情報的および回答一貫性のある説明のための限定的な監督を提供する。
InfiMed2は4Bと27Bの汎用医療マルチモーダルファンデーションモデルである。
我々は、幅広い臨床知識と文脈に富んだバイオメディカルな視覚的証拠をソース特異的な処理によって組み合わせた55.68Bコーパスをキュレートする。
われわれのCPTパイプラインはまず視覚エンコーダに適応し、幅広い医療知識を構築し、最終的に学習速度の減衰時にエビデンスに焦点を当てたデータ混合物に遷移する。
教師付き微調整(SFT)では,解答安定性,解答マインド再構成,正当性制約の選択を用いて視覚的質問応答を再現し,より情報的かつ解答に一貫性のある監視を行う。
4Bモデルは、検証可能な報酬付き強化学習(RLVR)によりさらに最適化されている。
5つの医療マルチモーダルベンチマークで、InfiMed2-4BはRLVR以降の平均精度66.73%に達し、Qwen3.5-9Bを上回り、InfiMed2-27Bは73.72%に達し、評価されたオープンウェイトモデルの中で最も高い。
関連論文リスト
- InfiMed-Foundation: Pioneering Advanced Multimodal Medical Models with Compute-Efficient Pre-Training and Multi-Stage Fine-Tuning [19.791150694039466]
InfiMed-Foundation-1.7BとInfiMed-Foundation-4Bは、医療応用における最先端のパフォーマンスを実現するために設計された2つの医療用MLLMである。
我々は、トレーニング効率を高めるために、低解像度画像分解能とマルチモーダルシーケンスパッキングを用いる。
InfiMed-Foundation-1.7BはQwen2.5VL-3Bを上回っ、InfiMed-Foundation-4BはHuatuoGPT-V-7BとMedGemma-27B-ITを上回っている。
論文 参考訳(メタデータ) (2025-09-26T12:26:16Z) - MedVLThinker: Simple Baselines for Multimodal Medical Reasoning [21.849783391186754]
MedVLThinkerは、推論中心の医療用LMMを構築するための、シンプルだが強力なベースラインのスイートである。
完全オープンなレシピは,(1) テキストのみとイメージテキストの両方の医療データに対する体系的なデータキュレーション,(2) 推論の難易度に応じてフィルタリング,(2) 学習パラダイム: 蒸留された推論トレースの超微調整(SFT) および最終回答の正しさに基づく強化学習(RLVR) から構成される。
論文 参考訳(メタデータ) (2025-08-04T17:59:38Z) - Lingshu: A Generalist Foundation Model for Unified Multimodal Medical Understanding and Reasoning [57.873833577058]
医療知識の豊富なマルチモーダルデータセットを構築した。
次に医学専門のMLLMであるLingshuを紹介します。
Lingshuは、医療専門知識の組み込みとタスク解決能力の向上のために、マルチステージトレーニングを行っている。
論文 参考訳(メタデータ) (2025-06-08T08:47:30Z) - InfiMed: Low-Resource Medical MLLMs with Advancing Understanding and Reasoning [19.791150694039466]
InfiMed-SFT-3B と InfiMed-RL-3B は7つのマルチモーダル医療ベンチマークで最先端のパフォーマンスを実現する。
InfiMed-RL-3Bの平均精度は59.2%であり、InternVL3-8Bのような大型モデルよりも57.3%高い。
論文 参考訳(メタデータ) (2025-05-29T10:31:57Z) - Towards a clinically accessible radiology foundation model: open-access and lightweight, with automated evaluation [113.5002649181103]
オープンソースの小型マルチモーダルモデル(SMM)を訓練し、放射線学における未測定臨床ニーズに対する能力ギャップを埋める。
トレーニングのために,697万以上の画像テキストペアからなる大規模なデータセットを組み立てる。
評価のために,GPT-4に基づく実測値CheXpromptを提案する。
LlaVA-Radの推論は高速で、単一のV100 GPU上でプライベート設定で実行できる。
論文 参考訳(メタデータ) (2024-03-12T18:12:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。