論文の概要: Can Experts Adapt Without Training? On Test-Time Modality Generalization in MVLMs
- arxiv url: http://arxiv.org/abs/2607.16726v1
- Date: Sat, 18 Jul 2026 09:24:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-21 18:48:37.236322
- Title: Can Experts Adapt Without Training? On Test-Time Modality Generalization in MVLMs
- Title(参考訳): 専門家はトレーニングなしで適応できるか? MVLMにおけるテスト時間モダリティの一般化について
- Abstract要約: テスト時に動的専門家の選択と適応を行う完全最適化フリーのフレームワークであるMoBEを提案する。
MoBEは、MoE設定におけるエントロピー誘導動的ルーティングとエキスパートワイドベイズ適応を組み合わせることで、専門家が信頼を更新し、勾配更新なしでオンラインで適応できるようにする。
パラメトリックな更新がなければ、MoBEはテスト時間ルーティングとオンライン統計を備えた静的MVLMを拡張し、最先端のTTAメソッドよりも平均精度+4.72、+7.17、+4.3を達成する。
- 参考スコア(独自算出の注目度): 15.965670687834043
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Medical vision-language models (MVLMs) promise broad zero-shot generalization, yet their reliability collapses when confronted with unseen modalities and domains, precisely where clinical robustness matters most. To address this gap, we revisit test-time modality generalization from the perspective of Mixture-of-Experts (MoE) and ask: can experts route-and-adapt without any optimization during inference? We identify a fundamental specialization-generalization dilemma at test time, where blindly aggregating modality experts dilutes modality-specific knowledge, while selecting one highly confident expert risks mismatch under shift. To address this, we propose MoBE: a fully optimization-free framework that performs dynamic expert selection and adaptation at test time. MoBE combines entropy-guided dynamic routing in MoE settings with expert-wise Bayesian adaptation, enabling experts to update their confidence and adapt online without gradient updates. Without parametric updates, MoBE augments a static MVLM with test-time routing and online statistics, achieving average accuracy gains of +4.72, +7.17, and +4.3 over state-of-the-art TTA methods across seen, unseen, and heterogeneous medical benchmarks, highlighting the effectiveness of training-free expert adaptation for robust modality generalization.
- Abstract(参考訳): 医用視覚言語モデル(MVLM)は、広範囲なゼロショットの一般化を約束するが、その信頼性は、目に見えないモダリティやドメインに直面すると崩壊する。
このギャップに対処するため、Mixture-of-Experts(MoE)の観点からテスト時間モダリティの一般化を再考し、専門家は推論中に最適化することなく、経路順応できるだろうか?
テスト時の基本的特殊化一般化ジレンマを特定し、モダリティの専門家を盲目的に集約することで、モダリティ固有の知識を希薄化し、高い信頼性を持つ専門家のミスマッチを1つ選択する。
この問題を解決するために,テスト時に動的専門家の選択と適応を行う完全最適化フリーのフレームワークであるMoBEを提案する。
MoBEは、MoE設定におけるエントロピー誘導動的ルーティングとエキスパートワイドベイズ適応を組み合わせることで、専門家が信頼を更新し、勾配更新なしでオンラインで適応できるようにする。
パラメトリックな更新がなければ、MoBEは静的MVLMにテスト時間ルーティングとオンライン統計を付加し、最先端のTTAメソッドに対する+4.72、+7.17、+4.3の精度向上を実現し、堅牢なモダリティ一般化のためのトレーニング不要の専門家適応の有効性を強調している。
関連論文リスト
- DeepBias: Adaptive In-depth Probing of Social Biases in LVLMs [71.85279836937578]
我々は、注意深く設計されたエージェントを用いたLVLMにおける社会バイアスの奥行き探索のための適応的フレームワークDeepBiasを紹介する。
私たちは、私たちのフレームワークを使ってDeepBiasBenchという名のベンチマークを構築します。5つの異なる最先端のLVLMをアンカーとして使用することで、このベンチマークはアーキテクチャ間で共有される脆弱性をキャプチャします。
論文 参考訳(メタデータ) (2026-07-13T08:19:09Z) - Be Your Own Teacher: Steering Protein Language Models via Unsupervised Reward Optimization [85.4863852505905]
タンパク質言語モデル(PLM)の教師なし報酬最適化を導入する。
我々の重要な洞察は、本質的なモデルの不確実性とタンパク質表現モデルによって誘導される意味的整合性を組み合わせたタスク非依存報酬は、ベースモデルと温度レギュレーションの制御可能性指標と強い相関を示すことである。
我々のフレームワークは、ラベル付けされた好みや実験的なフィードバックが不足したり、利用できないような環境で、制御可能な生体分子設計へのスケーラブルな経路を提供する。
論文 参考訳(メタデータ) (2026-06-17T11:42:01Z) - TAME: Test-Time Adversarial Prompt Tuning via Mixture-of-Experts for Vision-Language Models [76.92890872338235]
大規模事前学習型ビジョンランゲージモデル(VLM)は、強いゼロショット一般化を示すが、知覚不能な逆方向の摂動に対して非常に脆弱である。
ダウンストリームタスク固有のリトレーニングを必要とせずに堅牢性を高めるため,新しいテストタイムディフェンスであるTAMEを提案する。
論文 参考訳(メタデータ) (2026-05-17T18:07:08Z) - MoE-GRPO: Optimizing Mixture-of-Experts via Reinforcement Learning in Vision-Language Models [36.67777831459829]
Mixture-of-Experts (MoE)は、Transformerアーキテクチャの計算オーバーヘッドを削減する効果的なアプローチとして登場した。
我々は、MoEベースのビジョンランゲージモデルにおいて、エキスパートルーティングを最適化するための強化学習フレームワークであるMoE-GRPOを提案する。
MoE-GRPOは、より多様な専門家の選択を促進することにより、標準のトップKルーティングとその変種を一貫して上回ることを示す。
論文 参考訳(メタデータ) (2026-03-26T03:23:45Z) - MoSE: Mixture of Slimmable Experts for Efficient and Adaptive Language Models [28.87682703032017]
Mixture-of-Experts (MoE)モデルは、専門家をわずかに活性化することで、大きな言語モデルを効率的にスケールするが、専門家が選択されると、完全に実行される。
提案するMoEアーキテクチャであるMixture of Slimmable Experts (MoSE)を提案する。
論文 参考訳(メタデータ) (2026-02-05T19:48:41Z) - Going Beyond Expert Performance via Deep Implicit Imitation Reinforcement Learning [3.691573844585973]
本研究では、深層強化学習と観測専用データセットからの暗黙的模倣学習を組み合わせた暗黙的模倣強化学習フレームワークを提案する。
我々の主要なアルゴリズムであるDeep Implicit Q-Network (DIIQN)は、オンライン探索を通じて専門家の行動を再構築するアクション推論機構を採用している。
我々はさらに、専門家とエージェントが異なるアクションセットを持つシナリオに取り組むために、不均一なアクションDIIQN(HA-DIIQN)アルゴリズムでフレームワークを拡張した。
論文 参考訳(メタデータ) (2025-11-05T16:33:39Z) - Rewiring Experts on the Fly:Continuous Rerouting for Better Online Adaptation in Mixture-of-Expert models [52.502867924372275]
Mixture-of-Experts (MoE)モデルは、スパース専門家のアクティベーションを通じて効率的なスケーリングを実現するが、デプロイメントの分散シフトによる最適以下のルーティング決定に悩まされることが多い。
我々は、外部の監視やデータなしで、テキスト生成中にMoEルーティング決定を継続的に適用するテキストタデータフリーオンラインテストタイムフレームワークを提案する。
論文 参考訳(メタデータ) (2025-10-16T16:24:36Z) - Uncertainty-Driven Expert Control: Enhancing the Reliability of Medical Vision-Language Models [52.2001050216955]
既存の方法は、モデル構造を調整したり、高品質なデータで微調整したり、好みの微調整によって、医療ビジョン言語モデル(MedVLM)の性能を向上させることを目的としている。
我々は,MedVLMと臨床専門知識の連携を図るために,Expert-Controlled-Free Guidance (Expert-CFG) という,ループ内のエキスパート・イン・ザ・ループフレームワークを提案する。
論文 参考訳(メタデータ) (2025-07-12T09:03:30Z) - Towards Robust Multimodal Open-set Test-time Adaptation via Adaptive Entropy-aware Optimization [9.03028904066824]
オープンセットテスト時間適応(OSTTA)は、未知のクラスを含む未ラベルのターゲットドメインに、オンラインのソース事前トレーニングモデルを適用することを目的としている。
マルチモーダルオープンセットテスト時間適応に特化して設計された新しいフレームワークであるAdaptive Entropy-aware Optimization (AEO)を提案する。
論文 参考訳(メタデータ) (2025-01-23T18:59:30Z) - Fast-Slow Test-Time Adaptation for Online Vision-and-Language Navigation [67.18144414660681]
オンラインビジョン・アンド・ランゲージナビゲーション(VLN)のためのFSTTA(Fast-Slow Test-Time Adaptation)アプローチを提案する。
提案手法は,4つのベンチマークにおいて顕著な性能向上を実現する。
論文 参考訳(メタデータ) (2023-11-22T07:47:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。