論文の概要: MED-DSLC: Multi-Expert-Domain Classification via Domain Supervision and Logit Calibration
- arxiv url: http://arxiv.org/abs/2607.10985v1
- Date: Mon, 13 Jul 2026 01:18:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-14 17:47:21.293425
- Title: MED-DSLC: Multi-Expert-Domain Classification via Domain Supervision and Logit Calibration
- Title(参考訳): MED-DSLC:ドメインスーパービジョンとロジットキャリブレーションによるマルチエキスパートドメイン分類
- Abstract要約: 視覚言語モデル(VLM)は、画像特徴と共有埋め込み空間におけるテキストプロンプトを比較してゼロショット分類を可能にする。
VLMはLoRAのような技術を使って細粒度のドメインに適応することが多い。
これは、何千もの専門モデルを持つ、非常に断片化されたモデルエコシステムにつながります。
- 参考スコア(独自算出の注目度): 42.68764270775848
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Vision-language models (VLMs) such as CLIP enable zero-shot classification by comparing image features with text prompts in a shared embedding space. A fundamental property underlying this capability is the global comparability of logits across arbitrary candidate classes. However, VLMs are often adapted to fine-grained domains using techniques such as LoRA. While this improves in-domain accuracy, out-of-domain accuracy degrades. This leads to a highly fragmented model ecosystem, with thousands of specialized models. Multi-Expert-Domain classification seeks to address this problem, by merging LoRAs trained independently on specialized domains. However, due to the independent training, the various domain experts no longer produce globally calibrated logits. As a result, when evaluating over the union of multiple domain-specific class sets, heterogeneous logit scales induce cross-domain interference and artificially high confidence for out-of-domain classes, inducing prediction errors. In this work, we identify domain supervision and cross-domain logit miscalibration as the key issue to scalable multi-domain zero-shot recognition. We propose MED-DSLC, combining domain supervised training and domain-wise logit scaling, to explicitly restore global logit comparability. MED-DSLC is a lightweight solution for MED classification, which is shown to preserve within-domain discrimination while reducing cross-domain logit interference with minimal data. Extensive experiments across diverse fine-grained benchmarks demonstrate that it substantially improves mean accuracy (+15\%), cross-domain robustness, and scalability in the size of MED classification problem. Our results show that restoring output-level calibration is essential under highly data imbalanced settings for achieving a truly zero-shot VLM under multi-domain specialization.
- Abstract(参考訳): CLIPのような視覚言語モデル(VLM)は、画像特徴とテキストプロンプトを共有埋め込み空間で比較することにより、ゼロショット分類を可能にする。
この能力の根底にある基本的な特性は、任意の候補クラス間でのロジットのグローバルな可視性である。
しかしながら、VLMはLoRAのような技術を用いて細粒度に適応することが多い。
これによりドメイン内の精度が向上するが、ドメイン外の精度は低下する。
これは、何千もの専門モデルを持つ、非常に断片化されたモデルエコシステムにつながります。
Multi-Expert-Domainの分類では、特殊なドメインで個別に訓練されたLoRAをマージすることで、この問題に対処しようとしている。
しかし、独立した訓練のため、様々なドメインの専門家は、もはやグローバルに校正されたロジットを作らない。
その結果、複数のドメイン固有のクラスセットの結合性を評価する際に、異種ロジットスケールはドメイン間の干渉を誘発し、ドメイン外のクラスに対して人工的に高い信頼を生じさせ、予測エラーを引き起こす。
本研究では、拡張性のあるマルチドメインゼロショット認識における鍵となる課題として、ドメイン監視とクロスドメインロジットの誤校正を識別する。
我々は、グローバルロジットの互換性を明示的に回復するために、ドメイン教師付きトレーニングとドメインワイドロジットスケーリングを組み合わせたMED-DSLCを提案する。
MED-DSLCはMED分類のための軽量なソリューションであり、最小限のデータによるクロスドメインロジット干渉を低減しつつ、ドメイン内の識別を保存することが示されている。
様々なきめ細かいベンチマークによる大規模な実験により、MED分類問題のサイズにおいて平均精度(+15\%)、ドメイン間の堅牢性、スケーラビリティが大幅に向上することが示された。
この結果から,マルチドメインの特殊化下での真のゼロショットVLMを実現するためには,高データ不均衡設定下では,出力レベルのキャリブレーションの復元が不可欠であることが示唆された。
関連論文リスト
- Domain-Skewed Federated Learning with Feature Decoupling and Calibration [35.05951359908686]
フェデレートラーニング(FL)は、分散クライアントがプライバシー保護の方法でグローバルモデルを協調的にトレーニングすることを可能にする。
ドメインスキュー(Domain skew)は、多様なドメインから派生したクライアントのデータが、一貫した表現空間を学習することから集約されたグローバルモデルを妨げる可能性がある。
我々は、ドメイン固有のバイアスのある特徴を校正することで、貴重なクラス関連情報を解放するFederated Feature Decoupling andrimi(F2$DC)を提案する。
論文 参考訳(メタデータ) (2026-03-15T06:20:22Z) - Domain-invariant Mixed-domain Semi-supervised Medical Image Segmentation with Clustered Maximum Mean Discrepancy Alignment [11.298724831730675]
ドメイン不変な混合ドメイン半教師付きセグメンテーションフレームワークを提案する。
Copy-Paste Mechanism (CPM)は、ドメイン間で情報領域を転送することでトレーニングセットを増強する。
Cluster Maximum Mean Discrepancy (CMMD) は、ラベル付き機能を持たないクラスタをブロックし、ラベル付きアンカーとアライメントする。
論文 参考訳(メタデータ) (2026-01-23T18:23:03Z) - Domain Generalization via Selective Consistency Regularization for Time
Series Classification [16.338176636365752]
ドメイン一般化手法は、限られた数のソースドメインからのデータで、ドメインシフトに頑健なモデルを学習することを目的としている。
本稿では,ソースドメイン間の予測一貫性を選択的に適用する表現学習手法を提案する。
論文 参考訳(メタデータ) (2022-06-16T01:57:35Z) - Cross-domain Contrastive Learning for Unsupervised Domain Adaptation [108.63914324182984]
教師なしドメイン適応(Unsupervised domain adapt、UDA)は、完全にラベル付けされたソースドメインから異なるラベル付けされていないターゲットドメインに学習した知識を転送することを目的としている。
対照的な自己教師型学習に基づいて、トレーニングとテストセット間のドメインの相違を低減するために、機能を整列させます。
論文 参考訳(メタデータ) (2021-06-10T06:32:30Z) - AFAN: Augmented Feature Alignment Network for Cross-Domain Object
Detection [90.18752912204778]
オブジェクト検出のための教師なしドメイン適応は、多くの現実世界のアプリケーションにおいて難しい問題である。
本稿では、中間領域画像生成とドメイン・アドバイザリー・トレーニングを統合した新しい機能アライメント・ネットワーク(AFAN)を提案する。
提案手法は、類似および異種ドメイン適応の双方において、標準ベンチマークにおける最先端の手法よりも大幅に優れている。
論文 参考訳(メタデータ) (2021-06-10T05:01:20Z) - Instance Level Affinity-Based Transfer for Unsupervised Domain
Adaptation [74.71931918541748]
ILA-DAと呼ばれる適応中のソースからターゲットへの転送に対するインスタンス親和性に基づく基準を提案する。
まず、ソースとターゲットをまたいだ類似および異種サンプルを抽出し、マルチサンプルのコントラスト損失を利用してドメインアライメントプロセスを駆動する信頼性が高く効率的な手法を提案する。
ILA-DAの有効性は、様々なベンチマークデータセットに対する一般的なドメイン適応手法よりも精度が一貫した改善を観察することによって検証する。
論文 参考訳(メタデータ) (2021-04-03T01:33:14Z) - Cross-Domain Grouping and Alignment for Domain Adaptive Semantic
Segmentation [74.3349233035632]
深層畳み込みニューラルネットワーク(CNN)内のソースドメインとターゲットドメインにセマンティックセグメンテーションネットワークを適用する既存の技術は、対象ドメイン自身や推定カテゴリ内のクラス間変異を考慮していない。
学習可能なクラスタリングモジュールと、クロスドメイングルーピングとアライメントと呼ばれる新しいドメイン適応フレームワークを導入する。
本手法はセマンティクスセグメンテーションにおける適応性能を一貫して向上させ,様々なドメイン適応設定において最先端を上回っている。
論文 参考訳(メタデータ) (2020-12-15T11:36:21Z) - Cross-domain Detection via Graph-induced Prototype Alignment [114.8952035552862]
カテゴリレベルのドメインアライメントを求めるグラフ誘発プロトタイプアライメント(GPA)フレームワークを提案する。
さらに,クラス不均衡がドメイン適応に与える影響を軽減するために,クラス重み付きコントラスト損失を設計する。
我々のアプローチは、既存の手法よりも顕著なマージンで優れています。
論文 参考訳(メタデータ) (2020-03-28T17:46:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。