論文の概要: DiscoVL: Unveiling Disentangled C ross-Modal Representation Learning via Orthogonal Adversarial Regularization for V ision-Language Models
- arxiv url: http://arxiv.org/abs/2610.11113v1
- Date: Thu, 08 Oct 2026 02:35:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.742967
- Title: DiscoVL: Unveiling Disentangled C ross-Modal Representation Learning via Orthogonal Adversarial Regularization for V ision-Language Models
- Title(参考訳): DiscoVL: V ision-Language モデルに対する直交逆正則化による分散 C ross-Modal Representation 学習
- Abstract要約: 本稿では,視覚言語モデルに対して,逆正則化と構造的クロスモーダルアライメントを結合したクロスモーダル表現学習フレームワークであるDiscoVLを提案する。
本研究では,DiscoVLがベース・ツー・ノーベル一般化,クロス・データセット評価,少数ショット学習の最先端手法に対して一貫した改善を実現していることを示す。
- 参考スコア(独自算出の注目度): 15.888961300913515
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Pre-trained vision-language models excel across varied perception tasks, but adapting them to novel downstream settings without sacrificing generalization remains non-trivial. Existing parameter-efficient prompt learning method often yields inconsistent representations and fails to account for semantic distribution shifts. In this work, we present DiscoVL, a disentangled cross-modal representation learning framework that couples orthogonal adversarial regularization with structured cross-modal alignment for vision-language models. To address the insufficient cross-modal interaction, our DiscoVL designs a multi-branch low-rank residual aligner that decomposes representations into subspaces and enables bidirectional cross-modal feedback between visual and textual streams at each layer. Furthermore, while conventional triplet constraints overfit features to class centroids, we design an orthogonal regularization for adversarial triplet loss, which prevents centroid collapse and substantially boosts generalization. Evaluations on 15 benchmarks demonstrate that DiscoVL delivers consistent improvements over state-of-the-art methods for base-to-novel generalization, cross-dataset evaluation, and few-shot learning
- Abstract(参考訳): 事前学習された視覚言語モデルは、様々な知覚課題にまたがって優れるが、一般化を犠牲にすることなく、新しい下流設定に適応させることは、依然として容易ではない。
既存のパラメータ効率のプロンプト学習法は、しばしば一貫性のない表現をもたらし、意味的分布のシフトを考慮できない。
本研究では、直交対角正規化と、視覚言語モデルに対する構造的クロスモーダルアライメントを結合した、非交叉型クロスモーダル表現学習フレームワークであるDiscoVLを提案する。
クロスモーダル相互作用の不十分さに対処するため、DiscoVLは、表現をサブスペースに分解するマルチブランチの低ランク残差整合器を設計し、各レイヤにおける視覚ストリームとテキストストリーム間の双方向の相互モーダルフィードバックを可能にする。
さらに,従来の三重項制約は,直交三重項損失に対する直交正則化を設計する。
15ベンチマークの評価によると、DiscoVLは、ベース・ツー・ノーベルの一般化、クロス・データセットの評価、数ショット学習のための最先端の手法よりも一貫した改善を提供する。
関連論文リスト
- CofactVLA: Deconfounding Vision-Language-Action Models via Counterfactual Intervention [48.20065816234311]
VLA(Vision-Language-Action)モデルはロボット操作に大きな進歩をもたらしたが、ビジョンオーバーライド現象に苦戦している。
本稿では,新たな因果介入フレームワークCofactVLAを提案する。
我々は、CofactVLAが様々なシミュレーションベンチマークにまたがって新しい最先端のベンチマークを確立していることを示す。
論文 参考訳(メタデータ) (2026-08-05T02:58:41Z) - Hyperbolic Enhanced Representation Learning for Incomplete Multi-view Clustering [57.38215918201251]
本稿では,不完全なマルチビュークラスタリングのためのハイパーボリック拡張表現学習フレームワークであるHERLを提案する。
ポアンカレボール内で操作すると、HERLは表現学習を強化するために構造を意識した潜在空間を構築する。
HERLは最先端のアプローチよりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2026-04-18T10:50:46Z) - SARA: Structural and Adversarial Representation Alignment for Training-efficient Diffusion Models [12.26595705520937]
マルチレベル表現制約を強制する階層的アライメントフレームワークであるSARAを紹介する。
ImageNet-256の実験では、SARAはREPAの2倍の速さで1.36のFIDを達成した。
論文 参考訳(メタデータ) (2025-03-11T10:17:32Z) - Enhancing Robustness of Vision-Language Models through Orthogonality Learning and Self-Regularization [77.62516752323207]
そこで本研究では,事前訓練した重みを効率よく微調整する直交微調整法を導入し,頑健さと一般化の強化を実現した。
自己正規化戦略は、OrthSRと呼ばれるVLMのゼロショット一般化の観点から安定性を維持するためにさらに活用される。
筆者らはCLIPとCoOpを再検討し,少数の画像のクラスフィシエーションシナリオにおけるモデルの改善を効果的に行う。
論文 参考訳(メタデータ) (2024-07-11T10:35:53Z) - Fine-grained Image-to-LiDAR Contrastive Distillation with Visual Foundation Models [55.99654128127689]
Visual Foundation Models (VFM) は、弱い教師付きピクセル対ポイントのコントラスト蒸留のためのセマンティックラベルを生成するために使用される。
我々は,空間分布とカテゴリー周波数の不均衡に対応するために,点のサンプリング確率を適応させる。
我々の手法は、下流タスクにおける既存の画像からLiDARへのコントラスト蒸留法を一貫して超越している。
論文 参考訳(メタデータ) (2024-05-23T07:48:19Z) - Understanding and Constructing Latent Modality Structures in Multi-modal
Representation Learning [53.68371566336254]
優れたパフォーマンスの鍵は、完全なモダリティアライメントではなく、有意義な潜在モダリティ構造にある、と我々は主張する。
具体的には,1)モダリティ内正規化のための深い特徴分離損失,2)モダリティ間正規化のためのブラウン橋損失,3)モダリティ内正規化およびモダリティ間正規化のための幾何学的整合損失を設計する。
論文 参考訳(メタデータ) (2023-03-10T14:38:49Z) - Dense Contrastive Visual-Linguistic Pretraining [53.61233531733243]
画像とテキストを共同で表現するマルチモーダル表現学習手法が提案されている。
これらの手法は,大規模マルチモーダル事前学習から高レベルな意味情報を取得することにより,優れた性能を実現する。
そこで本稿では,非バイアスのDense Contrastive Visual-Linguistic Pretrainingを提案する。
論文 参考訳(メタデータ) (2021-09-24T07:20:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。