論文の概要: Unlocking the Potential of Vision Foundation Models for Multi-Task Dense Prediction via Mixture of Task Adapters
- arxiv url: http://arxiv.org/abs/2611.02769v1
- Date: Mon, 02 Nov 2026 08:47:07 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:45:10.956039
- Title: Unlocking the Potential of Vision Foundation Models for Multi-Task Dense Prediction via Mixture of Task Adapters
- Title(参考訳): タスクアダプタの混合によるマルチタスクディエンス予測のためのビジョン基礎モデルの可能性の解錠
- Abstract要約: マルチタスク密度予測は、識別的意味認識と正規化幾何学/推論をサポートする単一の表現を求める。
凍結したDINOv3バックボーン内でこれらの役割を明示的に分解するタスクアダプタの混合体であるD2MoEを提案する。
実験は、この構造的因子化が、訓練可能な足跡を小さくして、堅牢なマルチタスクの改善をもたらすことを実証している。
- 参考スコア(独自算出の注目度): 69.94454603308196
- License:
- Abstract: Multi-task dense prediction seeks a single, coherent representation that supports simultaneously discriminative semantic recognition and regularized geometric/structural inference. For vision foundation models, pretrained semantic invariances conflict with the frequency and smoothness biases of dense objectives; joint fine-tuning and single-route adapters therefore compress competing gradients into one update channel, causing negative transfer and unstable cross-task agreement. We frame this as two-level adaptation: task-generic alignment that preserves priors, and task-aware specialization that resolves late-stage conflicts. Based on this principle, we propose D2MoE , a Mixture of Task Adapters that explicitly factorizes these roles within a frozen DINOv3 backbone. D2MoE introduces Task-Generic Low-Rank Adaptation (TG-LoRA) in attention projections throughout the network to provide a stable, shared adaptation channel, and a Task-Adaptive Mixture of Experts (TA-MoE) injected only at the final attention block of each stage to enact sparse, task-conditioned perturbations of token mixing in a single forward pass. A Semantic Prior Injector further couples multi-level task features with frozen foundation priors to reinforce semantic coherence while preserving boundary and structural fidelity. Experiments across diverse benchmarks substantiate that this structured factorization yields robust multi-task improvements with a small trainable footprint, establishing a principled and scalable route to prior-preserving, foundation-centric multi-task dense perception.
- Abstract(参考訳): マルチタスク密度予測は、識別的意味認識と正規化幾何学的・構造的推論を同時にサポートする単一のコヒーレント表現を求める。
視覚基盤モデルでは、事前訓練された意味的不変性は、密接な対象の周波数および滑らかさバイアスと矛盾し、従って、結合微細調整と単一経路アダプタは競合する勾配を1つの更新チャネルに圧縮し、負の移動と不安定なクロスタスク合意をもたらす。
これは、優先順位を保存するタスクジェネリックアライメントと、後期の対立を解決するタスクジェネリックアライメントである。
この原理に基づいて、凍結したDINOv3バックボーン内でこれらの役割を明示的に分解するタスクアダプタの混合であるD2MoEを提案する。
D2MoEは、安定かつ共有された適応チャネルを提供するために、ネットワーク全体の注意投射にタスクジェネリックな低ランク適応(TG-LoRA)を導入し、各ステージの最終注目ブロックにのみ注入されたタスク適応エキスパート混合(TA-MoE)を使用して、1つの前方通過でトークン混合のスパース、タスク条件付き摂動を実行する。
セマンティック先行インジェクタは、境界と構造的忠実性を保ちながら意味的コヒーレンスを強化するために、凍結した基礎とマルチレベルタスク特徴を結合する。
この構造的因子化は、トレーニング可能なフットプリントの少ない堅牢なマルチタスク改善をもたらし、事前保存された基礎中心のマルチタスク高密度知覚への原則的かつスケーラブルな経路を確立することを、様々なベンチマークで実証した。
関連論文リスト
- Unified Prediction and Planning via Conflict-Aware Disjoint Parameter Training [45.15470201181512]
混雑した環境での社会ロボットナビゲーションには、周囲のエージェントの正確な予測と安全な計画が必要である。
本稿では,新しいモデルベースフレームワークであるDisjoint表現を提案する。
トレーニング(DPT) – コア機能を維持しながら、各タスクのキーパラメータ領域を分離する。
DPTは、様々なマージ手法と並行して適用することができる。
論文 参考訳(メタデータ) (2026-07-22T09:54:22Z) - OrthoTryOn: Geometric Orthogonalization for Conflict-Free Unified Fashion Generation [43.40052085990979]
統一ファッション生成は、仮想試着や衣服の再構築のようなタスクを単一のモデルに統合し、タスク固有の適応コストを削減する。
我々は、共有Low-AdaptationRank(LoRA)モジュール内でこの干渉を緩和する統合フレームワークOrthoTryOnを提案する。
論文 参考訳(メタデータ) (2026-06-26T09:23:25Z) - OmniVL-Guard: Towards Unified Vision-Language Forgery Detection and Grounding via Balanced RL [63.388513841293616]
既存の偽造検出手法は、現実世界の誤報に多いインターリーブされたテキスト、画像、ビデオを扱うのに失敗する。
このギャップを埋めるため,本論文では,オムニバス・ビジョン言語による偽造検出と接地のための統一フレームワークの開発を目標としている。
我々は、OmniVL-Guardという、オムニバス視覚言語による偽造検出と接地のためのバランスの取れた強化学習フレームワークを提案する。
論文 参考訳(メタデータ) (2026-02-11T09:41:36Z) - Advancing Video Anomaly Detection: A Bi-Directional Hybrid Framework for Enhanced Single- and Multi-Task Approaches [16.96592682625058]
本稿では,通常のフレームに対する正確な予測と異常フレームに対する欠陥予測を生成するための効果的なハイブリッドフレームワークを提案する。
我々は,すべてのコンテキストフレームから特徴マップを効率的に関連付け,対象フレームに対する注意に基づく予測を生成する畳み込み時間変換器を開発した。
最終的に異常は、ターゲットフレームとそれに対応する予測との相違を精査することによって識別される。
論文 参考訳(メタデータ) (2025-04-20T22:27:24Z) - ComPtr: Towards Diverse Bi-source Dense Prediction Tasks via A Simple yet General Complementary Transformer [71.82644727907146]
多様な双方向の高密度予測タスクに対して,$underlineComP$lementary $underlinetr$ansformer, $textbfComPtr$を提案する。
ComPtrは異なる入力を等しく扱い、変換器上にシーケンス・ツー・シーケンスの形で効率的な密な相互作用モデルを構築する。
論文 参考訳(メタデータ) (2023-07-23T15:17:45Z) - Object Segmentation by Mining Cross-Modal Semantics [68.88086621181628]
マルチモーダル特徴の融合と復号を導くために,クロスモーダル・セマンティックスをマイニングする手法を提案する。
具体的には,(1)全周減衰核融合(AF),(2)粗大デコーダ(CFD),(3)多層自己超越からなる新しいネットワークXMSNetを提案する。
論文 参考訳(メタデータ) (2023-05-17T14:30:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。