論文の概要: Sparse All-Layer Connector for Domain Generalised Semantic Segmentation
- arxiv url: http://arxiv.org/abs/2610.15660v1
- Date: Sun, 11 Oct 2026 14:39:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-19 17:19:57.223912
- Title: Sparse All-Layer Connector for Domain Generalised Semantic Segmentation
- Title(参考訳): 領域一般化セマンティックセマンティックセグメンテーションのためのスパース全層コネクタ
- Abstract要約: ドメイン一般化セマンティックセグメンテーション(DGSS)は、最近、視覚言語や視覚基礎モデルといった複数の基礎モデルを組み合わせて、それらの多種多様な表現を一般化に活用することで恩恵を受けている。
既存のマルチモデルアプローチは共通の設計選択を共有している。
Sparse All-Layer Connector (SALC) を提案する。
- 参考スコア(独自算出の注目度): 15.890308831232646
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Domain generalised semantic segmentation (DGSS) has recently benefited from combining multiple foundation models, such as vision-language and vision foundation models, to leverage their diverse representations for generalisation. Existing multi-model approaches share a common design choice: cross-model fusion is restricted to depth-aligned layers, implicitly assuming that mutually beneficial information resides at the same depth across models. However, foundation models pretrained under different objectives may develop distinct representation hierarchies, making the optimality of depth-aligned fusion questionable. Moreover, we observe that the foundation models exhibit different depth-wise domain sensitivity. Motivated by these observations, we propose a Sparse All-Layer Connector (SALC) that enables each layer to access information from preceding layers of another model. As the number of accessible layers grows with depth, dense aggregation may hurt generalisation. SALC therefore learns to adaptively select a sparse subset of informative layers. We further introduce a candidate dropout regularisation that strengthens sparsity and encourages SALC to explore diverse layers, leading to more robust selection. Across four foundation model combinations and three DGSS evaluation settings, the proposed design demonstrates stronger generalisation than conventional depth-aligned fusion. The code is available at https://github.com/RuoyuGuo/SALC.
- Abstract(参考訳): ドメイン一般化セマンティックセグメンテーション(DGSS)は、最近、視覚言語や視覚基礎モデルといった複数の基礎モデルを組み合わせて、それらの多種多様な表現を一般化に活用することの恩恵を受けている。
モデル間の融合は、相互に有益な情報がモデル全体で同じ深さに存在することを暗黙的に仮定して、深度に整合した層に制限される。
しかし、異なる目的の下で事前訓練された基礎モデルは、異なる表現階層を発達させ、深さ整合融合の最適性は疑わしい。
さらに,基礎モデルでは,深部領域の感度が異なることが観察された。
これらの観測により、各層が他のモデルの先行層から情報にアクセスできるようにするスパース全層コネクタ(SALC)を提案する。
アクセス可能な層の数が増えると、密集集合が一般化を損なう可能性がある。
したがって、SALCは情報層を疎いサブセットに適応的に選択することを学ぶ。
さらに、ポーラシティを強化し、多様な層を探索し、より堅牢な選択をもたらすようにSALCを奨励する候補のドロップアウト正規化を導入する。
4つの基礎モデルの組み合わせと3つのDGSS評価設定において、提案設計は従来の深度整合融合よりも強い一般化を示す。
コードはhttps://github.com/RuoyuGuo/SALCで入手できる。
関連論文リスト
- Surfing the Activation Wave: Analyzing the Information and Geometry of LLM Hidden States for Speculative Decoding [10.333388587017215]
本稿では,情報性と多様性に基づく投機的復号化のための多層隠れ状態選択のための基本的フレームワークを提案する。
これらの知見に触発されて,高情報かつ最小限の冗長性を持つ隠れ状態集合を優先するエントロピーおよびCKAに基づく層選択アルゴリズムを提案する。
論文 参考訳(メタデータ) (2026-10-09T03:38:26Z) - DBCF: Dual-Branch Complementary Fusion of Foundation Models for Generalized Deepfake Detection [43.58339450050692]
偽造検出モデルは 様々な領域をまたいだ一般化と 目に見えない操作に苦慮する
本稿では,相補的な事前学習表現を統合した階層型多粒度フレームワークを提案する。
提案手法は,より包括的な偽造表現を学習し,高い操作性能を実現する。
論文 参考訳(メタデータ) (2026-09-28T09:26:55Z) - IMFuse: Instance-Aware Multi-Layer Fusion for LLM-Enhanced Sequential Recommendation [12.812732809987436]
IMFuseはシーケンシャルレコメンデーションのためのインスタンス対応多層融合戦略である。
グローバル次元の層選好を学習することで、多層意味情報を集約する。
常に最先端のベースラインを上回り、平均的な相対的な改善は6.72%である。
論文 参考訳(メタデータ) (2026-07-29T14:58:36Z) - Last-Layer-Centric Feature Recombination: Unleashing 3D Geometric Knowledge in DINOv3 for Monocular Depth Estimation [4.654162664140336]
近年の視覚基礎モデル (VFM) は, 高精度化と高密度予測の一般化を実現している。
本研究では,DINOv3の階層構造解析を行い,非一様に3次元情報を分散していることを明らかにする。
そこで我々は, 幾何学的表現性を高めるためにLFRモジュールを導入する。
論文 参考訳(メタデータ) (2026-04-29T09:11:36Z) - ParaUni: Enhance Generation in Unified Multimodal Model with Reinforcement-driven Hierarchical Parallel Information Interaction [55.21514454560188]
統一マルチモーダルモデルでは、視覚の粒度モデル(VLM)と拡散モデルを組み合わせることで、視覚生成を著しく改善する。
既存の手法は、表現の差が大きいため、十分な相互作用と柔軟な実装のバランスをとるのに苦労する。
我々は,textbfParallel方式でVLMの変形層から特徴を抽出し,包括的情報インタラクションを実現するtextbfParaUniを提案する。
論文 参考訳(メタデータ) (2025-12-05T04:41:57Z) - PacGDC: Label-Efficient Generalizable Depth Completion with Projection Ambiguity and Consistency [63.74016242995453]
PacGDCは、一般化可能な深度補完のための最小限のアノテーションでデータ多様性を向上させるラベル効率のよい手法である。
本稿では,複数の深度基礎モデルをスケールマニピュレータとして利用する新しいデータ合成パイプラインを提案する。
実験により、PacGDCは複数のベンチマークで顕著に一般化可能であることが示された。
論文 参考訳(メタデータ) (2025-07-10T01:56:30Z) - Multimodal Language Models See Better When They Look Shallower [54.5303326937134]
マルチモーダル大言語モデル(MLLM)は、通常、事前訓練された視覚変換器(ViT)の最終層から視覚的特徴を抽出する。
MLLMの視覚層選択に関する最初の総合的研究を行い,VT層間の表現類似性を解析した。
我々は、深い層がOCRのようなセマンティックリッチなタスクに優れているのに対して、浅い層と中層の層は、きめ細かい視覚的なタスクでそれらを著しく上回っていることに気付きました。
論文 参考訳(メタデータ) (2025-04-30T09:07:10Z) - Towards Optimal Customized Architecture for Heterogeneous Federated
Learning with Contrastive Cloud-Edge Model Decoupling [20.593232086762665]
フェデレートラーニングは、有望な分散学習パラダイムとして、中央データ収集を必要とせずに、複数のネットワークエッジクライアントにわたるグローバルモデルの協調トレーニングを可能にする。
我々はFedCMDと呼ばれる新しいフェデレーション学習フレームワークを提案する。
私たちのモチベーションは、パーソナライズされた頭として異なるニューラルネットワーク層を選択するパフォーマンスを深く調査することで、現在の研究でパーソナライズされた頭として最後の層を厳格に割り当てることが常に最適であるとは限らない、ということです。
論文 参考訳(メタデータ) (2024-03-04T05:10:28Z) - RGM: A Robust Generalizable Matching Model [49.60975442871967]
RGM(Robust Generalist Matching)と呼ばれる疎密マッチングのための深部モデルを提案する。
合成トレーニングサンプルと実世界のシナリオのギャップを狭めるために、我々は、疎対応基盤真理を持つ新しい大規模データセットを構築した。
さまざまな密集したスパースなデータセットを混ぜ合わせることができ、トレーニングの多様性を大幅に改善しています。
論文 参考訳(メタデータ) (2023-10-18T07:30:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。