論文の概要: LUMA: Benchmarking Segmentation via a Lightweight Universal Mask Adapter
- arxiv url: http://arxiv.org/abs/2607.00687v1
- Date: Wed, 01 Jul 2026 09:35:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-02 19:56:07.831001
- Title: LUMA: Benchmarking Segmentation via a Lightweight Universal Mask Adapter
- Title(参考訳): LUMA:軽量ユニバーサルマスクアダプタによるセグメンテーションのベンチマーク
- Abstract要約: バックボーンをブラックボックスの特徴抽出器として扱う軽量なバックボーン非依存型マスクトランスフォーマーヘッドを提案する。
20のバックボーン、11のプレトレーニングスキーム、ADE20KとCityscapesのさまざまな解像度を、現代的なレシピでベンチマークします。
効率的な'トークンミキサーは、それらを動機づける高解像度でも効率が得られません。
- 参考スコア(独自算出の注目度): 9.125627586120421
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Comparing transformer backbones for image segmentation is confounded: each is paired with a different decoder, recipe, and pretraining, so reported differences rarely reflect the backbone itself. We introduce the Lightweight Universal Mask Adapter (LUMA), a lightweight, backbone-agnostic mask-transformer head that treats any backbone as a black-box feature extractor, letting a set of queries read from its features through cheap cross-attention. LUMA matches the accuracy of EoMT, the state-of-the-art efficient ViT-segmenter, at lower cost, while attaching unchanged to isotropic, hierarchical, convolutional, and mixture-of-experts backbones alike. Holding this head fixed, we benchmark 20 backbones, 11 pretraining schemes and a range of resolutions on ADE20K and Cityscapes under one modern recipe. We find that ``efficient'' token mixers fail to deliver efficiency even at the high resolutions that motivate them, with plain ViT holding the throughput Pareto-front at every resolution. Additionally, the pretraining objective, not the architecture, the lever the field has tuned hardest, governs segmentation quality.
- Abstract(参考訳): イメージセグメンテーションのためのトランスフォーマーバックボーンの比較は、それぞれが異なるデコーダ、レシピ、事前トレーニングとペアリングされているため、報告された違いがバックボーン自体を反映することは滅多にない。
バックボーンをブラックボックス機能抽出器として扱う軽量でバックボーンに依存しないマスクトランスフォーマーヘッドである軽量ユニバーサルマスクアダプタ(LUMA)を導入する。
LUMAは最先端の高効率なViTセグメンタであるEoMTの精度と低コストで一致し、等方性、階層性、畳み込み、および熟練したバックボーンの混在に変化しない。
この頭を固定すると、20のバックボーン、11の事前トレーニングスキーム、ADE20KとCityscapesの様々な解像度を1つの現代的なレシピでベンチマークします。
トークンミキサーは高解像度でも効率が得られず、平易なViTはすべての解像度でPareto-frontのスループットを保持します。
さらに、事前訓練対象はアーキテクチャではなく、フィールドが最もチューニングされたレバーであり、セグメンテーションの品質を統制する。
関連論文リスト
- iFAN: Inference-Aware Learning for Plain Mask Transformers [19.684667597224152]
Inference-Aware Learning (iFAN)は、マスクトランスフォーマーのトレーニングフレームワークである。
iFANは、クエリ競合を予測されたマスクの品質と整合させ、高信頼だが不正確な競合を抑える。
COCO、ADE20K、Cityscapesの実験では、汎光学、例えばセマンティックセグメンテーションにおける一貫した改善が示されている。
論文 参考訳(メタデータ) (2026-08-04T06:51:06Z) - Faster or Stronger: Towards Flexible Visual Place Recognition via Weighted Aggregation and Token Pruning [27.4981354426677]
ビジュアルプレース認識(VPR)は、大規模データベース内の同じ場所の参照画像とクエリイメージをマッチングすることを目的としている。
自己蒸留による特徴抽出コストを削減するVPR指向のトークンプルーニングフレームワークであるWeiToPを紹介する。
WeiToPは、推論時にプラグアンドプレイトークンのプルーニングを可能にし、追加のトレーニングなしで正確性と効率のトレードオフを柔軟かつオンデマンドに制御できる。
論文 参考訳(メタデータ) (2026-05-19T23:01:57Z) - DECO: Sparse Mixture-of-Experts with Dense-Comparable Performance on End-Side Devices [27.533004971063175]
DECOは、同一のパラメータ予算とトレーニングトークンの下での高密度トランスフォーマーのパフォーマンスに適合するように設計された、疎いMoEアーキテクチャである。
我々は,Jetson AGX Orin上で2.93$times$の高速化を実現した。
論文 参考訳(メタデータ) (2026-05-11T17:58:28Z) - GenMask: Adapting DiT for Segmentation via Direct Mask Generation [81.54526445834294]
間接的な適応の代わりに、セグメント化タスクは生成的な方法で直接訓練されるべきである、と我々は主張する。
分割のための極度のノイズレベルと画像生成のための中等度雑音を強調する二元マスクの時間ステップサンプリング戦略を導入する。
GenMaskは,RGB空間における色鮮やかな画像だけでなく,黒と白のセグメンテーションマスクを生成するためのDiTトレインである。
論文 参考訳(メタデータ) (2026-03-25T03:52:05Z) - SliceMoE: Routing Embedding Slices Instead of Tokens for Fine-Grained and Balanced Transformer Scaling [0.0]
Mixture-of-Experts (MoE)レイヤは、トークンをフィードフォワードの専門家のまばらなサブセットにルーティングすることで、トランスフォーマーをスケールする。
我々はトークンの隠れベクトルの連続スライスをルーティングするアーキテクチャであるSliceMoEを紹介する。
WikiText-103言語モデリング、WMT En-De翻訳、および3つのテキスト分類データセットの実験により、SliceMoEは密度の高いベースラインよりも1.7倍高速な推論が可能となった。
論文 参考訳(メタデータ) (2025-10-05T16:57:32Z) - Synergy and Diversity in CLIP: Enhancing Performance Through Adaptive Backbone Ensembling [58.50618448027103]
コントラスト言語-画像事前学習(CLIP)は画像表現学習において顕著な手法である。
本稿では,CLIPを訓練した視覚バックボーンの違いについて検討する。
方法によって、最高の単一のバックボーンよりも39.1%の精度が著しく向上する。
論文 参考訳(メタデータ) (2024-05-27T12:59:35Z) - Progressive Token Length Scaling in Transformer Encoders for Efficient Universal Segmentation [67.85309547416155]
ユニバーサルセグメンテーションのための強力なアーキテクチャは、マルチスケールの画像特徴を符号化し、オブジェクトクエリをマスク予測にデコードするトランスフォーマーに依存している。
このようなモデルのスケーリングには効率性が優先されるため、最先端のMask2Formerでは、変換器エンコーダのみに計算の50%を使用しています。
これは、エンコーダ層ごとにすべてのバックボーン機能スケールのトークンレベルの完全な表現が保持されているためである。
論文 参考訳(メタデータ) (2024-04-23T01:34:20Z) - MoE-FFD: Mixture of Experts for Generalized and Parameter-Efficient Face Forgery Detection [54.545054873239295]
ディープフェイクは、最近、国民の間で重大な信頼問題とセキュリティ上の懸念を提起した。
ViT法はトランスの表現性を生かし,優れた検出性能を実現する。
この研究は、汎用的でパラメータ効率のよいViTベースのアプローチであるFace Forgery Detection (MoE-FFD)のためのMixture-of-Expertsモジュールを導入する。
論文 参考訳(メタデータ) (2024-04-12T13:02:08Z) - Reciprocal Attention Mixing Transformer for Lightweight Image Restoration [6.3159191692241095]
本稿では,RAMiT(Reciprocal Attention Mixing Transformer)という軽量画像復元ネットワークを提案する。
二次元(空間とチャネル)の自己アテンションを、異なる数のマルチヘッドと並行して使用する。
超高分解能、カラーデノイング、グレースケールデノナイジング、低照度向上、デラリニングなど、複数の軽量IRタスクにおける最先端のパフォーマンスを実現している。
論文 参考訳(メタデータ) (2023-05-19T06:55:04Z) - SegViT: Semantic Segmentation with Plain Vision Transformers [91.50075506561598]
意味的セグメンテーションのための平易な視覚変換器(ViT)の能力について検討する。
本研究では,学習可能なクラストークンの集合と空間特徴マップの類似性をセグメンテーションマスクに転送するATMモジュールを提案する。
実験の結果,ATMモジュールを用いたSegVitは,通常のViTバックボーンよりも優れていることがわかった。
論文 参考訳(メタデータ) (2022-10-12T00:30:26Z) - ConvMAE: Masked Convolution Meets Masked Autoencoders [65.15953258300958]
機能事前トレーニングとマルチスケールハイブリッド畳み込み変換アーキテクチャのためのマスク付き自動エンコーディングは、ViTの可能性をさらに解き放つことができる。
我々のConvMAEフレームワークは、マスクの自動符号化方式により、マルチスケールのハイブリッド畳み込み変換器がより識別的な表現を学習できることを実証している。
事前訓練したConvMAEモデルに基づいて、ConvMAE-Baseは画像Net-1Kの微調整精度をMAE-Baseと比較して1.4%改善する。
論文 参考訳(メタデータ) (2022-05-08T15:12:19Z) - Pyramid Fusion Transformer for Semantic Segmentation [44.57867861592341]
マルチスケール特徴量を持つマスク毎のセマンティックセマンティックセグメンテーションのためのトランスフォーマベースピラミッドフュージョントランス (PFT) を提案する。
広く使われている3つのセマンティックセグメンテーションデータセット上での競合性能を実現する。
論文 参考訳(メタデータ) (2022-01-11T16:09:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。