論文の概要: SCMerge: Spatial-Consistency-Aware Token Pair Merging for Efficient Semantic Segmentation

• arxiv url: http://arxiv.org/abs/2610.21642v1
• Date: Thu, 15 Oct 2026 10:23:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 06:09:33.02413
• Title: SCMerge: Spatial-Consistency-Aware Token Pair Merging for Efficient Semantic Segmentation
• Title（参考訳）: SCMerge: 効率的なセマンティックセグメンテーションのための空間整合型トークンペアマージ
• Abstract要約: SCMergeは、類似トークンのペアリングにおける特徴類似性と空間整合性を考慮した、トレーニング不要なトークンマージ手法である。 ADE20K、Pascal Context、Cityscapesのベンチマークデータセットの実験は、SCMergeがベースラインメソッドよりもセグメンテーション精度と効率のトレードオフを一貫して達成していることを示している。
• 参考スコア（独自算出の注目度）: 6.395596241630628
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Vision Transformer architectures have showcased impressive performance on semantic segmentation, yet their quadratic attention complexity hinders practical applications. Recent works have focused on merging tokens to reduce sequence length and thus improve transformer efficiency. However, existing token merging methods primarily rely on feature similarity to identify similar tokens, overlooking spatial consistency, which may introduce segmentation errors in semantic segmentation. In this work, we propose SCMerge, a training-free token merging method that jointly considers feature similarity and spatial consistency in pairing similar tokens. The pairwise tokens are then merged within the encoder, and the resulting token sequences are reconstructed onto the original patch grid after decoding. The proposed method is flexible and can be plugged into existing vision Transformer-based semantic segmentation pipelines. Extensive experiments on the benchmark datasets ADE20K, Pascal Context, and Cityscapes show that SCMerge consistently achieves a better trade-off between segmentation accuracy and efficiency than baseline methods.
• Abstract（参考訳）: 視覚トランスフォーマーアーキテクチャはセマンティックセグメンテーションにおいて優れた性能を示してきたが、その二次的な注意の複雑さは実用的な応用を妨げる。 最近の研究は、シーケンス長を減らしトランス効率を向上させるためにトークンをマージすることに焦点を当てている。 しかし、既存のトークンマージ手法は、主に類似したトークンを識別するために機能的類似性に依存しており、空間的整合性を見落とし、セマンティックセグメンテーションにおけるセグメンテーションエラーをもたらす可能性がある。 本研究では,SCMergeを提案する。SCMergeは,類似したトークンのペアリングにおいて,特徴の類似性と空間的整合性を共同で考慮した,トレーニング不要なトークンマージ手法である。 ペアワイズトークンはエンコーダ内にマージされ、結果として得られたトークンシーケンスはデコード後に元のパッチグリッドに再構成される。 提案手法は柔軟で,既存の視覚変換器をベースとしたセマンティックセマンティックセマンティクスパイプラインにプラグインできる。 ADE20K、Pascal Context、Cityscapesのベンチマークデータセットに対する大規模な実験は、SCMergeがベースライン手法よりもセグメンテーション精度と効率のトレードオフを一貫して達成していることを示している。

関連論文リスト

• MergeDNA: Context-aware Genome Modeling with Dynamic Tokenization through Token Merging [65.07273789940116]
  本稿では,動的ゲノミクストークンと潜在トランスフォーマーをコンテキスト対応事前学習タスクで協調的に最適化する階層型アーキテクチャを提案する。 MergeDNAは3つの人気のあるDNAベンチマークと、微調整やゼロショット評価を伴う複数のマルチオミクスタスクにおいて優れたパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2025-11-17T19:27:41Z)
• ClustViT: Clustering-based Token Merging for Semantic Segmentation [2.661056455199956]
  最近の研究は、画像の複雑さに応じてトークンを動的にマージすることに焦点を当てている。 我々は、視覚変換器(ViT)のバックボーンとアドレスセマンティックセグメンテーションを拡張するClustViTを提案する。 提案手法は,3つのデータセットに対して最大2.18倍のGFLOPと1.64倍の高速推論を実現する。
  論文  参考訳（メタデータ） (2025-10-02T12:15:40Z)
• Unified Semantic and ID Representation Learning for Deep Recommenders [28.709935854073535]
  統一意味・ID表現学習フレームワークを提案する。 我々のフレームワークでは、IDトークンはユニークなアイテム属性をキャプチャし、セマンティックトークンは共有可能な、転送可能な特性を表す。 本フレームワークは,先行層におけるコサイン類似性と最終層におけるユークリッド距離を統合し,表現学習を最適化する。
  論文  参考訳（メタデータ） (2025-02-23T07:17:28Z)
• SepLLM: Accelerate Large Language Models by Compressing One Segment into One Separator [65.62084602011596]
  大規模言語モデル(LLM)は、自然言語処理タスクの範囲で例外的な性能を示した。 特定の意味のないセパレータトークン(句読点)は意味的に意味のあるトークンと比較して注意点に不均等に寄与する。 SepLLMは,これらのセグメントを圧縮し,冗長なトークンを除去することによって推論を高速化する,プラグアンドプレイフレームワークである。
  論文  参考訳（メタデータ） (2024-12-16T18:58:57Z)
• Learning to Merge Tokens via Decoupled Embedding for Efficient Vision Transformers [18.850145019462552]
  ビジョントランスフォーマー(ViT)の最近のトークン削減手法では、トークンの埋め込みの類似度を測定し、最も類似したペアを組み合わせるトークンマージが組み込まれている。 本手法では,ViTフォワードパスから分離した軽量な埋め込みモジュールを導入し,トークンマージ専用の特徴を抽出する。 分離構造のおかげで既存のViTバックボーンにシームレスに統合することができ、デカップリングされた埋め込みのみを学ぶか、微調整でエンドツーエンドで学習することでモジュール的にトレーニングすることができる。
  論文  参考訳（メタデータ） (2024-12-13T21:17:11Z)
• Semantic Equitable Clustering: A Simple and Effective Strategy for Clustering Vision Tokens [57.37893387775829]
  我々はSemantic Equitable Clustering(SEC)という,高速かつバランスの取れたクラスタリング手法を導入する。 SECは、グローバルなセマンティックな関連性に基づいてトークンを効率的かつ直接的な方法でクラスタ化する。 視覚言語コネクタとして機能する汎用視覚バックボーンであるSECViTを提案する。
  論文  参考訳（メタデータ） (2024-05-22T04:49:00Z)
• MST: Adaptive Multi-Scale Tokens Guided Interactive Segmentation [8.46894039954642]
  対話型セグメンテーションのための新しいマルチスケールトークン適応アルゴリズムを提案する。 マルチスケールトークンでトップk演算を行うことで、計算の複雑さが大幅に単純化される。 また,コントラスト損失に基づくトークン学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-01-09T07:59:42Z)
• Token Fusion: Bridging the Gap between Token Pruning and Token Merging [71.84591084401458]
  ビジョントランスフォーマー(ViT)はコンピュータビジョンの強力なバックボーンとして登場し、多くの伝統的なCNNを上回っている。 計算オーバーヘッドは、主に自己アテンション機構によるもので、リソース制約のあるエッジデバイスへのデプロイが困難になる。 トークンプルーニングとトークンマージの両方のメリットを両立させる手法であるToken Fusion(ToFu)を紹介する。
  論文  参考訳（メタデータ） (2023-12-02T04:29:19Z)
• Token-Label Alignment for Vision Transformers [93.58540411138164]
  データ混合戦略(例えば、CutMix)は、畳み込みニューラルネットワーク(CNN)の性能を大幅に改善する能力を示している。 我々は,データ混合戦略の可能性を抑制するトークン変動現象を同定する。 本稿では,各トークンのラベルを保持するために,変換されたトークンと元のトークンとの対応をトレースするトークンラベルアライメント(TL-Align)手法を提案する。
  論文  参考訳（メタデータ） (2022-10-12T17:54:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。