論文の概要: Norm or Direction? Decoding Vision Mambas for High-Resolution Vision

• arxiv url: http://arxiv.org/abs/2607.18625v1
• Date: Tue, 21 Jul 2026 01:49:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-22 19:05:05.290288
• Title: Norm or Direction? Decoding Vision Mambas for High-Resolution Vision
• Title（参考訳）: ノームか方向か? -高分解能ビジョンのための視覚マンバの復号化
• Abstract要約: VMamba と MambaOut が視覚情報を表現レベルで異なる方法で符号化するかどうかを検討する。 VMambaの最終ステージブロックは、MambaOutとそれ以前のブロックとを明確に異なる表現を形成する。 トークンの大きさと方向構造は、視覚的バックボーンを改善するために重要な軸となると結論付けている。
• 参考スコア（独自算出の注目度）: 7.109294730666632
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision Mamba models replace quadratic self-attention with linear complexity selective state space models (SSMs), emerging as efficient visual backbones. However, MambaOut demonstrates that a Gated CNN block can match or exceed VMamba on image classification, questioning the necessity of SSMs for vision. This raises a fundamental question: do VMamba and MambaOut encode visual information differently at the representation level? To investigate, we apply cross model centered kernel alignment (CKA) analysis and find that VMamba's final stage blocks form representations distinctly different from both MambaOut and its own preceding blocks. We therefore focus on the final block features, decomposing each spatial token into magnitude and direction. MambaOut concentrates class-discriminative information in high-norm foreground tokens that align with Grad-CAM attribution. VMamba, by contrast, produces high-norm tokens predominantly in background regions, misaligned with Grad-CAM, yet preserves discriminative signals primarily in token directions. These observations reveal that the two models rely on different encoding strategies. We connect this difference to high-resolution classification and semantic segmentation. VMamba distributes logit support broadly across object regions, whereas MambaOut relies on sparse dominant tokens, a strategy that becomes less stable as token counts grow. Under full fine-tuning for segmentation, VMamba consistently outperforms MambaOut. These results suggest that VMamba's advantage in dense prediction stems not merely from the SSM mechanism or sequence length, but from how semantic evidence is organized across token magnitude, direction. Ultimately, we conclude that token magnitude and directional structure serve as critical axes for improving visual backbones, particularly under dense supervision.
• Abstract（参考訳）: ビジョン・マンバモデルは2次自己アテンションを線形複雑選択状態空間モデル(SSM)に置き換え、効率的な視覚バックボーンとして現れる。 しかし、MambaOutは、Gated CNNブロックが画像分類においてVMambaと一致したり、超えたりできることを示した。 VMambaとMambaOutは、表現レベルで視覚情報を異なる方法でエンコードするのか? そこで我々は,クロスモデル中心カーネルアライメント(CKA)解析を適用し,VMambaの最終段階ブロックが,MambaOutとそれ以前のブロックとを明確に異なる表現を形成することを発見した。 そこで我々は,各空間トークンを大きさと方向に分解し,最終ブロックの特徴に着目した。 MambaOutは、Grad-CAM属性に一致した高ノルムのフォアグラウンドトークンにクラス識別情報を集中させる。 対照的にVMambaは、主にバックグラウンド領域でハイノームトークンを生成し、Grad-CAMと一致していないが、主にトークン方向の識別信号を保持する。 これらの観察により、2つのモデルは異なる符号化戦略に依存していることが明らかとなった。 この違いを高分解能な分類とセマンティックセグメンテーションに結びつける。 VMambaはオブジェクトリージョンをまたいだログサポートを広く配布するが、MambaOutはトークン数が増加するにつれて安定しなくなるような、まばらな支配的なトークンに依存している。 セグメンテーションの完全な微調整の下で、VMambaは一貫してMambaOutを上回っている。 これらの結果は、密度予測におけるVMambaの利点は、単にSSM機構やシーケンス長だけでなく、トークンの規模や方向のセマンティックエビデンスがどのように構成されているかから来ていることを示唆している。 最終的に、トークンの大きさと方向構造は、特に密集した監督の下で、視覚的背骨を改善するために重要な軸となると結論づける。

関連論文リスト

• Rotation Equivariant Mamba for Vision Tasks [66.32081000860958]
  視覚タスクのための第1回回転同変視覚マンバアーキテクチャであるEQ-VMambaを紹介する。 EQ-VMambaは,非等価なベースラインに比べて,優れた,あるいは競争的な性能を発揮することを示す。
  論文  参考訳（メタデータ） (2026-03-10T03:22:33Z)
• Dynamic Vision Mamba [41.84910346271891]
  マンバベースの視覚モデルは、注意に基づくモデルよりも計算的に効率的であることから、広く注目を集めている。 トークンの冗長性については、初期トークンプルーニング手法がトレーニングと推論の不整合をもたらすことを解析的に見出した。 ブロック冗長性については,マンバ型視覚モデルの推論速度がSSMブロック数に大きく影響しているという経験的観察に基づいて,各画像が動的にSSMブロックを選択することができる。
  論文  参考訳（メタデータ） (2025-04-07T07:31:28Z)
• Visual Attention Exploration in Vision-Based Mamba Models [13.931745986906769]
  状態空間モデル(SSM)は、トランスフォーマーモデルに代わる効率的な代替品として登場した。 SSMの最新の進歩の1つ、Mambaは、トレーニング可能なウェイトを入力トークンに割り当てる選択的スキャン機構を導入した。 Mambaはまた、2D画像を小さなパッチに分解し、1Dシーケンスとしてアレンジすることで、視覚領域にまで拡張された。
  論文  参考訳（メタデータ） (2025-02-28T06:33:18Z)
• V2M: Visual 2-Dimensional Mamba for Image Representation Learning [68.51380287151927]
  Mambaは、フレキシブルな設計と、1Dシーケンスを処理するための効率的なハードウェア性能のために、広く注目を集めている。 最近の研究では、マンバを2D画像をパッチに平らにすることで視覚領域に適用し、それらを1Dシークエンスとして扱うことが試みられている。 2次元空間における画像トークンを直接処理する完全解として,視覚的2次元マンバモデルを提案する。
  論文  参考訳（メタデータ） (2024-10-14T11:11:06Z)
• MambaVision: A Hybrid Mamba-Transformer Vision Backbone [54.965143338206644]
  視覚応用に適した新しいハイブリッド型Mamba-TransformerバックボーンMambaVisionを提案する。 最終層に自己アテンションブロックを付加したMambaアーキテクチャは,長距離空間依存性を捕捉する能力を大幅に向上することを示す。 ImageNet-1Kデータセットの分類において、MambaVisionの変種は、Top-1の精度とスループットの両方の観点から、最先端(SOTA)のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2024-07-10T23:02:45Z)
• Demystify Mamba in Vision: A Linear Attention Perspective [72.93213667713493]
  Mambaは線形計算複雑性を持つ効率的な状態空間モデルである。 我々は,Mambaが線形アテンショントランスフォーマーと驚くほど類似していることを示す。 本稿では,これら2つの鍵設計の利点を線形注意に取り入れた,マンバインスパイアされた線形注意(MILA)モデルを提案する。
  論文  参考訳（メタデータ） (2024-05-26T15:31:09Z)
• PlainMamba: Improving Non-Hierarchical Mamba in Visual Recognition [21.761988930589727]
  PlainMambaは、一般的な視覚認識のために設計された単純な非階層的状態空間モデル(SSM)である。 我々は,マンバの選択的走査過程を視覚領域に適応させ,二次元画像から特徴を学習する能力を高める。 私たちのアーキテクチャは、同一のPlainMambaブロックを積み重ねることで、使いやすく、拡張しやすいように設計されています。
  論文  参考訳（メタデータ） (2024-03-26T13:35:10Z)
• ZigMa: A DiT-style Zigzag Mamba Diffusion Model [22.68317748373856]
  我々は、Mambaと呼ばれる状態空間モデルの長いシーケンスモデリング機能を活用し、その視覚データ生成への適用性を高めることを目指している。 我々は,Zigzag Mamba という,シンプルな,プラグアンドプレイのゼロパラメータ法を導入し,Mamba ベースのベースラインを上回ります。 Zigzag Mamba と Interpolant フレームワークを統合し,大規模なビジュアルデータセット上でのモデルのスケーラビリティについて検討する。
  論文  参考訳（メタデータ） (2024-03-20T17:59:14Z)
• PointMamba: A Simple State Space Model for Point Cloud Analysis [65.59944745840866]
  我々は、最近の代表的状態空間モデル(SSM)であるMambaの成功を、NLPからポイントクラウド分析タスクへ転送するPointMambaを提案する。 従来のトランスフォーマーとは異なり、PointMambaは線形複雑性アルゴリズムを採用し、グローバルなモデリング能力を示しながら計算コストを大幅に削減する。
  論文  参考訳（メタデータ） (2024-02-16T14:56:13Z)
• VMamba: Visual State Space Model [98.0517369083152]
  状態空間言語モデルであるMambaを、線形時間複雑性を持つビジョンバックボーンであるVMambaに適合させる。 VMambaのコアには2D Selective Scan (SS2D)モジュールを備えたVisual State-Space (VSS)ブロックのスタックがある。
  論文  参考訳（メタデータ） (2024-01-18T17:55:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。