論文の概要: Zamba2-VL Technical Report

• arxiv url: http://arxiv.org/abs/2606.00390v1
• Date: Fri, 29 May 2026 22:12:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-02 21:34:28.379185
• Title: Zamba2-VL Technical Report
• Title（参考訳）: Zamba2-VL技術報告
• Abstract要約: Zamba2-VL (Zamba2-VL) は、Zamba2上に開発されたビジョンハグモデルである。 Zamba2-VLはTransformerベースのオープンウェイトVLMと競合する。
• 参考スコア（独自算出の注目度）: 8.908951409226969
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We present Zamba2-VL, a suite of vision-language models built on Zamba2, a hybrid language-model architecture combining Mamba2 state-space layers with a small number of shared transformer blocks. Across a broad range of image understanding, reasoning, OCR, grounding, and counting benchmarks, Zamba2-VL is competitive with leading Transformer-based open-weight VLMs of comparable scale, including the Molmo2, Qwen3-VL, and InternVL3.5 families, and substantially outperforms prior SSM-based and hybrid VLMs such as VL-Mamba, Cobra, and mmMamba. Inheriting the near-linear prefill compute and small, near-constant recurrent state of its Zamba2 backbone, Zamba2-VL delivers roughly an order of magnitude lower time-to-first-token (TTFT) than these Transformer baselines at matched parameter scale, with the efficiency gap most pronounced at the smaller 1.2B and 2.7B scales most relevant to on-device and edge deployment. We release three models -- 1.2B, 2.7B, and 7B -- together with inference code at https://huggingface.co/collections/Zyphra/zamba2-vl.
• Abstract（参考訳）: 我々はZamba2-VLについて述べる。Zamba2はMamba2状態空間層と少数の共有トランスフォーマーブロックを組み合わせたハイブリッド言語モデルアーキテクチャである。 幅広い画像理解、推論、OCR、グラウンド化、計数ベンチマークにおいて、Zamba2-VLは、Molmo2、Qwen3-VL、InternVL3.5ファミリーを含むトランスフォーマーベースのオープンウェイトVLMと競合し、VL-Mamba、Cobra、mMambaといったSSMベースのハイブリッドVLMよりも大幅に優れている。 Zamba2-VL は、Zamba2 のバックボーンのほぼ直線的プリフィル計算と小さな、ほぼ一貫したリカレント状態を継承し、整合パラメータスケールでこれらのTransformer ベースラインよりも格段に低いタイム・ツー・ファースト・トケン(TTFT)を提供し、その効率ギャップは1.2B と 2.7B で最も小さく、デバイス上の展開とエッジ配置に最も関係している。 1.2B、2.7B、7Bという3つのモデルと、https://huggingface.co/collections/Zyphra/zamba2-vlの推論コードをリリースしています。

関連論文リスト

• XS-VLA: Coupling Coarse-grained Spatial Distillation with Latent Flow Matching for Lightweight Robotic Control [32.32342991342603]
  我々は,効率的な空間的接地型ロボット操作のためのフレームワークであるXS-VLAを提案する。 まず、Qwen3-VL-4BからSmolVLM2-0.25Bのバックボーンに空間意味知識を蒸留する。 第2に、この拡張バックボーンを使用して、遅延フローマッチングポリシーを条件にします。
  論文  参考訳（メタデータ） (2026-07-05T08:34:39Z)
• ZAYA1-VL-8B Technical Report [8.908951409226969]
  本稿では,ZAYA1-VL-8Bについて述べる。 コンパクトなサイズにもかかわらず、ZAYA1-VL は Molmo2-4B や InternVL3.5-4B といった主要なベースモデルと競合する性能を実現している。 モデルは9.2Bの総パラメータと、視覚エンコーダを含む1.4Bのアクティブパラメータで構成されている。
  論文  参考訳（メタデータ） (2026-05-08T23:41:13Z)
• STEP3-VL-10B Technical Report [115.89015065130127]
  STEP3-VL-10Bは、コンパクト効率とフロンティアレベルのマルチモーダルインテリジェンスとのトレードオフを再定義する軽量基盤モデルである。 そこで我々はPallel Coordinated Reasoning(PaCoRe)を実装して,テスト時間計算をスケールし,リソースをスケーラブルな知覚推論に割り当てる。 MMBenchでは92.2%、MMMUでは80.11%、AIME2025では94.43%、MathVisionでは75.95%である。
  論文  参考訳（メタデータ） (2026-01-14T17:58:24Z)
• SAIL-VL2 Technical Report [65.45818722427506]
  広義のマルチモーダル理解と推論のためのオープン・スイート・ビジョン・ファンデーション・モデル(LVM)であるSAIL-VL2を紹介する。 SAIL-VL2は2Bと8Bのパラメータスケールで様々な画像とビデオのベンチマークで最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2025-09-17T14:34:02Z)
• InternVL3: Exploring Advanced Training and Test-Time Recipes for Open-Source Multimodal Models [139.19991097260115]
  InternVL3は、ネイティブなマルチモーダル事前学習パラダイムを備えたInternVLシリーズの重要な進歩である。 特に、InternVL3-78B は MMMU ベンチマークで72.2 のスコアを獲得し、オープンソースの MLLM に新しい最先端技術を設定する。 オープンサイエンスの原則を追求するため、我々は、次世代MLLMのさらなる研究・開発を促進するために、トレーニングデータとモデルウェイトの両方を公開します。
  論文  参考訳（メタデータ） (2025-04-14T17:59:25Z)
• VLsI: Verbalized Layers-to-Interactions from Large to Small Vision Language Models [84.84277196012907]
  VLsI: Verbalized Layers-to-Interactions, a new VLM family in 2B and 7B model size。 GPT-4Vよりも優れた性能向上(2Bは11.0%、7Bは17.4%)を達成した。
  論文  参考訳（メタデータ） (2024-12-02T18:58:25Z)
• The Zamba2 Suite: Technical Report [9.766119150620916]
  Zamba2は1.2B、2.7B、7.4BパラメータハイブリッドのMamba2変換器である。 それは彼らのクラスの主要なオープンウェイトモデルに対して、アートパフォーマンスの状態を達成します。
  論文  参考訳（メタデータ） (2024-11-22T02:55:20Z)
• Zamba: A Compact 7B SSM Hybrid Model [10.973515151563424]
  Zambaは7B SSMトランスフォーマーハイブリッドモデルである。 Zambaは、公開データセットから1Tトークンをトレーニングする。 Zambaは、同等のトランスフォーマーモデルよりも推論がかなり速い。
  論文  参考訳（メタデータ） (2024-05-26T22:23:02Z)
• MobileVLM V2: Faster and Stronger Baseline for Vision Language Model [73.74838586081385]
  我々は、MobileVLM上で大幅に改善された視覚言語モデルのファミリーであるMobileVLM V2を紹介する。 MobileVLM V2 1.7Bは、標準のVLMベンチマークにおいて、3Bスケールでのはるかに大きなVLMよりも優れたパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2024-02-06T07:16:36Z)
• Bilaterally Slimmable Transformer for Elastic and Efficient Visual Question Answering [75.86788916930377]
  左右にスリム化可能なトランスフォーマー(BST)は任意のトランスフォーマーベースのVQAモデルに統合される。 1つのスリム化MCAN-BSTサブモデルは、VQA-v2で同等の精度を達成する。 最も小さなMCAN-BSTサブモデルは、推論中に9Mパラメータと0.16GのFLOPを持つ。
  論文  参考訳（メタデータ） (2022-03-24T02:26:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。