論文の概要: MJev-Spatial: System One Spatial Intelligence via Native Attention Matching

• arxiv url: http://arxiv.org/abs/2610.22276v1
• Date: Thu, 15 Oct 2026 17:37:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 06:09:33.230093
• Title: MJev-Spatial: System One Spatial Intelligence via Native Attention Matching
• Title（参考訳）: MJev-Spatial:ネイティブアテンションマッチングによるシステム1空間インテリジェンス
• Abstract要約: MJev-Spatialは3種類の空間理解タスクに対処するシステム1のマルチモーダル決定モデルである。 MJev-Spatialは各候補をクラスとして扱い、バックボーンの事前訓練されたクエリとキープロジェクションを使用してスコア付けする。 Qwen3.5-4Bをベースとして12.3Mの質問応答ペアで訓練され、MJev-Spatialは7つのテストされた自己回帰モデルで最高スコア(65.64%)を記録した。
• 参考スコア（独自算出の注目度）: 19.6013702995563
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Spatial intelligence lets an agent perceive and act in the physical world, and many of its judgments must be made at interaction rates: which spatial relation holds, how far an object is, or where to place it. Vision-language models (VLMs) produce these answers by free-form text generation, paying for autoregressive decoding and answer parsing even though the output space is compact: one of a few options, a scalar, or a 2D point. In light of this, we introduce MJev-Spatial, a System 1 multimodal decision model that tackles all three types of spatial understanding tasks within a unified classification framework. Specifically, MJev-Spatial treats each candidate as a class and scores it using the backbone's pretrained query and key projections, without adding parameters. The candidates are the given options for choice tasks, or value bins and image regions refined through coarse-to-fine classification for numerical and point prediction, respectively. At inference, each classification decision takes a single forward pass and generates no answer tokens. To train on heterogeneous spatial data efficiently, we supervise all coarse-to-fine stages jointly with teacher forcing in one forward pass, and combine this with length-aware global batching and cross-GPU load balancing, raising training throughput by 30.8% over the original batching strategy. Built on Qwen3.5-4B and trained on 12.3M question-answer pairs converted from existing spatial datasets, MJev-Spatial achieves the highest overall score (65.64%) among eight tested models, ranks first on seven of twelve benchmarks, and outperforms its unmodified autoregressive base model on all twelve, while running 2.5 times faster than the fastest autoregressive baseline and 5.6 times faster than the base model.
• Abstract（参考訳）: 空間知能は、エージェントが物理的世界で知覚し、行動することを可能にし、その判断の多くは相互作用速度で行われなければならない。 視覚言語モデル(VLM)は、アウトプット空間がコンパクトであるにもかかわらず、自動回帰復号と解法解析の費用を支払って、自由形式のテキスト生成によってこれらの答えを生成する。 そこで本研究では,MJev-Spatialというシステム1のマルチモーダル決定モデルを導入する。 具体的には、MJev-Spatialは各候補をクラスとして扱い、パラメータを追加することなく、バックボーンの事前訓練されたクエリとキープロジェクションを使用してスコア付けする。 候補は選択タスクの与えられたオプション、または数値と点予測のための粗い分類によって洗練される値ビンと画像領域である。 推論では、各分類決定は1つのフォワードパスを受け取り、応答トークンは生成しない。 異種空間データを効率よく学習するために,教師の強制力と相まって粗大な段階をすべて監視し,これを長大なグローバルバッチ処理とGPU間ロードバランシングと組み合わせることで,当初のバッチ処理戦略よりも30.8%のトレーニングスループットを向上する。 Qwen3.5-4Bで構築され、既存の空間データセットから変換された12.3Mの質問応答対に基づいて訓練され、MJev-Spatialは8つのテストモデルの中で最高スコア(65.64%)を獲得し、12のベンチマークのうち7つのうち1位にランクされ、修正されていない自己回帰ベースモデルより2.5倍速く、ベースモデルより5.6倍速い。

関連論文リスト

• Benchmarking Self-Supervised 3D Medical Vision Foundation Models and Transferability Estimation [57.65266782182578]
  セルフ教師付き事前トレーニングは、3D医療基盤モデルのプールを拡張したが、異なるデータセット、エンドポイント、微調整プロトコルを使用した評価を公表した。 14のセグメンテーション、分類、回帰タスク、複数の解剖学とモダリティにまたがる23の候補をベンチマークした。 3モデルショートリストは、7つのセグメンテーションタスクで記録された抜粋+訓練ジョブ時間を85.8%削減した。
  論文  参考訳（メタデータ） (2026-10-13T01:52:19Z)
• On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability [57.03393882933515]
  Qwen3.8-Flash-Nextは125Bパラメータ、トークンあたり6Bアクティベートされ、加速器から保持されるn-gram埋め込みテーブルの51Bパラメータを持つスパースミックス・オブ・エキスパートモデルである。 トレーニング前の14のベンチマークでは、このモデルは前モデルの397B-A17Bを8点、残りを少なくとも2.6ポイント、アクティベートされたパラメータが1/3、トレーニングトークンが1/3、トレーニング用FLOPが1/9であった。
  論文  参考訳（メタデータ） (2026-08-31T06:35:07Z)
• Holi-Spatial: Evolving Video Streams into Holistic 3D Spatial Intelligence [78.1406635199656]
  Holi-Spatialは、人間の介入なしに生のビデオ入力から構築された、初めて完全に自動化され、大規模で、空間対応のマルチモーダルデータセットである。 Holi-Spatial-4Mは、12K最適化された3DGSシーン、1.3Mの2Dマスク、320Kの3Dバウンディングボックス、320Kのインスタンスキャプション、1.2Mの3Dグラウンドインスタンス、1.2Mの空間QAペアを含む、最初の大規模で高品質な3Dセマンティックデータセットである。
  論文  参考訳（メタデータ） (2026-03-08T14:49:20Z)
• MASS: MoErging through Adaptive Subspace Selection [55.03293736484465]
  モデルマージの新しいアプローチであるMASS(MoErging through Adaptive Subspace Selection)を提案する。 MASSはタスクごとに最も健全な特異なコンポーネントのみを格納し、それらを共有モデルにマージする。 我々は,8,14,20タスクのベンチマークに対して,ViT-B-16,ViT-B-32,ViT-L-14を用いて,CLIPに基づく画像分類のMASSを評価する。
  論文  参考訳（メタデータ） (2025-04-06T08:49:52Z)
• Evaluating Large Language Models on Spatial Tasks: A Multi-Task Benchmarking Study [4.80612909282198]
  本研究では,空間的タスクにおけるいくつかの高度なモデルの性能を探索し,比較するために,新しいマルチタスク空間評価データセットを提案する。 データセットには、空間的理解や単純なルート計画など、12の異なるタスクタイプが含まれており、それぞれが検証され、正確な答えを持っている。
  論文  参考訳（メタデータ） (2024-08-26T17:25:16Z)
• Coarse Correspondences Boost Spatial-Temporal Reasoning in Multimodal Language Model [51.83436609094658]
  本稿では,2次元画像を入力として,MLLMの時空間推論を強化する軽量な手法である粗対応を導入する。 本手法は,映像のフレーム間や異なる視点における主物体の対応性を特定するために,軽量な追跡モデルを用いている。 この単純なトレーニングフリーアプローチは、4つのベンチマークでGPT4-V/Oに一定の利得をもたらすことを実証する。
  論文  参考訳（メタデータ） (2024-08-01T17:57:12Z)
• Sports-Traj: A Unified Trajectory Generation Model for Multi-Agent Movement in Sports [53.637837706712794]
  任意の軌道をマスク入力として処理する統一軌道生成モデルUniTrajを提案する。 具体的には,空間特徴抽出のためのトランスフォーマーエンコーダ内に埋め込まれたゴースト空間マスキング(GSM)モジュールを紹介する。 バスケットボールU,サッカーU,サッカーUの3つの実践的スポーツデータセットをベンチマークして評価を行った。
  論文  参考訳（メタデータ） (2024-05-27T22:15:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。