論文の概要: MoETok: Sparse Expert Routing for 1D Visual Tokenizers

• arxiv url: http://arxiv.org/abs/2610.41992v1
• Date: Fri, 30 Oct 2026 16:37:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.812469
• Title: MoETok: Sparse Expert Routing for 1D Visual Tokenizers
• Title（参考訳）: MoETok: 1Dビジュアルトケナイザのためのスパースエキスパートルーティング
• Abstract要約: MoETokは1Dビジュアルトークンライザで、トークンをわずかにアクティベートされた専門家を通してルーティングする。 ImageNetでは、強力な再構成とセマンティック表現と最先端のクラス条件生成を組み合わせる。
• 参考スコア（独自算出の注目度）: 52.30634907797462
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Modern visual tokenizers aim to preserve fine-grained visual details while learning high-level semantic representations for downstream generation and understanding. Query-based 1D visual tokenizers encode images into flexible latent sequences, yet how individual learnable queries gather and encode image information remains poorly understood. We reveal that these queries spontaneously develop complementary roles under semantic supervision: a small set of Content queries captures high-level semantic information, while a larger set of Detail queries preserves fine-grained visual details for reconstruction. To adapt token processing to these heterogeneous roles, we introduce MoETok, a 1D visual tokenizer that routes tokens through sparsely activated experts. Jointly optimized with reconstruction and semantic objectives, the router learns role-specialized processing paths adapted to each token's representation. Across model scales and token budgets, MoETok consistently improves reconstruction, semantic representation, and autoregressive generation over dense tokenizers under matched supervision and active computation. On ImageNet, it combines strong reconstruction and semantic representation with state-of-the-art class-conditional generation within the 1D tokenizer family. We further validate MoETok at scale in a unified autoregressive model jointly trained for understanding and generation with a next-token cross-entropy objective. The resulting model combines competitive visual understanding with state-of-the-art generation among unified discrete models, matching or surpassing diffusion-based models such as BAGEL and Qwen-Image on benchmarks including DPG-Bench (87.61), GenEval2 (40.04 GM), and WISE (0.49).
• Abstract（参考訳）: 現代のビジュアルトークンは、下流生成と理解のための高レベルのセマンティック表現を学習しながら、きめ細かい視覚的詳細を保存することを目的としている。 クエリベースの1Dビジュアルトークンは、画像をフレキシブルな潜在シーケンスにエンコードするが、個々の学習可能なクエリがどのように収集し、画像情報をエンコードするかは理解されていない。 コンテントクエリの小さなセットは、高レベルのセマンティック情報をキャプチャし、デテールクエリのより大きなセットは、再現のためのきめ細かい視覚的詳細を保存する。 これらの不均一な役割にトークン処理を適用するために、疎活性化された専門家を通してトークンをルーティングする1DビジュアルトークンライザであるMoETokを導入する。 再構成とセマンティックな目的を併用して、ルータは各トークンの表現に適合したロール特化処理パスを学習する。 モデルスケールとトークンの予算全体にわたって、MoETokは、一致した監視とアクティブな計算の下で、密接なトークン化子に対する再構成、意味表現、自動回帰生成を一貫して改善する。 ImageNetでは、強力な再構成とセマンティック表現を1Dトークンライザファミリー内の最先端のクラス条件生成と組み合わせている。 さらに,次世代のクロスエントロピー目標の理解と生成のために訓練された統合自己回帰モデルを用いて,MoETokを大規模に検証する。 結果として得られたモデルは、DPG-Bench (87.61)、GenEval2 (40.04 GM)、WISE (0.49)といったベンチマーク上で、BAGELやQwen-Imageのような拡散ベースのモデルと一致するか、あるいは超えるような、統一された離散モデル間の競合的な視覚的理解と最先端の世代を組み合わせている。

関連論文リスト

• Learning Deep Modality-Shared Self-Expressiveness for Image Clustering with Textual Information [10.086588302174263]
  我々は、DeepMORSE(DeepMORSE)と呼ばれる原理的アプローチを提案する。 DeepMORSEは、モダリティ共有自己表現モデルを通じて、クロスモーダル構造を発見し、同時にモダリティ固有の部分空間の結合に対応する構造化表現を学習する。 広く使用されている6つの画像クラスタリングベンチマークでDeepMORSEを評価し、3%を超えるパフォーマンス改善を観察した。
  論文  参考訳（メタデータ） (2026-08-09T02:23:49Z)
• Unified Multimodal Autoregressive Modeling with Shared Context-Visual Tokenizer is Key to Unification [80.62512020268626]
  UniARは統合された自己回帰フレームワークであり、単一のビジュアルトークン化器が理解と生成の鍵となる。 UniARは、マルチレベル特徴融合とルックアップフリービットワイド量子化スキームを備えた事前訓練されたビジョンエンコーダを適応する。 拡散に基づく視覚デコーダは、離散的な視覚トークンで高忠実度画像をデコードする。
  論文  参考訳（メタデータ） (2026-06-16T17:59:22Z)
• GloTok: Global Perspective Tokenizer for Image Reconstruction and Generation [51.95701097588426]
  トークン化された特徴のより均一な意味分布をモデル化するために,Global Perspective Tokenizer(GloTok)を導入する。 量子化による再構成誤差を最小限に抑えるために, 微細な細部を復元するために, 残差学習モジュールを提案する。 標準のImageNet-1kベンチマーク実験により,提案手法が最先端の復元性能と生成品質を実現することを確認した。
  論文  参考訳（メタデータ） (2025-11-18T06:40:26Z)
• Harmonizing Visual Representations for Unified Multimodal Understanding and Generation [53.01486796503091]
  我々は,共有MARエンコーダによる理解と生成タスクを調和させる統合自己回帰フレームワークであるemphHarmonを提案する。 HarmonはGenEval、MJHQ30K、WISEベンチマークで最先端の画像生成結果を達成する。
  論文  参考訳（メタデータ） (2025-03-27T20:50:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。