論文の概要: Visual Autoregressive Generation with Next Token Imagination

• arxiv url: http://arxiv.org/abs/2610.36793v1
• Date: Tue, 27 Oct 2026 07:55:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-28 21:04:31.539399
• Title: Visual Autoregressive Generation with Next Token Imagination
• Title（参考訳）: 次のToken Imaginationによる視覚自己回帰生成
• Abstract要約: 生成モデルは通常、与えられた画像にのみ適合するように訓練されています。 視覚自己回帰(AR)生成では、各トークンは前回の接地トラス(GT)トークンから予測され、GT次のトークンのみによって管理される。 我々は,GT次のトークンを越えてモデルを探索できるNext Token Imagination (NTI)を提案する。
• 参考スコア（独自算出の注目度）: 91.83768116611664
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The space of possible visual content is enormous, and arguably unbounded. Any training set, however large, therefore covers only a tiny fraction of it. Yet generative models are typically trained to fit only the images they are given. In visual autoregressive (AR) generation, for example, each token is predicted from the preceding ground-truth (GT) tokens and supervised solely by the GT next token. Confining learning to observed data in this way limits how much of the visual distribution a model can capture. In this work, we hypothesize that letting a model imagine beyond its training data, by exploring plausible visual realizations it has never observed, can ease this limitation. We use visual AR generation as a proof of concept, since its fixed, discrete token space makes imagination easier to steer and constrain. We propose Next Token Imagination (NTI), a method that allows the model to explore beyond the GT next token, subject to a carefully designed criterion that keeps this imagination bounded by the underlying visual distribution. Extensive experiments on ImageNet show that NTI substantially and consistently improves the fidelity of generated images, approaching state-of-the-art diffusion and AR models while using a smaller model and lower training cost.
• Abstract（参考訳）: 視覚的コンテンツの空間は巨大で、間違いなく無拘束である。 すべてのトレーニングセットは、しかしながら、そのごく一部しかカバーしていない。 しかし、生成モデルは通常、与えられた画像にのみ適合するように訓練されている。 例えば、視覚自己回帰(AR)生成では、各トークンは前回の接地トラス(GT)トークンから予測され、GT次のトークンのみによって管理される。 このように観察データに学習を集中させることで、モデルがどれだけの視覚分布をキャプチャできるかを制限できる。 この研究では、モデルがトレーニングデータを超えて想像できるようにし、これまでに観測されたことのない可視的な視覚的実現を探索することで、この制限を緩和できると仮定する。 私たちは視覚的AR生成を概念実証として使用しています。 本稿では,GTの次のトークンを探索する手法であるNext Token Imagination(NTI)を提案する。 ImageNetの大規模な実験により、NTIは生成した画像の忠実度を大幅に改善し、より小さなモデルとより低いトレーニングコストを使用しながら、最先端の拡散とARモデルに近づいた。

関連論文リスト

• Unified Multimodal Autoregressive Modeling with Shared Context-Visual Tokenizer is Key to Unification [80.62512020268626]
  UniARは統合された自己回帰フレームワークであり、単一のビジュアルトークン化器が理解と生成の鍵となる。 UniARは、マルチレベル特徴融合とルックアップフリービットワイド量子化スキームを備えた事前訓練されたビジョンエンコーダを適応する。 拡散に基づく視覚デコーダは、離散的な視覚トークンで高忠実度画像をデコードする。
  論文  参考訳（メタデータ） (2026-06-16T17:59:22Z)
• Unified Pix Token And Word Token Generative Language Model [1.5469452301122175]
  生成言語モデルにピクセルトークンとワードトークンを統一する新しいモデルを提案する。 新たなモデルでは、各ピクセルに独自のトークン埋め込み、カラー折り畳み、グローバルなコンディショナルアテンション近似、教師なし事前トレーニングを備えている。
  論文  参考訳（メタデータ） (2026-05-13T18:38:51Z)
• DreamVAR: Taming Reinforced Visual Autoregressive Model for High-Fidelity Subject-Driven Image Generation [108.71044040025374]
  本稿では,視覚的自己回帰モデルに基づく主観的画像合成のための新しいフレームワークを提案する。 本研究では,Dreamtheが従来の拡散法よりも優れた外観保存を実現していることを示す。
  論文  参考訳（メタデータ） (2026-01-30T03:32:29Z)
• ARSS: Taming Decoder-only Autoregressive Visual Generation for View Synthesis From Single View [11.346049532150127]
  textbfARSSは、カメラの軌跡に条件付けされた単一の画像から新しいビューを生成するフレームワークである。 本手法は,拡散モデルに基づく最先端のビュー合成手法に比較可能か,あるいはそれ以上に機能する。
  論文  参考訳（メタデータ） (2025-09-27T00:03:09Z)
• Uncovering Conceptual Blindspots in Generative Image Models Using Sparse Autoencoders [28.04396148117613]
  生成画像モデルにおいて,概念的盲点を識別するための体系的アプローチを提案する。 我々のアプローチは、特定の抑制された盲点と誇張された盲点を明らかにする。 全体として,生成モデルにおける概念的盲点を体系的に同定するための理論的基盤的枠組みを提案する。
  論文  参考訳（メタデータ） (2025-06-24T15:15:15Z)
• Fill in the blanks: Rethinking Interpretability in vision [0.0]
  我々は、新しい視点から視覚モデルの説明可能性を再考し、トレーニング中にモデルが学習した一般的な入力構造を探索する。 標準的なビジョンデータセットと事前トレーニングされたモデルの実験は、一貫性のあるパターンを明らかにし、追加のモデルに依存しない説明可能性ツールとして解釈できる。
  論文  参考訳（メタデータ） (2024-11-15T15:31:06Z)
• Data-efficient Large Vision Models through Sequential Autoregression [58.26179273091461]
  限られたデータセットに基づいて,効率的な自己回帰に基づく視覚モデルを構築する。 このモデルは,高レベル・低レベルのセマンティック理解の両方にまたがる視覚的タスクにおいて,その習熟度をいかに達成するかを実証する。 我々の経験的評価は、モデルが様々なタスクに適応する際の機敏さを強調し、パラメータフットプリントの大幅な削減を図った。
  論文  参考訳（メタデータ） (2024-02-07T13:41:53Z)
• Bridging Generative and Discriminative Models for Unified Visual Perception with Diffusion Priors [56.82596340418697]
  本稿では,豊富な生成前駆体を含む事前学習型安定拡散(SD)モデルと,階層的表現を統合可能な統一型ヘッド(Uヘッド)と,識別前駆体を提供する適応型専門家からなる,シンプルで効果的なフレームワークを提案する。 包括的調査では、異なる時間ステップで潜伏変数に隠された知覚の粒度や様々なU-netステージなど、バーマスの潜在的な特性が明らかになった。 有望な結果は,有望な学習者としての拡散モデルの可能性を示し,情報的かつ堅牢な視覚表現の確立にその意義を定めている。
  論文  参考訳（メタデータ） (2024-01-29T10:36:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。