論文の概要: Efficient Training with Foresight: Multi-Token Auxiliary Supervision for Autoregressive Image Generation

• arxiv url: http://arxiv.org/abs/2608.25386v1
• Date: Wed, 26 Aug 2026 05:25:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-27 14:15:15.599076
• Title: Efficient Training with Foresight: Multi-Token Auxiliary Supervision for Autoregressive Image Generation
• Title（参考訳）: 自動回帰画像生成のための多視点補助シミュレーション
• Abstract要約: MTAR(Multi-token autoregressive)は、予測目標、表現正規化、トレーニング効率の3つの側面から自己回帰画像生成を改善する。 ImageNetでは、MTARは最大0.95のFIDと39%の高速トレーニングを実現している。
• 参考スコア（独自算出の注目度）: 4.3739428096433
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Autoregressive (AR) image generation has shown strong potential for scalable high-fidelity synthesis by modeling images as discrete token sequences. However, traditional next token prediction (NTP) continues to suffer from sparse and myopic supervision, insufficiently discriminative representations, and high training cost caused by dense computation over the full token sequence. To address these issues, we propose multi-token autoregressive (MTAR), a unified training framework that improves autoregressive image generation from three aspects: prediction objectives, representation regularization, and training efficiency. Specifically, MTAR introduces multi-token prediction (MTP) to alleviate the sparsity and myopia of traditional NTP by imposing joint supervision on multiple future tokens; employs token-level contrastive regularization (TCR) to explicitly enhance the separability of sampled token representations and thereby improve representation discriminability; and incorporates semantic dropping (SD) as a semantics-aware training acceleration strategy to reduce redundant computation on low-information tokens while preserving informative learning signals. All three components are applied only during training and introduce no additional overhead during autoregressive inference. On ImageNet, MTAR achieves a better balance between generation quality and training efficiency. Compared with LlamaGen, MTAR achieves up to 0.95 lower FID and 39\% faster training. Moreover, even with only 1/3 of the training iterations, it still attains performance comparable to or better than the baseline, substantially reducing training time.
• Abstract（参考訳）: 自己回帰(AR)画像生成は、画像を離散トークンシーケンスとしてモデル化することにより、スケーラブルな高忠実合成の可能性を示している。 しかし、従来の次のトークン予測(NTP)は、スパースとミオピックの監督、識別の不十分な表現、および全トークン列上の密度計算による高いトレーニングコストに悩まされ続けている。 これらの課題に対処するために,予測目標,表現正規化,訓練効率の3面から自己回帰画像生成を改善する統合トレーニングフレームワークMTARを提案する。 具体的には、MTARは、複数の将来のトークンを共同で監視することにより、従来のNTPの空間と近視を緩和するマルチトークン予測(MTP)を導入し、トークンレベルのコントラスト正規化(TCR)を使用して、サンプルトークン表現の分離性を明示的に向上し、表現の差別性を向上させる。 これら3つのコンポーネントはすべて、トレーニング中にのみ適用され、自動回帰推論中に追加のオーバーヘッドは発生しない。 ImageNetでは、MTARは生成品質とトレーニング効率のバランスを改善する。 LlamaGenと比較すると、MTARは最大で0.95FID、39.%高速トレーニングを実現している。 さらに、トレーニングイテレーションの1/3に過ぎず、ベースラインに匹敵するパフォーマンスを保ち、トレーニング時間を大幅に短縮する。

関連論文リスト

• CaTok: Taming Mean Flows for One-Dimensional Causal Image Tokenization [122.88484422855934]
  本稿では,MeanFlowデコーダを備えた1次元因果画像トークンであるCaTokを紹介する。 時間間隔でトークンを選択することで、CaTokは高速なワンステップ生成と高忠実なマルチステップサンプリングの両方をサポートする因果1D表現を学ぶ。 実験により、CaTokはImageNet再構成の最先端の結果を達成し、0.75 FID、22.53 PSNR、0.674 SSIMに達した。
  論文  参考訳（メタデータ） (2026-03-06T16:39:17Z)
• ResTok: Learning Hierarchical Residuals in 1D Visual Tokenizers for Autoregressive Image Generation [64.84095852784714]
  Residual Tokenizer (ResTok)は、画像トークンと潜在トークンの両方の階層的残基を構築する1Dビジュアルトークンライザである。 視覚的トークン化における階層的残差の復元はAR画像生成を著しく改善し,ImageNet-256ではわずか9ステップで2.34gFIDを達成した。
  論文  参考訳（メタデータ） (2026-01-07T14:09:18Z)
• SFTok: Bridging the Performance Gap in Discrete Tokenizers [72.9996757048065]
  複数ステップの反復機構を組み込んだ離散トークン化機構である textbfSFTok を提案する。 画像当たり64トークンの高速圧縮速度で、SFTokはImageNetの最先端の再構築品質を達成する。
  論文  参考訳（メタデータ） (2025-12-18T18:59:04Z)
• BIGFix: Bidirectional Image Generation with Token Fixing [21.40682276355247]
  サンプルトークンを反復精製することで画像生成を自己補正する手法を提案する。 我々は,ランダムトークンを文脈に注入し,ロバスト性を向上し,サンプリング中のトークンの固定を可能にする,新しいトレーニング手法によりこれを実現する。 我々は、ImageNet-256とCIFAR-10データセットを用いた画像生成と、UCF-101とNuScenesによるビデオ生成のアプローチを評価し、両モード間で大幅に改善した。
  論文  参考訳（メタデータ） (2025-10-14T07:34:44Z)
• Image Tokenizer Needs Post-Training [76.91832192778732]
  本稿では,遅延空間構築と復号化に着目した新しいトークン化学習手法を提案する。 具体的には,トークン化の堅牢性を大幅に向上させる,プラグアンドプレイ型トークン化学習手法を提案する。 生成したトークンと再構成されたトークンの分布差を軽減するために、よく訓練された生成モデルに関するトークン化デコーダをさらに最適化する。
  論文  参考訳（メタデータ） (2025-09-15T21:38:03Z)
• CATP: Contextually Adaptive Token Pruning for Efficient and Enhanced Multimodal In-Context Learning [15.733788584792388]
  マルチモーダル・イン・コンテクスト・ラーニング(ICL)を対象とした学習自由プルーニング手法であるCATP(Contextual Adaptive Token Pruning)を提案する。 画像トークンの77.8%を取り除いた後、CATPは4つのLVLMと8つのベンチマークでバニラモデルよりも平均0.6%の性能向上を達成した。 平均10.78%のレイテンシ削減を達成することで効率を効果的に向上する。
  論文  参考訳（メタデータ） (2025-08-11T11:41:51Z)
• Representation Entanglement for Generation: Training Diffusion Transformers Is Much Easier Than You Think [63.25744258438214]
  REPAとその変種は、事前訓練されたモデルから外部の視覚表現を取り入れることで、拡散モデルのトレーニング課題を効果的に軽減する。 偏見推論過程全体において欠落している外部アライメントは、識別的表現の可能性を完全に活用するに足らないと我々は主張する。 本稿では,事前学習した基礎モデルから,低レベル画像ラテントを1つの高レベルクラストークンで絡み合わせるRepresentation Entanglement for Generation (REG)を提案する。
  論文  参考訳（メタデータ） (2025-07-02T08:29:18Z)
• Intra-task Mutual Attention based Vision Transformer for Few-Shot Learning [12.5354658533836]
  人間は、ほんのわずかの例に晒された後に、新しい、目に見えない画像を正確に分類する能力を持っている。 人工ニューラルネットワークモデルでは、限られたサンプルを持つ2つのイメージを区別する最も関連性の高い特徴を決定することが課題である。 本稿では,サポートとクエリサンプルをパッチに分割するタスク内相互注意手法を提案する。
  論文  参考訳（メタデータ） (2024-05-06T02:02:57Z)
• ELIP: Efficient Language-Image Pre-training with Fewer Vision Tokens [75.09406436851445]
  本稿では,言語出力の監督による影響の少ないトークンを除去するために,視覚トークンのプルーニングとマージ手法ELIPを提案する。 実験により、12層のViT層に30$%のビジョントークンが削除されたことにより、ELIPは著しく同等のパフォーマンスを維持した。
  論文  参考訳（メタデータ） (2023-09-28T05:31:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。