論文の概要: Level-of-Token Diffusion
- arxiv url: http://arxiv.org/abs/2610.05816v1
- Date: Mon, 05 Oct 2026 05:11:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 04:04:47.081326
- Title: Level-of-Token Diffusion
- Title(参考訳): レベル・オブ・トーケン拡散
- Abstract要約: Level-of-Token (LoT) Diffusionは、ディテールの空間分布を明示的なマルチレゾリューショントークンレイアウトに変換するフレームワークである。
我々は、パッチワイドな非対称フローパラメトリゼーションと埋め込みにより、事前学習した拡散変圧器をLoTレイアウトに適用する。
LoTは、レイアウトのトークン予算によって決定される大幅なスピードアップによって、良好な品質効率のトレードオフを提供する。
- 参考スコア(独自算出の注目度): 68.97261515673334
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Image and video diffusion models allocate equal computation to every region, even when the intended scene calls for varying levels of detail. The spatial distribution of detail can often be anticipated before generation, indicating where computation can be reduced. We introduce Level-of-Token (LoT) Diffusion, a framework that turns this knowledge into an explicit multiresolution token layout (Level-of-Token layout) for adaptive and efficient generation. Tokens represent rectangular patches of varying sizes and shapes, allocating finer tokens where detail is needed and coarser tokens elsewhere. We adapt pretrained diffusion transformers to LoT layouts through a patch-wise asymmetric flow parametrization and embeddings for multiresolution tokens, preserving full-resolution flow prediction at every denoising step while processing only a reduced token sequence. LoT Diffusion enables layout-adaptive generation while preserving pretrained generative priors. We demonstrate LoT with layouts derived from semantic masks, bounding boxes, texture variance, and depth-of-field cues, as well as agentic plans. Across image and video generation, LoT offers favorable quality-efficiency tradeoffs, with significant speedups determined by the layout's token budget. Our project website is at https://georgenakayama.github.io/lotdiffusion/.
- Abstract(参考訳): 画像とビデオの拡散モデルは、意図されたシーンが様々な詳細レベルを要求する場合でも、各領域に等しく計算を割り当てる。
詳細の空間分布は、しばしば生成前に予測され、どこで計算を削減できるかを示す。
そこで我々はLevel-of-Token(LoT)拡散(Level-of-Token Diffusion)というフレームワークを導入し、この知識を適応的で効率的な生成のための明示的なマルチレゾリューショントークンレイアウト(Level-of-Token layout)に変換する。
トークンは、様々な大きさと形状の長方形のパッチを表し、細部が必要とされるより細かいトークンと、他の部分で粗いトークンを割り当てる。
我々は,マルチレゾリューショントークンに対するパッチワイド非対称なフローパラメトリゼーションと埋め込みにより,事前学習した拡散トランスフォーマーをLoTレイアウトに適応させ,デノナイジングステップ毎にフルレゾリューションフロー予測を保ちながら,トークン列の縮小処理を行う。
LoT Diffusionは、事前訓練された生成前を保存しながらレイアウト適応生成を可能にする。
セマンティックマスク,バウンディングボックス,テクスチャのばらつき,フィールド深度などのレイアウトとエージェント計画を用いてLoTを実証する。
画像とビデオ生成全体を通じて、LoTは良好な品質効率のトレードオフを提供し、レイアウトのトークン予算によって決定される大幅なスピードアップを提供する。
プロジェクトのWebサイトはhttps://georgenakayama.github.io/lotdiffusion/。
関連論文リスト
- MaskAlign: Token-Subset Representation Alignment for Efficient Diffusion Training [53.777757218665386]
MaskAlignは、トレーニング中にランダムにサンプリングされたトークンサブセットにアライメントを適用するトークン-サブセット表現アライメント手法である。
我々は、MaskAlignが完全なトークン集合への配向の依存を減らし、トークン-サブセット摂動下でより安定な配向挙動を促進することを示す。
論文 参考訳(メタデータ) (2026-06-07T19:11:22Z) - One Model, Many Budgets: Elastic Latent Interfaces for Diffusion Transformers [80.19461768457622]
Elastic Latent Interface Transformer (ELIT) は、入力画像サイズを計算から切り離すための、ドロップインでDiT互換のメカニズムである。
読み取りと書き込み クロスアテンション・レイヤは空間トークンとラテントの間で情報を移動し、重要な入力領域を優先する。
ImageNet-1K 512pxでは、ELITの平均利得は35.3%、FIDおよびFDDスコアは39.6%である。
論文 参考訳(メタデータ) (2026-03-12T17:57:04Z) - Window-Diffusion: Accelerating Diffusion Language Model Inference with Windowed Token Pruning and Caching [10.315266731366123]
推論のためのウィンドウベースのトークンプルーニングとキャッシュ手法を提案する。
LLaDAとDreamの実験では、一致した計算予算の下では、提案手法は最大99タイムの推論高速化を実現する。
論文 参考訳(メタデータ) (2026-01-28T07:49:20Z) - VQToken: Neural Discrete Token Representation Learning for Extreme Token Reduction in Video Large Language Models [35.38573641029626]
最小限の離散トークンを用いてビデオ全体を表現することを目的としたExtreme Short Token Reductionという新しいタスクを紹介した。
Extreme Short Token Reductionタスクでは、私たちのVQTokenはシーケンスをオリジナルの長さのわずか0.07パーセントまで圧縮し、NextQA-MCベンチマークでは0.6%の精度しか達成していません。
論文 参考訳(メタデータ) (2025-03-21T09:46:31Z) - LayoutDiffusion: Improving Graphic Layout Generation by Discrete
Diffusion Probabilistic Models [50.73105631853759]
レイアウト自動生成のための新しい生成モデルLayoutDiffusionを提案する。
このプロセスでは,前方ステップの成長に伴うレイアウトの混乱が増している。
これにより、プラグアンドプレイ方式で2つの条件付きレイアウト生成タスクを再トレーニングすることなく実現し、既存の方法よりも優れたパフォーマンスを実現する。
論文 参考訳(メタデータ) (2023-03-21T04:41:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。