論文の概要: Elastic Token Compression for Pixel-Space Diffusion Transformers

• arxiv url: http://arxiv.org/abs/2608.29281v1
• Date: Sat, 29 Aug 2026 14:06:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:30.912238
• Title: Elastic Token Compression for Pixel-Space Diffusion Transformers
• Title（参考訳）: 画素空間拡散変圧器の弾性トーケン圧縮
• Abstract要約: 領域トークンインタフェース(Method)は、これらのトークンに拡散モデルを適用する。 メソッドは、一致した予算で事前の削減手法を導き、密度の高い品質を2.0times$の速度で一致させ、2.6times$の精度で維持する。
• 参考スコア（独自算出の注目度）: 64.18588817660013
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Natural images concentrate their detail in a small fraction of the frame, yet diffusion models spend a full token on every patch, in every layer and at every timestep. The waste is largest in pixel-space models, with no autoencoder to absorb low-level redundancy first. Probing a pretrained pixel text-to-image transformer, we find its middle-block tokens redundant wherever the image is flat. The redundancy occupies connected, content-shaped regions, and exploiting it requires tokens with the same geometry. Cutting a Hilbert ordering of the patches provides them. Consecutive positions are always image neighbours, so any contiguous run is a connected region whose size and shape follow the content, and grouping in two dimensions becomes a cut in one. Existing reductions each lose part of this. Similarity merging scatters its groups, latent bottlenecks discard position, and skipping deletes what it should summarize. We cut where the model's features change most and pool each run into one region token. Our Region Token Interface (\method{}) adapts a diffusion model to these tokens, with the region count drawn at random during fine-tuning so one checkpoint serves every budget. \method{} leads prior reduction methods at matched budgets, matches dense quality at $2.0\times$ the speed, and stays close at $2.6\times$. The code and models are open-sourced at https://eduardzamfir.github.io/rti
• Abstract（参考訳）: 自然画像はフレームのごく一部に細部を集中させるが、拡散モデルは各パッチ、各レイヤ、各タイムステップに完全なトークンを使用する。 廃棄物はピクセル空間モデルで最大であり、最初に低レベルの冗長性を吸収するオートエンコーダは存在しない。 予め訓練されたピクセルのテキスト・ツー・イメージ・トランスフォーマーを用いて、画像が平らな場所でミドルブロックトークンが冗長であることを示す。 冗長性は接続されたコンテンツ型の領域を占有し、それを利用するには同じ幾何学を持つトークンが必要である。 パッチのHilbert順序を切ることで、それらを提供する。 連続的な位置は常に画像近傍であるので、連続的な走行は、その内容に大きさと形状が従う連結領域であり、2次元のグルーピングは1つの領域で切断される。 既存の減算は、それぞれこの部分を失う。 類似性は、そのグループを散乱させ、潜在ボトルネックが位置を破棄し、要約すべきものをスキップする。 モデルの特徴が最も変化する場所をカットし、各領域を1つのリージョントークンにまとめます。 我々のリージョントークンインタフェース(\method{})は、これらのトークンに拡散モデルを適用する。 \method{}は、一致した予算で事前の削減手法を導いており、密度の高い品質を2.0\times$の速度で一致させ、2.6\times$に近づいたままである。 コードとモデルはhttps://eduardzamfir.github.io/rtiで公開されている。

関連論文リスト

• S$^2$Prune: Spatially Structured Visual Token Pruning for Multimodal Large Language Models [5.680072178589744]
  ビジュアルトークンプルーニングは、視覚トークンのサブセットだけを保持することで、マルチモーダルな大規模言語モデル(MLLM)の推論オーバーヘッドを低減する。 S$2$Pruneは,局所像構造にトークン密度を適応させながら空間被覆を保存する訓練不要プルーニング手法である。
  論文  参考訳（メタデータ） (2026-09-01T13:26:57Z)
• MOSAIK: Multi-Patch Content-Aware Spatial Allocation of Image Tokens for Efficient Generation [26.941280093248263]
  MOSAIKは損傷を誘導するフレームワークで、パッチサイズが地域によって異なる。 私たちのアプローチは、適度な予算で非常に競争力のあるパフォーマンスを提供します。
  論文  参考訳（メタデータ） (2026-08-05T22:52:41Z)
• ZipSplat: Fewer Gaussians, Better Splats [89.08529100444004]
  本稿では,ガウス配置を画素グリッドから分離するトークンベースのフィードフォワードモデルZipSplatを提案する。 クロスアテンションとセルフアテンションはこれらのトークンを洗練させ、単一のトレーニングされたモデルは、再トレーニングせずに品質-効率曲線にまたがる。 ZipSplatは、画期的なポーズや内在的ポーズなしで動作しますが、DL3DVとRealEstate10Kに新しい状態を設定します。
  論文  参考訳（メタデータ） (2026-06-03T17:04:30Z)
• Everything at Every Scale: Scale-Invariant Diffusion with Continuous Super-Resolution [27.232771005158146]
  ノイズから画像を作成することは画像生成であり、粗い入力から細部を再構築することは超高解像度である。 我々は、単一の非条件フレームワーク内で生成と連続超解像を統一するモデルである$textbfSKILD$を紹介した。 実証的には、SKILDはFID$2.65ドル、Inception Score$9.63ドルに達する。
  論文  参考訳（メタデータ） (2026-05-25T17:01:21Z)
• Efficient Scale-Invariant Generator with Column-Row Entangled Pixel Synthesis [3.222802562733787]
  本研究では,空間的畳み込みや粗大な設計を使わずに,効率的かつスケール平等な新しい生成モデルを提案する。 FFHQ、LSUN-Church、MetFaces、Flickr-Sceneryなど、さまざまなデータセットの実験では、CREPSのスケール一貫性とエイリアスのない画像を合成する能力が確認されている。
  論文  参考訳（メタデータ） (2023-03-24T17:12:38Z)
• PATS: Patch Area Transportation with Subdivision for Local Feature Matching [78.67559513308787]
  局所特徴マッチングは、一対のイメージ間のスパース対応を確立することを目的としている。 この問題に対処するために,PATS(Patch Area Transportation with Subdivision)を提案する。 PATSは、マッチング精度とカバレッジの両方を改善し、下流タスクにおいて優れたパフォーマンスを示す。
  論文  参考訳（メタデータ） (2023-03-14T08:28:36Z)
• Improved Image Classification with Token Fusion [9.413225906164838]
  画像分類性能を向上させるために,CNNとトランスフォーマー構造を融合した手法を提案する。 ImageNet 1kを用いた実験では,最も優れた分類性能を示す。
  論文  参考訳（メタデータ） (2022-08-19T07:02:50Z)
• SWAT: Spatial Structure Within and Among Tokens [53.525469741515884]
  我々は,トークン化時に空間構造が保存される場合,モデルが顕著な利得が得られることを論じる。 本研究では,(1)構造認識のトークン化と(2)構造認識のミキシングという2つの重要なコントリビューションを提案する。
  論文  参考訳（メタデータ） (2021-11-26T18:59:38Z)
• Large-scale image segmentation based on distributed clustering algorithms [70.8481702473572]
  3次元画像セグメンテーションへの多くのアプローチは、画像領域へのスーパーボクセルの階層的クラスタリングに基づいている。 ここでは,膨大な数のスーパーボクセルを処理可能な分散アルゴリズムについて述べる。 本研究では3次元電子顕微鏡脳画像から得られた135億超語彙間の1.5兆のエッジを持つ親和性グラフをクラスタリングしてアルゴリズムを実証する。
  論文  参考訳（メタデータ） (2021-06-21T01:11:49Z)
• Image Fine-grained Inpainting [89.17316318927621]
  拡張畳み込みの密結合を利用してより大きく効果的な受容場を得る一段階モデルを提案する。 この効率的なジェネレータをよく訓練するために、頻繁に使用されるVGG特徴整合損失を除いて、新しい自己誘導回帰損失を設計する。 また、局所的・グローバルな分枝を持つ識別器を用いて、局所的・グローバルな内容の整合性を確保する。
  論文  参考訳（メタデータ） (2020-02-07T03:45:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。