論文の概要: TileShare: Training-Free Acceleration of Overlapping Tiled ViT Decoding

• arxiv url: http://arxiv.org/abs/2610.32233v1
• Date: Fri, 23 Oct 2026 06:44:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 01:38:06.411187
• Title: TileShare: Training-Free Acceleration of Overlapping Tiled ViT Decoding
• Title（参考訳）: TileShare: オーバーラップしたTiled ViTデコーディングのトレーニング不要高速化
• Abstract要約: TileShareはリリースされている各タイルの注意を守り、トークン毎に他のすべての操作を計算する。 トレーニングなしでは、タイルごとに6つのレイヤをデコードし、バッチ処理よりも1.38-1.51倍高速になる。 2K-4KのViTok-v2イメージオートエンコーダでは、PSNRの重なり合うタイリングにマッチし、LPIPSとdisTSを改善し、1.5-1.8倍高速にデコードする。
• 参考スコア（独自算出の注目度）: 18.701753890222964
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Fixed-window Vision Transformer (ViT) decoders run at deployment resolution as overlapping tiles: every token in an overlap band is processed by several full decoder instances. In the 2.4B-parameter MiniMax-H3 video decoder, about half of all per-token computation is duplicated. Removing the tiles fails because attention, global tokens and coordinates are bound to them. TileShare keeps each released tile's attention and computes every other operation once per token. The released computation changes at one kind of step only: an overlap token's per-tile results are blended into one shared state with the released weights. Interventions show that this blend costs quality where attention reads the shared states, mainly in the first few layers, which TileShare therefore keeps per tile. Without training, keeping six layers per tile decodes 1.38-1.51x faster than batched and compiled tiling on two GPU types (up to 1.96x with FP8) and is equivalent to the released decoder in PSNR, LPIPS and DISTS on DAVIS videos. On unseen UVG videos with the setting frozen beforehand, it matches PSNR and DISTS and improves LPIPS. TileShare carries over to two further decoders and is again confirmed on unseen data. It is equivalent in PSNR and DISTS on MAGI-1. On the ViTok-v2 image autoencoder at 2K-4K, it matches overlapping tiling in PSNR, improves LPIPS and DISTS and decodes 1.5-1.8x faster. How many layers stay per tile is measured once per model (for decoders, without labels); we report it for 14 decoders and encoders. Optionally, two GPU-hours of self-distillation let MiniMax-H3 share every layer without a loss in PSNR, and a coordinate field trained while the network stays frozen brings fully shared CLIP-based open-vocabulary segmentation to parity with sliding windows on seven benchmarks.
• Abstract（参考訳）: 固定ウィンドウビジョントランスフォーマー(ViT)デコーダは、デプロイ時に重複タイルとして実行され、オーバーラップバンド内のすべてのトークンは、複数のフルデコーダインスタンスによって処理される。 2.4BパラメータのMiniMax-H3ビデオデコーダでは、トーケン毎の計算の約半分が複製される。 タイルの取り外しは、注意、グローバルトークン、座標がそれらに結びついているため失敗する。 TileShareはリリースされている各タイルの注意を守り、トークン毎に他のすべての操作を計算する。 オーバーラップトークンのタイルごとの結果は、解放されたウェイトと1つの共有状態にブレンドされる。 インターベンションによれば、このブレンドは、注意が共有状態を読み取る品質を犠牲にしている。 トレーニングなしでは、タイルごとの6つのレイヤを1.38-1.51倍高速にデコードし、2つのGPUタイプ(FP8で最大1.96倍)でコンパイルし、DAVISビデオ上のPSNR、LPIPS、disTSでリリースされたデコーダと同等である。 未確認のUVGビデオでは、事前に凍結された設定で、PSNRとdisTSにマッチし、LPIPSを改善している。 TileShareはさらに2つのデコーダに渡され、見当たらないデータで確認される。 MAGI-1 上の PSNR と DISTS で等価である。 2K-4KのViTok-v2イメージオートエンコーダでは、PSNRの重なり合うタイリングにマッチし、LPIPSとdisTSを改善し、1.5-1.8倍高速にデコードする。 タイルごとのレイヤ数(ラベルのないデコーダの場合)はモデル毎に1回計測されます。 オプションとして、2つのGPU時間の自己蒸留により、MiniMax-H3はPSNRを失わずにすべてのレイヤを共有でき、ネットワークが凍結している間にトレーニングされた座標フィールドは、7つのベンチマークでスライディングウィンドウと同等にCLIPベースのオープン語彙セグメンテーションを完全に共有する。

関連論文リスト

• LightVAE: Towards Compact and Efficient Video Autoencoders [24.068322697550983]
  時間的モデリングとネットワーク深さの冗長性を利用した圧縮フレームワークLightVAEを提案する。 3つのビデオVAEバックボーンと2つのGPUプラットフォームにまたがって、LightVAEはデコーディングを継続的に加速する。
  論文  参考訳（メタデータ） (2026-10-10T08:46:22Z)
• Programming AMD XDNA NPUs with Open-source Compiler Tools: A FlashAttention Case Study [1.4860505868925091]
  AMD XDNAのような空間的NPUは、小さなローカルメモリの横にあるタイルを計算し、それらの間のデータ移動をソフトウェアに任せる。 XDNA 1 と XDNA 2 の4つの参照設計を比較し、各演算子を個別に動作させ、チップ上の演算子間の2つのストリームと3つの注意段階全てを1つのカーネルに融合させる。 XDNA 2では、完全なエンドツーエンド実行で3.62 TFLOP/sに達し、2Kトークン以上の集積GPUの5.3から7.2倍のエネルギー効率を持つ。
  論文  参考訳（メタデータ） (2026-09-18T03:22:12Z)
• LeVJEPA: Efficient & Scalable Video Pretraining without the Heuristics [50.45297537821907]
  我々はLeJEPAの崩壊のない目的の下で訓練された最初のビデオエンコーダLeVJEPAを紹介する。 単一のエンコーダは、クリップのグローバルおよびローカルビューよりも分散損失で訓練される。 LeVJEPAはV-JEPA 2とVT-S/B/Lの5.6から20.8倍の速さで一致または超える。
  論文  参考訳（メタデータ） (2026-08-27T17:26:24Z)
• MPM: Mutual Pair Merging for Efficient Vision Transformers [2.3741226173924073]
  相互ペアマージング(Mutual Pair Merging、MPM)は、コサイン空間において互いに近接する隣り合うペアを形成する訓練不要なトークンアグリゲーションモジュールである。 ADE20Kでは、Raspberry Pi 5上でのViT-Tinyのイメージ毎のレイテンシを最大60%削減し、FlashAttention-2でH100上でのスループットを最大20%向上する。
  論文  参考訳（メタデータ） (2026-04-07T11:16:18Z)
• Multi-Granular Spatio-Temporal Token Merging for Training-Free Acceleration of Video LLMs [45.52960437068249]
  ビデオ言語モデル(LLM)は、大量の時間トークンを活用することで、強力なビデオ理解を実現するが、2次計算スケーリングに苦しむ。 そこで本研究では,STTMと呼ばれるトレーニングフリーの時間トークンマージ手法を提案する。 我々の重要な洞察は、作業中に見過ごされたビデオデータにおける局所的空間的および時間的冗長性を活用することである。
  論文  参考訳（メタデータ） (2025-07-10T17:59:02Z)
• ReTaKe: Reducing Temporal and Knowledge Redundancy for Long Video Understanding [55.320254859515714]
  ReTaKeは、ビデオLLMsが8倍のフレーム(最大2048年まで)を処理し、類似のモデルも3～5%縮小し、ビデオMME、MLVU、LongVideoBench、LVBenchなどと競合する。 私たちのコードはhttps://github.com/SCZwangxiao/video-ReTaKe.comで公開されています。
  論文  参考訳（メタデータ） (2024-12-29T15:42:24Z)
• NeuMap: Neural Coordinate Mapping by Auto-Transdecoder for Camera Localization [60.73541222862195]
  NeuMapは、カメラのローカライゼーションのためのエンドツーエンドのニューラルマッピング手法である。 シーン全体を遅延コードグリッドにエンコードし、Transformerベースのオートデコーダがクエリピクセルの3D座標を回帰する。
  論文  参考訳（メタデータ） (2022-11-21T04:46:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。