論文の概要: Which Tokens to Merge? Diffusion Dynamics for Efficient Image Generation

• arxiv url: http://arxiv.org/abs/2610.22370v1
• Date: Thu, 15 Oct 2026 17:59:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 06:09:33.284785
• Title: Which Tokens to Merge? Diffusion Dynamics for Efficient Image Generation
• Title（参考訳）: マージにはどれが必要か? 効率的な画像生成のための拡散ダイナミクス
• Abstract要約: 本研究では,基礎となる拡散力学にトークンマージを基礎とするトレーニングフリーフレームワークDaTMeを提案する。 キーとなる洞察は、トークンの重要性は、トークンが妄想の間未解決のままであるかどうか、そしてそれが構造的情報を持っているかどうかを反映すべきである、ということです。 DaTMeは、所定の圧縮比の下でトークンをマージロールに適応的に割り当てる。
• 参考スコア（独自算出の注目度）: 8.695633481645697
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Token merging has emerged as an effective training-free strategy for accelerating diffusion models by reducing redundant token computation while minimizing generation degradation. A key challenge is determining which tokens can be safely merged and which should be preserved for subsequent computation. Existing method addresses this by preserving prompt-aligned foreground regions, thereby protecting semantically relevant structures. However, this text-relevance criterion overlooks background objects, local details that are not explicitly mentioned in the prompt, leading to degraded structural coherence. In this work, we propose Dynamics-aware Token Merging (DaTMe), a training-free framework that grounds token merging in the underlying diffusion dynamics. Our key insight is that token importance should reflect whether a token remains unresolved during denoising and whether it carries structural information. To this end, DaTMe constructs a dynamics- aware importance map from the Tweedie denoised estimate. The map combines a temporal signal, measuring inter-step changes in the predicted clean image, with a structural signal, capturing local high-frequency content such as boundaries and fine details. Using this map, DaTMe adaptively assigns tokens into merging roles under a given compression ratio: important tokens are preserved as anchors, while tokens that are both temporally stabilized and structurally homogeneous are selected as safe merge candidates. Experiments on PixArt-a and FLUX demonstrate that DaTMe maintains visual fidelity across the entire image, highlighting diffusion dynamics as an effective token-level merging decision in efficient generation. Our code is available at https://github.com/SeungJuCha/DaTMe.
• Abstract（参考訳）: トークンの冗長化を最小化しつつ、冗長なトークン計算を減らし、拡散モデルを加速させる効果的なトレーニングフリー戦略として、トークンマージが登場した。 重要な課題は、どのトークンを安全にマージし、どのトークンをその後の計算のために保存すべきかを決定することである。 既存の方法は、プロンプトに整列した前景の領域を保存し、意味的に関連する構造を保護することで、この問題に対処する。 しかし、このテキスト関連基準は、背景オブジェクトやプロンプトで明示的に言及されていない局所的な詳細を見落とし、構造的コヒーレンスを低下させる。 本研究では,基礎となる拡散力学にトークンをマージするトレーニングフリーフレームワークであるDynamics-Aware Token Merging (DaTMe)を提案する。 キーとなる洞察は、トークンの重要性は、トークンが妄想の間未解決のままであるかどうか、そしてそれが構造的情報を持っているかどうかを反映すべきである、ということです。 この目的のために、DaTMe は Tweedie denoized estimate からDynamics- aware important map を構築する。 地図は時間信号と、予測されたクリーン画像のステップ間変化を、構造信号と組み合わせ、境界や細部といった局所的な高周波コンテンツをキャプチャする。 重要なトークンはアンカーとして保存され、時間的に安定化され、構造的に均質なトークンは安全なマージ候補として選択される。 PixArt-aとFLUXの実験では、DaTMeは画像全体の視覚的忠実さを維持しており、効率的な生成における効果的なトークンレベルのマージ決定として拡散ダイナミクスを強調している。 私たちのコードはhttps://github.com/SeungJuCha/DaTMe.comから入手可能です。

関連論文リスト

• MaskAlign: Token-Subset Representation Alignment for Efficient Diffusion Training [53.777757218665386]
  MaskAlignは、トレーニング中にランダムにサンプリングされたトークンサブセットにアライメントを適用するトークン-サブセット表現アライメント手法である。 我々は、MaskAlignが完全なトークン集合への配向の依存を減らし、トークン-サブセット摂動下でより安定な配向挙動を促進することを示す。
  論文  参考訳（メタデータ） (2026-06-07T19:11:22Z)
• Mutual Enhancement Between Global Tokens and Patch Tokens: From Theory to Practice [32.91418593188147]
  TaTokは理論的に基礎付けられた適応型イメージトークン化フレームワークである。 パッチトークン間で相互情報をモデル化するグローバルトークンを導入する。 実験では、TaTokの最先端性能を確認し、1.3倍のgFID改善と8.7倍の推論速度を提供する。
  論文  参考訳（メタデータ） (2026-05-11T10:51:02Z)
• Learning Fingerprints for Medical Time Series with Redundancy-Constrained Information Maximization [11.233142317726971]
  可変長のMedTSを固定サイズの$k$潜在フィンガープリントトークンに圧縮する新しいフレームワークを提案する。 私たちのアーキテクチャでは、これらのトークンを生成するために、クロスアテンションボトルネックを使用し、二重目的関数でトレーニングされています。 このアプローチは低次元、解釈可能、サンプル効率の表現を生み出し、各トークンは変動の独立した要因を捉えることを奨励する。
  論文  参考訳（メタデータ） (2026-04-30T18:33:40Z)
• Semantic-Aware Prefix Learning for Token-Efficient Image Generation [15.50406566147261]
  本稿では,クエリベースの1Dトークン化フレームワークにクラスレベルの意味条件を注入するSemantic-Aware Prefixトークン化手法を提案する。 トレーニング中にセマンティクスを必須にするために、SMAPは、セマンティクス条件と早期潜伏プレフィックスが責任を負うように強制するテールトークンドロップ戦略を導入する。 ImageNetの実験では、SMAPは離散的および連続的なトークン化設定における再構成品質を一貫して改善している。
  論文  参考訳（メタデータ） (2026-03-26T09:52:51Z)
• StructSAM: Structure- and Spectrum-Preserving Token Merging for Segment Anything Models [57.674757786328236]
  StructSAMは、Segment Anything Model(SAM)に適した解像度保存型マージアンマージフレームワークである また,StructSAMはエンコーダFLOPsを25～30%削減し,mIoU/Diceに少量の低下を認めた。 また、スペクトルグラフ粗大化ビューでは、スコア誘導マージにより、ランダムまたはウィンドウ制限ベースラインと比較して、ラプラシアスペクトル歪みが有界となることを示す。
  論文  参考訳（メタデータ） (2026-03-07T18:30:58Z)
• Bridging Continuous and Discrete Tokens for Autoregressive Visual Generation [85.82112629564942]
  本稿では,離散トークンのモデリングをシンプルに保ちながら,連続トークンの強力な表現能力を維持するTokenBridgeを提案する。 本稿では,各特徴次元を独立に離散化し,軽量な自己回帰予測機構と組み合わせた次元ワイド量子化戦略を提案する。 提案手法は,標準的なカテゴリー予測を用いて,連続的手法と同等に再現および生成品質を実現する。
  論文  参考訳（メタデータ） (2025-03-20T17:59:59Z)
• Token Fusion: Bridging the Gap between Token Pruning and Token Merging [71.84591084401458]
  ビジョントランスフォーマー(ViT)はコンピュータビジョンの強力なバックボーンとして登場し、多くの伝統的なCNNを上回っている。 計算オーバーヘッドは、主に自己アテンション機構によるもので、リソース制約のあるエッジデバイスへのデプロイが困難になる。 トークンプルーニングとトークンマージの両方のメリットを両立させる手法であるToken Fusion(ToFu)を紹介する。
  論文  参考訳（メタデータ） (2023-12-02T04:29:19Z)
• AiluRus: A Scalable ViT Framework for Dense Prediction [95.1313839257891]
  視覚変換器 (ViT) は、その優れた性能のため、視覚タスクの一般的なアーキテクチャとして登場した。 本稿では,画像の異なる領域に対して,その重要度に応じて適応分解能を適用することを提案する。 提案手法を3つの異なるデータセット上で評価し,有望な性能を観察する。
  論文  参考訳（メタデータ） (2023-11-02T12:48:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。