論文の概要: SAKURA: Serving Attention Key-Value State Under Rate Adaptation for Private Image Editing on Phones

• arxiv url: http://arxiv.org/abs/2610.29733v1
• Date: Wed, 21 Oct 2026 13:35:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.373804
• Title: SAKURA: Serving Attention Key-Value State Under Rate Adaptation for Private Image Editing on Phones
• Title（参考訳）: さくら:電話で私的な画像編集を行うために、レート適応の下でキーバリュー状態に気を配る
• Abstract要約: 拡散変換器は画像編集サービスで広く使われている。 リクエスト固有の推論をデバイスに保持することは、個人的なイメージやプロンプトをクラウドに送信することを避ける。 私たちは,帯域幅の予算の下でモバイルデバイスに再利用可能な注意状態を提供する,クラウドエッジアーキテクチャであるSAkuraを紹介した。
• 参考スコア（独自算出の注目度）: 2.9398609461103073
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion transformers are widely used in image-editing services. To preserve both efficiency and privacy, existing systems commonly rely on cloud-device collaboration. Keeping request-specific inference on the device avoids sending personal images and prompts to the cloud. These workloads often use common templates, such as in face swapping and virtual try-on, enabling KV state to be precomputed and reused across requests. However, this reusable state is large and scales with the number of templates, making it impractical to store all of them on mobile devices. Storing them in the cloud addresses this capacity issue, but cache transfer is placed onto the inference path and can even be slower than on-device computation, especially under fluctuating mobile networks. We introduce SAKURA, a cloud-edge architecture that delivers reusable attention state to mobile devices under a bandwidth budget. It first uses a fine-grained token-importance-aware compression method to preserve image quality under limited transfer budgets. At runtime, SAKURA adaptively selects the cache representation for each upcoming shard based on network bandwidth. To enable efficient execution, we develop a pipelined runtime that overlaps cache transfer and reconstruction with on-device execution. We evaluate SAKURA using three editing tasks and two diffusion models, using a Snapdragon 8 Elite Gen 5 phone. SAKURA reduces latency by 1.82x and 3.27x over CacheGen adapted to DiT and on-device generation, respectively. It also reduces cache storage by 3.06x over uncompressed cache, while preserving image quality.
• Abstract（参考訳）: 拡散変換器は画像編集サービスで広く使われている。 効率性とプライバシの両面を維持するため、既存のシステムは一般的にクラウドとデバイス間のコラボレーションに依存している。 リクエスト固有の推論をデバイスに保持することは、個人的なイメージやプロンプトをクラウドに送信することを避ける。 これらのワークロードは、フェーススワッピングや仮想トライオンなどの一般的なテンプレートを使用することが多く、KV状態の事前計算とリクエストの再利用を可能にする。 しかし、この再利用可能な状態は、テンプレートの数とともに大きくスケールしているため、これらすべてをモバイルデバイスに格納するのは現実的ではない。 クラウドに保存することは、このキャパシティの問題に対処するが、キャッシュ転送は推論パスに置かれ、特に変動するモバイルネットワークにおいて、デバイス上の計算よりも遅くなる可能性がある。 私たちは,帯域幅の予算の下でモバイルデバイスに再利用可能な注意状態を提供する,クラウドエッジアーキテクチャであるSAkuraを紹介した。 はじめに、限られた転送予算の下で画像品質を維持するために、きめ細かいトークンに注意を払って圧縮する手法を用いる。 実行時に、SAkuraはネットワーク帯域幅に基づいて、次のシャードごとにキャッシュ表現を適応的に選択する。 効率的な実行を実現するため,キャッシュ転送と再構築とデバイス上での実行を重複させるパイプラインランタイムを開発した。 Snapdragon 8 Elite Gen 5を用いた3つの編集タスクと2つの拡散モデルを用いて佐倉の評価を行った。 SAkuraは、DiTに適合したCacheGenとオンデバイス生成に対して、レイテンシを1.82倍と3.27倍に削減する。 また、画像品質を保ちながら、圧縮されていないキャッシュに対して、キャッシュストレージを3.06倍削減する。

関連論文リスト

• SyncCache: Exploiting Asymmetric Dynamics for Fast Audio-Driven Portrait Animation [72.09280113664535]
  Diffusion Transformer (DiT) は、オーディオ駆動のポートレートアニメーションを著しく進歩させたが、その高い計算コストは、かなりの推論遅延をもたらす。 そこで我々は,DiT ベースのポートレートアニメーションに適した,トレーニング不要なキャッシュアクセラレーション手法 SyncCache を提案する。
  論文  参考訳（メタデータ） (2026-06-29T19:26:13Z)
• TetherCache: Stabilizing Autoregressive Long-Form Video Generation with Gated Recall and Trusted Alignment [51.33418612284208]
  ドリフト耐性長ビデオ生成のためのトレーニングフリーでプラグアンドプレイのキャッシュ管理戦略であるTetherCacheを提案する。 Gated Recall with Attention-Diversity Balancingは、ゲートスコアを使用して長距離メモリフレームを選択する。 TAMEは、信頼されたコンテキスト分布に統計を合わせることで、新しくリコールされたメモリトークンを軽量に編集する。
  論文  参考訳（メタデータ） (2026-06-11T08:16:08Z)
• ObjectCache: Layerwise Object-Storage Retrieval for KV Cache Reuse [6.734363135861142]
  プリフィックスKVキャッシュはLLMサービスにおいて重要なメカニズムとなっている。 現在のシステムは、KVキャッシュをリモートDRAMプールに保持し、サービスクラスタのサイズとコストを増大させる。 ストレージサーバがKVキャッシュデータをGPUが消費する順番に配信するように,ストレージプロトコルと転送スケジュールを共同設計するObjectCacheを提案する。
  論文  参考訳（メタデータ） (2026-05-16T16:48:46Z)
• Stochastic KV Routing: Enabling Adaptive Depth-Wise Cache Sharing [29.913403615975174]
  高いスループットでトランスフォーマー言語モデルを実行するには、冗長な計算を避けるためにキーバリュー(KV)をキャッシュする必要がある。 KVキャッシュのメモリフットプリントは著しく、サービスコストに大きな影響を与えます。 本稿では,ランダムな層間注意(ランダムな層間注意,ランダムな層間注意,ランダムな層間注意)を提案する。
  論文  参考訳（メタデータ） (2026-04-03T14:56:17Z)
• Quant VideoGen: Auto-Regressive Long Video Generation via 2-Bit KV-Cache Quantization [83.406036390582]
  Quant VideoGen(QVG)は、自動回帰ビデオ拡散モデルのためのトレーニングフリーなKVキャッシュ量子化フレームワークである。 これにより、KVメモリを最大7.0倍に削減できる。 生成品質において、既存のベースラインを一貫して上回る。
  論文  参考訳（メタデータ） (2026-02-03T00:54:32Z)
• PackCache: A Training-Free Acceleration Method for Unified Autoregressive Video Generation via Compact KV-Cache [61.57938553036056]
  トレーニング不要なKVキャッシュ管理手法であるPackCacheを導入し,KVキャッシュを3つの協調機構でコンパクト化する。 効率の面では、PackCacheは48フレームの長いシーケンスで1.7-2.2倍のエンドツーエンド生成を高速化する。
  論文  参考訳（メタデータ） (2026-01-07T19:51:06Z)
• QuantCache: Adaptive Importance-Guided Quantization with Hierarchical Latent and Layer Caching for Video Generation [84.91431271257437]
  Diffusion Transformers (DiTs) はビデオ生成において支配的なアーキテクチャとして登場した。 DiTには、計算コストやメモリコストの増大など、大きな欠点がある。 我々は,新しいトレーニングフリー推論アクセラレーションフレームワークQuantCacheを提案する。
  論文  参考訳（メタデータ） (2025-03-09T10:31:51Z)
• Accelerating Diffusion Transformers with Dual Feature Caching [25.36988865752475]
  拡散変換器(DiT)は画像およびビデオ生成において支配的な手法となっているが、依然としてかなりの計算コストを被っている。 DiTアクセラレーションの効果的なアプローチとして、機能キャッシング手法は、以前のタイムステップでDiTの特徴をキャッシュするように設計されている。 以前のタイムステップでキャッシュされたすべての機能を積極的に再利用することで、世代品質が大幅に低下する。
  論文  参考訳（メタデータ） (2024-12-25T14:00:14Z)
• Compute Or Load KV Cache? Why Not Both? [6.982874528357836]
  Cakeは計算資源とI/Oリソースを並列に最適に利用する新しいKVキャッシュローディングシステムである。 Cakeは、計算のみの手法やI/Oのみの手法と比較して、TTFT(Time to First Token)の平均2.6倍の削減を実現している。
  論文  参考訳（メタデータ） (2024-10-04T01:11:09Z)
• Real-Time Image Demoireing on Mobile Devices [59.59997851375429]
  本稿では,モバイルデバイス上でのリアルタイム展開に向けた動的復号化高速化手法(DDA)を提案する。 私たちの刺激は、モアレパターンが画像全体に不均衡に分散されることが、シンプルで普遍的な事実に起因しています。 提案手法は推定時間を劇的に短縮し,モバイルデバイス上でリアルタイムな画像復調を実現する。
  論文  参考訳（メタデータ） (2023-02-04T15:42:42Z)
• Improving Image-recognition Edge Caches with a Generative Adversarial Network [0.17188280334580192]
  画像認識は、いくつかのモバイルアプリケーションにおいて重要なタスクである。 スマートフォンはランドマーク写真を処理して位置情報を収集することができる。 デバイスに十分な計算リソースがなければ、処理タスクをクラウドインフラストラクチャにオフロードする。 私たちのソリューションはクラウドのオフロードを減らし、アプリケーションの遅延を減らします。
  論文  参考訳（メタデータ） (2022-02-11T23:12:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。