論文の概要: Task-Oriented Visual Feature Compression via Residual Vector Quantization for Device-Edge Multimodal Inference

• arxiv url: http://arxiv.org/abs/2609.37090v1
• Date: Tue, 29 Sep 2026 09:17:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.359744
• Title: Task-Oriented Visual Feature Compression via Residual Vector Quantization for Device-Edge Multimodal Inference
• Title（参考訳）: デバイスエッジマルチモーダル推論のための残差ベクトル量子化によるタスク指向視覚特徴圧縮
• Abstract要約: 大規模マルチモーダルモデル(LMM)は多様な視覚的理解と推論タスクをサポートする。 帯域幅制限のアップリンクを介して視覚データを送信することは、かなりの遅延を引き起こす可能性がある。 デバイスエッジマルチモーダル推論のためのクエリ誘導型タスク指向特徴圧縮(Q-TOFC)を提案する。
• 参考スコア（独自算出の注目度）: 21.199124047080392
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large multimodal models (LMMs) support diverse visual understanding and reasoning tasks but are often impractical to run entirely on resource-constrained devices. Device-edge co-inference reduces device computation, yet transmitting visual data over bandwidth-limited uplinks can introduce substantial delay. Task-oriented feature compression (TOFC) reduces the payload through feature aggregation and entropy coding. However, continuous-feature coding remains costly, and query-agnostic aggregation may discard task-relevant local evidence. We propose query-guided task-oriented feature compression (Q-TOFC) for device-edge multimodal inference. Q-TOFC employs residual vector quantization (RVQ) to encode each merged feature as a compact sequence of codebook indices, reducing its representation cost and allowing more features to be transmitted. It further incorporates query relevance into feature aggregation and uses a quantization error compensation adapter to mitigate the distortion introduced by discrete quantization. Experiments on seven multimodal benchmarks show that Q-TOFC reduces the visual payload by 53.6% relative to TOFC while maintaining comparable average normalized task performance. End-to-end latency evaluations further demonstrate lower latency under bandwidth-constrained uplinks.
• Abstract（参考訳）: 大規模マルチモーダルモデル(LMM)は、様々な視覚的理解と推論タスクをサポートするが、リソースに制約のあるデバイスで完全に動作することは現実的ではないことが多い。 デバイスエッジのコ推論はデバイスの計算を減らしますが、帯域幅制限のアップリンクを介して視覚データを送信することで、かなりの遅延が発生します。 タスク指向特徴圧縮(TOFC)は、特徴集約とエントロピー符号化によってペイロードを削減する。 しかし、連続的な符号化はコストがかかるままであり、クエリ非依存の集約はタスク関連ローカルエビデンスを捨てる可能性がある。 デバイスエッジマルチモーダル推論のためのクエリ誘導型タスク指向特徴圧縮(Q-TOFC)を提案する。 Q-TOFCは、残差ベクトル量子化(RVQ)を使用して、各マージされた特徴をコードブックインデックスのコンパクトなシーケンスとしてエンコードし、その表現コストを低減し、より多くの特徴を伝達できるようにする。 さらに、クエリ関連性を特徴集約に組み込み、離散量子化によってもたらされる歪みを軽減するために量子化エラー補償アダプタを使用する。 7つのマルチモーダルベンチマークの実験では、Q-TOFCはTOFCと比較して視覚的ペイロードを53.6%削減し、平均的な正規化タスク性能を維持している。 エンド・ツー・エンドのレイテンシ評価は、帯域幅に制限されたアップリンクの下でのレイテンシの低下をさらに示す。

関連論文リスト

• CST: Collaborative Selective Transmission for Communication-Efficient Multimodal Edge Inference [17.16654978147536]
  協調選択伝達(CST)は、現在の主表現を補完するヘルパー情報のみを取得する。 CSTは評価された方法の中で、最良または最良なタスク性能を達成する。 5-100 Mbpsでテストされた5ノードのNVIDIA Jetson Orin Nanoの実験では、エンドツーエンドの推論でTransmit-Allよりも4.27Times$のスピードアップが実証された。
  論文  参考訳（メタデータ） (2026-08-22T21:59:06Z)
• PQuantML: A Tool for End-to-End Hardware-aware Model Compression [4.411331461983092]
  PQuantMLは、エンドツーエンド環境に適したハードウェア対応ニューラルネットワークモデル圧縮ライブラリである。 このライブラリは、異なる粒度を持つ複数のプルーニング法と、高グラニュラリティ量子化をサポートする固定点量子化を実装している。
  論文  参考訳（メタデータ） (2026-03-27T16:54:46Z)
• The Larger the Merrier? Efficient Large AI Model Inference in Wireless Edge Networks [56.37880529653111]
  大規模計算モデル(LAIM)サービスの需要は、従来のクラウドベースの推論から、低レイテンシでプライバシ保護のアプリケーションのためのエッジベースの推論へのパラダイムシフトを推進している。 本稿では,事前学習したLAIMをデバイス上のサブモデルとサーバ上のサブモデルに分割して配置するLAIM推論方式について検討する。
  論文  参考訳（メタデータ） (2025-05-14T08:18:55Z)
• Task-Oriented Feature Compression for Multimodal Understanding via Device-Edge Co-Inference [54.53508601749513]
  本稿では,マルチモーダル理解のためのタスク指向特徴圧縮(TOFC)手法を提案する。 圧縮効率を向上させるために、視覚特徴の特性に基づいて複数のエントロピーモデルを適応的に選択する。 その結果,TOFCはデータ転送オーバーヘッドを最大52%削減し,システム遅延を最大63%削減できることがわかった。
  論文  参考訳（メタデータ） (2025-03-17T08:37:22Z)
• Structured Sparsity Learning for Efficient Video Super-Resolution [99.1632164448236]
  我々は、ビデオ超解像(VSR)モデルの特性に応じて、構造化スパシティ学習(SSL)と呼ばれる構造化プルーニング手法を開発する。 SSLでは,残差ブロック,リカレントネットワーク,アップサンプリングネットワークなど,VSRモデルのいくつかの重要なコンポーネントに対するプルーニングスキームを設計する。
  論文  参考訳（メタデータ） (2022-06-15T17:36:04Z)
• PAMS: Quantized Super-Resolution via Parameterized Max Scale [84.55675222525608]
  深部畳み込みニューラルネットワーク(DCNN)は超解像処理(SR)において優位な性能を示した 本稿では,PAMS(Parameterized Max Scale)と呼ばれる新しい量子化手法を提案する。 実験により,提案手法はEDSRやRDNなどの既存のSRモデルを適切に圧縮・高速化できることが示された。
  論文  参考訳（メタデータ） (2020-11-09T06:16:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。