論文の概要: QuickGrasp: Responsive Video-Language Querying Service via Accelerated Tokenization and Edge-Augmented Inference
- arxiv url: http://arxiv.org/abs/2603.00126v1
- Date: Mon, 23 Feb 2026 10:14:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-03 19:50:56.038385
- Title: QuickGrasp: Responsive Video-Language Querying Service via Accelerated Tokenization and Edge-Augmented Inference
- Title（参考訳）: QuickGrasp: 高速化トークン化とエッジ拡張推論によるレスポンシブビデオランゲージクエリサービス
- Authors: Miao Zhang, Ruixiao Zhang, Jianxin Shi, Hengzhi Wang, Hao Fang, Jiangchuan Liu,
- Abstract要約: ビデオ言語モデル(VLM)はビデオクエリサービスを再構築し、認識と推論タスクに統一されたソリューションをもたらす。
小型でローカルにデプロイ可能なVLMはより高速な応答を提供するが、必然的に精度が低い。
レスポンシブ・クオリティ・オブ・サービス(QoS)対応システムであるQuickGraspを提案する。
- 参考スコア（独自算出の注目度）: 27.095150055375566
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Video-language models (VLMs) are reshaping video querying services, bringing unified solutions to complex perception and reasoning tasks. However, deploying large VLMs in real-world systems remains challenging due to their high resource demands, and remote-based deployment often results in unacceptable response delays. Although small, locally deployable VLMs offer faster responses, they unavoidably fall short in accuracy. To reconcile this trade-off, we propose QuickGrasp, a responsive, quality of service (QoS)-aware system that bridges this gap through a local-first architecture with on-demand edge augmentation. Built upon the highly modular architecture of VLMs, QuickGrasp shares the vision representation across model variants to avoid redundant computation. To maximize system-wide efficiency, QuickGrasp introduces three key designs: accelerated video tokenization, query-adaptive edge augmentation, and delay-aware, accuracy-preserving vision token density configuration. We implement a prototype of QuickGrasp and evaluate it across multiple video understanding benchmarks. The results show that QuickGrasp matches the accuracy of large VLMs while achieving up to a 12.8x reduction in response delay. QuickGrasp represents a key advancement toward building responsive video querying services for open-world understanding that fully leverage the capabilities of VLMs.
- Abstract（参考訳）: ビデオ言語モデル(VLM)は、複雑な認識と推論タスクに統一されたソリューションをもたらす、ビデオクエリサービスを再構築している。
しかしながら、実際のシステムに大規模なVLMをデプロイすることは、その高いリソース要求のために依然として困難であり、リモートベースのデプロイメントは、しばしば許容できない応答遅延をもたらす。
小型でローカルにデプロイ可能なVLMはより高速な応答を提供するが、必然的に精度が低い。
このトレードオフを解決するために、我々はQuickGraspを提案する。QuickGraspは応答性が高く、QoS(Quality of Service)を意識したシステムで、オンデマンドエッジ拡張によるローカルファーストアーキテクチャを通して、このギャップを橋渡しする。
VLMの高度にモジュール化されたアーキテクチャに基づいて構築されたQuickGraspは、冗長な計算を避けるためにモデル変種間の視覚表現を共有する。
システム全体の効率を最大化するために、QuickGraspは3つの重要な設計を導入している。
我々はQuickGraspのプロトタイプを実装し、複数のビデオ理解ベンチマークで評価する。
その結果,QuickGraspは最大12.8倍の応答遅延を達成しつつ,大きなVLMの精度と一致していることがわかった。
QuickGraspは、VLMの機能を完全に活用するオープンワールド理解のためのレスポンシブなビデオクエリサービスを構築するための重要な進歩である。
関連論文リスト
- FastV-RAG: Towards Fast and Fine-Grained Video QA with Retrieval-Augmented Generation [8.684174208244483]
VideoSpeculateRAGは、2つの主要なアイデアに基づいて構築された効率的なVLMベースのRAGフレームワークである。
我々は、抽出された知識において、誤認識という大きなエラーの原因を識別する。
実験により、VideoSpeculateRAGは標準的なRAGアプローチと同等または高い精度を達成することが示された。
論文 参考訳（メタデータ） (2026-01-04T12:46:35Z) - Video-QTR: Query-Driven Temporal Reasoning Framework for Lightweight Video Understanding [37.682165829414494]
Video-QTRは、クエリ誘導推論プロセスとしてビデオ理解を再定義する軽量フレームワークである。
ビデオQTRは,入力フレームの消費を最大73%削減し,最先端の性能を実現する。
論文 参考訳（メタデータ） (2025-12-10T06:28:00Z) - SparseVILA: Decoupling Visual Sparsity for Efficient VLM Inference [49.84148668264725]
SparseVILAは効率的なVLM推論のための新しいパラダイムであり、前処理と復号の段階で視覚空間を疎結合する。
AWQ最適化推論パイプライン上に構築されたSparseVILAは、プリフィルの最大4.0倍、デコーディングの2.5倍、長文ビデオタスクの2.6倍のエンドツーエンド高速化を実現している。
論文 参考訳（メタデータ） (2025-10-20T17:35:47Z) - Vgent: Graph-based Retrieval-Reasoning-Augmented Generation For Long Video Understanding [56.45689495743107]
Vgentは、長いビデオ理解のためにLVLMを強化するグラフベースの検索推論拡張生成フレームワークである。
我々は,3つの長ビデオ理解ベンチマークを用いて,様々なオープンソースLVLMを用いてフレームワークの評価を行った。
論文 参考訳（メタデータ） (2025-10-15T19:14:58Z) - AdaVideoRAG: Omni-Contextual Adaptive Retrieval-Augmented Efficient Long Video Understanding [73.60257070465377]
AdaVideoRAGは、軽量なインテント分類器を使用して、クエリ複雑性に基づいた検索に適応する新しいフレームワークである。
我々のフレームワークは、Omni-Knowledge Indexingモジュールを使用して、テキスト(キャプション、ASR、OCR)、視覚的特徴、セマンティックグラフから階層データベースを構築する。
実験では、既存のMLLMにシームレスに統合することで、長時間ビデオ理解のための効率と精度の向上が示されている。
論文 参考訳（メタデータ） (2025-06-16T15:18:15Z) - QuickVideo: Real-Time Long Video Understanding with System Algorithm Co-Design [54.38970077613728]
ビデオ監視、会議要約、教育講義分析、スポーツ放送といった現実の応用において、ロングビデオ理解が重要な機能として現れてきた。
我々は,リアルタイムダウンストリームアプリケーションをサポートするために,長時間ビデオ理解を大幅に高速化するシステムアルゴリズムの共同設計であるQuickVideoを提案する。
論文 参考訳（メタデータ） (2025-05-22T03:26:50Z) - ViQAgent: Zero-Shot Video Question Answering via Agent with Open-Vocabulary Grounding Validation [49.1574468325115]
本研究は、ゼロショットビデオ質問応答(VideoQA)のためのLCMブラインドエージェントを提案する。
Chain-of-Thoughtフレームワークと、YOLO-Worldと組み合わせて、オブジェクトのトラッキングとアライメントを強化する。
このアプローチは、NExT-QA、iVQA、ActivityNet-QAベンチマークのパフォーマンスを向上した、ビデオQAおよびビデオ理解における新しい最先端技術を確立する。
論文 参考訳（メタデータ） (2025-05-21T18:32:43Z) - FastCar: Cache Attentive Replay for Fast Auto-Regressive Video Generation on the Edge [60.000984252907195]
自動回帰(AR)モデルは、サンプリング効率が優れているため、近年、視覚生成タスクにおいて有望であることが示されている。
ビデオ生成は、コヒーレントな時間フレームを生成するために、かなり多くのトークンを必要とする。
我々は,時間的冗長性を探究して,ARビデオ生成のデコードフェーズを高速化する textbfFastCar フレームワークを提案する。
論文 参考訳（メタデータ） (2025-05-17T05:00:39Z) - Slow-Fast Architecture for Video Multi-Modal Large Language Models [42.3957835391319]
既存の方法では、事前に定義されたルールを使用してビデオ表現を圧縮し、マルチモーダルな大言語モデルに入力する。
本稿では、このトレードオフを自然に回避し、空間的詳細を保存しながらより多くの入力フレームを使用できる、新しい低速アーキテクチャを提案する。
提案モデルでは,入力容量を16フレームから128フレームに拡張し,計算能力は3%向上した。
論文 参考訳（メタデータ） (2025-04-02T03:24:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。