論文の概要: Towards Visual Query Segmentation in the Wild
- arxiv url: http://arxiv.org/abs/2603.08898v1
- Date: Mon, 09 Mar 2026 20:09:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-11 15:25:23.80806
- Title: Towards Visual Query Segmentation in the Wild
- Title(参考訳): 野生でのビジュアルクエリセグメンテーションに向けて
- Abstract要約: ビジュアルクエリローカライゼーション(VQL)の新しいパラダイムであるビジュアルクエリセグメンテーション(VQS)を導入する。
VQSは、外部のビジュアルクエリを考慮し、未トリミングされたビデオに注目するオブジェクトのピクセルレベルのすべての発生をセグメンテーションすることを目的としている。
本稿では,VQS専用の大規模ベンチマークであるVQS-4Kを提案する。
- 参考スコア(独自算出の注目度): 23.644748674190026
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we introduce visual query segmentation (VQS), a new paradigm of visual query localization (VQL) that aims to segment all pixel-level occurrences of an object of interest in an untrimmed video, given an external visual query. Compared to existing VQL locating only the last appearance of a target using bounding boxes, VQS enables more comprehensive (i.e., all object occurrences) and precise (i.e., pixel-level masks) localization, making it more practical for real-world scenarios. To foster research on this task, we present VQS-4K, a large-scale benchmark dedicated to VQS. Specifically, VQS-4K contains 4,111 videos with more than 1.3 million frames and covers a diverse set of 222 object categories. Each video is paired with a visual query defined by a frame outside the search video and its target mask, and annotated with spatial-temporal masklets corresponding to the queried target. To ensure high quality, all videos in VQS-4K are manually labeled with meticulous inspection and iterative refinement. To the best of our knowledge, VQS-4K is the first benchmark specifically designed for VQS. Furthermore, to stimulate future research, we present a simple yet effective method, named VQ-SAM, which extends SAM 2 by leveraging target-specific and background distractor cues from the video to progressively evolve the memory through a novel multi-stage framework with an adaptive memory generation (AMG) module for VQS, significantly improving the performance. In our extensive experiments on VQS-4K, VQ-SAM achieves promising results and surpasses all existing approaches, demonstrating its effectiveness. With the proposed VQS-4K and VQ-SAM, we expect to go beyond the current VQL paradigm and inspire more future research and practical applications on VQS. Our benchmark, code, and results will be made publicly available.
- Abstract(参考訳): 本稿では,視覚的クエリローカライゼーション(VQL)の新たなパラダイムである視覚的クエリセグメンテーション(VQS)を紹介する。
既存のVQLがバウンディングボックスを使用してターゲットの最後の外観だけを配置しているのに対し、VQSはより包括的で正確な(ピクセルレベルのマスク)ローカライゼーションを可能にし、現実世界のシナリオでより実用的である。
本稿では,VQS専用の大規模ベンチマークであるVQS-4Kを提案する。
具体的には、VQS-4Kは130万フレーム以上の4,111本のビデオを含み、222のオブジェクトカテゴリをカバーしている。
各ビデオは、検索ビデオの外のフレームとそのターゲットマスクで定義されたビジュアルクエリとペアリングされ、クエリされたターゲットに対応する空間時間マスクレットと注釈付けされる。
高品質を確保するため、VQS-4Kの全てのビデオは手動で精細な検査と反復的な精査でラベル付けされる。
我々の知る限りでは、VQS-4KはVQS用に特別に設計された最初のベンチマークである。
さらに,本稿では,VQS用適応メモリ生成(AMG)モジュールを用いた新たな多段階フレームワークにより,映像からターゲット固有および背景乱れを段階的に進化させ,SAM2を拡張した,VQ-SAMというシンプルな手法を提案する。
VQS-4Kに関する広範な実験において、VQ-SAMは有望な結果を達成し、既存のすべてのアプローチを超越し、その効果を実証した。
提案されているVQS-4KとVQ-SAMでは、現在のVQLパラダイムを超えて、VQSに関するより将来の研究と実践的応用を刺激することを期待しています。
私たちのベンチマーク、コード、結果は公開されます。
関連論文リスト
- VisualRouter: Query-Grounded Visual Sampling for Long Video Understanding [60.161767365040554]
本稿では,クエリグラウンドビジュアルサンプリングのためのトレーニングフリーかつプラグイン・アンド・プレイフレームワークを提案する。
Visual Firstは、各クエリをグローバルまたはローカルに分類し、それに対応するサンプリング戦略を適用する。
実験の結果、Visualは均一サンプリングよりも複数のLVLMを継続的に改善し、ビデオ-MME、LongVideoBench、MLVUで5.2%、7.7%、11.6%を達成し、Qwen2.5-VL-7Bで既存のトレーニング不要のビジュアルサンプリング手法より優れていた。
論文 参考訳(メタデータ) (2026-07-30T16:23:10Z) - QCA: Query- and Content-Aware Keyframe Selection for Long Video Understanding [78.36929439152566]
本稿では,長いビデオからコンパクトだが情報に富んだフレームを選択可能なクエリ・アンド・コンテント・アウェア(QCA)選択フレームワークを提案する。
QCAは最もクエリ関連性の高いフレームにアンカーし、クエリのセマンティックな関連性を維持しながら、多様性を最大化するために追加のフレームを反復的に組み込む。
我々の方法は追加のトレーニングを必要とせず、既存のVideo-LLMにシームレスに統合できる。
論文 参考訳(メタデータ) (2026-07-01T14:19:24Z) - MVQA-68K: A Multi-dimensional and Causally-annotated Dataset with Quality Interpretability for Video Assessment [14.705190484805962]
ビデオ品質アセスメント(VQA)は、事前トレーニングで使用する大規模データセットから高品質なビデオを選択する上で、ますます重要になっている。
MVQA-68Kは68,000以上の注意深い注釈付きビデオからなる新しい多次元VQAデータセットである。
実験により、MVQA-68KはVQAタスクにおける様々な大規模言語モデル(MLLM)の性能を大幅に向上させることが示された。
論文 参考訳(メタデータ) (2025-09-15T05:16:54Z) - PRVQL: Progressive Knowledge-guided Refinement for Robust Egocentric Visual Query Localization [31.190062677234824]
エゴセントリックなビジュアルクエリローカライゼーション(EgoVQL)は、空間と時間のターゲットを、一人称ビデオからローカライズすることに焦点を当てている。
EgoVQL用の新しいプログレッシブ知識誘導型リファインメントフレームワークであるPRVQLを紹介する。
論文 参考訳(メタデータ) (2025-02-11T17:04:31Z) - VQA$^2$: Visual Question Answering for Video Quality Assessment [76.81110038738699]
ビデオ品質アセスメント(VQA)は、低レベルの視覚知覚において古典的な分野である。
画像領域における最近の研究は、視覚質問応答(VQA)が視覚的品質を著しく低レベルに評価できることを示した。
VQA2インストラクションデータセットは,ビデオ品質評価に焦点をあてた最初の視覚的質問応答インストラクションデータセットである。
VQA2シリーズは、ビデオにおける空間的時間的品質の詳細の知覚を高めるために、視覚的および運動的トークンをインターリーブする。
論文 参考訳(メタデータ) (2024-11-06T09:39:52Z) - LMM-VQA: Advancing Video Quality Assessment with Large Multimodal Models [53.64461404882853]
ビデオ品質評価(VQA)アルゴリズムは、ストリーミングビデオの品質を監視し最適化するために必要である。
本稿では,LMM-VQA(Large Multi-Modal Video Quality Assessment)モデルを提案する。
論文 参考訳(メタデータ) (2024-08-26T04:29:52Z) - Single-Stage Visual Query Localization in Egocentric Videos [79.71065005161566]
エンドツーエンドのトレーニングが可能なシングルステージのVQLフレームワークを提案する。
我々は,クエリとビデオフレーム間の問合せ対応を考慮し,問合せとビデオの関係を確立する。
実験により,提案手法の精度は従来のVQL手法よりも20%向上し,推論速度は10倍向上した。
論文 参考訳(メタデータ) (2023-06-15T17:57:28Z) - ANetQA: A Large-scale Benchmark for Fine-grained Compositional Reasoning
over Untrimmed Videos [120.80589215132322]
ANetQAは,ActivityNetの未トリミングビデオに対して,詳細な合成推論をサポートする大規模ベンチマークである。
ANetQAは140億のアンバランスと1340万のバランスの取れたQAペアを達成した。
最高のモデルでは44.5%の精度が達成され、人間のパフォーマンスは84.5%に上り、改善の余地は十分残っている。
論文 参考訳(メタデータ) (2023-05-04T03:04:59Z) - Zoom-VQA: Patches, Frames and Clips Integration for Video Quality
Assessment [14.728530703277283]
ビデオアセスメント(VQA)は、映像品質に対する人間の認識をシミュレートすることを目的としている。
ビデオはパッチレベル、フレームレベル、クリップレベルという3つのレベルに分けられます。
異なるレベルの機能を知覚するためのZoom-VQAアーキテクチャを提案する。
論文 参考訳(メタデータ) (2023-04-13T12:18:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。