論文の概要: Large Language Model Guided Progressive Feature Alignment for Multimodal UAV Object Detection

• arxiv url: http://arxiv.org/abs/2503.06948v1
• Date: Mon, 10 Mar 2025 05:53:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-11 15:51:44.026106
• Title: Large Language Model Guided Progressive Feature Alignment for Multimodal UAV Object Detection
• Title（参考訳）: 大規模言語モデルによるマルチモーダルUAVオブジェクト検出のためのプログレッシブ特徴アライメント
• Authors: Wentao Wu, Chenglong Li, Xiao Wang, Bin Luo, Qi Liu,
• Abstract要約: 既存のUAVオブジェクト検出手法は、しばしばモダリティ間の意味的ギャップの影響を見落としている。 本稿では,LPANet と呼ばれる,Large Language Model (LLM) ガイド付きプログレッシブ機能アライメントネットワークを提案する。 提案手法は,最先端のマルチモーダルUAVオブジェクト検出器よりも優れていることを示す。
• 参考スコア（独自算出の注目度）: 21.16636753446158
• License:
• Abstract: Existing multimodal UAV object detection methods often overlook the impact of semantic gaps between modalities, which makes it difficult to achieve accurate semantic and spatial alignments, limiting detection performance. To address this problem, we propose a Large Language Model (LLM) guided Progressive feature Alignment Network called LPANet, which leverages the semantic features extracted from a large language model to guide the progressive semantic and spatial alignment between modalities for multimodal UAV object detection. To employ the powerful semantic representation of LLM, we generate the fine-grained text descriptions of each object category by ChatGPT and then extract the semantic features using the large language model MPNet. Based on the semantic features, we guide the semantic and spatial alignments in a progressive manner as follows. First, we design the Semantic Alignment Module (SAM) to pull the semantic features and multimodal visual features of each object closer, alleviating the semantic differences of objects between modalities. Second, we design the Explicit Spatial alignment Module (ESM) by integrating the semantic relations into the estimation of feature-level offsets, alleviating the coarse spatial misalignment between modalities. Finally, we design the Implicit Spatial alignment Module (ISM), which leverages the cross-modal correlations to aggregate key features from neighboring regions to achieve implicit spatial alignment. Comprehensive experiments on two public multimodal UAV object detection datasets demonstrate that our approach outperforms state-of-the-art multimodal UAV object detectors.
• Abstract（参考訳）: 既存のUAVオブジェクト検出手法は、しばしばモダリティ間のセマンティックギャップの影響を見落とし、正確なセマンティックアライメントと空間アライメントの達成を困難にし、検出性能を制限している。 この問題を解決するために,LPANetと呼ばれるLarge Language Model (LLM) ガイド付きプログレッシブ・フィーチャーアライメント・ネットワークを提案する。 LLMの強力な意味表現を活用するために、ChatGPTにより各オブジェクトカテゴリの詳細なテキスト記述を生成し、それから大きな言語モデルMPNetを用いて意味的特徴を抽出する。 意味的特徴に基づいて,意味的アライメントと空間的アライメントを次のように進行的に導く。 まず、セマンティックアライメントモジュール(SAM)を設計し、各オブジェクトのセマンティックな特徴とマルチモーダルな視覚的特徴を引き出す。 第2に、特徴レベルのオフセットの推定に意味的関係を組み込むことにより、モダリティ間の粗い空間的不一致を緩和し、明示的空間的アライメントモジュール(ESM)を設計する。 最後に,周辺地域の重要な特徴を集約して暗黙的な空間アライメントを実現するために,その相互相関を利用したImplicit空間アライメントモジュール(ISM)を設計する。 2つのパブリックなマルチモーダルUAVオブジェクト検出データセットに関する総合的な実験により、我々のアプローチは最先端のマルチモーダルUAVオブジェクト検出器よりも優れていることが示された。

関連論文リスト

• Learning Spatial-Semantic Features for Robust Video Object Segmentation [108.045326229865]
  空間意味的特徴と識別的オブジェクトクエリを備えたロバストなビデオオブジェクトセグメンテーションフレームワークを提案する。 提案手法は,複数のデータセットに対して新しい最先端性能を設定できることを示す。
  論文  参考訳（メタデータ） (2024-07-10T15:36:00Z)
• Cross-domain Multi-modal Few-shot Object Detection via Rich Text [21.36633828492347]
  クロスモーダルな特徴抽出と統合は、数ショットの学習タスクで安定したパフォーマンス改善をもたらした。 MM-OD (CDMM-FSOD) のクロスドメイン数ショット一般化について検討し,メタラーニングに基づく多モード数ショット検出手法を提案する。
  論文  参考訳（メタデータ） (2024-03-24T15:10:22Z)
• RefSAM: Efficiently Adapting Segmenting Anything Model for Referring Video Object Segmentation [53.4319652364256]
  本稿では,ビデオオブジェクトのセグメンテーションを参照するためのSAMの可能性を探るRefSAMモデルを提案する。 提案手法は,Cross-RValModalを用いることで,モダリティ学習を向上させるためにオリジナルのSAMモデルに適応する。 我々は、言語と視覚の特徴を効果的に調整し、融合させるために、パラメータ効率のチューニング戦略を採用している。
  論文  参考訳（メタデータ） (2023-07-03T13:21:58Z)
• Position-Aware Contrastive Alignment for Referring Image Segmentation [65.16214741785633]
  マルチモーダル特徴のアライメントを強化するために,位置認識型コントラストアライメントネットワーク(PCAN)を提案する。 1)自然言語記述に関連するすべてのオブジェクトの位置情報を提供する位置認識モジュール(PAM)と,2)マルチモーダルアライメントを強化するコントラスト言語理解モジュール(CLUM)の2つのモジュールで構成されている。
  論文  参考訳（メタデータ） (2022-12-27T09:13:19Z)
• Support-set based Multi-modal Representation Enhancement for Video Captioning [121.70886789958799]
  サンプル間で共有されるセマンティックサブ空間において、リッチな情報をマイニングするためのサポートセットベースのマルチモーダル表現拡張(SMRE)モデルを提案する。 具体的には、サンプル間の基礎となる関係を学習し、意味的関連視覚要素を得るためのサポートセットを構築するためのサポートセット構築(SC)モジュールを提案する。 本研究では,SST(Semantic Space Transformation)モジュールを設計し,相対距離を制約し,マルチモーダルインタラクションを自己管理的に管理する。
  論文  参考訳（メタデータ） (2022-05-19T03:40:29Z)
• Deeply Interleaved Two-Stream Encoder for Referring Video Segmentation [87.49579477873196]
  まず,CNNに基づく視覚特徴とトランスフォーマーに基づく言語特徴を階層的に抽出する2ストリームエンコーダを設計する。 視覚言語相互誘導(VLMG)モジュールをエンコーダに複数回挿入し,多モード特徴の階層的および進行的融合を促進する。 フレーム間の時間的アライメントを促進するために,言語誘導型マルチスケール動的フィルタリング(LMDF)モジュールを提案する。
  論文  参考訳（メタデータ） (2022-03-30T01:06:13Z)
• MPI: Multi-receptive and Parallel Integration for Salient Object Detection [17.32228882721628]
  深い特徴のセマンティック表現は、画像コンテキスト理解に不可欠である。 本稿では,MPIと呼ばれる新しい手法を提案する。 提案手法は,異なる評価基準下での最先端手法よりも優れる。
  論文  参考訳（メタデータ） (2021-08-08T12:01:44Z)
• Universal-RCNN: Universal Object Detector via Transferable Graph R-CNN [117.80737222754306]
  我々はUniversal-RCNNと呼ばれる新しいユニバーサルオブジェクト検出器を提案する。 まず、すべてのカテゴリの高レベルなセマンティック表現を統合することで、グローバルなセマンティックプールを生成する。 ドメイン内推論モジュールは、空間認識GCNによってガイドされる1つのデータセット内のスパースグラフ表現を学習し、伝播する。
  論文  参考訳（メタデータ） (2020-02-18T07:57:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。