論文の概要: A Heterogeneous Two-Stream Framework for Video Action Recognition with Comparative Fusion Analysis

• arxiv url: http://arxiv.org/abs/2604.23415v1
• Date: Sat, 25 Apr 2026 19:15:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-28 17:12:07.323291
• Title: A Heterogeneous Two-Stream Framework for Video Action Recognition with Comparative Fusion Analysis
• Title（参考訳）: 融合解析を用いたビデオ行動認識のための不均一な2ストリームフレームワーク
• Authors: Md. Afzalur Rahaman, Tahmid Rahman,
• Abstract要約: ほとんどの2ストリームアクション認識ネットワークは、RGBと光フローストリームの両方に同じ畳み込みバックボーンを適用している。 入力に適したバックボーンを各ストリームに割り当てる異種2ストリームアーキテクチャであるDualStreamHybridを提案する。 学習された射影層は、2つの異なる大きさの特徴ベクトルを融合前に共通の次元にマッピングする。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Most two-stream action recognition networks apply the same convolutional backbone to both RGB and optical flow streams, ignoring the fact that the two modalities have fundamentally different structural properties. Optical flow captures fine-grained motion patterns, while RGB frames carry rich appearance and scene context - treating them identically discards this distinction. We propose DualStreamHybrid, a heterogeneous two-stream architecture that assigns each stream a backbone suited to its input: a pretrained ViT-Tiny/16 for RGB frames, and a MobileNetV2 trained from scratch on a 20-channel stacked optical flow representation. A learned projection layer maps the two differently-sized feature vectors to a common dimensionality before fusion, enabling the two streams to interact without forcing architectural symmetry. We design five fusion strategies within a unified framework - late fusion, concatenation, cross-attention, weighted fusion, and gated fusion - and evaluate them on UCF11 (1,600 videos, 11 classes) and UCF50 (6,681 videos, 50 classes) to study how fusion behaviour scales with dataset size. On UCF11, cross-attention achieves 98.12% test accuracy, outperforming the RGB-only ViT-Tiny baseline of 95.94%, which suggests that explicit inter-modal attention is particularly effective on smaller, less complex datasets. On UCF50, weighted fusion reaches 96.86% and proves the most consistent strategy across both benchmarks. The learned stream weights reveal an interesting pattern: UCF11 sees near-equal modality contribution (RGB: 0.507, flow: 0.493), while UCF50 favours the RGB stream slightly more (RGB: 0.554, flow: 0.446) - arguably reflecting the larger and more visually diverse action space. Taken together, these results suggest that even a lightweight motion stream meaningfully complements a strong appearance encoder, and that the optimal fusion strategy depends on dataset scale.
• Abstract（参考訳）: ほとんどの2ストリーム動作認識ネットワークは、RGBと光フローストリームの両方に同じ畳み込みバックボーンを適用している。 光の流れは微粒な動きパターンを捉え、RGBフレームはリッチな外観とシーンコンテキストを持ち、それらが同一の区別を捨てる。 提案するDualStreamHybridは,RGBフレーム用に事前訓練されたViT-Tiny/16と,20スタックの光フロー表現をスクラッチからトレーニングしたMobileNetV2という,入力に適したバックボーンを各ストリームに割り当てるヘテロジニアスな2ストリームアーキテクチャである。 学習された投影層は、2つの異なる大きさの特徴ベクトルを融合前に共通の次元にマッピングし、2つのストリームがアーキテクチャ対称性を強制せずに相互作用できるようにする。 統合フレームワーク内の5つの融合戦略 - 遅延融合、結合、クロスアテンション、重み付け核融合、ゲート核融合 - を設計し、融合挙動がデータセットサイズでどのようにスケールするかを研究するために、UCF11(1,600ビデオ、11クラス)とUCF50(6,681ビデオ、50クラス)で評価する。 UCF11では、クロスアテンションは98.12%のテスト精度を達成し、RGBのみのViT-Tinyベースラインの95.94%を上回った。 UCF50では、重み付き核融合は96.86%に達し、両方のベンチマークで最も一貫した戦略を証明している。 UCF11はRGB:0.507、フロー:0.493)、UCF50はRGBストリームをわずかに好んでいる(RGB:0.554、フロー:0.446)。 これらの結果は、軽量なモーションストリームでさえ、強い外観エンコーダを有意に補完し、最適な融合戦略はデータセットスケールに依存することを示唆している。

関連論文リスト

• RGBX-DiffusionDet: A Framework for Multi-Modal RGB-X Object Detection Using DiffusionDet [0.0]
  RGBX-DiffusionDetはDiffusionDetモデルを拡張するオブジェクト検出フレームワークである。 適応型マルチモーダルエンコーダにより、不均一な2Dデータ(X)をRGB画像と融合する。
  論文  参考訳（メタデータ） (2025-05-05T11:39:51Z)
• Efficient Fourier Filtering Network with Contrastive Learning for UAV-based Unaligned Bi-modal Salient Object Detection [8.12311871820753]
  無人航空機(UAV)をベースとしたバイモーダル・サリエント・オブジェクト検出(BSOD)は、不整合RGBと熱画像ペアの相補的な手がかりを利用して、サリエント・オブジェクトをシーンに分割することを目的としている。 本稿では,実時間と高精度の両性能を両立させるコントラスト学習による効率的なフーリエフィルタネットワークを提案する。 提案モデルであるAlignSalはパラメータ数を70.0%削減し,浮動小数点演算を49.4%削減し,推論速度を152.5%向上させる。
  論文  参考訳（メタデータ） (2024-11-06T07:46:34Z)
• Retain, Blend, and Exchange: A Quality-aware Spatial-Stereo Fusion Approach for Event Stream Recognition [57.74076383449153]
  本稿では,差分融合によるイベントストリームに基づくパターン認識のための新しいデュアルストリームフレームワークEFV++を提案する。 イベントイメージとイベントボクセルという2つの共通のイベント表現を同時にモデル化する。 Bullying10kデータセットで新しい最先端のパフォーマンス、すなわち90.51%$を達成し、2位を+2.21%$で上回る。
  論文  参考訳（メタデータ） (2024-06-27T02:32:46Z)
• HODINet: High-Order Discrepant Interaction Network for RGB-D Salient Object Detection [4.007827908611563]
  RGB-D Salient Object Detection (SOD) は、RGBと深度情報を共同でモデル化することで、顕著な領域を検出することを目的としている。 ほとんどのRGB-D SOD法は、同じ種類のバックボーンと融合モジュールを適用して、マルチモーダリティとマルチステージの特徴を同一に学習する。 本稿では,RGB-D SODのための高次離散相互作用ネットワーク(HODINet)を提案する。
  論文  参考訳（メタデータ） (2023-07-03T11:56:21Z)
• Adaptive Split-Fusion Transformer [90.04885335911729]
  本稿では,適応重みによる畳み込みと注目の分岐を異なる方法で扱うための適応分割変換器(ASF-former)を提案する。 ImageNet-1Kのような標準ベンチマークの実験では、我々のASFフォーマーはCNN、トランスフォーマー、ハイブリッドパイロットを精度で上回っている。
  論文  参考訳（メタデータ） (2022-04-26T10:00:28Z)
• DUT-LFSaliency: Versatile Dataset and Light Field-to-RGB Saliency Detection [104.50425501764806]
  ライトフィールドサリエンシー検出のための汎用性の高いアプリケーションを可能にする大規模なデータセットを紹介します。 本論文では,フォカルストリームとRGBストリームからなる非対称2ストリームモデルを提案する。 実験は、我々の焦点ストリームが最先端のパフォーマンスを達成することを実証する。
  論文  参考訳（メタデータ） (2020-12-30T11:53:27Z)
• Bi-directional Cross-Modality Feature Propagation with Separation-and-Aggregation Gate for RGB-D Semantic Segmentation [59.94819184452694]
  深度情報はRGBD画像のセマンティックセグメンテーションにおいて有用であることが証明されている。 既存のほとんどの研究は、深度測定がRGBピクセルと正確で整合していると仮定し、問題をモーダルな特徴融合としてモデル化している。 本稿では,RGB特徴量応答を効果的に再検討するだけでなく,複数の段階を通して正確な深度情報を抽出し,代わりに2つの補正表現を集約する,統一的で効率的なクロスモダリティガイドを提案する。
  論文  参考訳（メタデータ） (2020-07-17T18:35:24Z)
• A Single Stream Network for Robust and Real-time RGB-D Salient Object Detection [89.88222217065858]
  我々は、深度マップを用いて、RGBと深度の間の早期融合と中核融合を誘導する単一ストリームネットワークを設計する。 このモデルは、現在の最も軽量なモデルよりも55.5%軽く、32 FPSのリアルタイム速度で384倍の384ドルの画像を処理している。
  論文  参考訳（メタデータ） (2020-07-14T04:40:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。