論文の概要: BridgeWAM: Bridging Video and Action Experts via Latent Bridge Queries
- arxiv url: http://arxiv.org/abs/2610.14746v1
- Date: Sat, 10 Oct 2026 09:06:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 11:53:59.112369
- Title: BridgeWAM: Bridging Video and Action Experts via Latent Bridge Queries
- Title(参考訳): BridgeWAM:遅延ブリッジクエリによるビデオとアクションのエキスパートのブリッジ
- Abstract要約: World Action Models (WAMs) はビデオとアクションの専門家を密集した層ワイドなMixture-of-Transformers (MoT) の注目で結合する。
視覚的,言語的,受容的事前情報を32遅延ブリッジクエリ(LBQ)を通じて集約し,制限付き潜在空間に集約するBridgeWAM(Bridge-of-Experts:BoE)を紹介する。
30層ビデオエキスパートと2層アクションエキスパートによる5.06Bモデルで、LIBEROと72で98.25%の成功を収めた。
- 参考スコア(独自算出の注目度): 11.78342555415719
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: World Action Models (WAMs) commonly couple video and action experts through dense, layer-wise Mixture-of-Transformers (MoT) attention, exposing action prediction to irrelevant visual features while enforcing matched expert depths. This coupling hinders selective visual-feature use and introduces redundant computation. We introduce Bridge-of-Experts (BoE), instantiated as BridgeWAM, which aggregates visual, language, and proprioceptive priors through 32 Latent Bridge Queries (LBQs) into a shared, limited latent space. Joint video-action supervision lets action gradients guide the Video Expert toward representations better suited for action prediction, while the Action Expert learns to selectively retrieve task-relevant information through cross-attention. Decoupling expert depths and reusing LBQs during action denoising yield a 5.06B model with a 30-layer Video Expert and a two-layer Action Expert, achieving 98.25% success on LIBERO and 72.24% pooled success on LIBERO-Plus, demonstrating effective task execution and strong generalization with an ultralight action head. Ablations support joint representation adaptation and unified LBQ conditioning. Relative to Fast-WAM, BridgeWAM reduces single-sample inference FLOPs by 28.72% in simulation profiling and real-robot latency to 77.1 ms (a 2.47-fold speedup). Qualitative experimental results further indicate preferential attention to target objects and task destinations across perturbations.
- Abstract(参考訳): World Action Models (WAMs) は、一般的にビデオとアクションの専門家を、密集した層状のMixture-of-Transformers (MoT) の注意を通じて結合し、マッチした専門家の奥行きを強制しながら、無関係な視覚的特徴にアクション予測を公開する。
この結合は、選択的な視覚機能の使用を妨げ、冗長な計算を導入する。
視覚的,言語的,受容的事前情報を32遅延ブリッジクエリ(LBQ)を通じて集約し,制限付き潜在空間に集約するBridgeWAM(Bridge-of-Experts:BoE)を紹介する。
アクション専門家は、クロスアテンションを通じてタスク関連情報を選択的に取得することを学ぶ。
30層ビデオエキスパートと2層アクションエキスパートによる5.06Bモデルで、LIBEROで98.25%、LIBERO-Plusで72.24%の成功を達成し、効果的なタスク実行とウルトラライトアクションヘッドによる強力な一般化を実証した。
アブレーションは共同表現適応と統一LBQ条件付けをサポートする。
Fast-WAMとは対照的に、BridgeWAMはシミュレーションプロファイリングとリアルタイムロボットのレイテンシを77.1ms(2.47倍のスピードアップ)に28.72%削減する。
定性的実験の結果は、摂動をまたいだ対象物やタスクの目的地への優先的な注意を示す。
関連論文リスト
- OpenWAM: An Open Framework for Composable World-Action Models [30.981740473743418]
OPENWAMは,共通の因果的ロボット・ビデオ基盤を基盤として構築されたオープンワールドアクションモデリングフレームワークである。
我々は、1万時間以上のビデオで因果的ロボットビデオの事前トレーニングを行い、その後、共有Mixture-of-Transformersアーキテクチャを通じてアクションエキスパートを統合する。
OPENWAMは4つのLIBEROスイートと実世界のバイマニュアルタスクで高い成功率を達成する。
論文 参考訳(メタデータ) (2026-10-06T08:02:12Z) - VideoScout: Learning Agentic Active Exploration with Adaptive Reasoning Pacing for Long Video Understanding [61.00809248898572]
ロングビデオ理解(英: Long video understanding)とは、エージェントが時間軸に沿って回転してビデオを読み取る問題である。
適応推論によるSEAパラダイムをインスタンス化するマルチターン推論エージェントである textbfVideoScout を提案する。
長いビデオ理解と推論のベンチマーク実験により、我々の7Bモデルは、既存の訓練された7Bエージェントモデルと比較して、強い性能を発揮することが示された。
論文 参考訳(メタデータ) (2026-09-14T14:04:03Z) - Video-o3: Native Interleaved Clue Seeking for Long Video Multi-Hop Reasoning [28.87800134659646]
Video-o3は、優れた視覚的手がかりの反復的な発見をサポートする新しいフレームワークである。
Video-o3は最先端の手法を大幅に上回り、MLVUでは72.1%、Video-Holmesでは46.5%の精度を達成している。
論文 参考訳(メタデータ) (2026-01-30T17:47:30Z) - Robotic VLA Benefits from Joint Learning with Motion Image Diffusion [114.60268819583017]
VLA(Vision-Language-Action)モデルは、マルチモーダルな観察と指示を直接行動にマッピングすることで、ロボット操作において顕著な進歩を遂げた。
動き推論機能を備えたVLAモデルを強化する新しい戦略である動き画像拡散を用いた共同学習を提案する。
シミュレーションと実世界の両方の環境での実験により、モーション画像拡散による共同学習がpiシリーズVLAの成功率を97.5%に向上させることが示された。
論文 参考訳(メタデータ) (2025-12-19T19:07:53Z) - Object-Centric Latent Action Learning [70.3173534658611]
本稿では,画素ではなくオブジェクトを対象とする,オブジェクト中心の潜在動作学習フレームワークを提案する。
我々は、自己教師対象中心の事前学習を利用して、行動関連や注意をそらすダイナミクスを歪めている。
その結果, 物体中心の事前学習は, トラクタの負の効果を50%軽減することがわかった。
論文 参考訳(メタデータ) (2025-02-13T11:27:05Z) - BridgeNet: Comprehensive and Effective Feature Interactions via Bridge Feature for Multi-task Dense Predictions [29.049866510120093]
マルチタスク密度予測は,複数の画素単位の予測タスクを統合ネットワーク内で同時に処理し,視覚的シーン理解を実現することを目的としている。
これらの未探索問題に対処するために,包括的かつ識別的な中間ブリッジ特徴を抽出する新しいブリッジネットフレームワークを提案する。
私たちの知る限りでは、クロスタスクインタラクションにおける機能参加者の完全性と品質を考慮した最初の作品です。
論文 参考訳(メタデータ) (2023-12-21T01:30:44Z) - DIR-AS: Decoupling Individual Identification and Temporal Reasoning for
Action Segmentation [84.78383981697377]
完全な教師付きアクションセグメンテーションは、高密度アノテーションによるフレームワイドアクション認識に作用し、しばしば過剰なセグメンテーションの問題に悩まされる。
本研究では, 時間的ピラミッド拡張と時間的ピラミッドプールを併用して, 効率的なマルチスケールアテンションを実現するため, 新たなローカル・グローバルアテンション機構を開発した。
GTEAでは82.8%(+2.6%)、Breakfastでは74.7%(+1.2%)の精度を実現し,本手法の有効性を示した。
論文 参考訳(メタデータ) (2023-04-04T20:27:18Z) - It Takes Two: Masked Appearance-Motion Modeling for Self-supervised
Video Transformer Pre-training [76.69480467101143]
自己監督型ビデオトランスフォーマーの事前トレーニングは、最近マスク・アンド・予測パイプラインの恩恵を受けている。
本稿では,映像中の動きの手がかりを余分な予測対象として明示的に調査し,マスケッド・出現運動モデリングフレームワークを提案する。
一般的なビデオ表現を学習し、Kinects-400で82.3%、Something V2で71.3%、UCF101で91.5%、HMDB51で62.5%を達成する。
論文 参考訳(メタデータ) (2022-10-11T08:05:18Z) - Finding Action Tubes with a Sparse-to-Dense Framework [62.60742627484788]
本稿では,ビデオストリームからのアクションチューブ提案を1つのフォワードパスでスパース・トゥ・デンス方式で生成するフレームワークを提案する。
UCF101-24, JHMDB-21, UCFSportsベンチマークデータセット上で, 本モデルの有効性を評価する。
論文 参考訳(メタデータ) (2020-08-30T15:38:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。