Fugu-MT 論文翻訳(概要): MoTE: Mixture of Task Experts for Multi-Task Video Understanding

論文の概要: MoTE: Mixture of Task Experts for Multi-Task Video Understanding

arxiv url: http://arxiv.org/abs/2608.24763v1
Date: Tue, 25 Aug 2026 16:00:11 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-26 14:09:35.091384
Title: MoTE: Mixture of Task Experts for Multi-Task Video Understanding
Title（参考訳）: MoTE:マルチタスクビデオ理解のためのタスクエキスパートの混合
Abstract要約: 本稿では,大規模言語モデルのフィードフォワードネットワークをタスク固有の専門家に変換し,マルチモーダルバックボーンの共有を維持するデコーダアーキテクチャを提案する。我々はこの設計をVideoLLM-MoTEとしてインスタンス化し、明示的なタスク経路を用いて5つのCOINベンチマークで評価する。
参考スコア（独自算出の注目度）: 15.06823492518845
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Procedural video-language models must solve heterogeneous tasks from the same visual evidence, including action recognition, forecasting, and procedure prediction. Dense transformer decoders share the same feed-forward networks across tasks, which can entangle task behavior and make controlled capability expansion difficult. Sparse Mixture-of-Experts (MoE) decoders provide conditional computation, but token-level learned routing is not naturally aligned with task-level procedural objectives. We propose MoTE (Mixture of Task Experts), a decoder architecture that converts large language model feed-forward networks into task-specific experts while keeping the multimodal backbone shared. Each example follows one sample-level task route, so active task-expert computation remains independent of the number of stored task experts. We instantiate this design as VideoLLM-MoTE and evaluate it on five COIN benchmarks using explicit task routes. The five-expert model activates ~2B LLM parameters per sample and achieves higher average top-1 accuracy than recent VideoLLM baselines. Under the same expert topology, it improves over dense all-expert activation and learned sparse-routing controls. These results show that task-structured routing provides an interpretable and compute-efficient decoder alternative for multi-task video-language learning.
Abstract（参考訳）: 手続き型ビデオ言語モデルは、行動認識、予測、手続き予測を含む同じ視覚的証拠から異種タスクを解決しなければならない。デンストランスデコーダはタスク間で同じフィードフォワードネットワークを共有しており、タスクの振る舞いを絡ませ、制御能力の拡張を困難にすることができる。 Sparse Mixture-of-Experts (MoE) デコーダは条件付き計算を提供するが、トークンレベルの学習ルーティングはタスクレベルの手続き目的と自然に一致しない。マルチモーダルバックボーンの共有を維持しつつ,大規模言語モデルフィードフォワードネットワークをタスク固有のエキスパートに変換するデコーダアーキテクチャであるMoTE(Mixture of Task Experts)を提案する。各例は1つのサンプルレベルのタスクルートに従っているため、アクティブなタスクエキスパートの計算は、格納されたタスクエキスパートの数に依存しないままである。我々はこの設計をVideoLLM-MoTEとしてインスタンス化し、明示的なタスク経路を用いて5つのCOINベンチマークで評価する。 5エキスパートモデルはサンプルあたり約2B LLMパラメータを活性化し、最近のVideoLLMベースラインよりも平均トップ1の精度を達成する。同じ専門家のトポロジーの下では、密集した全専門家の活性化よりも改善され、スパースルーティングコントロールを学習する。これらの結果から,タスク構造化ルーティングは多タスクビデオ言語学習の代替として,解釈可能で計算効率のよいデコーダを提供することがわかった。

関連論文リスト

Training-free Task Classification for Multi-Task Model Merging [15.100638024422741]
以前の研究は主に1つのマージされたモデルを見つけることに焦点を当てていたが、パラメータ干渉のため、個々の専門家を過小評価することが多い。各テスト入力に対して、トレーニング不要なタスク分類としてルーティングを定式化する。 SiMはマージモデルのパフォーマンスを大幅に改善し、個別のタスクエキスパートへのギャップを一貫して狭めます。
論文参考訳（メタデータ） (2026-06-21T16:51:29Z)
Separation and Collaboration: Two-Level Routing Grouped Mixture-of-Experts for Multi-Domain Continual Learning [7.361665112773847]
破滅的忘れを緩和する2レベル混合実験法(TRGE)を提案する。 TRGEはトレーニング済みのCLIPモデルを動的に拡張し、各タスクに特定の専門家グループを割り当てる。我々は,タスク記述を生成し,正しいタスク識別子を認識するために,強力なマルチモーダル理解機能を持つマルチモーダル大規模言語モデル(MLLM)を利用する。
論文参考訳（メタデータ） (2025-08-11T08:18:22Z)
M3Net: Multimodal Multi-task Learning for 3D Detection, Segmentation, and Occupancy Prediction in Autonomous Driving [48.17490295484055]
M3Netは、自動運転の検知、セグメンテーション、および3D占有率予測に同時に取り組む新しいネットワークである。 M3NetはnuScenesベンチマークで最先端のマルチタスク学習性能を達成する。
論文参考訳（メタデータ） (2025-03-23T15:08:09Z)
Pilot: Building the Federated Multimodal Instruction Tuning Framework [79.56362403673354]
本フレームワークは、視覚エンコーダとLCMのコネクタに「アダプタのアダプタ」の2つの段階を統合する。ステージ1では視覚情報からタスク固有の特徴とクライアント固有の特徴を抽出する。ステージ2では、クロスタスクインタラクションを実行するために、クロスタスクMixture-of-Adapters(CT-MoA)モジュールを構築します。
論文参考訳（メタデータ） (2025-01-23T07:49:24Z)
Mod-Squad: Designing Mixture of Experts As Modular Multi-Task Learners [74.92558307689265]
専門家グループ("スクワッド")にモジュール化された新しいモデルであるMod-Squadを提案する。単一モデルのトレーニング中に、このマッチングプロセスを最適化する。 13の視覚タスクを持つタスクノミーデータセットと、5つの視覚タスクを持つPASCAL-Contextデータセットの実験は、我々のアプローチの優位性を示している。
論文参考訳（メタデータ） (2022-12-15T18:59:52Z)
Multi-Task Learning with Multi-Query Transformer for Dense Prediction [38.476408482050815]
本稿では,複数のタスク間の推論を容易にするために,Multi-Query Transformer (MQ Transformer) という単純なパイプラインを提案する。異なるタスク間での高密度なピクセル単位のコンテキストをモデル化する代わりに、タスク固有のプロキシを使ってクロスタスク推論を行う。実験の結果,提案手法は有効な手法であり,最先端の結果が得られた。
論文参考訳（メタデータ） (2022-05-28T06:51:10Z)
Fast Inference and Transfer of Compositional Task Structures for Few-shot Task Generalization [101.72755769194677]
本稿では,タスクがサブタスクグラフによって特徴づけられる,数発の強化学習問題として定式化する。我々のマルチタスクサブタスクグラフ推論器(MTSGI)は、トレーニングタスクから、まず、サブタスクグラフの観点から、一般的なハイレベルなタスク構造を推測する。提案手法は,2次元グリッドワールドおよび複雑なWebナビゲーション領域において,タスクの共通基盤構造を学習し,活用し,未知のタスクへの適応を高速化する。
論文参考訳（メタデータ） (2022-05-25T10:44:25Z)
Sparsely Activated Mixture-of-Experts are Robust Multi-Task Learners [67.5865966762559]
本研究では,Mixture-of-Experts (MoE) がマルチタスク学習を改善するかを検討した。タスク認識ゲーティング関数を考案し、異なるタスクから専門の専門家にサンプルをルーティングする。これにより、多数のパラメータを持つ疎活性化マルチタスクモデルが得られるが、高密度モデルの計算コストは同じである。
論文参考訳（メタデータ） (2022-04-16T00:56:12Z)
Multi-Task Learning with Sequence-Conditioned Transporter Networks [67.57293592529517]
シーケンスコンディショニングと重み付きサンプリングのレンズによるマルチタスク学習の実現を目指している。合成タスクを対象とした新しいベンチマークであるMultiRavensを提案する。次に,視覚に基づくエンドツーエンドシステムアーキテクチャであるSequence-Conditioned Transporter Networksを提案する。
論文参考訳（メタデータ） (2021-09-15T21:19:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。