論文の概要: TaskExpert: Dynamically Assembling Multi-Task Representations with Memorial Mixture-of-Experts

• arxiv url: http://arxiv.org/abs/2307.15324v1
• Date: Fri, 28 Jul 2023 06:00:57 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-31 13:45:13.069663
• Title: TaskExpert: Dynamically Assembling Multi-Task Representations with Memorial Mixture-of-Experts
• Title（参考訳）: TaskExpert: メモリアル・オブ・エクササイズによるマルチタスク表現を動的に組み立てる
• Authors: Hanrong Ye and Dan Xu
• Abstract要約: 最近のモデルでは、タスク固有の機能を1つの共有タスクジェネリック機能から直接デコードすることを検討している。 入力機能が完全に共有され、各タスクデコーダは異なる入力サンプルのデコードパラメータも共有するので、静的な機能デコードプロセスにつながる。 本稿では,複数のタスク・ジェネリックな特徴空間を学習可能なマルチタスク・ミックス・オブ・エキスパート・モデルであるTaskExpertを提案する。
• 参考スコア（独自算出の注目度）: 11.608682595506354
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Learning discriminative task-specific features simultaneously for multiple distinct tasks is a fundamental problem in multi-task learning. Recent state-of-the-art models consider directly decoding task-specific features from one shared task-generic feature (e.g., feature from a backbone layer), and utilize carefully designed decoders to produce multi-task features. However, as the input feature is fully shared and each task decoder also shares decoding parameters for different input samples, it leads to a static feature decoding process, producing less discriminative task-specific representations. To tackle this limitation, we propose TaskExpert, a novel multi-task mixture-of-experts model that enables learning multiple representative task-generic feature spaces and decoding task-specific features in a dynamic manner. Specifically, TaskExpert introduces a set of expert networks to decompose the backbone feature into several representative task-generic features. Then, the task-specific features are decoded by using dynamic task-specific gating networks operating on the decomposed task-generic features. Furthermore, to establish long-range modeling of the task-specific representations from different layers of TaskExpert, we design a multi-task feature memory that updates at each layer and acts as an additional feature expert for dynamic task-specific feature decoding. Extensive experiments demonstrate that our TaskExpert clearly outperforms previous best-performing methods on all 9 metrics of two competitive multi-task learning benchmarks for visual scene understanding (i.e., PASCAL-Context and NYUD-v2). Codes and models will be made publicly available at https://github.com/prismformore/Multi-Task-Transformer
• Abstract（参考訳）: 複数のタスクを同時に識別するタスク固有の特徴を学習することは、マルチタスク学習における根本的な問題である。 最近の最先端モデルでは、タスク固有の機能を共有タスクジェネリック機能(例えば、バックボーン層からの機能)から直接デコードし、慎重に設計されたデコーダを使用してマルチタスク機能を生成する。 しかし、入力機能が完全に共有され、各タスクデコーダは異なる入力サンプルのデコードパラメータも共有するので、静的な機能デコードプロセスにつながり、識別可能なタスク固有の表現が少なくなる。 この制限に対処するために、複数の代表的タスク生成特徴空間を学習し、動的にタスク固有の特徴を復号できる新しいマルチタスク・オブ・エキスパート・モデルであるTaskExpertを提案する。 具体的には、TaskExpertは、バックボーン機能をいくつかの代表的なタスクジェネリック機能に分解する専門家ネットワークのセットを紹介している。 そして、分解されたタスク生成機能で動作する動的タスク固有ゲーティングネットワークを用いてタスク固有の特徴を復号する。 さらに、TaskExpertの異なるレイヤからタスク固有の表現の長距離モデリングを確立するために、各レイヤを更新し、動的タスク固有の特徴復号のための追加機能専門家として機能するマルチタスク機能メモリを設計する。 大規模な実験により、当社のTaskExpertは、視覚的シーン理解のための2つの競合するマルチタスク学習ベンチマーク(PASCAL-ContextとNYUD-v2)の9つの指標すべてにおいて、これまでの最高のパフォーマンスメソッドよりも明らかに優れていた。 コードとモデルはhttps://github.com/prismformore/Multi-Task-Transformerで公開される。

関連論文リスト

• Prompt Tuning with Soft Context Sharing for Vision-Language Models [42.61889428498378]
  本稿では,複数目的の複数ショットタスクにおいて,事前学習した視覚言語モデルを協調的にチューニングする新しい手法を提案する。 我々は,SoftCPTがシングルタスクのプロンプトチューニング方法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-08-29T10:19:10Z)
• Multi-Task Learning with Multi-Query Transformer for Dense Prediction [38.476408482050815]
  本稿では,複数のタスク間の推論を容易にするために,Multi-Query Transformer (MQ Transformer) という単純なパイプラインを提案する。 異なるタスク間での高密度なピクセル単位のコンテキストをモデル化する代わりに、タスク固有のプロキシを使ってクロスタスク推論を行う。 実験の結果,提案手法は有効な手法であり,最先端の結果が得られた。
  論文  参考訳（メタデータ） (2022-05-28T06:51:10Z)
• Sparsely Activated Mixture-of-Experts are Robust Multi-Task Learners [67.5865966762559]
  本研究では,Mixture-of-Experts (MoE) がマルチタスク学習を改善するかを検討した。 タスク認識ゲーティング関数を考案し、異なるタスクから専門の専門家にサンプルをルーティングする。 これにより、多数のパラメータを持つ疎活性化マルチタスクモデルが得られるが、高密度モデルの計算コストは同じである。
  論文  参考訳（メタデータ） (2022-04-16T00:56:12Z)
• Modular Adaptive Policy Selection for Multi-Task Imitation Learning through Task Division [60.232542918414985]
  マルチタスク学習は、しばしば負の伝達に悩まされ、タスク固有の情報を共有する。 これは、プロトポリケーションをモジュールとして使用して、タスクを共有可能な単純なサブ振る舞いに分割する。 また、タスクを共有サブ行動とタスク固有のサブ行動の両方に自律的に分割する能力を示す。
  論文  参考訳（メタデータ） (2022-03-28T15:53:17Z)
• Multi-Task Learning with Sequence-Conditioned Transporter Networks [67.57293592529517]
  シーケンスコンディショニングと重み付きサンプリングのレンズによるマルチタスク学習の実現を目指している。 合成タスクを対象とした新しいベンチマークであるMultiRavensを提案する。 次に,視覚に基づくエンドツーエンドシステムアーキテクチャであるSequence-Conditioned Transporter Networksを提案する。
  論文  参考訳（メタデータ） (2021-09-15T21:19:11Z)
• CompositeTasking: Understanding Images by Spatial Composition of Tasks [85.95743368954233]
  CompositeTaskingは、複数の空間分散タスクの融合である。 提案するネットワークは,画像のペアと画素単位の高密度なタスクのセットを入力として取り,各ピクセルに対するタスク関連予測を行う。 マルチタスクのためのコンパクトなネットワークを提供するだけでなく、タスク編集も可能です。
  論文  参考訳（メタデータ） (2020-12-16T15:47:02Z)
• Reparameterizing Convolutions for Incremental Multi-Task Learning without Task Interference [75.95287293847697]
  マルチタスクモデルを開発する際の2つの一般的な課題は、しばしば文献で見過ごされる。 まず、モデルを本質的に漸進的に可能にし、以前に学んだことを忘れずに新しいタスクから情報を継続的に取り入れる(インクリメンタルラーニング)。 第二に、タスク間の有害な相互作用を排除し、マルチタスク設定(タスク干渉)においてシングルタスクのパフォーマンスを著しく低下させることが示されている。
  論文  参考訳（メタデータ） (2020-07-24T14:44:46Z)
• Knowledge Distillation for Multi-task Learning [38.20005345733544]
  マルチタスク学習(MTL)は、全てのタスクで優れたパフォーマンスを達成し、計算コストを下げるための複数のタスクを実行する単一のモデルを学習することである。 そのようなモデルを学ぶには、難易度、大きさ、特性の異なる一連のタスクの損失を共同で最適化する必要がある。 本研究では,マルチタスク学習における不均衡問題に対処するために,知識蒸留に基づく手法を提案する。
  論文  参考訳（メタデータ） (2020-07-14T08:02:42Z)
• MTI-Net: Multi-Scale Task Interaction Networks for Multi-Task Learning [82.62433731378455]
  特定のスケールで高い親和性を持つタスクは、他のスケールでこの動作を維持することが保証されていないことを示す。 本稿では,この発見に基づく新しいアーキテクチャ MTI-Net を提案する。
  論文  参考訳（メタデータ） (2020-01-19T21:02:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。