論文の概要: Cross-task Attention Mechanism for Dense Multi-task Learning
- arxiv url: http://arxiv.org/abs/2206.08927v1
- Date: Fri, 17 Jun 2022 17:59:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-20 13:08:26.302129
- Title: Cross-task Attention Mechanism for Dense Multi-task Learning
- Title(参考訳): 高密度マルチタスク学習のためのクロスタスク注意機構
- Authors: Ivan Lopes, Tuan-Hung Vu, and Raoul de Charette
- Abstract要約: 我々は2次元セマンティックセグメンテーションと2つの幾何学的タスク、すなわち密度深度と表面正規度推定を共同で扱う。
相関誘導型注意と自己注意によってペアワイズなクロスタスク交換を利用する,新しいマルチタスク学習アーキテクチャを提案する。
- 参考スコア(独自算出の注目度): 16.040894192229043
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-task learning has recently become a promising solution for a
comprehensive understanding of complex scenes. Not only being memory-efficient,
multi-task models with an appropriate design can favor exchange of
complementary signals across tasks. In this work, we jointly address 2D
semantic segmentation, and two geometry-related tasks, namely dense depth,
surface normal estimation as well as edge estimation showing their benefit on
indoor and outdoor datasets. We propose a novel multi-task learning
architecture that exploits pair-wise cross-task exchange through
correlation-guided attention and self-attention to enhance the average
representation learning for all tasks. We conduct extensive experiments
considering three multi-task setups, showing the benefit of our proposal in
comparison to competitive baselines in both synthetic and real benchmarks. We
also extend our method to the novel multi-task unsupervised domain adaptation
setting. Our code is available at https://github.com/cv-rits/DenseMTL.
- Abstract(参考訳): マルチタスク学習は、最近、複雑なシーンを包括的に理解するための有望なソリューションとなっている。
メモリ効率だけでなく、適切な設計のマルチタスクモデルでもタスク間で補完的な信号の交換が可能である。
本研究では,2次元セマンティックセグメンテーションと2つの幾何学的タスク,すなわち深度,表面正規度,およびエッジ推定を共同で扱う。
本稿では,相関誘導注意と自己注意を通じて対方向のクロスタスク交換を活用し,すべてのタスクにおける平均表現学習を向上させる,新しいマルチタスク学習アーキテクチャを提案する。
我々は,3つのマルチタスク構成を考慮に入れた広範囲な実験を行い,提案手法の利点を総合ベンチマークと実ベンチマークで比較した。
また,本手法を新しいマルチタスクアン教師付きドメイン適応設定に拡張する。
私たちのコードはhttps://github.com/cv-rits/DenseMTLで利用可能です。
関連論文リスト
- Distribution Matching for Multi-Task Learning of Classification Tasks: a
Large-Scale Study on Faces & Beyond [62.406687088097605]
マルチタスク学習(MTL)は、複数の関連するタスクを共同で学習し、共有表現空間から恩恵を受けるフレームワークである。
MTLは、ほとんど重複しない、あるいは重複しないアノテーションで分類タスクで成功することを示す。
本稿では,分散マッチングによるタスク間の知識交換を可能にする新しい手法を提案する。
論文 参考訳(メタデータ) (2024-01-02T14:18:11Z) - Multi-task Learning with 3D-Aware Regularization [55.97507478913053]
本稿では,画像エンコーダから抽出した特徴を共有3D特徴空間に投影することで,複数のタスクをインタフェースする構造化3D認識正規化器を提案する。
提案手法はアーキテクチャ非依存であり,従来のマルチタスクバックボーンにプラグインすることで,性能を向上できることを示す。
論文 参考訳(メタデータ) (2023-10-02T08:49:56Z) - InvPT++: Inverted Pyramid Multi-Task Transformer for Visual Scene
Understanding [11.608682595506354]
マルチタスクシーン理解は、複数のシーン理解タスクを1つの多目的モデルで同時に予測できるモデルを設計することを目的としている。
従来の研究は通常、より局所的な方法でマルチタスクの特徴を処理するため、空間的にグローバルな相互作用とクロスタスクの相互作用を効果的に学習することはできない。
異なるタスクの空間的特徴間の相互タスク相互作用をグローバルな文脈でモデル化できる逆ピラミッドマルチタスク変換器を提案する。
論文 参考訳(メタデータ) (2023-06-08T00:28:22Z) - Sparsely Activated Mixture-of-Experts are Robust Multi-Task Learners [67.5865966762559]
本研究では,Mixture-of-Experts (MoE) がマルチタスク学習を改善するかを検討した。
タスク認識ゲーティング関数を考案し、異なるタスクから専門の専門家にサンプルをルーティングする。
これにより、多数のパラメータを持つ疎活性化マルチタスクモデルが得られるが、高密度モデルの計算コストは同じである。
論文 参考訳(メタデータ) (2022-04-16T00:56:12Z) - Learning to Relate Depth and Semantics for Unsupervised Domain
Adaptation [87.1188556802942]
教師なしドメイン適応(UDA)設定において,視覚的タスク関係を符号化してモデル性能を向上させる手法を提案する。
本稿では,意味的および深さ的予測のタスク依存性を符号化する新しいクロスタスク関係層(ctrl)を提案する。
さらに、セマンティック擬似ラベルを利用してターゲットドメインを監督する反復自己学習(ISL)トレーニングスキームを提案する。
論文 参考訳(メタデータ) (2021-05-17T13:42:09Z) - Exploring Relational Context for Multi-Task Dense Prediction [76.86090370115]
我々は,共通バックボーンと独立タスク固有のヘッドで表される,密集予測タスクのためのマルチタスク環境を考える。
マルチタスク設定では,グローバルやローカルなど,さまざまな注意に基づくコンテキストを探索する。
タスクペアごとに利用可能なすべてのコンテキストのプールをサンプリングするAdaptive Task-Relational Contextモジュールを提案する。
論文 参考訳(メタデータ) (2021-04-28T16:45:56Z) - Multi-Task Learning with Deep Neural Networks: A Survey [0.0]
マルチタスク学習(Multi-task learning、MTL)は、複数のタスクを共有モデルで同時に学習する機械学習のサブフィールドである。
深層ニューラルネットワークにおけるマルチタスク学習手法の概要を述べる。
論文 参考訳(メタデータ) (2020-09-10T19:31:04Z) - Navigating the Trade-Off between Multi-Task Learning and Learning to
Multitask in Deep Neural Networks [9.278739724750343]
マルチタスク学習(マルチタスクきゅう、英: Multi-task learning)とは、機械学習において、ネットワークがタスクの取得を容易にするために様々なタスクで訓練されるパラダイムである。
マルチタスクは、特に認知科学の文献において、複数のタスクを同時に実行する能力を示すために用いられる。
深層ネットワークでも同様の緊張が生じていることを示し、エージェントが不慣れな環境でこのトレードオフを管理するためのメタ学習アルゴリズムについて議論する。
論文 参考訳(メタデータ) (2020-07-20T23:26:16Z) - MTI-Net: Multi-Scale Task Interaction Networks for Multi-Task Learning [82.62433731378455]
特定のスケールで高い親和性を持つタスクは、他のスケールでこの動作を維持することが保証されていないことを示す。
本稿では,この発見に基づく新しいアーキテクチャ MTI-Net を提案する。
論文 参考訳(メタデータ) (2020-01-19T21:02:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。