論文の概要: On Steering Multi-Annotations per Sample for Multi-Task Learning
- arxiv url: http://arxiv.org/abs/2203.02946v1
- Date: Sun, 6 Mar 2022 11:57:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-08 15:22:22.229534
- Title: On Steering Multi-Annotations per Sample for Multi-Task Learning
- Title(参考訳): マルチタスク学習のためのサンプルごとのマルチアノテーションのステアリングについて
- Authors: Yuanze Li, Yiwen Guo, Qizhang Li, Hongzhi Zhang, Wangmeng Zuo
- Abstract要約: マルチタスク学習の研究はコミュニティから大きな注目を集めている。
目覚ましい進歩にもかかわらず、異なるタスクを同時に学習するという課題はまだ検討されていない。
従来の研究は、異なるタスクから勾配を修正しようとするが、これらの手法はタスク間の関係の主観的な仮定を与え、修正された勾配はより正確でないかもしれない。
本稿では,タスク割り当てアプローチによってこの問題に対処する機構であるタスク割当(STA)を紹介し,各サンプルをランダムにタスクのサブセットに割り当てる。
さらなる進展のために、我々は全てのタスクを反復的に割り当てるためにInterleaved Task Allocation(ISTA)を提案する。
- 参考スコア(独自算出の注目度): 79.98259057711044
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The study of multi-task learning has drawn great attention from the
community. Despite the remarkable progress, the challenge of optimally learning
different tasks simultaneously remains to be explored. Previous works attempt
to modify the gradients from different tasks. Yet these methods give a
subjective assumption of the relationship between tasks, and the modified
gradient may be less accurate. In this paper, we introduce Stochastic Task
Allocation~(STA), a mechanism that addresses this issue by a task allocation
approach, in which each sample is randomly allocated a subset of tasks. For
further progress, we propose Interleaved Stochastic Task Allocation~(ISTA) to
iteratively allocate all tasks to each example during several consecutive
iterations. We evaluate STA and ISTA on various datasets and applications:
NYUv2, Cityscapes, and COCO for scene understanding and instance segmentation.
Our experiments show both STA and ISTA outperform current state-of-the-art
methods. The code will be available.
- Abstract(参考訳): マルチタスク学習の研究はコミュニティから大きな注目を集めている。
著しい進歩にもかかわらず、異なるタスクを最適に学ぶという課題はまだ検討されていない。
以前の作業では、異なるタスクの勾配を変更しようとしていた。
しかし、これらの手法はタスク間の関係を主観的に仮定し、修正された勾配はより正確ではないかもしれない。
本稿では、各サンプルがタスクのサブセットをランダムに割り当てるタスクアロケーションアプローチによってこの問題に対処するメカニズムである確率的タスクアロケーション~(sta)を提案する。
さらに,複数回の反復ですべてのタスクを各例に反復割り当てるインターリーブ確率タスク割り当て~(ista)を提案する。
我々は、様々なデータセットやアプリケーション(NYUv2、Cityscapes、COCO)でSTAとISTAを評価し、シーン理解とインスタンスセグメンテーションを行った。
実験の結果,STAとISTAはいずれも最先端の手法よりも優れていた。
コードは利用可能だ。
関連論文リスト
- Distribution Matching for Multi-Task Learning of Classification Tasks: a
Large-Scale Study on Faces & Beyond [62.406687088097605]
マルチタスク学習(MTL)は、複数の関連するタスクを共同で学習し、共有表現空間から恩恵を受けるフレームワークである。
MTLは、ほとんど重複しない、あるいは重複しないアノテーションで分類タスクで成功することを示す。
本稿では,分散マッチングによるタスク間の知識交換を可能にする新しい手法を提案する。
論文 参考訳(メタデータ) (2024-01-02T14:18:11Z) - Is Multi-Task Learning an Upper Bound for Continual Learning? [26.729088618251282]
本稿では,特定のデータ拡張のクラスに対して,各タスクが不変表現を学習することに対応する,連続的な自己指導型学習環境を提案する。
連続学習は、MNIST、CIFAR-10、CIFAR-100など、様々なベンチマークデータセットでマルチタスク学習を上回ることが多い。
論文 参考訳(メタデータ) (2022-10-26T15:45:11Z) - Continual Object Detection via Prototypical Task Correlation Guided
Gating Mechanism [120.1998866178014]
pRotOtypeal taSk corrElaTion guided gaTingAnism (ROSETTA)による連続物体検出のためのフレキシブルなフレームワークを提案する。
具体的には、統一されたフレームワークはすべてのタスクで共有され、タスク対応ゲートは特定のタスクのサブモデルを自動的に選択するために導入されます。
COCO-VOC、KITTI-Kitchen、VOCのクラスインクリメンタル検出、および4つのタスクの逐次学習の実験により、ROSETTAが最先端のパフォーマンスを得ることが示された。
論文 参考訳(メタデータ) (2022-05-06T07:31:28Z) - Multi-View representation learning in Multi-Task Scene [4.509968166110557]
我々は,MTMVCSF(Common and Special Features)に基づくマルチタスク多視点学習(multi-Task Multi-View learning)と呼ばれる,新しい半教師付きアルゴリズムを提案する。
AN-MTMVCSFと呼ばれるマルチタスク・マルチタスク・マルチビュー・アルゴリズムが提案されている。
これらのアルゴリズムの有効性は、実世界と合成データの双方でよく設計された実験によって証明される。
論文 参考訳(メタデータ) (2022-01-15T11:26:28Z) - Variational Multi-Task Learning with Gumbel-Softmax Priors [105.22406384964144]
マルチタスク学習は、タスク関連性を探究し、個々のタスクを改善することを目的としている。
本稿では,複数のタスクを学習するための一般的な確率的推論フレームワークである変分マルチタスク学習(VMTL)を提案する。
論文 参考訳(メタデータ) (2021-11-09T18:49:45Z) - Instance-Level Task Parameters: A Robust Multi-task Weighting Framework [17.639472693362926]
最近の研究によると、ディープニューラルネットワークは、複数の関連するタスク間で共有表現を学習することで、マルチタスク学習の恩恵を受けている。
トレーニングプロセスは、データセットの各インスタンスに対するタスクの最適な重み付けを規定します。
我々は,SURREALとCityScapesのデータセットを用いて,人間の形状とポーズ推定,深さ推定,セマンティックセグメンテーションタスクについて広範な実験を行った。
論文 参考訳(メタデータ) (2021-06-11T02:35:42Z) - Exploring Relational Context for Multi-Task Dense Prediction [76.86090370115]
我々は,共通バックボーンと独立タスク固有のヘッドで表される,密集予測タスクのためのマルチタスク環境を考える。
マルチタスク設定では,グローバルやローカルなど,さまざまな注意に基づくコンテキストを探索する。
タスクペアごとに利用可能なすべてのコンテキストのプールをサンプリングするAdaptive Task-Relational Contextモジュールを提案する。
論文 参考訳(メタデータ) (2021-04-28T16:45:56Z) - Multi-Task Learning for Dense Prediction Tasks: A Survey [87.66280582034838]
マルチタスク学習(MTL)技術は、性能、計算、メモリフットプリントに関する有望な結果を示している。
我々は、コンピュータビジョンにおけるMLLのための最先端のディープラーニングアプローチについて、よく理解された視点を提供する。
論文 参考訳(メタデータ) (2020-04-28T09:15:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。