論文の概要: DiffusionMTL: Learning Multi-Task Denoising Diffusion Model from Partially Annotated Data

• arxiv url: http://arxiv.org/abs/2403.15389v1
• Date: Fri, 22 Mar 2024 17:59:58 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-25 16:30:34.374083
• Title: DiffusionMTL: Learning Multi-Task Denoising Diffusion Model from Partially Annotated Data
• Title（参考訳）: DiffusionMTL:部分注釈付きデータからマルチタスクの拡散モデルを学習する
• Authors: Hanrong Ye, Dan Xu,
• Abstract要約: 我々は,部分ラベル付きマルチタスクの高密度予測を画素レベルの分解問題として再検討する。 本稿では,DiffusionMTLと呼ばれる新しいマルチタスク・デノナイズ・フレームワークを提案する。 タスク予測や特徴写像の潜在的なノイズ分布をモデル化するために、共用拡散・雑音化パラダイムを設計する。
• 参考スコア（独自算出の注目度）: 16.501973201535442
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Recently, there has been an increased interest in the practical problem of learning multiple dense scene understanding tasks from partially annotated data, where each training sample is only labeled for a subset of the tasks. The missing of task labels in training leads to low-quality and noisy predictions, as can be observed from state-of-the-art methods. To tackle this issue, we reformulate the partially-labeled multi-task dense prediction as a pixel-level denoising problem, and propose a novel multi-task denoising diffusion framework coined as DiffusionMTL. It designs a joint diffusion and denoising paradigm to model a potential noisy distribution in the task prediction or feature maps and generate rectified outputs for different tasks. To exploit multi-task consistency in denoising, we further introduce a Multi-Task Conditioning strategy, which can implicitly utilize the complementary nature of the tasks to help learn the unlabeled tasks, leading to an improvement in the denoising performance of the different tasks. Extensive quantitative and qualitative experiments demonstrate that the proposed multi-task denoising diffusion model can significantly improve multi-task prediction maps, and outperform the state-of-the-art methods on three challenging multi-task benchmarks, under two different partial-labeling evaluation settings. The code is available at https://prismformore.github.io/diffusionmtl/.
• Abstract（参考訳）: 近年,複数の濃密なシーン理解タスクを部分的に注釈付きデータから学習する実践的問題への関心が高まっており,各トレーニングサンプルはタスクのサブセットにのみラベル付けされている。 トレーニングにおけるタスクラベルの欠如は、最先端の手法で見られるように、低品質でノイズの多い予測につながる。 この問題に対処するため,部分ラベル付きマルチタスク密度予測を画素レベルのデノナイジング問題として再検討し,DiffusionMTLと呼ばれる新しいマルチタスクデノナイジング拡散フレームワークを提案する。 タスク予測や特徴マップの潜在的なノイズ分布をモデル化し、異なるタスクに対して修正された出力を生成するために、共同拡散および雑音発生パラダイムを設計する。 マルチタスク・コンディショニングにおけるマルチタスクの一貫性を活用するために,タスクの補完的な性質を暗黙的に活用して,ラベルのないタスクの学習を支援するマルチタスク・コンディショニング戦略を導入する。 広汎な定量的および定性的実験により,提案したマルチタスクデノイング拡散モデルがマルチタスク予測マップを著しく改善し,2つの異なる部分ラベル評価設定の下で,3つの挑戦的マルチタスクベンチマーク上で最先端の手法より優れていることが示された。 コードはhttps://prismformore.github.io/diffusionmtl/で公開されている。

関連論文リスト

• Data-CUBE: Data Curriculum for Instruction-based Sentence Representation Learning [85.66907881270785]
  本稿では,学習用マルチタスクデータの順序を列挙するデータカリキュラム,すなわちData-CUBEを提案する。 タスクレベルでは、タスク間の干渉リスクを最小化するために最適なタスクオーダーを見つけることを目的としている。 インスタンスレベルでは、タスク毎のすべてのインスタンスの難易度を測定し、トレーニングのためにそれらを簡単に微分できるミニバッチに分割します。
  論文  参考訳（メタデータ） (2024-01-07T18:12:20Z)
• Contrastive Multi-Task Dense Prediction [11.227696986100447]
  設計における中核的な目的は、異なるタスクに対する包括的な改善を達成するために、クロスタスクインタラクションを効果的にモデル化する方法である。 マルチタスク密接な予測のためのクロスタスク相互作用のモデル化に特徴的コントラスト整合を導入する。 本稿では,各サブタスクの表現学習を効果的に促進するために,一貫性に基づく新しいマルチタスクコントラスト正規化手法を提案する。
  論文  参考訳（メタデータ） (2023-07-16T03:54:01Z)
• Addressing Negative Transfer in Diffusion Models [25.457422246404853]
  マルチタスク学習(MTL)は拡散モデルにおいて負の伝達をもたらすことがある。 本稿では,タスクを小さなタスククラスタにクラスタ化し,MTL手法を適用することを提案する。 本研究では,信号対雑音比,時間ステップ,タスク親和性を利用して,動的プログラミングを用いて区間クラスタリングを解くことができることを示す。
  論文  参考訳（メタデータ） (2023-06-01T05:17:07Z)
• Diffusion Model is an Effective Planner and Data Synthesizer for Multi-Task Reinforcement Learning [101.66860222415512]
  Multi-Task Diffusion Model (textscMTDiff) は、トランスフォーマーのバックボーンを組み込んだ拡散に基づく手法であり、生成計画とデータ合成のための素早い学習を行う。 生成計画において、textscMTDiffはMeta-World上の50のタスクとMaze2D上の8のマップで最先端のアルゴリズムより優れています。
  論文  参考訳（メタデータ） (2023-05-29T05:20:38Z)
• DETA: Denoised Task Adaptation for Few-Shot Learning [135.96805271128645]
  数ショット学習におけるテスト時間タスク適応は、訓練済みのタスク非依存モデルに適応してタスク固有の知識を取得することを目的としている。 少数のサンプルしか得られないため、支持試料からのイメージノイズ(Xノイズ)またはラベルノイズ(Yノイズ)の悪影響を著しく増幅することができる。 Denoized Task Adaptation (DETA) は、既存のタスク適応アプローチに対して、最初に統合された画像とラベルをデノベートするフレームワークである。
  論文  参考訳（メタデータ） (2023-03-11T05:23:20Z)
• Sparsely Activated Mixture-of-Experts are Robust Multi-Task Learners [67.5865966762559]
  本研究では,Mixture-of-Experts (MoE) がマルチタスク学習を改善するかを検討した。 タスク認識ゲーティング関数を考案し、異なるタスクから専門の専門家にサンプルをルーティングする。 これにより、多数のパラメータを持つ疎活性化マルチタスクモデルが得られるが、高密度モデルの計算コストは同じである。
  論文  参考訳（メタデータ） (2022-04-16T00:56:12Z)
• On Steering Multi-Annotations per Sample for Multi-Task Learning [79.98259057711044]
  マルチタスク学習の研究はコミュニティから大きな注目を集めている。 目覚ましい進歩にもかかわらず、異なるタスクを同時に学習するという課題はまだ検討されていない。 従来の研究は、異なるタスクから勾配を修正しようとするが、これらの手法はタスク間の関係の主観的な仮定を与え、修正された勾配はより正確でないかもしれない。 本稿では,タスク割り当てアプローチによってこの問題に対処する機構であるタスク割当(STA)を紹介し,各サンプルをランダムにタスクのサブセットに割り当てる。 さらなる進展のために、我々は全てのタスクを反復的に割り当てるためにInterleaved Task Allocation(ISTA)を提案する。
  論文  参考訳（メタデータ） (2022-03-06T11:57:18Z)
• Label-Efficient Multi-Task Segmentation using Contrastive Learning [0.966840768820136]
  比較学習に基づくサブタスクを用いたマルチタスクセグメンテーションモデルを提案し、その性能を他のマルチタスクモデルと比較する。 提案手法は,アノテートデータの量に制限がある場合に,最先端の完全教師付きモデルを含む他のマルチタスク手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-09-23T14:12:17Z)
• Low Resource Multi-Task Sequence Tagging -- Revisiting Dynamic Conditional Random Fields [67.51177964010967]
  異なるタスクに対するラベルシーケンス間の依存関係を利用する低リソースマルチタスクシーケンスタグの異なるモデルを比較した。 タスク予測間の相互依存性の明示的モデリングは、通常のマルチタスクモデルと同様にシングルタスクよりも優れていることがわかった。
  論文  参考訳（メタデータ） (2020-05-01T07:11:34Z)
• Noise Estimation Using Density Estimation for Self-Supervised Multimodal Learning [10.151012770913624]
  マルチモーダルデータに対するノイズ推定は,マルチモーダル密度推定タスクに還元可能であることを示す。 我々は,我々のノイズ推定を広範に統合し,最先端の性能に匹敵する結果が得られることを実証する。
  論文  参考訳（メタデータ） (2020-03-06T13:25:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。