論文の概要: Unsupervised Domain Adaptation through Iterative Consensus Shift in a Multi-Task Graph

• arxiv url: http://arxiv.org/abs/2103.14417v1
• Date: Fri, 26 Mar 2021 11:57:42 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-29 12:54:06.380770
• Title: Unsupervised Domain Adaptation through Iterative Consensus Shift in a Multi-Task Graph
• Title（参考訳）: マルチタスクグラフにおける反復的合意シフトによる教師なし領域適応
• Authors: Emanuela Haller, Elena Burceanu, Marius Leordeanu
• Abstract要約: 赤ちゃんは周囲の世界を観察することでほとんど監督なしで学ぶ。 提案するマルチタスクグラフのコンセンサスシフト学習は,専門家モデルが提供する擬似ラベルにのみ依存する。 我々は,Replicaデータセットの重要コントリビューションを実験的に検証し,最小限の監督を伴うマルチタスク学習法よりも優れた性能を示す。
• 参考スコア（独自算出の注目度）: 22.308239339243272
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Babies learn with very little supervision by observing the surrounding world. They synchronize the feedback from all their senses and learn to maintain consistency and stability among their internal states. Such observations inspired recent works in multi-task and multi-modal learning, but existing methods rely on expensive manual supervision. In contrast, our proposed multi-task graph, with consensus shift learning, relies only on pseudo-labels provided by expert models. In our graph, every node represents a task, and every edge learns to transform one input node into another. Once initialized, the graph learns by itself on virtually any novel target domain. An adaptive selection mechanism finds consensus among multiple paths reaching a given node and establishes the pseudo-ground truth at that node. Such pseudo-labels, given by ensemble pathways in the graph, are used during the next learning iteration when single edges distill this distributed knowledge. We validate our key contributions experimentally and demonstrate strong performance on the Replica dataset, superior to the very few published methods on multi-task learning with minimal supervision.
• Abstract（参考訳）: 赤ちゃんは周囲の世界を観察することでほとんど監督なしで学ぶ。 すべての感覚からのフィードバックを同期させ、内部状態間の一貫性と安定性を維持することを学ぶ。 このような観察は、マルチタスクとマルチモーダル学習の最近の研究に影響を与えたが、既存の手法は高価な手動の監督に依存している。 対照的に,コンセンサスシフト学習を用いたマルチタスクグラフは,専門家モデルによる擬似ラベルのみに依存している。 グラフでは、すべてのノードがタスクを表し、すべてのエッジがひとつの入力ノードを別のノードに変換することを学習します。 一度初期化されると、グラフは事実上あらゆる新しいターゲットドメインで自身で学習する。 適応選択機構は、与えられたノードに到達する複数のパス間でコンセンサスを見つけ、そのノードで擬似基底真理を確立する。 このような擬似ラベルは、グラフ内のアンサンブル経路によって与えられるもので、単一エッジがこの分散知識を蒸留する次の学習イテレーションで使用される。 我々は,Replicaデータセットの重要コントリビューションを実験的に検証し,最小限の監督を伴うマルチタスク学習法よりも優れた性能を示す。

関連論文リスト

• Meta-GPS++: Enhancing Graph Meta-Learning with Contrastive Learning and Self-Training [22.473322546354414]
  そこで我々はMeta-GPS++と呼ばれる少数ショットノード分類のための新しいフレームワークを提案する。 まず,同好および異好のグラフ上での識別ノード表現を効率よく学習する手法を採用する。 また、ラベルのないノードから貴重な情報を抽出するために自己学習を適用する。
  論文  参考訳（メタデータ） (2024-07-20T03:05:12Z)
• Multi-Task Hypergraphs for Semi-supervised Learning using Earth Observations [51.344339837501835]
  本稿では,各ノードがタスクであり,与えられたタスクに到達したハイパーグラフが教師なしの教師になるような,強力なマルチタスクハイパーグラフを提案する。 我々のモデルは、地球観測の最も重要な問題の一つに応用され、それは非常に多タスクであり、しばしば地上データ不足に悩まされる。 ハイパーグラフは、そのマルチタスク・セルフ・スーパービジョン・プロセスを通じて、段階的なデータ分散シフトに教師なしで適応し、確実に回復可能であることを示す。
  論文  参考訳（メタデータ） (2023-08-21T20:22:51Z)
• SimTeG: A Frustratingly Simple Approach Improves Textual Graph Learning [131.04781590452308]
  テキストグラフ学習におけるフラストレーションに富んだアプローチであるSimTeGを提案する。 まず、下流タスクで予め訓練されたLM上で、教師付きパラメータ効率の微調整(PEFT)を行う。 次に、微調整されたLMの最後の隠れ状態を用いてノード埋め込みを生成する。
  論文  参考訳（メタデータ） (2023-08-03T07:00:04Z)
• STERLING: Synergistic Representation Learning on Bipartite Graphs [78.86064828220613]
  二部グラフ表現学習の基本的な課題は、ノードの埋め込みを抽出する方法である。 最近の二部グラフSSL法は、正ノード対と負ノード対を識別することによって埋め込みを学習する対照的な学習に基づいている。 負のノードペアを持たないノード埋め込みを学習するための新しい相乗的表現学習モデル(STERling)を提案する。
  論文  参考訳（メタデータ） (2023-01-25T03:21:42Z)
• Transductive Linear Probing: A Novel Framework for Few-Shot Node Classification [56.17097897754628]
  自己教師付きグラフと対照的な事前学習による帰納的線形探索は、同じプロトコル下での最先端の完全教師付きメタラーニング手法より優れていることを示す。 この研究が、数ショットのノード分類問題に新たな光を当て、グラフ上のわずかにラベル付けされたインスタンスから学ぶことの今後の研究を促進することを願っている。
  論文  参考訳（メタデータ） (2022-12-11T21:10:34Z)
• Deep Contrastive Learning for Multi-View Network Embedding [20.035449838566503]
  マルチビューネットワーク埋め込みは、ネットワーク内のノードを低次元ベクトルに投影することを目的としている。 ほとんどの対照的な学習ベースの手法は、主に高品質なグラフ埋め込みに依存している。 マルチビューネットワーク埋め込み(CREME)のための新しいノード間コントラスト学習フレームワークを設計する。
  論文  参考訳（メタデータ） (2021-08-16T06:29:18Z)
• ROD: Reception-aware Online Distillation for Sparse Graphs [23.55530524584572]
  疎グラフ学習のための新しいレセプション対応オンライン知識蒸留手法 ROD を提案する。 RODのための3つの監視信号: マルチスケールの受信対応グラフ知識、タスクベース監視、豊富な蒸留知識。 我々のアプローチは9つのデータセットと様々なグラフベースのタスクで広く評価されている。
  論文  参考訳（メタデータ） (2021-07-25T11:55:47Z)
• Can Semantic Labels Assist Self-Supervised Visual Representation Learning? [194.1681088693248]
  近隣環境におけるコントラスト調整(SCAN)という新しいアルゴリズムを提案する。 一連のダウンストリームタスクにおいて、SCANは従来の完全教師付きおよび自己教師付きメソッドよりも優れたパフォーマンスを達成する。 本研究は, セマンティックラベルが自己指導的手法の補助に有用であることを明らかにする。
  論文  参考訳（メタデータ） (2020-11-17T13:25:00Z)
• A Survey on Contrastive Self-supervised Learning [0.0]
  自己教師付き学習は、大規模なデータセットのアノテートコストを回避する能力によって人気を集めている。 コントラスト学習は近年,コンピュータビジョン,自然言語処理(NLP)などの分野において,自己指導型学習手法の主流となっている。 本稿では, コントラスト的アプローチに従う自己教師型手法について, 広範囲にわたるレビューを行う。
  論文  参考訳（メタデータ） (2020-10-31T21:05:04Z)
• Semi-Supervised Learning for Multi-Task Scene Understanding by Neural Graph Consensus [23.528834793031894]
  世界の複数の視覚的解釈の文脈における半教師あり学習の問題に対処する。 グラフの自己教師型コンセンサスによって、異なる表現の予測がどのように効果的に学習できるかを示す。 また,マルチタスクと半教師付き学習の最先端手法を比較し,優れた性能を示す。
  論文  参考訳（メタデータ） (2020-10-02T16:30:49Z)
• Unsupervised Differentiable Multi-aspect Network Embedding [52.981277420394846]
  本稿では,asp2vecと呼ばれるマルチアスペクトネットワーク埋め込みのための新しいエンドツーエンドフレームワークを提案する。 提案するフレームワークは容易に異種ネットワークに拡張できる。
  論文  参考訳（メタデータ） (2020-06-07T19:26:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。