論文の概要: Semi-Supervised Learning for Multi-Task Scene Understanding by Neural Graph Consensus

• arxiv url: http://arxiv.org/abs/2010.01086v2
• Date: Thu, 3 Dec 2020 15:31:41 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-12 01:50:14.886482
• Title: Semi-Supervised Learning for Multi-Task Scene Understanding by Neural Graph Consensus
• Title（参考訳）: ニューラルネットワークによるマルチタスクシーン理解のための半教師付き学習
• Authors: Marius Leordeanu, Mihai Pirvu, Dragos Costea, Alina Marcu, Emil Slusanschi and Rahul Sukthankar
• Abstract要約: 世界の複数の視覚的解釈の文脈における半教師あり学習の問題に対処する。 グラフの自己教師型コンセンサスによって、異なる表現の予測がどのように効果的に学習できるかを示す。 また,マルチタスクと半教師付き学習の最先端手法を比較し,優れた性能を示す。
• 参考スコア（独自算出の注目度）: 23.528834793031894
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We address the challenging problem of semi-supervised learning in the context of multiple visual interpretations of the world by finding consensus in a graph of neural networks. Each graph node is a scene interpretation layer, while each edge is a deep net that transforms one layer at one node into another from a different node. During the supervised phase edge networks are trained independently. During the next unsupervised stage edge nets are trained on the pseudo-ground truth provided by consensus among multiple paths that reach the nets' start and end nodes. These paths act as ensemble teachers for any given edge and strong consensus is used for high-confidence supervisory signal. The unsupervised learning process is repeated over several generations, in which each edge becomes a "student" and also part of different ensemble "teachers" for training other students. By optimizing such consensus between different paths, the graph reaches consistency and robustness over multiple interpretations and generations, in the face of unknown labels. We give theoretical justifications of the proposed idea and validate it on a large dataset. We show how prediction of different representations such as depth, semantic segmentation, surface normals and pose from RGB input could be effectively learned through self-supervised consensus in our graph. We also compare to state-of-the-art methods for multi-task and semi-supervised learning and show superior performance.
• Abstract（参考訳）: ニューラルネットワークのグラフにコンセンサスを見出すことにより、世界の複数の視覚的解釈の文脈における半教師あり学習の課題に対処する。 各グラフノードはシーン解釈層であり、各エッジはひとつのノードのレイヤを別のノードから別のレイヤに変換するディープネットである。 制御されたフェーズエッジネットワークは独立してトレーニングされる。 次の未管理段階の間、エッジネットは、ネットの開始ノードと終了ノードに到達する複数のパス間のコンセンサスによって提供される擬似地上真実に基づいて訓練される。 これらの経路は任意のエッジのアンサンブル教師として機能し、強いコンセンサスは高信頼の監督信号に使用される。 教師なしの学習プロセスは数世代にわたって繰り返され、各エッジは「学生」となり、他の学生を訓練するための異なるアンサンブル「教師」の一部となる。 異なる経路間のコンセンサスを最適化することで、未知のラベルに直面して、グラフは複数の解釈と世代にわたって一貫性と堅牢性に到達する。 提案するアイデアを理論的に正当化し,大規模データセット上で検証する。 本研究では, 深度, セマンティックセグメンテーション, 表面正規化, RGB入力からのポーズなどの異なる表現の予測が, グラフ内の自己教師型コンセンサスによって効果的に学習可能であることを示す。 また,マルチタスクと半教師付き学習の最先端手法を比較し,優れた性能を示す。

関連論文リスト

• Contrastive Representation Learning Based on Multiple Node-centered Subgraphs [11.416941835869649]
  1つのノードは直感的にグラフ全体から複数のノード中心のサブグラフを持つ。 本稿では,グラフ上のノード表現を自己教師付きで学習するための,複数のノード中心部分グラフのコントラスト表現学習法を提案する。
  論文  参考訳（メタデータ） (2023-08-31T04:04:09Z)
• The Snowflake Hypothesis: Training Deep GNN with One Node One Receptive field [39.679151680622375]
  一つのノード、一つの受容場の概念を支える新しいパラダイムである「雪の結晶仮説」を紹介します。 最も単純な勾配とノードレベルの余弦距離を、各ノードの集約深さを調節する指針として採用する。 観測結果は,我々の仮説がタスクの普遍演算子として機能できることを実証した。
  論文  参考訳（メタデータ） (2023-08-19T15:21:12Z)
• Hierarchical Contrastive Learning Enhanced Heterogeneous Graph Neural Network [59.860534520941485]
  ヘテロジニアスグラフニューラルネットワーク(HGNN)は、異種情報ネットワーク(HIN)を扱う能力に優れていた。 近年,自己指導型学習は最もエキサイティングな学習パラダイムの1つとなり,ラベルがない場合に大きな可能性を示す。 本稿では,自己教師型HGNNの問題点を考察し,HGNNのための新しいコントラスト学習機構であるHeCoを提案する。
  論文  参考訳（メタデータ） (2023-04-24T16:17:21Z)
• Multi-Scale Contrastive Siamese Networks for Self-Supervised Graph Representation Learning [48.09362183184101]
  マルチスケールのコントラスト学習によるシームズ自己蒸留の強化により,ノード表現を学習するための新しい自己教師型アプローチを提案する。 提案手法は,新しい最先端の成果を達成し,半教師ありの成果を大きなマージンで上回っている。
  論文  参考訳（メタデータ） (2021-05-12T14:20:13Z)
• Graph Consistency based Mean-Teaching for Unsupervised Domain Adaptive Person Re-Identification [54.58165777717885]
  本論文では,教師ネットワークと学生ネットワークの間にGCC(Graph Consistency Constraint)を構築するためのGCMT(Graph Consistency Based Mean-Teaching)手法を提案する。 マーケット-1501、デュークMTMCreID、MSMT17の3つのデータセットの実験により、提案されたGCMTは最先端の手法よりも明確なマージンで優れていることが示された。
  論文  参考訳（メタデータ） (2021-05-11T04:09:49Z)
• Unsupervised Domain Adaptation through Iterative Consensus Shift in a Multi-Task Graph [22.308239339243272]
  赤ちゃんは周囲の世界を観察することでほとんど監督なしで学ぶ。 提案するマルチタスクグラフのコンセンサスシフト学習は,専門家モデルが提供する擬似ラベルにのみ依存する。 我々は,Replicaデータセットの重要コントリビューションを実験的に検証し,最小限の監督を伴うマルチタスク学習法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2021-03-26T11:57:42Z)
• AttrE2vec: Unsupervised Attributed Edge Representation Learning [22.774159996012276]
  本稿では,アトリビュートネットワークにおけるエッジの低次元ベクトル表現を学習する新しい非教師付き誘導法AttrE2Vecを提案する。 実験により,現代の手法と比較して,より強力なエッジベクトル表現を構築した。
  論文  参考訳（メタデータ） (2020-12-29T12:20:49Z)
• Towards Deeper Graph Neural Networks [63.46470695525957]
  グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。 いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。 本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
  論文  参考訳（メタデータ） (2020-07-18T01:11:14Z)
• GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training [62.73470368851127]
  グラフ表現学習は現実世界の問題に対処する強力な手法として登場した。 自己教師付きグラフニューラルネットワーク事前トレーニングフレームワークであるGraph Contrastive Codingを設計する。 3つのグラフ学習タスクと10のグラフデータセットについて実験を行った。
  論文  参考訳（メタデータ） (2020-06-17T16:18:35Z)
• Unsupervised Differentiable Multi-aspect Network Embedding [52.981277420394846]
  本稿では,asp2vecと呼ばれるマルチアスペクトネットワーク埋め込みのための新しいエンドツーエンドフレームワークを提案する。 提案するフレームワークは容易に異種ネットワークに拡張できる。
  論文  参考訳（メタデータ） (2020-06-07T19:26:20Z)
• Self-Supervised Graph Representation Learning via Global Context Prediction [31.07584920486755]
  本稿では,データ自体による自然監督を利用して,グラフ表現学習のための新たな自己教師型戦略を提案する。 グラフ内のノードのペアをランダムに選択し、よく設計されたニューラルネットをトレーニングし、一方のノードのコンテキスト位置を他方と相対的に予測する。 我々の仮説は、そのようなグラフ内コンテキストから得られた表現はグラフのグローバルなトポロジーを捉え、ノード間の類似性と区別を微妙に特徴づける、というものである。
  論文  参考訳（メタデータ） (2020-03-03T15:46:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。