論文の概要: I'm Me, We're Us, and I'm Us: Tri-directional Contrastive Learning on
Hypergraphs
- arxiv url: http://arxiv.org/abs/2206.04739v1
- Date: Thu, 9 Jun 2022 19:19:30 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-13 15:05:37.176761
- Title: I'm Me, We're Us, and I'm Us: Tri-directional Contrastive Learning on
Hypergraphs
- Title(参考訳): 私は私であり、私たちであり、私たちである:ハイパーグラフによる三方向コントラスト学習
- Authors: Dongjin Lee, Kijung Shin
- Abstract要約: 本稿では,ハイパーグラフにおけるコントラスト学習の一般的なフレームワークであるTriCon(Tri-directional Contrastive Learning)を提案する。
13のベースラインアプローチ,5つのデータセット,および2つのタスクを用いた実験により,TriConの有効性が示された。
- 参考スコア(独自算出の注目度): 19.27770139591114
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Although machine learning on hypergraphs has attracted considerable
attention, most of the works have focused on (semi-)supervised learning, which
may cause heavy labeling costs and poor generalization. Recently, contrastive
learning has emerged as a successful unsupervised representation learning
method. Despite the prosperous development of contrastive learning in other
domains, contrastive learning on hypergraphs remains little explored. In this
paper, we propose TriCon (Tri-directional Contrastive learning), a general
framework for contrastive learning on hypergraphs. Its main idea is
tri-directional contrast, and specifically, it aims to maximize in two
augmented views the agreement (a) between the same node, (b) between the same
group of nodes, and (c) between each group and its members. Together with
simple but surprisingly effective data augmentation and negative sampling
schemes, these three forms of contrast enable TriCon to capture both
microscopic and mesoscopic structural information in node embeddings. Our
extensive experiments using 13 baseline approaches, five datasets, and two
tasks demonstrate the effectiveness of TriCon, and most noticeably, TriCon
consistently outperforms not just unsupervised competitors but also
(semi-)supervised competitors mostly by significant margins for node
classification.
- Abstract(参考訳): ハイパーグラフでの機械学習は注目されているが、ほとんどの研究は(半)教師付き学習に焦点を合わせており、これは大きなラベル付けコストと一般化の欠如を引き起こす可能性がある。
近年,教師なし表現学習手法としてコントラスト学習が普及している。
他の領域でのコントラスト学習の隆盛にもかかわらず、ハイパーグラフでのコントラスト学習はほとんど研究されていない。
本稿では,ハイパーグラフのコントラスト学習のための一般的なフレームワークであるTriCon(Tri-directional Contrastive Learning)を提案する。
主なアイデアは3方向コントラストであり、具体的には2つの拡張ビューで合意を最大化することを目指している。
(a)同一ノード間。
(b)同じノード群間、及び
(c) 各グループとその構成員間の関係
これら3つのコントラストは、単純だが驚くほど効果的なデータ拡張と負のサンプリングスキームと共に、TriConがノード埋め込みにおける微細構造情報とメソスコピック構造情報をキャプチャすることを可能にする。
13のベースラインアプローチ、5つのデータセット、2つのタスクを用いた大規模な実験では、TriConの有効性が示されています。
関連論文リスト
- A Review and A Robust Framework of Data-Efficient 3D Scene Parsing with
Traditional/Learned 3D Descriptors [10.497309421830671]
既存の最先端の3Dポイントクラウド理解手法は、完全に教師された方法でのみうまく機能する。
この研究は、ラベルが限定されている場合のポイントクラウド理解に取り組むための、汎用的でシンプルなフレームワークを提供する。
論文 参考訳(メタデータ) (2023-12-03T02:51:54Z) - Scribble-based 3D Multiple Abdominal Organ Segmentation via
Triple-branch Multi-dilated Network with Pixel- and Class-wise Consistency [20.371144313009122]
そこで本研究では,CTからスクリブル制御された多発性腹部臓器分節に対する2つの整合性制約を有する新しい3Dフレームワークを提案する。
より安定した教師なし学習のために、voxel-wiseの不確実性を用いて、ソフトな擬似ラベルを修正し、各デコーダの出力を監督する。
公開WORDデータセットの実験により,本手法は既存の5つのスクリブル教師付き手法より優れていることが示された。
論文 参考訳(メタデータ) (2023-09-18T12:50:58Z) - Hierarchical Contrastive Learning Enhanced Heterogeneous Graph Neural
Network [59.860534520941485]
ヘテロジニアスグラフニューラルネットワーク(HGNN)は、異種情報ネットワーク(HIN)を扱う能力に優れていた。
近年,自己指導型学習は最もエキサイティングな学習パラダイムの1つとなり,ラベルがない場合に大きな可能性を示す。
本稿では,自己教師型HGNNの問題点を考察し,HGNNのための新しいコントラスト学習機構であるHeCoを提案する。
論文 参考訳(メタデータ) (2023-04-24T16:17:21Z) - GraphLearner: Graph Node Clustering with Fully Learnable Augmentation [76.63963385662426]
Contrastive Deep Graph Clustering (CDGC)は、異なるクラスタにノードをグループ化するために、コントラスト学習のパワーを活用する。
我々は、GraphLearnerと呼ばれる、完全学習可能な拡張を備えたグラフノードクラスタリングを提案する。
学習可能な拡張器を導入し、CDGCのための高品質でタスク固有の拡張サンプルを生成する。
論文 参考訳(メタデータ) (2022-12-07T10:19:39Z) - CODER: Coupled Diversity-Sensitive Momentum Contrastive Learning for
Image-Text Retrieval [108.48540976175457]
クロスモーダル表現を改善するために,共用ダイバーシティ・センシティブ・モーメント・コンストラシティブ・ラーニング(CODER)を提案する。
両モードの動的辞書を導入し、画像テキストペアのスケールを拡大し、適応的な負のペア重み付けにより多様性に敏感性を実現する。
MSCOCOとFlicker30Kという2つの人気のあるベンチマークで実施された実験は、CODERが最先端のアプローチを著しく上回っていることを証明している。
論文 参考訳(メタデータ) (2022-08-21T08:37:50Z) - Unsupervised Representation Learning for 3D Point Cloud Data [66.92077180228634]
我々は、教師なしのポイントクラウド学習に対して、シンプルで効果的なアプローチを提案する。
特に、原点雲の優れたコントラストバージョンを生成する非常に有用な変換を同定する。
本研究では,3次元オブジェクト分類,形状部分分割,シーン分割の3つの下流タスクについて実験を行った。
論文 参考訳(メタデータ) (2021-10-13T10:52:45Z) - Weakly Supervised Contrastive Learning [68.47096022526927]
この問題に対処するために,弱教師付きコントラスト学習フレームワーク(WCL)を導入する。
WCLはResNet50を使用して65%と72%のImageNet Top-1の精度を実現している。
論文 参考訳(メタデータ) (2021-10-10T12:03:52Z) - Self-supervised Heterogeneous Graph Neural Network with Co-contrastive
Learning [38.062495223111355]
ヘテロジニアスグラフニューラルネットワーク(HGNN)は、異種情報ネットワーク(HIN)を扱う能力に優れていた。
本稿では,自己教師型HGNNの問題点を考察し,HGNNのための新しいコントラスト学習機構であるHeCoを提案する。
論文 参考訳(メタデータ) (2021-05-19T13:15:03Z) - 3D Human Action Representation Learning via Cross-View Consistency
Pursuit [52.19199260960558]
教師なし3次元骨格に基づく行動表現(CrosSCLR)のためのクロスビューコントラスト学習フレームワークを提案する。
CrosSCLRは、シングルビューのコントラスト学習(SkeletonCLR)とクロスビューの一貫した知識マイニング(CVC-KM)モジュールの両方で構成されています。
論文 参考訳(メタデータ) (2021-04-29T16:29:41Z) - Deep Graph Contrastive Representation Learning [23.37786673825192]
ノードレベルでの対照的な目的を生かして,教師なしグラフ表現学習のための新しいフレームワークを提案する。
具体的には,この2つのビューにおけるノード表現の一致を最大化することにより,ノード表現の破損と学習によって2つのグラフビューを生成する。
我々は,様々な実世界のデータセットを用いて,帰納的および帰納的学習タスクの実証実験を行った。
論文 参考訳(メタデータ) (2020-06-07T11:50:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。