Fugu-MT 論文翻訳(概要): Distribution Consistency based Self-Training for Graph Neural Networks with Sparse Labels

論文の概要: Distribution Consistency based Self-Training for Graph Neural Networks with Sparse Labels

arxiv url: http://arxiv.org/abs/2401.10394v1
Date: Thu, 18 Jan 2024 22:07:48 GMT
ステータス: 処理完了
システム内更新日: 2024-01-22 17:35:30.156679
Title: Distribution Consistency based Self-Training for Graph Neural Networks with Sparse Labels
Title（参考訳）: 分散一貫性に基づくスパースラベル付きグラフニューラルネットワークの自己学習
Authors: Fali Wang, Tianxiang Zhao, Suhang Wang
Abstract要約: グラフニューラルネットワーク(GNN)のノード分類は重要な課題であるラベルなしデータの豊富さを活用するための、広く普及しているフレームワークとして、セルフトレーニングが登場した。本稿では,情報的かつ分散の相違を認識可能な疑似ラベル付きノードを識別する,新しい分散一貫性グラフ自己学習フレームワークを提案する。
参考スコア（独自算出の注目度）: 33.89511660654271
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Few-shot node classification poses a significant challenge for Graph Neural Networks (GNNs) due to insufficient supervision and potential distribution shifts between labeled and unlabeled nodes. Self-training has emerged as a widely popular framework to leverage the abundance of unlabeled data, which expands the training set by assigning pseudo-labels to selected unlabeled nodes. Efforts have been made to develop various selection strategies based on confidence, information gain, etc. However, none of these methods takes into account the distribution shift between the training and testing node sets. The pseudo-labeling step may amplify this shift and even introduce new ones, hindering the effectiveness of self-training. Therefore, in this work, we explore the potential of explicitly bridging the distribution shift between the expanded training set and test set during self-training. To this end, we propose a novel Distribution-Consistent Graph Self-Training (DC-GST) framework to identify pseudo-labeled nodes that are both informative and capable of redeeming the distribution discrepancy and formulate it as a differentiable optimization task. A distribution-shift-aware edge predictor is further adopted to augment the graph and increase the model's generalizability in assigning pseudo labels. We evaluate our proposed method on four publicly available benchmark datasets and extensive experiments demonstrate that our framework consistently outperforms state-of-the-art baselines.
Abstract（参考訳）: 数少ないノード分類は、ラベル付きノードとラベル付きノードの間の潜在的分布シフトが不十分なため、グラフニューラルネットワーク(gnn)にとって大きな課題となる。自己学習は、ラベルなしノードに擬似ラベルを割り当てることでトレーニングセットを拡大する、ラベルなしデータの豊富さを活用するためのフレームワークとして広く普及している。信頼や情報獲得などに基づく様々な選択戦略を開発する努力がなされている。しかしながら、これらの手法はトレーニングとテストノードセット間の分散シフトを考慮していない。擬似ラベルのステップは、このシフトを増幅し、新しいものを導入することで、自己学習の有効性を妨げます。そこで本研究では,自己学習中の拡張トレーニングセットとテストセットの分布変化を明示的に橋渡しする可能性について検討する。そこで本研究では,情報的かつ分散不一致を認識可能な疑似ラベル付きノードを識別し,識別可能な最適化タスクとして定式化する,分散一貫性グラフ自己学習(DC-GST)フレームワークを提案する。さらに、分布シフト対応エッジ予測器を用いてグラフを拡大し、擬似ラベルを割り当てる際のモデルの一般化性を高める。提案手法を4つの公開ベンチマークデータセットで評価し,フレームワークが常に最先端のベースラインより優れていることを示す。

関連論文リスト

BANGS: Game-Theoretic Node Selection for Graph Self-Training [39.70859692050266]
グラフ自己学習は、基礎となるグラフニューラルネットワーク(GNN)モデルをトレーニングするために、ラベルなしデータのセットを反復的に選択する半教師付き学習手法である。本稿では,ノード選択の目的として,条件付き相互情報とラベル戦略を統一する新しいフレームワークであるBANGSを提案する。我々のアプローチは、ゲーム理論に基づくもので、ある方法でノードを選択し、ノイズのある目的の下でロバスト性に関する理論的保証を提供する。
論文参考訳（メタデータ） (2024-10-12T03:31:28Z)
Degree Distribution based Spiking Graph Networks for Domain Adaptation [17.924123705983792]
Spiking Graph Networks (SGNs)は、グラフ分類におけるエネルギー消費の課題に対処する能力のために、研究者と業界双方から大きな注目を集めている。まず、SGNにおけるドメイン適応問題を提案し、Dgree-aware Spiking Graph Domain Adaptation for Classificationという新しいフレームワークを提案する。 The proposed DeSGDA address the spiking graph domain adapt problem by three aspects: node degree-aware Personal spiking representation, adversarial feature distribution alignment, pseudo-label distillation。
論文参考訳（メタデータ） (2024-10-09T13:45:54Z)
ALEX: Towards Effective Graph Transfer Learning with Noisy Labels [11.115297917940829]
本稿では,グラフ伝達学習の課題に対処するため,バランスアライメントと情報認識試験(ALEX)と呼ばれる新しい手法を提案する。 ALEXはまず特異値分解を使用して、重要な構造的意味論を持つ異なるビューを生成し、堅牢なノード表現を提供する。この基礎の上に構築され、複雑なマルチモーダル分布の暗黙的な領域アライメントのために、対向領域判別器が組み込まれている。
論文参考訳（メタデータ） (2023-09-26T04:59:49Z)
CONVERT:Contrastive Graph Clustering with Reliable Augmentation [110.46658439733106]
信頼性オーグメンテーション(CONVERT)を用いたContrastiVe Graph ClustEringネットワークを提案する。本手法では,データ拡張を可逆的パーターブ・リカバリネットワークにより処理する。セマンティクスの信頼性をさらに保証するために、ネットワークを制約する新たなセマンティクス損失が提示される。
論文参考訳（メタデータ） (2023-08-17T13:07:09Z)
All Points Matter: Entropy-Regularized Distribution Alignment for Weakly-supervised 3D Segmentation [67.30502812804271]
擬似ラベルは、弱い教師付き3Dセグメンテーションタスクに広く使われており、学習に使えるのはスパース・グラウンド・トラス・ラベルのみである。本稿では,生成した擬似ラベルを正規化し,擬似ラベルとモデル予測とのギャップを効果的に狭めるための新しい学習戦略を提案する。
論文参考訳（メタデータ） (2023-05-25T08:19:31Z)
Transductive Linear Probing: A Novel Framework for Few-Shot Node Classification [56.17097897754628]
自己教師付きグラフと対照的な事前学習による帰納的線形探索は、同じプロトコル下での最先端の完全教師付きメタラーニング手法より優れていることを示す。この研究が、数ショットのノード分類問題に新たな光を当て、グラフ上のわずかにラベル付けされたインスタンスから学ぶことの今後の研究を促進することを願っている。
論文参考訳（メタデータ） (2022-12-11T21:10:34Z)
Neighbour Consistency Guided Pseudo-Label Refinement for Unsupervised Person Re-Identification [80.98291772215154]
教師なしの人物再識別(ReID)は、アノテーションを使わずに人物検索のための識別的アイデンティティの特徴を学習することを目的としている。近年の進歩はクラスタリングに基づく擬似ラベルを活用することで実現されている。本稿では, Pseudo Label Refinement フレームワークを提案する。
論文参考訳（メタデータ） (2022-11-30T09:39:57Z)
Similarity-aware Positive Instance Sampling for Graph Contrastive Pre-training [82.68805025636165]
トレーニングセット内の既存グラフから直接正のグラフインスタンスを選択することを提案する。私たちの選択は、特定のドメイン固有のペアワイズ類似度測定に基づいています。さらに,ノードを動的にマスキングしてグラフ上に均等に分配する適応ノードレベルの事前学習手法を開発した。
論文参考訳（メタデータ） (2022-06-23T20:12:51Z)
Confidence May Cheat: Self-Training on Graph Neural Networks under Distribution Shift [39.73304203101909]
高信頼の未ラベルノードをラベル付けし、トレーニングステップに追加することで、グラフ上での自己学習手法が広く採用されている。本稿では,従来のラベル付きデータセットの分布を復元する新しい分散検索フレームワーク(DR-GST)を提案する。 5つのベンチマークデータセットの理論的解析と広範な実験は、提案したDR-GSTの有効性を実証している。
論文参考訳（メタデータ） (2022-01-27T07:12:27Z)
Scalable and Adaptive Graph Neural Networks with Self-Label-Enhanced training [1.2183405753834562]
大規模グラフにグラフニューラルネットワーク(gnn)を直接実装することは困難である。スケーラブルで適応的なグラフニューラルネットワーク(SAGN)を提案する。自己学習アプローチとラベル伝播を深く結合したsle(self-label-enhance)フレームワークを提案する。
論文参考訳（メタデータ） (2021-04-19T15:08:06Z)
PseudoSeg: Designing Pseudo Labels for Semantic Segmentation [78.35515004654553]
ラベルなしまたは弱いラベル付きデータを用いたトレーニングのための構造化された擬似ラベルを生成するための擬似ラベルの再設計を提案する。提案手法の有効性を,低データと高データの両方において示す。
論文参考訳（メタデータ） (2020-10-19T17:59:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。