論文の概要: Select and Calibrate the Low-confidence: Dual-Channel Consistency based
Graph Convolutional Networks
- arxiv url: http://arxiv.org/abs/2205.03753v1
- Date: Sun, 8 May 2022 01:35:28 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-10 14:43:39.380626
- Title: Select and Calibrate the Low-confidence: Dual-Channel Consistency based
Graph Convolutional Networks
- Title(参考訳): 低信頼度の選択と校正:デュアルチャネル一貫性に基づくグラフ畳み込みネットワーク
- Authors: Shuhao Shi, Jian Chen, Kai Qiao, Shuai Yang, Linyuan Wang and Bin Yan
- Abstract要約: グラフ畳み込みネットワーク(GCN)はノード分類タスクにおいて優れた結果を得た。
しかし、低ラベル率でのモデルの性能はまだ不十分です。
我々はDual-Channel Consistency based Graph Convolutional Networks (DCC-GCN)を提案する。
我々は,DCC-GCNが低信頼度と高信頼度をより正確に区別できることを示す。
- 参考スコア(独自算出の注目度): 12.805357051478945
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The Graph Convolutional Networks (GCNs) have achieved excellent results in
node classification tasks, but the model's performance at low label rates is
still unsatisfactory. Previous studies in Semi-Supervised Learning (SSL) for
graph have focused on using network predictions to generate soft pseudo-labels
or instructing message propagation, which inevitably contains the incorrect
prediction due to the over-confident in the predictions. Our proposed
Dual-Channel Consistency based Graph Convolutional Networks (DCC-GCN) uses
dual-channel to extract embeddings from node features and topological
structures, and then achieves reliable low-confidence and high-confidence
samples selection based on dual-channel consistency. We further confirmed that
the low-confidence samples obtained based on dual-channel consistency were low
in accuracy, constraining the model's performance. Unlike previous studies
ignoring low-confidence samples, we calibrate the feature embeddings of the
low-confidence samples by using the neighborhood's high-confidence samples. Our
experiments have shown that the DCC-GCN can more accurately distinguish between
low-confidence and high-confidence samples, and can also significantly improve
the accuracy of low-confidence samples. We conducted extensive experiments on
the benchmark datasets and demonstrated that DCC-GCN is significantly better
than state-of-the-art baselines at different label rates.
- Abstract(参考訳): グラフ畳み込みネットワーク(GCN)はノード分類タスクにおいて優れた結果を得たが、低ラベルレートでのモデルの性能はまだ不十分である。
グラフの半教師付き学習(SSL)における従来の研究は、ネットワーク予測を用いて、ソフトな擬似ラベルを生成したり、メッセージの伝搬を指示したりすることに焦点を当ててきた。
提案するDual-Channel Consistency based Graph Convolutional Networks (DCC-GCN) では,ノードの特徴やトポロジ構造から埋め込みを抽出し,二チャネル整合性に基づく信頼性の高い低信頼度および高信頼度サンプル選択を実現する。
さらに,デュアルチャネル一貫性に基づいて得られた低信頼サンプルは精度が低く,モデルの性能に制約があることを確認した。
低信頼度サンプルを無視する以前の研究とは異なり、低信頼サンプルの特徴埋め込みを近所の高信頼サンプルを用いて校正する。
実験の結果,DCC-GCNは低信頼度試料と高信頼度試料とをより正確に識別でき,低信頼度試料の精度を著しく向上できることがわかった。
ベンチマークデータセットについて広範な実験を行い、DCC-GCNは、異なるラベルレートで最先端のベースラインよりもはるかに優れていることを示した。
関連論文リスト
- Adapting Conformal Prediction to Distribution Shifts Without Labels [16.478151550456804]
コンフォーマル予測(CP)により、機械学習モデルは、保証されたカバレッジ率で予測セットを出力できる。
我々の目標は、テストドメインからのラベルなしデータのみを使用して、CP生成予測セットの品質を改善することです。
これは、未ラベルテストデータに対するベースモデルの不確実性に応じてCPのスコア関数を調整する、ECP と EACP と呼ばれる2つの新しい手法によって達成される。
論文 参考訳(メタデータ) (2024-06-03T15:16:02Z) - Reliability-Adaptive Consistency Regularization for Weakly-Supervised
Point Cloud Segmentation [80.07161039753043]
極端に限られたラベルを持つ弱教師付きポイントクラウドセグメンテーションは、高額な注釈付き3Dポイントの収集コストを軽減するのが望ましい。
本稿では、弱教師付き学習において一般的に用いられる一貫性の正則化を、複数のデータ固有の拡張を伴うポイントクラウドに適用することを検討する。
疑似ラベルの信頼性を評価するために,予測信頼性とモデル不確実性を両立させる新しい信頼性適応整合ネットワーク(RAC-Net)を提案する。
論文 参考訳(メタデータ) (2023-03-09T10:41:57Z) - Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。
GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
論文 参考訳(メタデータ) (2023-02-06T16:38:43Z) - Cluster-guided Contrastive Graph Clustering Network [53.16233290797777]
クラスタ誘導コントラストグラフクラスタリングネットワーク(CCGC)を提案する。
我々は、兄弟のサブネットワーク間で重みが共有されない特別なシームズエンコーダを設計することにより、グラフの2つのビューを構築する。
意味的な負のサンプルペアを構築するために、異なる高信頼度クラスタの中心を負のサンプルとみなす。
論文 参考訳(メタデータ) (2023-01-03T13:42:38Z) - Bayesian Layer Graph Convolutioanl Network for Hyperspetral Image
Classification [24.91896527342631]
グラフ畳み込みネットワーク(GCN)ベースのモデルは、素晴らしいパフォーマンスを示している。
点推定に基づくディープラーニングフレームワークは、一般化が低く、分類結果の不確実性を定量化できない。
本稿では,点推定に基づくニューラルネットワークへの挿入層としてベイズ的アイデアを用いたベイズ的層を提案する。
HSIデータセットのサンプル不均衡問題を解決するためにGAN(Generative Adversarial Network)が構築されている。
論文 参考訳(メタデータ) (2022-11-14T12:56:56Z) - S2-BNN: Bridging the Gap Between Self-Supervised Real and 1-bit Neural
Networks via Guided Distribution Calibration [74.5509794733707]
本研究では, 実数値から, 最終予測分布上のバイナリネットワークへの誘導型学習パラダイムを提案する。
提案手法は,bnn上で5.515%の絶対利得で,単純なコントラスト学習ベースラインを向上できる。
提案手法は、単純なコントラスト学習ベースラインよりも大幅に改善され、多くの主流教師付きBNN手法に匹敵する。
論文 参考訳(メタデータ) (2021-02-17T18:59:28Z) - Uncertainty-Aware Deep Calibrated Salient Object Detection [74.58153220370527]
既存のディープニューラルネットワークに基づくサルエントオブジェクト検出(SOD)手法は主に高いネットワーク精度の追求に重点を置いている。
これらの手法は、信頼不均衡問題として知られるネットワーク精度と予測信頼の間のギャップを見落としている。
我々は,不確実性を考慮した深部SODネットワークを導入し,深部SODネットワークの過信を防止するための2つの戦略を提案する。
論文 参考訳(メタデータ) (2020-12-10T23:28:36Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z) - Calibrating Deep Neural Network Classifiers on Out-of-Distribution
Datasets [20.456742449675904]
CCAC(Confidence with a Auxiliary Class)はディープニューラルネットワーク(DNN)のための新しいポストホック信頼度校正法である
CCACのキーノベルティは、誤分類されたサンプルと正しく分類されたサンプルを分離するキャリブレーションモデルにおける補助クラスである。
異なるDNNモデル,データセット,アプリケーションに対する実験により,CCACは従来よりずっと優れていることがわかった。
論文 参考訳(メタデータ) (2020-06-16T04:06:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。