論文の概要: Hard Sample Aware Network for Contrastive Deep Graph Clustering
- arxiv url: http://arxiv.org/abs/2212.08665v1
- Date: Fri, 16 Dec 2022 16:57:37 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-20 15:08:58.284960
- Title: Hard Sample Aware Network for Contrastive Deep Graph Clustering
- Title(参考訳): 対比深部グラフクラスタリングのためのハードサンプルアウェアネットワーク
- Authors: Yue Liu, Xihong Yang, Sihang Zhou, Xinwang Liu, Zhen Wang, Ke Liang,
Wenxuan Tu, Liang Li, Jingcan Duan, Cancan Chen
- Abstract要約: 我々は,Hard Sample Aware Network (HSAN) と呼ばれる,新しい対照的な深層グラフクラスタリング手法を提案する。
本アルゴリズムでは, 属性埋め込みと構造埋め込みの両方を考慮し, サンプル間の類似性を計算した。
得られた高信頼度クラスタリング情報のガイダンスに基づき,提案した重み調整関数は,まず正および負のサンプルを認識する。
- 参考スコア(独自算出の注目度): 38.44763843990694
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Contrastive deep graph clustering, which aims to divide nodes into disjoint
groups via contrastive mechanisms, is a challenging research spot. Among the
recent works, hard sample mining-based algorithms have achieved great attention
for their promising performance. However, we find that the existing hard sample
mining methods have two problems as follows. 1) In the hardness measurement,
the important structural information is overlooked for similarity calculation,
degrading the representativeness of the selected hard negative samples. 2)
Previous works merely focus on the hard negative sample pairs while neglecting
the hard positive sample pairs. Nevertheless, samples within the same cluster
but with low similarity should also be carefully learned. To solve the
problems, we propose a novel contrastive deep graph clustering method dubbed
Hard Sample Aware Network (HSAN) by introducing a comprehensive similarity
measure criterion and a general dynamic sample weighing strategy. Concretely,
in our algorithm, the similarities between samples are calculated by
considering both the attribute embeddings and the structure embeddings, better
revealing sample relationships and assisting hardness measurement. Moreover,
under the guidance of the carefully collected high-confidence clustering
information, our proposed weight modulating function will first recognize the
positive and negative samples and then dynamically up-weight the hard sample
pairs while down-weighting the easy ones. In this way, our method can mine not
only the hard negative samples but also the hard positive sample, thus
improving the discriminative capability of the samples further. Extensive
experiments and analyses demonstrate the superiority and effectiveness of our
proposed method.
- Abstract(参考訳): コントラスト的メカニズムによってノードを非結合グループに分割することを目的とした、コントラスト的ディープグラフクラスタリングは、難しい研究スポットである。
最近の研究の中で、ハードサンプルマイニングに基づくアルゴリズムは、その有望な性能に大きな注目を集めている。
しかし,既存のハードサンプルマイニング手法には,以下の2つの問題がある。
1) 硬度測定では, 重要な構造情報を類似性計算に見落とし, 選択した硬質陰性試料の代表性を劣化させる。
2) 先行研究は, 硬い負のサンプルペアにのみ焦点をあてるが, 硬い正のサンプルペアは無視する。
それでも、同一クラスタ内のサンプルは、類似度の低いものも慎重に学ぶ必要がある。
そこで本研究では,包括的類似度尺度基準と一般的な動的サンプル重み付け戦略を導入することで,新たにハードサンプル認識ネットワーク(hsan)と呼ばれるコントラスト型深層グラフクラスタリング手法を提案する。
具体的には,属性埋め込みと構造埋め込みの両方を考慮し,サンプル間の類似度を算出し,サンプル関係を明らかにするとともに,硬度測定を支援する。
さらに, 得られた高信頼クラスタリング情報のガイダンスにより, 提案する重み変調関数は, 正および負のサンプルをまず認識し, 硬いサンプルペアを動的に重み付けしながら, 簡単なサンプルを重み付けする。
このようにして, 本手法は, 硬質陰性試料だけでなく, 硬質正試料のマイニングも可能となり, 試料の識別能力をさらに向上させることができる。
提案手法の優位性と有効性を示す実験と分析を行った。
関連論文リスト
- Synthetic Hard Negative Samples for Contrastive Learning [8.776888865665024]
本稿では,コントラスト学習のための新しい特徴レベル手法,すなわち合成硬質負のサンプルをサンプリングする手法を提案する。
負試料を混合し, アンカー試料と他の負試料とのコントラストを制御して, より硬い負試料を生成する。
提案手法は,画像データセットの分類性能を向上し,既存の手法に容易に組み込むことができる。
論文 参考訳(メタデータ) (2023-04-06T09:54:35Z) - Self-supervised Training Sample Difficulty Balancing for Local
Descriptor Learning [1.309716118537215]
正と負のサンプルの不均衡の場合、モデルがより微妙な違いを学習するのに役立つ強い負のマイニング戦略が示されている。
しかし、データセット内で厳密なマイニング戦略が推進されている場合、偽陰性サンプルを導入するリスクがある可能性がある。
本稿では,高品質な負の試料を採取し,利用するために,採掘試料の難易度をトレードオフする方法を検討する。
論文 参考訳(メタデータ) (2023-03-10T18:37:43Z) - Cluster-guided Contrastive Graph Clustering Network [53.16233290797777]
クラスタ誘導コントラストグラフクラスタリングネットワーク(CCGC)を提案する。
我々は、兄弟のサブネットワーク間で重みが共有されない特別なシームズエンコーダを設計することにより、グラフの2つのビューを構築する。
意味的な負のサンプルペアを構築するために、異なる高信頼度クラスタの中心を負のサンプルとみなす。
論文 参考訳(メタデータ) (2023-01-03T13:42:38Z) - Saliency Grafting: Innocuous Attribution-Guided Mixup with Calibrated
Label Mixing [104.630875328668]
ミックスアップスキームは、強化されたトレーニングサンプルを作成するために、サンプルのペアを混ぜることを提案する。
両世界のベストを捉えた、斬新だがシンプルなミックスアップ版を提示する。
論文 参考訳(メタデータ) (2021-12-16T11:27:48Z) - Density-Based Dynamic Curriculum Learning for Intent Detection [14.653917644725427]
本モデルでは, 固有ベクトル密度に応じてサンプルの難易度を定義する。
様々な難易度のサンプルに注意を払う動的カリキュラム学習戦略を適用した。
3つのオープンデータセットの実験により、提案した密度に基づくアルゴリズムが、単純かつ複雑なサンプルを著しく区別できることが確認された。
論文 参考訳(メタデータ) (2021-08-24T12:29:26Z) - Jo-SRC: A Contrastive Approach for Combating Noisy Labels [58.867237220886885]
Jo-SRC (Joint Sample Selection and Model Regularization based on Consistency) というノイズロバスト手法を提案する。
具体的には、対照的な学習方法でネットワークをトレーニングする。
各サンプルの2つの異なるビューからの予測は、クリーンまたは分布不足の「可能性」を推定するために使用されます。
論文 参考訳(メタデータ) (2021-03-24T07:26:07Z) - Doubly Contrastive Deep Clustering [135.7001508427597]
本稿では、サンプルビューとクラスビューの両方でコントラスト損失を構築する新しい二重コントラストディープクラスタリング(DCDC)フレームワークを紹介します。
具体的には、サンプルビューに対して、元のサンプルとその拡張バージョンのクラス分布を正のサンプルペアとして設定する。
クラスビューでは、クラスのサンプル分布から正のペアと負のペアを構築します。
このように、2つのコントラスト損失は、サンプルとクラスレベルでのミニバッチサンプルのクラスタリング結果をうまく制限します。
論文 参考訳(メタデータ) (2021-03-09T15:15:32Z) - The Simulator: Understanding Adaptive Sampling in the
Moderate-Confidence Regime [52.38455827779212]
エミュレータと呼ばれる適応サンプリングを解析するための新しい手法を提案する。
適切なログファクタを組み込んだトップk問題の最初のインスタンスベースの下位境界を証明します。
我々の新しい分析は、後者の問題に対するこの種の最初のエミュレータであるベストアームとトップkの識別に、シンプルでほぼ最適であることを示した。
論文 参考訳(メタデータ) (2017-02-16T23:42:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。