論文の概要: A Contrastive Variational Graph Auto-Encoder for Node Clustering

• arxiv url: http://arxiv.org/abs/2312.16830v1
• Date: Thu, 28 Dec 2023 05:07:57 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-29 17:15:49.796599
• Title: A Contrastive Variational Graph Auto-Encoder for Node Clustering
• Title（参考訳）: ノードクラスタリングのためのコントラスト変動グラフオートエンコーダ
• Authors: Nairouz Mrabah, Mohamed Bouguessa, Riadh Ksantini
• Abstract要約: 最先端のクラスタリング手法には多くの課題がある。 既存のVGAEは、推論と生成モデルの相違を考慮していない。 私たちのソリューションには、フィーチャーランダムネスとフィーチャードリフトのトレードオフを制御する2つのメカニズムがあります。
• 参考スコア（独自算出の注目度）: 10.52321770126932
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Variational Graph Auto-Encoders (VGAEs) have been widely used to solve the node clustering task. However, the state-of-the-art methods have numerous challenges. First, existing VGAEs do not account for the discrepancy between the inference and generative models after incorporating the clustering inductive bias. Second, current models are prone to degenerate solutions that make the latent codes match the prior independently of the input signal (i.e., Posterior Collapse). Third, existing VGAEs overlook the effect of the noisy clustering assignments (i.e., Feature Randomness) and the impact of the strong trade-off between clustering and reconstruction (i.e., Feature Drift). To address these problems, we formulate a variational lower bound in a contrastive setting. Our lower bound is a tighter approximation of the log-likelihood function than the corresponding Evidence Lower BOund (ELBO). Thanks to a newly identified term, our lower bound can escape Posterior Collapse and has more flexibility to account for the difference between the inference and generative models. Additionally, our solution has two mechanisms to control the trade-off between Feature Randomness and Feature Drift. Extensive experiments show that the proposed method achieves state-of-the-art clustering results on several datasets. We provide strong evidence that this improvement is attributed to four aspects: integrating contrastive learning and alleviating Feature Randomness, Feature Drift, and Posterior Collapse.
• Abstract（参考訳）: 変分グラフ自動エンコーダ(VGAE)はノードクラスタリングタスクの解決に広く利用されている。 しかし、最先端の手法には多くの課題がある。 まず、既存のvgaeは、クラスタリングインダクティブバイアスを組み込んだ後、推論と生成モデルの間の不一致を考慮しない。 第二に、現在のモデルは入力信号(すなわち後崩壊)と独立に遅延符号を一致させる解を退化させる傾向がある。 第三に、既存のVGAEは、ノイズの多いクラスタリングの割り当て(特徴ランダムネス)の効果とクラスタリングと再構築(特徴ドリフト)の強いトレードオフの影響を見落としている。 これらの問題に対処するため、コントラッシブな設定で変分下界を定式化する。 我々の下界は、対応するエビデンス下界(ELBO)よりもログ様関数の厳密な近似である。 新たに特定された用語のおかげで、下限は後方崩壊から逃れることができ、推論モデルと生成モデルの違いを考慮に入れる柔軟性が増す。 さらに、私たちのソリューションには、フィーチャーランダムネスとフィーチャードリフトのトレードオフを制御する2つのメカニズムがあります。 大規模実験により,提案手法は複数のデータセットで最先端のクラスタリング結果が得られることが示された。 この改善は、対照的な学習の統合と特徴のランダムさの緩和、特徴のドリフト、後方崩壊の4つの側面に起因するという強い証拠を提供する。

関連論文リスト

• Conditional Denoising Diffusion for Sequential Recommendation [62.127862728308045]
  GAN(Generative Adversarial Networks)とVAE(VAE)の2つの顕著な生成モデル GANは不安定な最適化に苦しむ一方、VAEは後続の崩壊と過度に平らな世代である。 本稿では,シーケンスエンコーダ,クロスアテンティブデノナイジングデコーダ,ステップワイズディフューザを含む条件付きデノナイジング拡散モデルを提案する。
  論文  参考訳（メタデータ） (2023-04-22T15:32:59Z)
• P-WAE: Generalized Patch-Wasserstein Autoencoder for Anomaly Screening [17.24628770042803]
  Patch-wise Wasserstein AutoEncoder (P-WAE) アーキテクチャを提案する。 特に、ジグソーパズルの解法と結合したパッチワイド変分推論モデルを設計する。 MVTec ADデータセットを用いた総合的な実験は、我々のプロポの優れた性能を実証する。
  論文  参考訳（メタデータ） (2021-08-09T05:31:45Z)
• Discriminator-Free Generative Adversarial Attack [87.71852388383242]
  生成的ベースの敵攻撃は、この制限を取り除くことができる。 ASymmetric Saliency-based Auto-Encoder (SSAE) は摂動を生成する。 SSAEが生成した敵の例は、広く使われているモデルを崩壊させるだけでなく、優れた視覚的品質を実現する。
  論文  参考訳（メタデータ） (2021-07-20T01:55:21Z)
• Rethinking Graph Autoencoder Models for Attributed Graph Clustering [1.2158275183241178]
  グラフオートエンコーダ(GAE)は、共同クラスタリングと埋め込み学習に使用されている。 本研究では,雑音の多いクラスタリングの課題を学習し,隣接行列を再構築する際の累積誤差について検討する。 ノイズの多いクラスタリングの代入に対して保護機構をトリガーするサンプリング演算子を$Xi$で提案する。
  論文  参考訳（メタデータ） (2021-07-19T00:00:35Z)
• Spatial-spectral Hyperspectral Image Classification via Multiple Random Anchor Graphs Ensemble Learning [88.60285937702304]
  本稿では,複数のランダムアンカーグラフアンサンブル学習(RAGE)を用いた空間スペクトルHSI分類手法を提案する。 まず、各選択されたバンドのより記述的な特徴を抽出し、局所的な構造と領域の微妙な変化を保存するローカルバイナリパターンを採用する。 次に,アンカーグラフの構成に適応隣接代入を導入し,計算複雑性を低減した。
  論文  参考訳（メタデータ） (2021-03-25T09:31:41Z)
• Adversarial and Contrastive Variational Autoencoder for Sequential Recommendation [25.37244686572865]
  本稿では、逐次レコメンデーションのためのAdversarial and Contrastive Variational Autoencoder (ACVAE) と呼ばれる新しい手法を提案する。 まず,本モデルが高品質な潜在変数を生成することを可能にするadversarial variational bayesフレームワークの下で,シーケンス生成のためのadversarial trainingを導入する。 さらに、シーケンスをエンコードする場合、シーケンス内のグローバルおよびローカルの関係をキャプチャするために、繰り返しおよび畳み込み構造を適用します。
  論文  参考訳（メタデータ） (2021-03-19T09:01:14Z)
• Knowledge Generation -- Variational Bayes on Knowledge Graphs [0.685316573653194]
  この論文は、現実世界の知識グラフの表現に関するVari Auto-Encoder (VAE) の概念実証である。 生成グラフへのアプローチの成功に触発されて,本モデルである変分オートエンコーダ(rgvae)の能力を評価する。 RGVAEはリンク予測に基づいて評価される。 2つのFB15K-237およびWN18RRデータセットの平均相互ランク(MRR)スコアを比較します。 2次実験における潜伏空間について検討する:まず、2つの三重項の潜伏表現の間の線型、そして各三重項の探索
  論文  参考訳（メタデータ） (2021-01-21T21:23:17Z)
• Generative Partial Visual-Tactile Fused Object Clustering [81.17645983141773]
  オブジェクトクラスタリングのためのGenerative Partial Visual-Tactile Fused(GPVTF)フレームワークを提案する。 条件付きクロスモーダルクラスタリング生成逆ネットワークを開発し、一方のモダリティ条件を他方のモダリティ上で合成する。 最後に、擬似ラベルに基づく2つのKL分割損失を用いて、対応するモダリティ固有エンコーダを更新する。
  論文  参考訳（メタデータ） (2020-12-28T02:37:03Z)
• Multi-scale Interactive Network for Salient Object Detection [91.43066633305662]
  本稿では,隣接レベルからの機能を統合するためのアグリゲート・インタラクション・モジュールを提案する。 より効率的なマルチスケール機能を得るために、各デコーダユニットに自己相互作用モジュールを埋め込む。 5つのベンチマークデータセットによる実験結果から,提案手法は後処理を一切行わず,23の最先端手法に対して良好に動作することが示された。
  論文  参考訳（メタデータ） (2020-07-17T15:41:37Z)
• Simple and Effective Prevention of Mode Collapse in Deep One-Class Classification [93.2334223970488]
  深部SVDDにおける超球崩壊を防止するための2つの正則化器を提案する。 第1の正則化器は、標準のクロスエントロピー損失によるランダムノイズの注入に基づいている。 第2の正規化器は、小さすぎるとミニバッチ分散をペナライズする。
  論文  参考訳（メタデータ） (2020-01-24T03:44:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。