論文の概要: TwinCL: A Twin Graph Contrastive Learning Model for Collaborative Filtering
- arxiv url: http://arxiv.org/abs/2409.19169v1
- Date: Fri, 27 Sep 2024 22:31:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-10 14:57:58.513522
- Title: TwinCL: A Twin Graph Contrastive Learning Model for Collaborative Filtering
- Title（参考訳）: TwinCL:協調フィルタリングのための双グラフコントラスト学習モデル
- Authors: Chengkai Liu, Jianling Wang, James Caverlee,
- Abstract要約: 本研究では,従来の拡張手法の冗長性を実証し,ランダム拡張の代わりにツインエンコーダを導入する。
提案したTwin Graph Contrastive Learningモデル -- TwinCL -- は、ユーザとアイテムの埋め込みとツインエンコーダからの表現の正のペアを調整する。
理論的解析と実験結果から,提案モデルが推薦精度の向上と学習効率の向上に寄与することが示された。
- 参考スコア（独自算出の注目度）: 20.26347686022996
- License:
- Abstract: In the domain of recommendation and collaborative filtering, Graph Contrastive Learning (GCL) has become an influential approach. Nevertheless, the reasons for the effectiveness of contrastive learning are still not well understood. In this paper, we challenge the conventional use of random augmentations on graph structure or embedding space in GCL, which may disrupt the structural and semantic information inherent in Graph Neural Networks. Moreover, fixed-rate data augmentation proves to be less effective compared to augmentation with an adaptive rate. In the initial training phases, significant perturbations are more suitable, while as the training approaches convergence, milder perturbations yield better results. We introduce a twin encoder in place of random augmentations, demonstrating the redundancy of traditional augmentation techniques. The twin encoder updating mechanism ensures the generation of more diverse contrastive views in the early stages, transitioning to views with greater similarity as training progresses. In addition, we investigate the learned representations from the perspective of alignment and uniformity on a hypersphere to optimize more efficiently. Our proposed Twin Graph Contrastive Learning model -- TwinCL -- aligns positive pairs of user and item embeddings and the representations from the twin encoder while maintaining the uniformity of the embeddings on the hypersphere. Our theoretical analysis and experimental results show that the proposed model optimizing alignment and uniformity with the twin encoder contributes to better recommendation accuracy and training efficiency performance. In comprehensive experiments on three public datasets, our proposed TwinCL achieves an average improvement of 5.6% (NDCG@10) in recommendation accuracy with faster training speed, while effectively mitigating popularity bias.
- Abstract（参考訳）: 推薦と協調フィルタリングの分野では、グラフコントラスト学習(GCL)が影響力のあるアプローチとなっている。
しかし、コントラスト学習の有効性の理由はまだよく理解されていない。
本稿では,グラフニューラルネットワークに固有の構造情報や意味情報を乱す可能性のある,GCL内のグラフ構造や埋め込み空間におけるランダム拡張の従来の利用に挑戦する。
さらに、固定レートデータの増大は適応率の増大よりも効果が低いことが証明された。
最初のトレーニング段階では、大きな摂動がより適しており、トレーニングが収束するにつれて、より緩やかな摂動がより良い結果をもたらす。
本研究では,従来の拡張手法の冗長性を実証し,ランダム拡張の代わりにツインエンコーダを導入する。
ツインエンコーダの更新メカニズムにより、初期の段階ではより多様なコントラストビューが生成され、トレーニングが進むにつれて、より類似したビューに遷移する。
さらに,超球面上のアライメントと均一性の観点から学習した表現について検討し,より効率的に最適化する。
提案したTwin Graph Contrastive Learning Model -- TwinCLは、ハイパースフィアへの埋め込みの均一性を維持しつつ、ユーザとアイテムの埋め込みとツインエンコーダからの表現の正のペアを整列する。
理論的解析と実験結果から, ツインエンコーダとのアライメントと均一性を最適化したモデルが, 精度の向上とトレーニング効率の向上に寄与することが示された。
3つの公開データセットに関する総合的な実験において、提案したTwinCLは5.6%(NDCG@10)の平均的な改善を実現し、より高速なトレーニング速度で推奨精度を向上すると同時に、人気バイアスを効果的に軽減する。
関連論文リスト
- Dual Adversarial Perturbators Generate rich Views for Recommendation [16.284670207195056]
AvoGCLは、グラフ構造に逆行訓練を適用し、摂動を埋め込むことでカリキュラム学習をエミュレートする。
3つの実世界のデータセットの実験では、AvoGCLが最先端の競合より大幅に優れていることが示されている。
論文 参考訳（メタデータ） (2024-08-26T15:19:35Z) - Dual-perspective Cross Contrastive Learning in Graph Transformers [33.18813968554711]
グラフコントラスト学習(GCL)は、グラフ表現を傾けるための一般的な手法である。
本稿では,DC-GCL(Double-perspective Cross Graph contrastive Learning)というフレームワークを提案する。
DC-GCLには、正のサンプルの多様性と信頼性を高めるために設計された3つの修正が含まれている。
論文 参考訳（メタデータ） (2024-06-01T11:11:49Z) - Mixed Supervised Graph Contrastive Learning for Recommendation [34.93725892725111]
これらの問題に対処するために、MixSGCL (MixSGCL) を用いたグラフコントラスト学習を提案する。
3つの実世界のデータセットの実験では、MixSGCLが最先端の手法を超越し、精度と効率の両方で最高のパフォーマンスを達成している。
論文 参考訳（メタデータ） (2024-04-24T16:19:11Z) - Addressing Sample Inefficiency in Multi-View Representation Learning [6.621303125642322]
非コントラスト型自己教師型学習(NC-SSL)法は,コンピュータビジョンにおけるラベルなし表現学習に大きな可能性を示している。
我々は、バーローツインズとVICReg損失の暗黙の偏見に関する理論的洞察を提供し、これらを説明し、より原則化されたレコメンデーションの開発を導くことができる。
論文 参考訳（メタデータ） (2023-12-17T14:14:31Z) - LightGCL: Simple Yet Effective Graph Contrastive Learning for
Recommendation [9.181689366185038]
グラフニューラルクラスタリングネットワーク(GNN)は、グラフベースのレコメンデータシステムのための強力な学習手法である。
本稿では,単純なグラフコントラスト学習パラダイムであるLightGCLを提案する。
論文 参考訳（メタデータ） (2023-02-16T10:16:21Z) - Adversarial Learning Data Augmentation for Graph Contrastive Learning in
Recommendation [56.10351068286499]
グラフコントラスト学習のための学習可能なデータ拡張法(LDA-GCL)を提案する。
提案手法は,InfoMin と InfoMax の原則に従うデータ強化学習とグラフコントラスト学習を含む。
本手法は,データ拡張とユーザやアイテムの効果的な表現を学習するために,対向損失関数を最適化する。
論文 参考訳（メタデータ） (2023-02-05T06:55:51Z) - GraphLearner: Graph Node Clustering with Fully Learnable Augmentation [76.63963385662426]
Contrastive Deep Graph Clustering (CDGC)は、異なるクラスタにノードをグループ化するために、コントラスト学習のパワーを活用する。
我々は、GraphLearnerと呼ばれる、完全学習可能な拡張を備えたグラフノードクラスタリングを提案する。
学習可能な拡張器を導入し、CDGCのための高品質でタスク固有の拡張サンプルを生成する。
論文 参考訳（メタデータ） (2022-12-07T10:19:39Z) - Improving Covariance Conditioning of the SVD Meta-layer by Orthogonality [65.67315418971688]
最寄り直交勾配(NOG)と最適学習率(OLR)を提案する。
視覚認識実験は,共分散条件と一般化を同時に改善できることを実証した。
論文 参考訳（メタデータ） (2022-07-05T15:39:29Z) - Data-heterogeneity-aware Mixing for Decentralized Learning [63.83913592085953]
グラフの混合重みとノード間のデータ不均一性の関係に収束の依存性を特徴付ける。
グラフが現在の勾配を混合する能力を定量化する計量法を提案する。
そこで本研究では,パラメータを周期的かつ効率的に最適化する手法を提案する。
論文 参考訳（メタデータ） (2022-04-13T15:54:35Z) - GraphCoCo: Graph Complementary Contrastive Learning [65.89743197355722]
グラフコントラスト学習(GCL)は、手作業によるアノテーションの監督なしに、グラフ表現学習(GRL)において有望な性能を示した。
本稿では,この課題に対処するため,グラフココというグラフ補完型コントラスト学習手法を提案する。
論文 参考訳（メタデータ） (2022-03-24T02:58:36Z) - Stacked Hybrid-Attention and Group Collaborative Learning for Unbiased
Scene Graph Generation [62.96628432641806]
Scene Graph Generationは、まず与えられた画像内の視覚的コンテンツをエンコードし、次にそれらをコンパクトな要約グラフに解析することを目的としている。
まず,モーダル内改良とモーダル間相互作用を容易にする新しいスタック型ハイブリッド・アテンションネットワークを提案する。
次に、デコーダを最適化するための革新的なグループ協調学習戦略を考案する。
論文 参考訳（メタデータ） (2022-03-18T09:14:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。