論文の概要: Lightweight Embeddings with Graph Rewiring for Collaborative Filtering

• arxiv url: http://arxiv.org/abs/2505.18999v1
• Date: Sun, 25 May 2025 06:39:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-27 16:58:42.822271
• Title: Lightweight Embeddings with Graph Rewiring for Collaborative Filtering
• Title（参考訳）: グラフスイッチを用いた協調フィルタリング用軽量埋め込み
• Authors: Xurong Liang, Tong Chen, Wei Yuan, Hongzhi Yin,
• Abstract要約: 本稿では,グラフベースのレコメンデーションサービスにおいて,LERG (Rewired Graph for Graph Collaborative Filtering) を用いた軽量な埋め込みを提案する。 LERGはLEGCFの構成コードブック構造を維持しているが、ストレージコストを削減するために量子化技術を導入している。 LERGは、グラフベースのレコメンデーションサービスのストレージと計算コストを劇的に削減しながら、優れたレコメンデーション性能を達成する。
• 参考スコア（独自算出の注目度）: 38.93668310391232
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As recommendation services scale rapidly and their deployment now commonly involves resource-constrained edge devices, GNN-based recommender systems face significant challenges, including high embedding storage costs and runtime latency from graph propagations. Our previous work, LEGCF, effectively reduced embedding storage costs but struggled to maintain recommendation performance under stricter storage limits. Additionally, LEGCF did not address the extensive runtime computation costs associated with graph propagation, which involves heavy multiplication and accumulation operations (MACs). These challenges consequently hinder effective training and inference on resource-constrained edge devices. To address these limitations, we propose Lightweight Embeddings with Rewired Graph for Graph Collaborative Filtering (LERG), an improved extension of LEGCF. LERG retains LEGCFs compositional codebook structure but introduces quantization techniques to reduce the storage cost, enabling the inclusion of more meta-embeddings within the same storage. To optimize graph propagation, we pretrain the quantized compositional embedding table using the full interaction graph on resource-rich servers, after which a fine-tuning stage is engaged to identify and prune low-contribution entities via a gradient-free binary integer programming approach, constructing a rewired graph that excludes these entities (i.e., user/item nodes) from propagating signals. The quantized compositional embedding table with selective embedding participation and sparse rewired graph are transferred to edge devices which significantly reduce computation memory and inference time. Experiments on three public benchmark datasets, including an industry-scale dataset, demonstrate that LERG achieves superior recommendation performance while dramatically reducing storage and computation costs for graph-based recommendation services.
• Abstract（参考訳）: レコメンデーションサービスが急速に拡大し、現在一般的にリソース制約のあるエッジデバイスがデプロイされているため、GNNベースのレコメンデーションシステムは、高い埋め込みストレージコストやグラフの伝搬からの実行遅延など、重大な課題に直面している。 前回の作業であるLEGCFは、組み込みストレージコストを効果的に削減しましたが、より厳格なストレージ制限下でのレコメンデーションパフォーマンスの維持に苦労しました。 加えて、LEGCFは、重い乗算と累積演算(MAC)を含むグラフ伝搬に関連する広範な実行時計算コストに対処しなかった。 これらの課題は、リソース制約されたエッジデバイスに対する効果的なトレーニングと推論を妨げる。 これらの制約に対処するため、LEGCFの拡張であるグラフ協調フィルタリング(LERG)のためのRewired Graphを用いた軽量埋め込みを提案する。 LERGはLEGCFの構成コードブック構造を維持しているが、ストレージコストを削減するために量子化技術を導入し、同じストレージにより多くのメタ埋め込みを組み込むことができる。 グラフの伝播を最適化するために、資源豊富なサーバ上での完全な相互作用グラフを用いて量子化された構成埋め込みテーブルを事前訓練し、その後、微調整段階において、勾配のないバイナリ整数プログラミング手法を用いて、これらのエンティティ(例えばユーザ/イテムノード)を伝搬信号から除外するリワイヤグラフを構築し、低コントリビューションエンティティを識別およびプルーする。 選択的埋め込み参加とスパース再配線グラフを有する量子化合成埋め込みテーブルをエッジ装置に転送し、計算メモリと推論時間を著しく短縮する。 業界規模のデータセットを含む3つの公開ベンチマークデータセットの実験では、LERGは、グラフベースのレコメンデーションサービスのストレージと計算コストを劇的に削減しながら、優れたレコメンデーションパフォーマンスを達成することを示した。

関連論文リスト

• Schreier-Coset Graph Propagation [1.1126342180866644]
  この研究は、入力グラフトポロジを変更することなく、Schrier-Coset 埋め込みを通じてノード特徴を豊かにするグループ理論拡張法であるSchrier-Coset Graph Propagation (SCGP)を導入している。 SCGPはボトルネックのない接続パターンをコンパクトな特徴空間に埋め込み、計算効率を維持しながら長距離メッセージパッシングを改善する。
  論文  参考訳（メタデータ） (2025-05-15T15:14:02Z)
• RGL: A Graph-Centric, Modular Framework for Efficient Retrieval-Augmented Generation on Graphs [58.10503898336799]
  完全なRAGパイプラインをシームレスに統合するモジュラーフレームワークであるRAG-on-Graphs Library(RGL)を紹介した。 RGLは、さまざまなグラフフォーマットをサポートし、必須コンポーネントの最適化実装を統合することで、重要な課題に対処する。 評価の結果,RGLはプロトタイピングプロセスの高速化だけでなく,グラフベースRAGシステムの性能や適用性の向上も図っている。
  論文  参考訳（メタデータ） (2025-03-25T03:21:48Z)
• Graph Structure Refinement with Energy-based Contrastive Learning [56.957793274727514]
  グラフの構造と表現を学習するための生成訓練と識別訓練のジョイントに基づく教師なし手法を提案する。 本稿では,ECL-GSR(Energy-based Contrastive Learning)によるグラフ構造再構成(GSR)フレームワークを提案する。 ECL-GSRは、主要なベースラインに対するサンプルやメモリの少ない高速なトレーニングを実現し、下流タスクの単純さと効率性を強調している。
  論文  参考訳（メタデータ） (2024-12-20T04:05:09Z)
• Contrastive Graph Condensation: Advancing Data Versatility through Self-Supervised Learning [47.74244053386216]
  グラフ凝縮は、大規模原グラフのコンパクトで代替的なグラフを合成するための有望な解である。 本稿では、自己教師型代理タスクを取り入れたCTGC(Contrastive Graph Condensation)を導入し、元のグラフから批判的、因果的な情報を抽出する。 CTGCは、様々な下流タスクを限られたラベルで処理し、一貫して最先端のGCメソッドより優れている。
  論文  参考訳（メタデータ） (2024-11-26T03:01:22Z)
• MassiveGNN: Efficient Training via Prefetching for Massively Connected Distributed Graphs [11.026326555186333]
  本稿では,現在最先端のAmazon DistDGL分散GNNフレームワーク上に,パラメータ化された連続プリフェッチと消去方式を提案する。 NERSC(National Energy Research Scientific Computing Center)のPerlmutterスーパーコンピュータでは、エンドツーエンドのトレーニング性能が15～40%向上している。
  論文  参考訳（メタデータ） (2024-10-30T05:10:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。