論文の概要: Towards Graph Foundation Models for Personalization
- arxiv url: http://arxiv.org/abs/2403.07478v1
- Date: Tue, 12 Mar 2024 10:12:59 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-13 22:15:49.203660
- Title: Towards Graph Foundation Models for Personalization
- Title(参考訳): パーソナライズのためのグラフ基礎モデルに向けて
- Authors: Andreas Damianou, Francesco Fabbri, Paul Gigioli, Marco De Nadai,
Alice Wang, Enrico Palumbo, Mounia Lalmas
- Abstract要約: 本稿では、パーソナライズに適したグラフベースの基礎モデリング手法を提案する。
当社のアプローチは厳格にテストされ、さまざまな製品にレコメンデーションを提供する上で有効であることが証明されています。
- 参考スコア(独自算出の注目度): 9.405827216171629
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In the realm of personalization, integrating diverse information sources such
as consumption signals and content-based representations is becoming
increasingly critical to build state-of-the-art solutions. In this regard, two
of the biggest trends in research around this subject are Graph Neural Networks
(GNNs) and Foundation Models (FMs). While GNNs emerged as a popular solution in
industry for powering personalization at scale, FMs have only recently caught
attention for their promising performance in personalization tasks like ranking
and retrieval. In this paper, we present a graph-based foundation modeling
approach tailored to personalization. Central to this approach is a
Heterogeneous GNN (HGNN) designed to capture multi-hop content and consumption
relationships across a range of recommendable item types. To ensure the
generality required from a Foundation Model, we employ a Large Language Model
(LLM) text-based featurization of nodes that accommodates all item types, and
construct the graph using co-interaction signals, which inherently transcend
content specificity. To facilitate practical generalization, we further couple
the HGNN with an adaptation mechanism based on a two-tower (2T) architecture,
which also operates agnostically to content type. This multi-stage approach
ensures high scalability; while the HGNN produces general purpose embeddings,
the 2T component models in a continuous space the sheer size of user-item
interaction data. Our comprehensive approach has been rigorously tested and
proven effective in delivering recommendations across a diverse array of
products within a real-world, industrial audio streaming platform.
- Abstract(参考訳): パーソナライゼーションの領域では、消費信号やコンテンツに基づく表現といった多様な情報ソースを統合することが、最先端のソリューションを構築する上でますます重要になっている。
この点に関して、この話題に関する2つの大きなトレンドは、グラフニューラルネットワーク(GNN)とファンデーションモデル(FM)である。
GNNは、大規模にパーソナライズをパワーアップする業界で人気のソリューションとして登場したが、FMは、ランキングや検索といったパーソナライズタスクにおいて、将来有望なパフォーマンスにのみ注目している。
本稿では,パーソナライゼーションに適したグラフベースの基礎モデリング手法を提案する。
このアプローチの中心は、さまざまな推奨アイテムタイプにわたるマルチホップコンテンツと消費関係をキャプチャするために設計された異種GNN(HGNN)である。
ファンデーションモデルから要求される一般性を確保するため,すべての項目のタイプに対応するノードを大言語モデル (LLM) で表し,コンテンツ特異性を本質的に超越する共振信号を用いてグラフを構築する。
実用的な一般化を容易にするため,我々はhgnnを,コンテントタイプに無依存に動作する2tアーキテクチャに基づく適応機構と結合する。
HGNNは汎用的な埋め込みを生成するが、2Tコンポーネントはユーザとテムの相互作用データの大きさを連続的にモデル化する。
当社の包括的なアプローチは、実世界の産業用オーディオストリーミングプラットフォーム内で、さまざまな製品にレコメンデーションを提供する上で、厳格に検証され、有効であることが証明されています。
関連論文リスト
- Topology-Aware Popularity Debiasing via Simplicial Complexes [19.378410889819165]
TSP(Test-time Simplicial Propagation)は、グラフニューラルネットワーク(GNN)の表現性を高めるために、simplicial Complex(SC)を組み込んだ。
提案手法は, SCを用いて複数順序関係を捕捉し, ユーザとイテムのインタラクションをより包括的に表現する。
提案手法はより均一なアイテム表現分布を生成し,より公平で正確なレコメンデーションを実現する。
論文 参考訳(メタデータ) (2024-11-21T07:12:47Z) - Language Models are Graph Learners [70.14063765424012]
言語モデル(LM)は、グラフニューラルネットワーク(GNN)やグラフトランスフォーマー(GT)など、ドメイン固有のモデルの優位性に挑戦している。
本稿では,ノード分類タスクにおける最先端のGNNに匹敵する性能を実現するために,既製のLMを有効活用する手法を提案する。
論文 参考訳(メタデータ) (2024-10-03T08:27:54Z) - An Interpretable Ensemble of Graph and Language Models for Improving
Search Relevance in E-Commerce [22.449320058423886]
プラグアンドプレイグラフLanguage Model (PP-GLAM) を提案する。
このアプローチでは、均一なデータ処理パイプラインを備えたモジュラーフレームワークを使用します。
PP-GLAMは,実世界のマルチリンガル,マルチリージョンのeコマースデータセット上で,最先端のベースラインとプロプライエタリなモデルよりも優れていることを示す。
論文 参考訳(メタデータ) (2024-03-01T19:08:25Z) - APGL4SR: A Generic Framework with Adaptive and Personalized Global
Collaborative Information in Sequential Recommendation [86.29366168836141]
逐次推薦のための適応およびパーソナライズされたグラフ学習(APGL4SR)というグラフ駆動型フレームワークを提案する。
APGL4SRは、適応的でパーソナライズされたグローバルな協調情報をシーケンシャルレコメンデーションシステムに組み込む。
一般的なフレームワークとして、APGL4SRは大きなマージンを持つ他のベースラインよりも優れている。
論文 参考訳(メタデータ) (2023-11-06T01:33:24Z) - Graph Ladling: Shockingly Simple Parallel GNN Training without
Intermediate Communication [100.51884192970499]
GNNは、グラフを学習するニューラルネットワークの強力なファミリーである。
GNNのスケーリングは、肥大化または拡大によって、不健康な勾配、過度なスムースメント、情報のスカッシングといった問題に悩まされる。
本稿では,現在のGNNの深層化や拡張ではなく,GNNに適したモデルスープをデータ中心の視点で表現することを提案する。
論文 参考訳(メタデータ) (2023-06-18T03:33:46Z) - Personalized Federated Domain Adaptation for Item-to-Item Recommendation [11.65452674504235]
アイテムツーアイテム(I2I)レコメンデーションは、ほとんどのレコメンデーションシステムにおいて重要な機能である。
グラフニューラルネットワーク(GNN)に基づくパーソナライズド・フェデレーション・モデリング・フレームワークの提案と検討を行う。
我々の重要な貢献は、近年のフェデレーションGNNと(グラフ以外の)パーソナライズされたフェデレーション学習のギャップを埋めるパーソナライズされたグラフ適応モデルである。
論文 参考訳(メタデータ) (2023-06-05T19:06:18Z) - Entity-Graph Enhanced Cross-Modal Pretraining for Instance-level Product
Retrieval [152.3504607706575]
本研究の目的は, 細粒度製品カテゴリを対象とした, 弱制御型マルチモーダル・インスタンスレベルの製品検索である。
まず、Product1Mデータセットをコントリビュートし、2つの実際のインスタンスレベルの検索タスクを定義します。
我々は、マルチモーダルデータから重要な概念情報を組み込むことができるより効果的なクロスモーダルモデルを訓練するために活用する。
論文 参考訳(メタデータ) (2022-06-17T15:40:45Z) - Meta-Aggregator: Learning to Aggregate for 1-bit Graph Neural Networks [127.32203532517953]
我々は,GNNパラメータとグラフ特徴をバイナライズするバニラ1ビットフレームワークを開発した。
軽量なアーキテクチャにもかかわらず、我々はこのバニラフレームワークがグラフトポロジを区別するのに十分な差別力に悩まされていることを観察した。
この発見は、バニラ二項化GNNの表現力を向上させるためにメタアグリゲータを考案する動機となる。
論文 参考訳(メタデータ) (2021-09-27T08:50:37Z) - Policy-GNN: Aggregation Optimization for Graph Neural Networks [60.50932472042379]
グラフニューラルネットワーク(GNN)は、局所的なグラフ構造をモデル化し、隣人からの情報を集約することで階層的なパターンを捉えることを目的としている。
複雑なグラフとスパースな特徴を与えられた各ノードに対して効果的なアグリゲーション戦略を開発することは難しい課題である。
本稿では,GNNのサンプリング手順とメッセージパッシングを複合学習プロセスにモデル化するメタ政治フレームワークであるPolicy-GNNを提案する。
論文 参考訳(メタデータ) (2020-06-26T17:03:06Z) - Principal Neighbourhood Aggregation for Graph Nets [4.339839287869653]
グラフニューラルネットワーク(GNN)は、グラフ構造化データ上の様々な予測タスクに有効なモデルであることが示されている。
表現力に関する最近の研究は同型タスクと可算特徴空間に焦点を当てている。
我々はこの理論フレームワークを拡張し、現実世界の入力領域で定期的に発生する連続的な特徴を含める。
論文 参考訳(メタデータ) (2020-04-12T23:30:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。