論文の概要: M2GRL: A Multi-task Multi-view Graph Representation Learning Framework
for Web-scale Recommender Systems
- arxiv url: http://arxiv.org/abs/2005.10110v3
- Date: Mon, 13 Jul 2020 03:04:22 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-01 06:17:20.436264
- Title: M2GRL: A Multi-task Multi-view Graph Representation Learning Framework
for Web-scale Recommender Systems
- Title(参考訳): Webスケールレコメンダシステムのためのマルチタスクマルチビューグラフ表現学習フレームワークM2GRL
- Authors: Menghan Wang, Yujie Lin, Guli Lin, Keping Yang, Xiao-ming Wu
- Abstract要約: マルチタスクマルチビューグラフ表現学習フレームワーク(M2GRL)を提案し,Webスケールレコメンデータシステムのためのマルチビューグラフからノード表現を学習する。
M2GRLは、各シングルビューデータに対して1つのグラフを構築し、複数のグラフから複数の別々の表現を学習し、モデルのクロスビュー関係にアライメントする。
オフラインメトリクスとオンラインA/Bテストによると、M2GRLは他の最先端のアルゴリズムよりも大幅に優れている。
- 参考スコア(独自算出の注目度): 20.220459532994745
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Combining graph representation learning with multi-view data (side
information) for recommendation is a trend in industry. Most existing methods
can be categorized as \emph{multi-view representation fusion}; they first build
one graph and then integrate multi-view data into a single compact
representation for each node in the graph. However, these methods are raising
concerns in both engineering and algorithm aspects: 1) multi-view data are
abundant and informative in industry and may exceed the capacity of one single
vector, and 2) inductive bias may be introduced as multi-view data are often
from different distributions. In this paper, we use a \emph{multi-view
representation alignment} approach to address this issue. Particularly, we
propose a multi-task multi-view graph representation learning framework (M2GRL)
to learn node representations from multi-view graphs for web-scale recommender
systems. M2GRL constructs one graph for each single-view data, learns multiple
separate representations from multiple graphs, and performs alignment to model
cross-view relations. M2GRL chooses a multi-task learning paradigm to learn
intra-view representations and cross-view relations jointly. Besides, M2GRL
applies homoscedastic uncertainty to adaptively tune the loss weights of tasks
during training. We deploy M2GRL at Taobao and train it on 57 billion examples.
According to offline metrics and online A/B tests, M2GRL significantly
outperforms other state-of-the-art algorithms. Further exploration on diversity
recommendation in Taobao shows the effectiveness of utilizing multiple
representations produced by \method{}, which we argue is a promising direction
for various industrial recommendation tasks of different focus.
- Abstract(参考訳): グラフ表現学習とリコメンデーションのためのマルチビューデータ(サイド情報)を組み合わせることは、業界におけるトレンドである。
既存のメソッドのほとんどは \emph{multi-view representation fusion} に分類できる。まず1つのグラフを構築し、次にグラフの各ノードに対して1つのコンパクト表現にマルチビューデータを統合する。
しかし、これらの手法は工学的側面とアルゴリズム的側面の両方に懸念を抱いている。
1)マルチビューデータは産業において豊富で有益であり、1つのベクトルの容量を超える可能性がある。
2)多視点データはしばしば異なる分布から得られるため,帰納バイアスが生じることがある。
本稿では,この問題に対処するために,emph{multi-view representation alignment} アプローチを用いる。
特に,webスケールレコメンダシステムのためのマルチビューグラフからノード表現を学ぶためのマルチタスクマルチビューグラフ表現学習フレームワーク(m2grl)を提案する。
M2GRLは、各シングルビューデータに対して1つのグラフを構築し、複数のグラフから複数の別々の表現を学習し、モデルのクロスビュー関係にアライメントする。
M2GRLは、ビュー内表現とクロスビュー関係を共同で学習するマルチタスク学習パラダイムを選択する。
さらに、m2grlは、訓練中のタスクの損失重みを適応的に調整するためにホモシデスティック不確実性を適用する。
タオバオでM2GRLをデプロイし、57億のサンプルでトレーニングします。
オフラインメトリクスとオンラインA/Bテストによると、M2GRLは他の最先端のアルゴリズムよりも大幅に優れている。
タオバオにおける多様性勧告のさらなる検討は,異なる焦点の産業推薦業務において有望な方向性である,<method{}>による複数の表現の活用の有効性を示す。
関連論文リスト
- SpecRaGE: Robust and Generalizable Multi-view Spectral Representation Learning [9.393841121141076]
近年,多視点表現学習 (MvRL) が注目されている。
グラフラプラシアンベースのMvRL法は、マルチビューデータの表現に顕著な成功を収めた。
本稿では,グラフラプラシアン手法の強みを深層学習の力と統合した,新しい融合ベースのフレームワークであるtextitSpecRaGE$を紹介する。
論文 参考訳(メタデータ) (2024-11-04T14:51:35Z) - Representation learning in multiplex graphs: Where and how to fuse
information? [5.0235828656754915]
多重グラフはよりリッチな情報を持ち、より良いモデリング機能を提供し、潜在的に異なるソースからより詳細なデータを統合する。
本稿では,マルチプレックスネットワークにおけるノードの表現を教師なしあるいは自己管理的に学習する問題に対処する。
多重グラフを扱うGNNアーキテクチャの構築方法の改善を提案する。
論文 参考訳(メタデータ) (2024-02-27T21:47:06Z) - Multimodal Graph Learning for Generative Tasks [89.44810441463652]
マルチモーダル学習は、複数のデータモダリティを組み合わせることで、モデルが利用できるデータの種類と複雑さを広げます。
本稿では,マルチモーダルグラフ学習(MMGL)を提案する。
論文 参考訳(メタデータ) (2023-10-11T13:25:03Z) - Multi-view Fuzzy Representation Learning with Rules based Model [25.997490574254172]
教師なしマルチビュー表現学習は、マルチビューデータをマイニングするために広く研究されている。
本稿では,MVRL_FSを用いた多視点ファジィ表現学習手法を提案する。
論文 参考訳(メタデータ) (2023-09-20T17:13:15Z) - SimTeG: A Frustratingly Simple Approach Improves Textual Graph Learning [131.04781590452308]
テキストグラフ学習におけるフラストレーションに富んだアプローチであるSimTeGを提案する。
まず、下流タスクで予め訓練されたLM上で、教師付きパラメータ効率の微調整(PEFT)を行う。
次に、微調整されたLMの最後の隠れ状態を用いてノード埋め込みを生成する。
論文 参考訳(メタデータ) (2023-08-03T07:00:04Z) - Cross-view Graph Contrastive Representation Learning on Partially
Aligned Multi-view Data [52.491074276133325]
マルチビュー表現学習は、過去数十年間で急速に発展し、多くの分野に応用されてきた。
本稿では,多視点情報を統合してデータアライメントを行い,潜在表現を学習する,新しいクロスビューグラフコントラスト学習フレームワークを提案する。
複数の実データを用いて実験を行い,クラスタリングおよび分類作業における提案手法の有効性を示した。
論文 参考訳(メタデータ) (2022-11-08T09:19:32Z) - Hybrid Transformer with Multi-level Fusion for Multimodal Knowledge
Graph Completion [112.27103169303184]
マルチモーダル知識グラフ(MKG)は、視覚テキストの事実知識を整理する。
MKGformerは、マルチモーダルリンク予測、マルチモーダルRE、マルチモーダルNERの4つのデータセット上でSOTA性能を得ることができる。
論文 参考訳(メタデータ) (2022-05-04T23:40:04Z) - Consistent Multiple Graph Embedding for Multi-View Clustering [41.17336912278538]
Consistent Multiple Graph Embedding Clustering framework (CMGEC) を提案する。
具体的には,マルチビューデータの補完情報を柔軟に符号化するマルチグラフオートエンコーダを設計する。
各ビューにおける隣り合う特徴の類似性を維持するための学習共通表現を導くため、MMIM(Multi-view Mutual Information Maximization Module)を導入する。
論文 参考訳(メタデータ) (2021-05-11T09:08:22Z) - Pre-training Graph Transformer with Multimodal Side Information for
Recommendation [82.4194024706817]
本稿では,項目側情報とその関連性を考慮した事前学習戦略を提案する。
我々はMCNSamplingという新しいサンプリングアルゴリズムを開発し、各項目のコンテキスト近傍を選択する。
The proposed Pre-trained Multimodal Graph Transformer (PMGT) learns item representations with two objectives: 1) graph structure reconstruction, 2) masked node feature reconstruction。
論文 参考訳(メタデータ) (2020-10-23T10:30:24Z) - Multi-view Graph Learning by Joint Modeling of Consistency and
Inconsistency [65.76554214664101]
グラフ学習は、複数のビューから統一的で堅牢なグラフを学ぶ能力を備えた、マルチビュークラスタリングのための有望なテクニックとして登場した。
本稿では,統合目的関数における多視点一貫性と多視点不整合を同時にモデル化する,新しい多視点グラフ学習フレームワークを提案する。
12のマルチビューデータセットに対する実験は、提案手法の堅牢性と効率性を実証した。
論文 参考訳(メタデータ) (2020-08-24T06:11:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。