論文の概要: Embedding Items at Scale: Comparing GNN-Based and ID-Based Item Embeddings in the Yandex Ecosystem

• arxiv url: http://arxiv.org/abs/2607.26365v1
• Date: Wed, 29 Jul 2026 00:44:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-30 21:06:25.503677
• Title: Embedding Items at Scale: Comparing GNN-Based and ID-Based Item Embeddings in the Yandex Ecosystem
• Title（参考訳）: 大規模アイテムの埋め込み:YandexエコシステムにおけるGNNベースとIDベースアイテムの埋め込みの比較
• Abstract要約: 本稿では、Yandex MarketとYandex Musicの2つのプロダクションレコメンデーションシステムにおける、トレーニング済みの産業グラフニューラルネットワークアイテムの埋め込みと、エンドツーエンドのトレーニング可能なアイテムの埋め込みを比較した。 以上の結果から,個別の事前トレーニングステージは,トレーニングデータに制限がある場合に有効であるが,広範囲なデータセットでトレーニングされた大規模モデルには有意義なメリットが得られないことが示唆された。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Transformer-based sequential recommendation models, which process sequences of user-item interactions, rely heavily on the item embedding strategy. Existing approaches either use pretrained item embeddings or learn them end-to-end with the transformer. To the best of our knowledge, no prior work has compared these options from both cost and quality perspectives in a large-scale industrial setting. This paper is a case study that compares pretrained industrial graph neural network item embeddings with end-to-end trainable item embeddings across two mature production recommendation systems at Yandex: Yandex Market and Yandex Music. We additionally evaluate both approaches on a low-resource dataset sampled from Yandex Lavka production logs, for which both the data and code are publicly available for demonstration purposes. Our results show that a separate pretraining stage helps when training data is limited, but provides no worthwhile benefit for large-scale models trained on extensive datasets.
• Abstract（参考訳）: ユーザとイテムインタラクションのシーケンスを処理するトランスフォーマーベースのシーケンシャルレコメンデーションモデルは、アイテムの埋め込み戦略に大きく依存する。 既存のアプローチでは、事前訓練されたアイテムの埋め込みを使用するか、トランスフォーマーでエンドツーエンドに学習する。 我々の知る限りでは、これらの選択肢を大規模産業環境でコストと品質の両方の観点から比較する以前の研究はない。 本稿では,Yandex MarketとYandex Musicの2つの成熟したプロダクションレコメンデーションシステムにおける,事前トレーニング済みの産業グラフニューラルネットワークアイテムの埋め込みとエンドツーエンドのトレーニング可能なアイテムの埋め込みを比較した。 また、Yandex Lavkaプロダクションログからサンプリングした低リソースのデータセットに対して、両方のアプローチを評価する。 以上の結果から,個別の事前トレーニングステージは,トレーニングデータに制限がある場合に有効であるが,広範囲なデータセットでトレーニングされた大規模モデルには有意義なメリットが得られないことが示唆された。

関連論文リスト

• Do We Really Need Specialization? Evaluating Generalist Text Embeddings for Zero-Shot Recommendation and Search [51.30225948318648]
  汎用テキスト埋め込みモデル(GTE)は大規模コーパス上で事前訓練される。 GTEは特別な適応なしに強力なゼロショット性能を保証できることを示す。 また、最も情報性の高い方向に着目して埋め込み寸法を圧縮することで、ノイズを効果的に低減できることを示す。
  論文  参考訳（メタデータ） (2025-07-07T13:41:52Z)
• CLIMB: CLustering-based Iterative Data Mixture Bootstrapping for Language Model Pre-training [63.07024608399447]
  本稿では,事前学習環境でデータ混合物を発見し,評価し,精製する自動フレームワークを提案する。 ClimbLabは、20のクラスタを研究用グラウンドとして、フィルタされた1.2トリリオントーケンコーパスであり、ClimbMixはコンパクトだが強力な400ビリオントーケンデータセットである。
  論文  参考訳（メタデータ） (2025-04-17T17:58:13Z)
• DreamMask: Boosting Open-vocabulary Panoptic Segmentation with Synthetic Data [61.62554324594797]
  オープンな語彙設定でトレーニングデータを生成する方法と、実データと合成データの両方でモデルをトレーニングする方法を探索するDreamMaskを提案する。 一般的に、DreamMaskは大規模なトレーニングデータの収集を著しく単純化し、既存のメソッドのプラグイン・アンド・プレイ・エンハンスメントとして機能する。 例えば、COCOで訓練しADE20Kで試験すると、ドリームマスクを装備したモデルは以前の最先端の2.1% mIoUよりも優れていた。
  論文  参考訳（メタデータ） (2025-01-03T19:00:00Z)
• Scaling Sequential Recommendation Models with Transformers [0.0]
  我々は、大規模言語モデルのトレーニングで観察されるスケーリング法則からインスピレーションを得て、シーケンシャルなレコメンデーションのために同様の原則を探求する。 計算最適トレーニングは可能だが、アプリケーション固有の計算性能トレードオフを慎重に分析する必要がある。 また、より小さなタスク固有のドメイン上で、より大規模なトレーニング済みモデルを微調整することで、パフォーマンスのスケーリングがダウンストリームタスクに変換されることを示す。
  論文  参考訳（メタデータ） (2024-12-10T15:20:56Z)
• NV-Embed: Improved Techniques for Training LLMs as Generalist Embedding Models [38.41524186248607]
  我々はNV-Embedを導入し、アーキテクチャ設計、トレーニング手順、キュレートされたデータセットを取り入れた。 モデルアーキテクチャでは, プール埋め込みを実現するために, 潜時注意層を提案する。 学習アルゴリズムでは,2段階のコントラッシブ・インストラクション・チューニング手法を導入する。
  論文  参考訳（メタデータ） (2024-05-27T17:59:45Z)
• Noisy Self-Training with Synthetic Queries for Dense Retrieval [49.49928764695172]
  合成クエリと組み合わせた,ノイズの多い自己学習フレームワークを提案する。 実験結果から,本手法は既存手法よりも一貫した改善が得られた。 我々の手法はデータ効率が良く、競争のベースラインより優れています。
  論文  参考訳（メタデータ） (2023-11-27T06:19:50Z)
• Opinion mining using Double Channel CNN for Recommender System [0.0]
  深層学習モデルを用いた感情分析のアプローチを提案し,それを製品に推奨する。 意見マイニングには2チャネル畳み込みニューラルネットワークモデルが使用されており、5つのレイヤを持ち、データから重要な特徴を抽出する。 提案手法の精度は91.6%に達し, 従来のアスペクトベース手法に比べて有意に向上した。
  論文  参考訳（メタデータ） (2023-07-15T13:11:18Z)
• Entity-Graph Enhanced Cross-Modal Pretraining for Instance-level Product Retrieval [152.3504607706575]
  本研究の目的は, 細粒度製品カテゴリを対象とした, 弱制御型マルチモーダル・インスタンスレベルの製品検索である。 まず、Product1Mデータセットをコントリビュートし、2つの実際のインスタンスレベルの検索タスクを定義します。 我々は、マルチモーダルデータから重要な概念情報を組み込むことができるより効果的なクロスモーダルモデルを訓練するために活用する。
  論文  参考訳（メタデータ） (2022-06-17T15:40:45Z)
• Few-Shot Named Entity Recognition: A Comprehensive Study [92.40991050806544]
  マルチショット設定のモデル一般化能力を向上させるための3つの手法を検討する。 ラベル付きデータの比率の異なる10の公開nerデータセットについて経験的比較を行う。 マルチショットとトレーニングフリーの両方の設定で最新の結果を作成します。
  論文  参考訳（メタデータ） (2020-12-29T23:43:16Z)
• Learning to Rank in the Position Based Model with Bandit Feedback [3.9121134770873742]
  本稿では,LinUCB と Linear Thompson Sampling の2つのよく知られたアルゴリズムの拡張を提案する。 生産環境におけるバイアスを考慮し,位置ベースクリックモデルを用いる。
  論文  参考訳（メタデータ） (2020-04-27T19:12:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。