論文の概要: Cooperative Retriever and Ranker in Deep Recommenders
- arxiv url: http://arxiv.org/abs/2206.14649v1
- Date: Tue, 28 Jun 2022 03:41:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-30 20:58:17.942347
- Title: Cooperative Retriever and Ranker in Deep Recommenders
- Title(参考訳): ディープリコメンデーションにおける協調レトリバーとランカ
- Authors: Xu Huang, Defu Lian, Jin Chen, Zheng Liu, Xing Xie, Enhong Chen
- Abstract要約: ディープレコメンダシステムは、検索とランキング操作を併用してレコメンデーション結果を生成する。
検索者とランク付け者が相互に強化される新しいDSSトレーニングフレームワークCoRRを提案する。
CoRRは、レトリバーとランサーの協調による全体的なレコメンデーション品質を改善する。
- 参考スコア(独自算出の注目度): 75.35463122701135
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep recommender systems jointly leverage the retrieval and ranking
operations to generate the recommendation result. The retriever targets
selecting a small set of relevant candidates from the entire items with high
efficiency; while the ranker, usually more precise but time-consuming, is
supposed to identify the best items out of the retrieved candidates with high
precision. However, the retriever and ranker are usually trained in
poorly-cooperative ways, leading to limited recommendation performances when
working as an entirety. In this work, we propose a novel DRS training framework
CoRR(short for Cooperative Retriever and Ranker), where the retriever and
ranker can be mutually reinforced. On one hand, the retriever is learned from
recommendation data and the ranker via knowledge distillation; knowing that the
ranker is more precise, the knowledge distillation may provide extra
weak-supervision signals for the improvement of retrieval quality. On the other
hand, the ranker is trained by learning to discriminate the truth positive
items from hard negative candidates sampled from the retriever. With the
iteration going on, the ranker may become more precise, which in return gives
rise to informative training signals for the retriever; meanwhile, with the
improvement of retriever, harder negative candidates can be sampled, which
contributes to a higher discriminative capability of the ranker. To facilitate
the effective conduct of CoRR, an asymptotic-unbiased approximation of KL
divergence is introduced for the knowledge distillation over sampled items;
besides, a scalable and adaptive strategy is developed to efficiently sample
from the retriever. Comprehensive experimental studies are performed over four
large-scale benchmark datasets, where CoRR improves the overall recommendation
quality resulting from the cooperation between retriever and ranker.
- Abstract(参考訳): ディープレコメンダシステムは、検索とランキング操作を共同で活用し、レコメンデーション結果を生成する。
検索者は、項目全体から少数の関連候補を高い効率で選択することを目標とし、ランカは、通常より正確だが時間を要するが、検索候補の中から最も優れた項目を高精度に識別する。
しかしながら、レトリバーとランサーは、通常、非協力的な方法で訓練され、全体として働く際の推奨パフォーマンスが制限される。
本研究では,検索者とランカの相互強化が可能な新しいdrm学習フレームワークcorr(collaborative retriever and ranker)を提案する。
一方、レトリバーは、リコメンデーションデータおよびインフォメーション蒸留によりローダを学習し、インフォメーション蒸留がより正確であることを知ることにより、検索品質の向上のためにさらに弱いスーパービジョン信号を提供することができる。
一方、ランク付け者は、検索者からサンプリングされた硬い負の候補から真偽の正の項目を判別する学習によって訓練される。
反復が進むと、ランサーはより正確になり、それと引き換えにレトリバーに対する情報的訓練信号がもたらされるが、レトリバーの改善により、より厳しい負の候補をサンプリングすることができ、ローダのより高い識別能力に寄与する。
CoRRの有効実行を容易にするため, 試料を蒸留した知識蒸留において, KL分散の漸近的非バイアス近似を導入し, さらに, 効率よく試料を採取するためのスケーラブルで適応的な戦略を開発した。
4つの大規模ベンチマークデータセットに対して総合的な実験を行い、CoRRはレシーバーとランサーの協調による全体的な推奨品質を改善する。
関連論文リスト
- Towards Robust Ranker for Text Retrieval [83.15191578888188]
ローダは、デファクトの'retrieval & rerank'パイプラインで必須の役割を果たす。
ローダは、デファクトの'retrieval & rerank'パイプラインで必須の役割を果たす。
論文 参考訳(メタデータ) (2022-06-16T10:27:46Z) - RocketQAv2: A Joint Training Method for Dense Passage Retrieval and
Passage Re-ranking [89.82301733609279]
本稿では,高密度経路検索と再ランク付けのための新しい共同学習手法を提案する。
主な貢献は、動的リストワイズ蒸留を導入し、レトリバーと再ランカの両方に統一されたリストワイズトレーニングアプローチを設計することである。
ダイナミック蒸留中は、レトリバーとリランカは、互いの関連情報に応じて適応的に改善することができる。
論文 参考訳(メタデータ) (2021-10-14T13:52:55Z) - Adversarial Retriever-Ranker for dense text retrieval [51.87158529880056]
本稿では、二重エンコーダレトリバーとクロスエンコーダローダからなるAdversarial Retriever-Ranker(AR2)を提案する。
AR2は、既存の高密度レトリバー法より一貫して大幅に優れている。
これには、R@5から77.9%(+2.1%)、TriviaQA R@5から78.2%(+1.4)、MS-MARCO MRR@10から39.5%(+1.3%)の改善が含まれている。
論文 参考訳(メタデータ) (2021-10-07T16:41:15Z) - On component interactions in two-stage recommender systems [82.38014314502861]
2段階のレコメンデータは、YouTube、LinkedIn、Pinterestなど、多くのオンラインプラットフォームで使用されている。
ランク付け器と評価器の相互作用が全体の性能に大きく影響していることが示される。
特に、Mixture-of-Expertsアプローチを用いて、アイテムプールの異なるサブセットに特化するように、ノミネータを訓練する。
論文 参考訳(メタデータ) (2021-06-28T20:53:23Z) - Exploration in two-stage recommender systems [79.50534282841618]
2段階のレコメンデータシステムは、スケーラビリティと保守性のために業界で広く採用されている。
このセットアップの鍵となる課題は、各ステージの最適性能が最適なグローバルパフォーマンスを暗示していないことである。
そこで本研究では,ランクとノミネーター間の探索戦略を同期させる手法を提案する。
論文 参考訳(メタデータ) (2020-09-01T16:52:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。