論文の概要: Distillation-based Scenario-Adaptive Mixture-of-Experts for the Matching Stage of Multi-scenario Recommendation
- arxiv url: http://arxiv.org/abs/2601.02368v1
- Date: Fri, 28 Nov 2025 12:04:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-25 16:54:51.490752
- Title: Distillation-based Scenario-Adaptive Mixture-of-Experts for the Matching Stage of Multi-scenario Recommendation
- Title(参考訳): 蒸留法に基づくシナリオ適応混合による多シナリオ勧告のマッチング段階
- Authors: Ruibing Wang, Shuhan Guo, Haotong Du, Quanming Yao,
- Abstract要約: 蒸留によるシナリオ適応混合(DSMOE)を提案する。
具体的には,Scenario-Adaptive Projection (SAP) モジュールを考案し,軽量でコンテキスト固有のパラメータを生成する。
本稿では,対話意識を持つ教師が2人の生徒を指導し,複雑なマッチングパターンを抽出するクロスアーキテクチャ知識蒸留フレームワークを提案する。
- 参考スコア(独自算出の注目度): 29.435021078824064
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-scenario recommendation is pivotal for optimizing user experience across diverse contexts. While Multi-gate Mixture-of-Experts (MMOE) thrives in ranking, its transfer to the matching stage is hindered by the blind optimization inherent to independent two-tower architectures and the parameter dominance of head scenarios. To address these structural and distributional bottlenecks, we propose Distillation-based Scenario-Adaptive Mixture-of-Experts (DSMOE). Specially, we devise a Scenario-Adaptive Projection (SAP) module to generate lightweight, context-specific parameters, effectively preventing expert collapse in long-tail scenarios. Concurrently, we introduce a cross-architecture knowledge distillation framework, where an interaction-aware teacher guides the two-tower student to capture complex matching patterns. Extensive experiments on real-world datasets demonstrate DSMOE's superiority, particularly in significantly improving retrieval quality for under-represented, data-sparse scenarios.
- Abstract(参考訳): マルチシナリオレコメンデーションは、さまざまなコンテキストでユーザエクスペリエンスを最適化する上で重要なものだ。
MMOE(Multi-gate Mixture-of-Experts)がランクインする一方で、その対応段階への移行は、独立した2towerアーキテクチャとヘッドシナリオのパラメータ支配に固有のブラインド最適化によって妨げられる。
これらの構造的ボトルネックと分布的ボトルネックに対処するために、蒸留に基づくシナリオ適応混合(DSMOE)を提案する。
具体的には、シナリオ適応プロジェクション(SAP)モジュールを考案し、軽量でコンテキスト固有のパラメータを生成し、ロングテールシナリオにおける専門家の崩壊を効果的に防止する。
同時に,相互認識型教員が2人の生徒に複雑なマッチングパターンを抽出するように指導するクロスアーキテクチャ知識蒸留フレームワークを導入する。
実世界のデータセットに対する大規模な実験は、DSMOEの優位性を示し、特に、表現不足なデータスパースシナリオの検索品質を著しく向上させる。
関連論文リスト
- Multifaceted Scenario-Aware Hypergraph Learning for Next POI Recommendation [6.180520055741916]
Next Point-of-Interest (POI)レコメンデーションは、履歴チェックインの軌跡からユーザの好みを推測する上で重要な役割を果たす。
既存のシーケンシャルおよびグラフベースの手法は、異なる文脈シナリオにおける重要なモビリティの変動をしばしば無視する。
我々は,次のPOIレコメンデーションにシナリオ分割パラダイムを採用するフレームワークであるMultifaceted Scenario-Aware Hypergraph Learning法(MSAHG)を提案する。
論文 参考訳(メタデータ) (2026-01-09T06:29:55Z) - Multi-Level Aware Preference Learning: Enhancing RLHF for Complex Multi-Instruction Tasks [81.44256822500257]
RLHFは、人工知能システムと人間の好みを結びつける主要なアプローチとして登場した。
RLHFは、複雑なマルチインストラクションタスクに直面すると、不十分なコンプライアンス機能を示す。
本稿では,マルチインストラクション能力を向上させる新しいMAPL(Multi-level Aware Preference Learning)フレームワークを提案する。
論文 参考訳(メタデータ) (2025-05-19T08:33:11Z) - Scenario-Wise Rec: A Multi-Scenario Recommendation Benchmark [65.13288661320364]
6つの公開データセットと12のベンチマークモデルと、トレーニングと評価パイプラインで構成されるベンチマークである textbfScenario-Wise Rec を紹介します。
このベンチマークは、研究者に先行研究から貴重な洞察を提供することを目的としており、新しいモデルの開発を可能にしている。
論文 参考訳(メタデータ) (2024-12-23T08:15:34Z) - A Systematic Examination of Preference Learning through the Lens of Instruction-Following [83.71180850955679]
新たな合成データ生成パイプラインを用いて48,000の命令追従プロンプトを生成する。
合成プロンプトでは、リジェクションサンプリング(RS)とモンテカルロ木探索(MCTS)の2つの選好データセットキュレーション手法を用いる。
実験により、MCTSが生成した選好ペアにおける共有プレフィックスは、限界はあるが一貫した改善をもたらすことが明らかになった。
高コントラストの選好ペアは一般的に低コントラストのペアよりも優れているが、両者を組み合わせることで最高のパフォーマンスが得られることが多い。
論文 参考訳(メタデータ) (2024-12-18T15:38:39Z) - Adaptive Utilization of Cross-scenario Information for Multi-scenario Recommendation [11.489766641148151]
マルチシナリオ勧告(Multi-scenario Recommendation、MSR)は、さまざまなシナリオからの情報を活用することで、ランキングパフォーマンスを向上させる重要なトピックである。
MSRの最近の手法は主に、共通性とシナリオ間の差異をモデル化するために共有または特定のモジュールを構築する。
我々は,シナリオに支配された専門家の混在により,すべてのシナリオに対処するために,CSII(Cross-Scenario Information Interaction)という統合モデルを提案する。
論文 参考訳(メタデータ) (2024-07-29T06:17:33Z) - LLM4MSR: An LLM-Enhanced Paradigm for Multi-Scenario Recommendation [52.55639178180821]
マルチシナリオレコメンデーション(MSR)の研究は注目されており、すべてのシナリオのデータを使用してレコメンデーションのパフォーマンスを同時に改善している。
既存の手法では、不十分なシナリオ知識を統合し、パーソナライズされたクロスシナリオの嗜好を無視する傾向があり、それによってサブ最適パフォーマンスがもたらされる。
本稿では,これらのギャップを埋めるために,大規模言語モデル (LLM) 拡張パラダイム LLM4MSR を提案する。
論文 参考訳(メタデータ) (2024-06-18T11:59:36Z) - Pareto Driven Surrogate (ParDen-Sur) Assisted Optimisation of
Multi-period Portfolio Backtest Simulations [0.0]
本研究では,glsParDen-Surモデルを用いて,要求されるハイパーパラメータ探索を効率的に行う手法を提案する。
glsParDen-Surは、従来の受け入れサンプリングスキームと並行して、glsplEAで子孫を生成するための貯水池サンプリングベースのルックアヘッド機構を含む、従来のサロゲートフレームワークを拡張している。
論文 参考訳(メタデータ) (2022-09-13T07:29:20Z) - Scenario-Adaptive and Self-Supervised Model for Multi-Scenario
Personalized Recommendation [35.4495536683099]
シナリオ適応型自己監督型(SASS)モデルを提案し,上記の3つの課題を解決する。
このモデルは、ユーザ側とアイテム側の両方で対称に生成され、異なるシナリオにおけるアイテムの表現を区別することができる。
このモデルは、オンラインA/Bテストにおける平均視聴時間に対して8.0%以上の改善も達成している。
論文 参考訳(メタデータ) (2022-08-24T11:44:00Z) - Scenario-aware and Mutual-based approach for Multi-scenario
Recommendation in E-Commerce [12.794276204716642]
不均質な電子商取引のシナリオでユーザーのための正確な推奨を行う方法は、まだ継続的な研究トピックです。
本稿では,複数のシナリオの違いと類似性を活用するScenario-aware Mutual Learning (SAML) という新しい推奨モデルを提案する。
論文 参考訳(メタデータ) (2020-12-16T13:52:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。