論文の概要: Soft Curriculum Learning for Optimizing Fresh and Generalized Recommendations

• arxiv url: http://arxiv.org/abs/2609.35783v1
• Date: Tue, 11 Aug 2026 21:50:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-05 14:48:16.249516
• Title: Soft Curriculum Learning for Optimizing Fresh and Generalized Recommendations
• Title（参考訳）: 新鮮で汎用的なレコメンデーションを最適化するためのソフトカリキュラム学習
• Abstract要約: 大規模なレコメンデータシステムは、しばしば大規模な人気フィードバックループによってボトルネックとなる。 このような環境では、モデルが人気のあるアイテムを推奨するので、"ヘッド"アイテムのための圧倒的な量のスキュードトレーニングデータを生成する。 本稿では,産業規模の検索・ランキングモデルにおける連続的なトレーニング設定に特化して設計された,スケーラブルなソフトカリキュラム学習フレームワークを紹介する。
• 参考スコア（独自算出の注目度）: 5.941737430242071
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large-scale recommender systems, particularly short-form video platforms, are often bottlenecked by massive popularity feedback loops. In such environments, as models recommend popular items, they generate an overwhelming amount of skewed training data for "head" items. This creates a self-reinforcing cycle where retrieval and ranking models memorize "head" item patterns at the expense of generalizing across the vast "tail" of the catalogue. While Curriculum Learning (CL) offers a powerful mechanism to break this feedback loop by systematically exposing models to progressively more difficult and less frequent examples, its adoption in industrial recommendation has been hampered by hardware utilization inefficiencies or the needs for complicated pre-processing techniques because dynamic data rejection algorithms tend to starve hardware accelearators (TPUs/GPUs) by becoming largely CPU-bound. In this work, we introduce a scalable Soft Curriculum Learning framework designed specifically for continuous training setups within industry-scale retrieval and ranking models. By utilizing loss annealing and in-graph weight adjustments rather than rigid data filtering, we break the popularity feedback and enable dynamic curriculum pacing without sacrificing system throughput. We demonstrate empirical evidence through applications across sequence-based retrieval models (such as SASRec), two-tower retrieval models, and large-scale continuous ranking models. Online A/B tests on our short-video platform demonstrate substantial lifts in both overall user satisfaction and fresh content consumption, all without degrading model throughput.
• Abstract（参考訳）: 大規模なレコメンデータシステム、特にショートフォームビデオプラットフォームは、大きな人気フィードバックループによってボトルネックとなることが多い。 このような環境では、モデルが人気のあるアイテムを推奨するので、"ヘッド"アイテムのための圧倒的な量のスキュードトレーニングデータを生成する。 これは、検索モデルとランキングモデルがカタログの広大な「テール」をまたいだ一般化を犠牲にして「ヘッド」アイテムパターンを記憶する自己強化サイクルを生成する。 Curriculum Learning (CL) はこのフィードバックループを、徐々に困難で頻度の低いモデルに体系的に公開することによって破壊する強力なメカニズムを提供しているが、ハードウェア利用の非効率性や、動的データ拒否アルゴリズムがハードウェアアクセラレータ(TPU/GPU)を飢えさせる傾向にあるため、産業的な推奨事項の採用は、ハードウェア利用の非効率性や複雑な前処理技術の必要性によって妨げられている。 本研究では,産業規模の検索・ランキングモデル内での継続的なトレーニング設定に特化した,スケーラブルなソフトカリキュラム学習フレームワークを提案する。 剛性データフィルタリングよりも損失アニールとグラフ内重み調整を利用して、人気フィードバックを破り、システムのスループットを犠牲にすることなく動的カリキュラムペーシングを可能にする。 本研究では,シーケンスベース検索モデル(SASRecなど),2tower検索モデル,大規模連続ランキングモデルなどに適用した経験的エビデンスを示す。 当社のショートビデオプラットフォーム上でのオンラインA/Bテストは、全体的なユーザ満足度と新鮮なコンテンツ消費の両方において、モデルのスループットを低下させることなく、大幅に向上します。

関連論文リスト

• Can Recommender Systems Teach Themselves? A Recursive Self-Improving Framework with Fidelity Control [82.30868101940068]
  本稿では,外部データや教師モデルに依存することなく,モデルが自身のパフォーマンスをブートストラップするパラダイムを提案する。 我々の理論的分析は、RSIRがデータ駆動型暗黙正則化器として機能し、最適化景観を円滑にしていることを示している。 より小さなモデルであっても利点があり、弱いモデルはより強力なモデルに対して効果的なトレーニングカリキュラムを生成することができることを示す。
  論文  参考訳（メタデータ） (2026-02-17T15:31:32Z)
• Watch and Learn: Learning to Use Computers from Online Videos [50.10702690339142]
  Watch & Learn(W&L)は、インターネット上で簡単に利用できる人間のデモビデオを、大規模に実行可能なUIトラジェクトリに変換するフレームワークである。 我々は,タスク対応ビデオ検索を用いた逆動的ラベリングパイプラインを開発し,生のウェブビデオから53k以上の高品質なトラジェクトリを生成する。 これらの結果から,実世界展開に向けたCUAの実践的かつスケーラブルな基盤として,Webスケールの人間デモビデオが注目されている。
  論文  参考訳（メタデータ） (2025-10-06T10:29:00Z)
• Exploring Training and Inference Scaling Laws in Generative Retrieval [50.82554729023865]
  生成検索は、検索を自己回帰生成タスクとして再構成し、大きな言語モデルがクエリから直接ターゲット文書を生成する。 生成的検索におけるトレーニングと推論のスケーリング法則を体系的に検討し,モデルのサイズ,トレーニングデータスケール,推論時間計算が協調的に性能に与える影響について検討した。
  論文  参考訳（メタデータ） (2025-03-24T17:59:03Z)
• DreamMask: Boosting Open-vocabulary Panoptic Segmentation with Synthetic Data [61.62554324594797]
  オープンな語彙設定でトレーニングデータを生成する方法と、実データと合成データの両方でモデルをトレーニングする方法を探索するDreamMaskを提案する。 一般的に、DreamMaskは大規模なトレーニングデータの収集を著しく単純化し、既存のメソッドのプラグイン・アンド・プレイ・エンハンスメントとして機能する。 例えば、COCOで訓練しADE20Kで試験すると、ドリームマスクを装備したモデルは以前の最先端の2.1% mIoUよりも優れていた。
  論文  参考訳（メタデータ） (2025-01-03T19:00:00Z)
• Multi-output Headed Ensembles for Product Item Classification [0.9053163124987533]
  本稿では,eコマースカタログを対象としたディープラーニングに基づく分類モデルフレームワークを提案する。 我々は、ロバストな業界標準ベースラインモデルに対する改善を示す。 また,ユーザセッションを用いたモデル性能評価手法を提案する。
  論文  参考訳（メタデータ） (2023-07-29T01:23:36Z)
• Retrieval-Enhanced Contrastive Vision-Text Models [61.783728119255365]
  そこで本研究では,メモリから取得したクロスモーダルな情報を推論時に表現することで,その埋め込みを洗練できる視覚テキストモデルを提案する。 注目すべきことに、これは凍ったCLIPの上に軽量の単層核融合トランスを用いて行うことができる。 検索強化コントラスト訓練(RECO)がCLIPの性能を大幅に向上することを示す。
  論文  参考訳（メタデータ） (2023-06-12T15:52:02Z)
• Incremental Learning for Personalized Recommender Systems [8.020546404087922]
  トレーニング効率とモデル品質の両方を提供するために,インクリメンタルな学習ソリューションを提案する。 このソリューションはLinkedInにデプロイされ、産業規模のレコメンデーションシステムに直接適用される。
  論文  参考訳（メタデータ） (2021-08-13T04:21:21Z)
• One Backward from Ten Forward, Subsampling for Large-Scale Deep Learning [35.0157090322113]
  大規模機械学習システムは、しばしばプロダクション環境からの膨大なデータで継続的に訓練される。 ストリーミングデータの量は、リアルタイムのトレーニングサブシステムにとって重要な課題であり、アドホックサンプリングが標準のプラクティスである。 我々は,これらの前方パスからインスタンス毎の情報量を一定に記録することを提案する。 追加情報は、前方および後方のパスに参加するデータインスタンスの選択を測定可能に改善します。
  論文  参考訳（メタデータ） (2021-04-27T11:29:02Z)
• Lambda Learner: Fast Incremental Learning on Data Streams [5.543723668681475]
  本稿では,データストリームからのミニバッチに対するインクリメンタル更新によるモデルトレーニングのための新しいフレームワークを提案する。 提案するフレームワークのモデルでは,オフラインデータに基づいてトレーニングされた周期的に更新されたモデルを推定し,モデル更新が時間に敏感な場合,性能が向上することを示す。 我々は、大規模ソーシャルネットワークのためのスポンサー付きコンテンツプラットフォームに大規模な展開を提示する。
  論文  参考訳（メタデータ） (2020-10-11T04:00:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。