Fugu-MT 論文翻訳(概要): RecIS: Sparse to Dense, A Unified Training Framework for Recommendation Models

論文の概要: RecIS: Sparse to Dense, A Unified Training Framework for Recommendation Models

arxiv url: http://arxiv.org/abs/2509.20883v1
Date: Thu, 25 Sep 2025 08:12:55 GMT
ステータス: 翻訳完了
システム内更新日: 2025-09-26 20:58:12.786264
Title: RecIS: Sparse to Dense, A Unified Training Framework for Recommendation Models
Title（参考訳）: RecIS: 勧告モデルのための統一トレーニングフレームワークDenseへのスパース
Abstract要約: RecISは、PyTorchエコシステムに基づいたスパースセンストレーニングフレームワークである。現在、RecISはAlibabaで多数の大規模強化レコメンデーショントレーニングタスクに使用されている。
参考スコア（独自算出の注目度）: 30.995175562169994
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: In this paper, we propose RecIS, a unified Sparse-Dense training framework designed to achieve two primary goals: 1. Unified Framework To create a Unified sparse-dense training framework based on the PyTorch ecosystem that meets the training needs of industrial-grade recommendation models that integrated with large models. 2.System Optimization To optimize the sparse component, offering superior efficiency over the TensorFlow-based recommendation models. The dense component, meanwhile, leverages existing optimization technologies within the PyTorch ecosystem. Currently, RecIS is being used in Alibaba for numerous large-model enhanced recommendation training tasks, and some traditional sparse models have also begun training in it.
Abstract（参考訳）: 本稿では,Sparse-Dense 統合トレーニングフレームワーク RecIS を提案する。統一フレームワーク PyTorchエコシステムをベースとして、大きなモデルに統合された産業レベルのレコメンデーションモデルのトレーニングニーズを満たす、統一スパースセンストレーニングフレームワークを作成する。 2. システム最適化スパースコンポーネントを最適化し、TensorFlowベースのレコメンデーションモデルよりも優れた効率を提供する。一方、この高密度なコンポーネントは、PyTorchエコシステム内の既存の最適化技術を活用している。現在、RecISはAlibabaで多数の大規模強化レコメンデーショントレーニングタスクに使用されており、いくつかの伝統的なスパースモデルもトレーニングを開始している。

関連論文リスト

Neural Network Optimization Reimagined: Decoupled Techniques for Scratch and Fine-Tuning [49.751529745537546]
我々はDualOptを提案する。DualOptは、スクラッチからトレーニングに適した最適化技術を分離する新しいアプローチである。スクラッチからのトレーニングでは、収束と一般化の両面を強化するために設計されたリアルタイムな層ワイド・ウェイト・デポジットを導入する。我々は、異なる下流タスクの様々な要求に適応して、レイヤ単位の重量減衰を拡張して、レイヤ間のロールバックレベルを動的に調整する。
論文参考訳（メタデータ） (2026-04-21T06:27:18Z)
DiRL: An Efficient Post-Training Framework for Diffusion Language Models [54.405206032785706]
Diffusion Language Models (dLLMs) はAuto-Regressive(AR)モデルに代わる有望な代替品として登場した。既存の手法は、訓練と推論の間の計算の非効率性と客観的なミスマッチに悩まされている。我々は,FlexAttention-accelerated blockwise trainingとLMDeploy-timized inferenceを密接に統合した,効率的なポストトレーニングフレームワークであるDiRLを紹介した。
論文参考訳（メタデータ） (2025-12-23T08:33:19Z)
PLUM: Adapting Pre-trained Language Models for Industrial-scale Generative Recommendations [8.96024282226161]
PLUMは,産業規模のレコメンデーションタスクに事前訓練された大規模言語モデルを適用するために設計されたフレームワークである。 PLUMは、セマンティックIDを使用したアイテムトークン化、ドメイン固有のデータに対する継続事前トレーニング(CPT)、推奨目的のためのタスク固有の微調整で構成されている。そこでは,ユーザコンテキストに基づいて推奨項目のセマンティックIDを生成するために,モデルを直接訓練する。
論文参考訳（メタデータ） (2025-10-09T05:01:05Z)
SynthCoder: A Synthetical Strategy to Tune LLMs for Code Completion [7.668823606571788]
コード補完は、ソフトウェア工学における大規模言語モデル(LLM)の顕著な応用である。本稿では,Fill-in-the-Middle(FIM)コード補完タスクにおける最先端技術を実現するために,業界をリードするプラクティスを統合するモデルであるSynthCoderを提案する。
論文参考訳（メタデータ） (2025-08-21T12:23:49Z)
Optimizing ML Training with Metagradient Descent [69.89631748402377]
モデルトレーニングによる勾配というメタグラディエントを,大規模に効率的に計算するアルゴリズムを導入する。次に、メタグラディエントを用いた効果的な最適化を可能にする「滑らかなモデルトレーニング」フレームワークを導入する。
論文参考訳（メタデータ） (2025-03-17T22:18:24Z)
HAF-RM: A Hybrid Alignment Framework for Reward Model Training [51.59246299566669]
報酬モデルトレーニングのためのハイブリッドアライメントフレームワークHaF-RMを提案する。報酬モデルのパフォーマンスとアライメントを高めるための、原則的で効果的なアプローチを提供する。
論文参考訳（メタデータ） (2024-07-04T23:26:56Z)
CoLLiE: Collaborative Training of Large Language Models in an Efficient Way [59.09824823710863]
CoLLiEは、大規模な言語モデルの協調トレーニングを容易にする効率的なライブラリである。モジュール設計と包括的な機能により、CoLLiEは効率性、使いやすさ、カスタマイズのバランスのとれたブレンドを提供する。
論文参考訳（メタデータ） (2023-12-01T08:02:16Z)
Incremental Learning for Personalized Recommender Systems [8.020546404087922]
トレーニング効率とモデル品質の両方を提供するために,インクリメンタルな学習ソリューションを提案する。このソリューションはLinkedInにデプロイされ、産業規模のレコメンデーションシステムに直接適用される。
論文参考訳（メタデータ） (2021-08-13T04:21:21Z)
Deeplite Neutrino: An End-to-End Framework for Constrained Deep Learning Model Optimization [2.762905634186996]
ディープラーニングモデルのプロダクション対応最適化のためのブラックボックスフレームワークであるDeeplite Neutrinoを導入する。フレームワークは既存のプロダクションパイプラインに簡単に組み込むことができ、Python Packageとして利用できる。フレームワークは現在本番環境で使用されており、いくつかのクライアントによる結果と証言が要約されている。
論文参考訳（メタデータ） (2021-01-11T18:07:45Z)
Bayesian Optimization for Selecting Efficient Machine Learning Models [53.202224677485525]
本稿では,予測効率とトレーニング効率の両面において,モデルを協調最適化するための統一ベイズ最適化フレームワークを提案する。レコメンデーションタスクのためのモデル選択の実験は、この方法で選択されたモデルがモデルのトレーニング効率を大幅に改善することを示している。
論文参考訳（メタデータ） (2020-08-02T02:56:30Z)
A Novel DNN Training Framework via Data Sampling and Multi-Task Optimization [7.001799696806368]
DNNモデルをトレーニングするための新しいフレームワークを提案する。ランダムスプリッティングにより、総合的なトレーニングセットから複数のトレーニングセットと検証セットを生成する。トレーニングされたすべてのモデルの中で最高のパフォーマンスを出力し、すべてのペアから検証セット全体で全体の最高のパフォーマンスを出力します。
論文参考訳（メタデータ） (2020-07-02T10:58:57Z)
Improved Adversarial Training via Learned Optimizer [101.38877975769198]
対戦型トレーニングモデルの堅牢性を改善するための枠組みを提案する。共学習のパラメータモデルの重み付けにより、提案するフレームワークは、更新方向に対するロバスト性とステップの適応性を一貫して改善する。
論文参考訳（メタデータ） (2020-04-25T20:15:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。