論文の概要: Light-FMP: Lightweight Feature and Model Pruning for Enhanced Deep Recommender Systems
- arxiv url: http://arxiv.org/abs/2605.06441v1
- Date: Thu, 07 May 2026 15:41:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-08 22:27:11.951545
- Title: Light-FMP: Lightweight Feature and Model Pruning for Enhanced Deep Recommender Systems
- Title(参考訳): 光FMP:高機能深部レコメンダシステムのための軽量特徴とモデルプルーニング
- Authors: Nghia Bui, Yue Ning, Lijing Wang,
- Abstract要約: ディープ・レコメンダ・システムは計算効率とモデルの精度のバランスをとる際にしばしば困難に直面する。
我々は、3つの重要なフェーズを通じて課題に対処する軽量なフレームワークであるEnhanced DRSのための軽量機能とモデルプルーニングを提案する。
実世界のレコメンデータシステムによるベンチマークデータセットの実験は、Light-FMPが既存の手法よりも効率と精度で優れていることを示した。
- 参考スコア(独自算出の注目度): 2.591120883849813
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep recommender systems (DRS) often face challenges in balancing computational efficiency and model accuracy, especially when handling high-dimensional input features. Existing methods either focus on improving accuracy while neglecting training efficiency or prioritize efficiency at the cost of suboptimal accuracy across tasks. We propose Light-FMP: Lightweight Feature and Model Pruning for Enhanced DRS, a lightweight framework that addresses the challenges through three key phases: \textit{pretraining}, \textit{pruning}, and \textit{continued training}. Using a hard concrete distribution, a masking layer is efficiently pretrained on a small data subset to identify important features. The model and features are then pruned, and training continues on the remaining dataset with domain-adapted parameters. Experiments on benchmark datasets from real-world recommender systems demonstrate that Light-FMP outperforms existing methods in both efficiency and accuracy while maintaining scalability and robustness.
- Abstract(参考訳): ディープ・レコメンダ・システム(DRS)は、特に高次元の入力特徴を扱う場合、計算効率とモデルの精度のバランスをとることの課題に直面していることが多い。
既存の方法は、トレーニング効率を無視しながら精度を向上させることに集中するか、タスク間の最適下限の精度を犠牲にして効率を優先する。
光FMP: Lightweight Feature and Model Pruning for Enhanced DRS, a lightweight framework that address the challenge through three key phases: \textit{pretraining}, \textit{pruning}, \textit{continued training}。
硬質コンクリート分布を用いて、マスキング層を小さなデータサブセット上で効率的に事前訓練し、重要な特徴を特定する。
モデルと機能はプルーニングされ、トレーニングはドメイン適応パラメータで残りのデータセットで継続される。
実世界のレコメンデータシステムによるベンチマークデータセットの実験では、Light-FMPはスケーラビリティと堅牢性を維持しながら、効率と正確性の両方で既存のメソッドよりも優れています。
関連論文リスト
- InfiAlign: A Scalable and Sample-Efficient Framework for Aligning LLMs to Enhance Reasoning Capabilities [27.09178257629886]
InfiAlignは、大規模言語モデル(LLM)のためのスケーラブルでサンプル効率の良いポストトレーニングフレームワークである
InfiAlignの中核は、オープンソースの推論から高品質なアライメントデータを自動的にキュレートする堅牢なデータ選択パイプラインである。
本結果は,基本データ選択とフルステージポストトレーニングの併用の有効性を強調した。
論文 参考訳(メタデータ) (2025-08-07T15:34:06Z) - EDM: Efficient Deep Feature Matching [8.107498154867178]
本稿では,効率的なDeep機能マッチングネットワーク,EDMを提案する。
まず、より少ない次元のより深いCNNを採用し、マルチレベルの特徴を抽出する。
次に,高レベルの深い特徴に対して特徴変換を行う相関注入モジュールを提案する。
改良段階において、軽量な双方向軸ベース回帰ヘッドは、潜在特徴からサブピクセルレベルの対応を直接予測するように設計されている。
論文 参考訳(メタデータ) (2025-03-07T03:47:30Z) - PRISM: Self-Pruning Intrinsic Selection Method for Training-Free Multimodal Data Selection [68.8373788348678]
ビジュアルインストラクションチューニングは、事前訓練されたマルチモーダル大言語モデルに人間の指示に従うように適応する。
PRISMは、効率的な視覚的命令選択のための最初のトレーニング不要のフレームワークである。
データ選択とモデルチューニングのエンドツーエンドの時間を従来のパイプラインの30%に短縮する。
論文 参考訳(メタデータ) (2025-02-17T18:43:41Z) - Adaptive Data Exploitation in Deep Reinforcement Learning [50.53705050673944]
深層強化学習(RL)における**データ効率**と**一般化**を強化する強力なフレームワークであるADEPTを紹介する。
具体的には、ADEPTはマルチアーム・バンディット(MAB)アルゴリズムを用いて、異なる学習段階にわたるサンプルデータの使用を適応的に管理する。
Procgen、MiniGrid、PyBulletなどのベンチマークでADEPTをテストする。
論文 参考訳(メタデータ) (2025-01-22T04:01:17Z) - Constrain Alignment with Sparse Autoencoders [45.131670081186]
特徴レベルの制約付き優先度最適化は、安定性を確保しつつアライメントプロセスを簡素化するために設計された新しい手法である。
提案手法は、訓練されたスパースオートエンコーダで活性化されるスパース機能と、逐次KL分散の品質を用いて効率を向上する。
論文 参考訳(メタデータ) (2024-11-12T07:54:13Z) - Federated Learning of Large Language Models with Parameter-Efficient
Prompt Tuning and Adaptive Optimization [71.87335804334616]
フェデレートラーニング(FL)は、分散データとの協調モデルトレーニングを可能にする、有望なパラダイムである。
LLM(Large Language Models)のトレーニングプロセスは一般的に重要なパラメータの更新を引き起こす。
本稿では,性能と効率を同時に向上する効率的な部分的プロンプトチューニング手法を提案する。
論文 参考訳(メタデータ) (2023-10-23T16:37:59Z) - Parameter-Efficient Sparsity for Large Language Models Fine-Tuning [63.321205487234074]
私たちはaを提案します。
Sparse- efficient Sparse Training (PST) は、スパース・アウェア・トレーニング中にトレーニング可能なパラメータの数を減少させる手法である。
多様なネットワーク(BERT、RoBERTa、GPT-2)を用いた実験では、PSTは従来のスパーシリティ法よりも同等以上の性能を示した。
論文 参考訳(メタデータ) (2022-05-23T02:43:45Z) - Extrapolation for Large-batch Training in Deep Learning [72.61259487233214]
我々は、バリエーションのホストが、我々が提案する統一されたフレームワークでカバー可能であることを示す。
本稿では,この手法の収束性を証明し,ResNet,LSTM,Transformer上での経験的性能を厳格に評価する。
論文 参考訳(メタデータ) (2020-06-10T08:22:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。