論文の概要: Real World Large Scale Recommendation Systems Reproducibility and Smooth
Activations
- arxiv url: http://arxiv.org/abs/2202.06499v1
- Date: Mon, 14 Feb 2022 06:22:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-15 18:10:28.515306
- Title: Real World Large Scale Recommendation Systems Reproducibility and Smooth
Activations
- Title(参考訳): 実世界の大規模レコメンデーションシステム再現性と円滑なアクティベーション
- Authors: Gil I. Shamir and Dong Lin
- Abstract要約: 本稿では,スムーズなアクティベーションの新たなファミリーであるSmooth ReLU(SmeLU)について述べる。
我々は、SmeLUを相当な利益と精度・再現性トレードオフで生産できる実システムからのメトリクスを報告する。
これにはクリックスルーレート(CTR)予測システム、コンテンツ、アプリケーションレコメンデーションシステムが含まれる。
- 参考スコア(独自算出の注目度): 5.452074074840966
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Real world recommendation systems influence a constantly growing set of
domains. With deep networks, that now drive such systems, recommendations have
been more relevant to the user's interests and tasks. However, they may not
always be reproducible even if produced by the same system for the same user,
recommendation sequence, request, or query. This problem received almost no
attention in academic publications, but is, in fact, very realistic and
critical in real production systems. We consider reproducibility of real large
scale deep models, whose predictions determine such recommendations. We
demonstrate that the celebrated Rectified Linear Unit (ReLU) activation, used
in deep models, can be a major contributor to irreproducibility. We propose the
use of smooth activations to improve recommendation reproducibility. We
describe a novel family of smooth activations; Smooth ReLU (SmeLU), designed to
improve reproducibility with mathematical simplicity, with potentially cheaper
implementation. SmeLU is a member of a wider family of smooth activations.
While other techniques that improve reproducibility in real systems usually
come at accuracy costs, smooth activations not only improve reproducibility,
but can even give accuracy gains. We report metrics from real systems in which
we were able to productionalize SmeLU with substantial reproducibility gains
and better accuracy-reproducibility trade-offs. These include
click-through-rate (CTR) prediction systems, content, and application
recommendation systems.
- Abstract(参考訳): 現実世界のレコメンデーションシステムは、絶えず成長する一連のドメインに影響を与える。
このようなシステムを駆動するディープネットワークでは、レコメンデーションはユーザの関心事やタスクとより関連がある。
しかし、同じシステムによって同じユーザのために、レコメンデーションシーケンス、リクエスト、クエリが生成されても、必ずしも再現可能とは限らない。
この問題は学術的な出版物ではほとんど注目されなかったが、実生産システムでは現実的に非常に現実的で批判的であった。
我々は,そのような提案を予測した大規模深層モデルの再現性を検討する。
我々は、深層モデルで使用される有名なRectified Linear Unit (ReLU) の活性化が、不再現性に大きく貢献できることを実証する。
推薦再現性を向上させるために,円滑なアクティベーションの利用を提案する。
本稿では,スムーズなアクティベーションの新たなファミリーであるSmooth ReLU(SmeLU)について述べる。
SmeLUはスムーズな活性化の家族の一員である。
実際のシステムにおける再現性を改善する他の技術は、通常、精度のコストがかかるが、スムーズなアクティベーションは再現性を改善するだけでなく、精度を高めることもできる。
実システムからのメトリクスを報告し,smeluの再現性向上と精度再現性トレードオフの改善を実現した。
これにはクリックスルーレート(CTR)予測システム、コンテンツ、アプリケーションレコメンデーションシステムが含まれる。
関連論文リスト
- EASRec: Elastic Architecture Search for Efficient Long-term Sequential
Recommender Systems [82.76483989905961]
現在のSRS(Sequential Recommender Systems)は、計算とリソースの非効率に悩まされている。
我々は、効率的な長期シーケンスレコメンダシステム(EASRec)のための弾性アーキテクチャー探索を開発する。
EASRecは、入力データバッチから履歴情報を活用するデータ認識ゲートを導入し、レコメンデーションネットワークの性能を改善する。
論文 参考訳(メタデータ) (2024-02-01T07:22:52Z) - Hybrid Reinforcement Learning for Optimizing Pump Sustainability in
Real-World Water Distribution Networks [55.591662978280894]
本稿では,実世界の配水ネットワーク(WDN)のリアルタイム制御を強化するために,ポンプスケジューリング最適化問題に対処する。
我々の主な目的は、エネルギー消費と運用コストを削減しつつ、物理的な運用上の制約を遵守することである。
進化に基づくアルゴリズムや遺伝的アルゴリズムのような伝統的な最適化手法は、収束保証の欠如によってしばしば不足する。
論文 参考訳(メタデータ) (2023-10-13T21:26:16Z) - Precision-Recall Divergence Optimization for Generative Modeling with
GANs and Normalizing Flows [54.050498411883495]
本研究では,ジェネレーティブ・アドバイサル・ネットワークや正規化フローなどの生成モデルのための新しいトレーニング手法を開発した。
指定された精度-リコールトレードオフを達成することは、textitPR-divergencesと呼ぶ家族からのユニークな$f$-divergenceを最小化することを意味する。
当社のアプローチは,ImageNetなどのデータセットでテストした場合の精度とリコールの両面で,BigGANのような既存の最先端モデルの性能を向上させる。
論文 参考訳(メタデータ) (2023-05-30T10:07:17Z) - Bounded (O(1)) Regret Recommendation Learning via Synthetic Controls
Oracle [6.935657546323529]
一定嗜好を持つユーザが繰り返し到着するオンライン探索システムでは、後悔の限度が達成される。
この結果は、商品の人気が短命であることが多いレコメンデーションシステムにとって、興味のあるものかもしれない。
本研究は,これらの問題に対処しつつ,いまだに限定された後悔を達成しつつ,理論的研究を行うものである。
論文 参考訳(メタデータ) (2023-01-29T22:39:50Z) - An enhanced simulation-based multi-objective optimization approach with
knowledge discovery for reconfigurable manufacturing systems [0.6824747267214372]
本研究では、ワークステーションへのワークタスクとリソース割り当てと、RMSのバッファ容量割り当てについて検討する。
目的は、プロダクションボリュームとキャパシティの変更の下で、総バッファ容量を同時に最大化し、最小化することである。
シミュレーションをカスタマイズした多目的最適化(SMO)手法を提案する。
論文 参考訳(メタデータ) (2022-11-30T10:30:07Z) - SiRi: A Simple Selective Retraining Mechanism for Transformer-based
Visual Grounding [131.0977050185209]
Selective Retraining (SiRi)は3つの人気のあるベンチマークにおいて、従来のアプローチよりも大幅に優れている。
SiRiは、限られたトレーニングデータでも驚くほど優れている。
また,その妥当性を検証するために,トランスフォーマーベース視覚接地モデルや他の視覚言語タスクにも拡張する。
論文 参考訳(メタデータ) (2022-07-27T07:01:01Z) - Greedy-Based Feature Selection for Efficient LiDAR SLAM [12.257338124961622]
本論文では,L-SLAMシステムの精度と効率を,機能のサブセットを積極的に選択することで大幅に向上できることを実証する。
提案手法は,最先端のL-SLAMシステムと比較して,ローカライズ誤差と高速化が低いことを示す。
論文 参考訳(メタデータ) (2021-03-24T11:03:16Z) - Smooth activations and reproducibility in deep networks [4.106285392075794]
全く同じトレーニングデータセットでトレーニングされた2つの同一モデルでは、個々のサンプルに対する予測に大きな違いがある可能性がある。
我々は、ReLUよりもスムーズなアクティベーションを実現できるだけでなく、より精度の高い再現性トレードオフを提供できることを示した。
そこで我々は,Smooth ReLU(emphSmeLU)という,より優れたトレードオフを提供するとともに,数学的表現をシンプルに保ち,実装を安価にすることを目的とした,新たなアクティベーションファミリーを提案する。
論文 参考訳(メタデータ) (2020-10-20T00:06:47Z) - Value Driven Representation for Human-in-the-Loop Reinforcement Learning [33.79501890330252]
我々は,システム設計者が,強化学習エージェントが使用する観測空間を定義するために,センサセットや特徴セットを選択する方法のアルゴリズム的基礎に焦点をあてる。
本稿では、強化学習エージェントの観測空間を反復的かつ適応的に拡張するアルゴリズム、値駆動表現(VDR)を提案する。
シミュレーションされた人間を用いた標準RLベンチマークによる手法の性能評価を行い、従来のベースラインよりも大幅に改善したことを示す。
論文 参考訳(メタデータ) (2020-04-02T18:45:45Z) - Adaptive Control and Regret Minimization in Linear Quadratic Gaussian
(LQG) Setting [91.43582419264763]
我々は不確実性に直面した楽観主義の原理に基づく新しい強化学習アルゴリズムLqgOptを提案する。
LqgOptはシステムのダイナミクスを効率的に探索し、モデルのパラメータを信頼区間まで推定し、最も楽観的なモデルのコントローラをデプロイする。
論文 参考訳(メタデータ) (2020-03-12T19:56:38Z) - Information Theoretic Model Predictive Q-Learning [64.74041985237105]
本稿では,情報理論的MPCとエントロピー正規化RLとの新たな理論的関連性を示す。
バイアスモデルを利用したQ-ラーニングアルゴリズムを開発した。
論文 参考訳(メタデータ) (2019-12-31T00:29:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。