論文の概要: APG: Adaptive Parameter Generation Network for Click-Through Rate Prediction

• arxiv url: http://arxiv.org/abs/2203.16218v1
• Date: Wed, 30 Mar 2022 11:40:36 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-31 14:23:54.663150
• Title: APG: Adaptive Parameter Generation Network for Click-Through Rate Prediction
• Title（参考訳）: APG:クリックスルーレート予測のための適応パラメータ生成ネットワーク
• Authors: Bencheng Yan, Pengjie Wang, Kai Zhang, Feng Li, Jian Xu and Bo Zheng
• Abstract要約: 多くのWebアプリケーションでは、ディープラーニングベースのCTR予測モデルが広く採用されている。 従来の深いCTRモデルは、静的な方法でパターンを学習する。 適応生成ネットワーク(APG)を提案する。
• 参考スコア（独自算出の注目度）: 17.780622193535244
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In many web applications, deep learning-based CTR prediction models (deep CTR models for short) are widely adopted. Traditional deep CTR models learn patterns in a static manner, i.e., the network parameters are the same across all the instances. However, such a manner can hardly characterize each of the instances which may have different underlying distribution. It actually limits the representation power of deep CTR models, leading to sub-optimal results. In this paper, we propose an efficient, effective, and universal module, Adaptive Parameter Generation network (APG), where the parameters of deep CTR models are dynamically generated on-the-fly based on different instances. Extensive experimental evaluation results show that APG can be applied to a variety of deep CTR models and significantly improve their performance. We have deployed APG in the Taobao sponsored search system and achieved 3\% CTR gain and 1\% RPM gain respectively.
• Abstract（参考訳）: 多くのWebアプリケーションでは、ディープラーニングベースのCTR予測モデル(略してCTRモデル)が広く採用されている。 従来の深いCTRモデルは、静的な方法でパターンを学習する。 しかし、そのような方法では、基礎となる分布が異なるインスタンスをそれぞれ特徴付けることはほとんどできない。 これは実際に深部CTRモデルの表現力を制限し、準最適結果をもたらす。 本稿では,深層ctrモデルのパラメータを実機上で動的に生成する効率的で効率的な適応パラメータ生成ネットワーク(apg)を提案する。 その結果, 各種深部CTRモデルにAPGを適用でき, 性能を著しく向上できることがわかった。 我々は,apgをtaobaoスポンサー検索システムに導入し,それぞれ3-% ctrゲインと1-% rpmゲインを達成した。

関連論文リスト

• GPT vs RETRO: Exploring the Intersection of Retrieval and Parameter-Efficient Fine-Tuning [48.71952325015267]
  PEFT法を改良型Retrieval-Enhanced Transformer (RETRO) およびベースラインGPTモデルに適用する。 本稿では、RETROモデルが、独自の事前学習プロセスにより、ゼロショット設定でGPTモデルより優れていることを示す。 本研究は, GPTモデルとRETROモデルの両方に適用された各種PEFT法をRAGと統合した最初の包括的比較である。
  論文  参考訳（メタデータ） (2024-07-05T14:16:47Z)
• ClickPrompt: CTR Models are Strong Prompt Generators for Adapting Language Models to CTR Prediction [45.15127775876369]
  クリックスルー率(CTR)の予測は、様々なインターネットアプリケーションにとってますます不可欠になっている。 従来のCTRモデルは、マルチフィールド分類データをワンホット符号化によりID特徴に変換し、特徴間の協調信号を抽出する。 我々は、CTRモデルを組み込んで対話対応ソフトプロンプトを生成する、新しいモデル非依存フレームワーク(ClickPrompt)を提案する。
  論文  参考訳（メタデータ） (2023-10-13T16:37:53Z)
• MAP: A Model-agnostic Pretraining Framework for Click-through Rate Prediction [39.48740397029264]
  本稿では,多分野分類データに特徴的破損と回復を適用したMAP(Model-Agnostic Pretraining)フレームワークを提案する。 マスク付き特徴予測(RFD)と代替特徴検出(RFD)の2つの実用的なアルゴリズムを導出する。
  論文  参考訳（メタデータ） (2023-08-03T12:55:55Z)
• Prompt Tuning for Parameter-efficient Medical Image Segmentation [79.09285179181225]
  2つの医用画像データセットのセマンティックセグメンテーションにパラメータ効率が良いが効果的な適応を実現するために,いくつかのコントリビューションを提案し,検討する。 我々はこのアーキテクチャを、オンライン生成プロトタイプへの割り当てに基づく専用密集型セルフスーパービジョンスキームで事前訓練する。 得られたニューラルネットワークモデルにより、完全に微調整されたモデルとパラメータに適応したモデルとのギャップを緩和できることを実証する。
  論文  参考訳（メタデータ） (2022-11-16T21:55:05Z)
• Efficient Long Sequential User Data Modeling for Click-Through Rate Prediction [9.455385139394494]
  本稿では,長期動作シーケンスをモデル化し,優れた性能と優れたコスト効率を実現するエンド・ツー・エンドのパラダイムを提案する。 まず、エンド・ツー・エンドのユーザ行動検索を可能にするために、ETA-Netというハッシュベースの効率的なターゲットアテンション(TA)ネットワークを提案する。 ETA-Netはタオバオのレコメンダシステムに配備されており、SOTAの2段法に比べてCTRが1.8%上昇し、Gross Merchandise Value(GMV)が3.1%上昇した。
  論文  参考訳（メタデータ） (2022-09-25T12:59:57Z)
• Layer Pruning on Demand with Intermediate CTC [50.509073206630994]
  我々はコネクショニスト時間分類(CTC)に基づくASRの訓練と刈り取り方法を提案する。 本稿では,Transformer-CTCモデルをオンデマンドで様々な深さでプルーニングできることを示し,GPU上でのリアルタイム係数を0.005から0.002に改善した。
  論文  参考訳（メタデータ） (2021-06-17T02:40:18Z)
• DAIS: Automatic Channel Pruning via Differentiable Annealing Indicator Search [55.164053971213576]
  畳み込みニューラルネットワークは,計算オーバーヘッドが大きいにもかかわらず,コンピュータビジョンタスクの実行において大きな成功を収めている。 構造的(チャネル)プルーニングは、通常、ネットワーク構造を保ちながらモデルの冗長性を低減するために適用される。 既存の構造化プルーニング法では、手作りのルールが必要であり、これは大きなプルーニング空間に繋がる可能性がある。
  論文  参考訳（メタデータ） (2020-11-04T07:43:01Z)
• BARS-CTR: Open Benchmarking for Click-Through Rate Prediction [30.000261789268063]
  クリックスルー率(CTR)予測は多くのアプリケーションにとって重要なタスクである。 近年、CTR予測は学術と産業の両方で広く研究されている。 CTR予測研究には、標準化されたベンチマークと一様評価プロトコルがまだ欠けている。
  論文  参考訳（メタデータ） (2020-09-12T13:34:22Z)
• AutoHAS: Efficient Hyperparameter and Architecture Search [104.29883101871083]
  AutoHASは、共有ネットワークウェイトと強化学習コントローラを交互に更新することを学ぶ。 選択したHPから更新された重量を格納するために一時的な重量を導入する。 実験では、AutoHASは様々な検索空間、ベースライン、データセットに対して効率的かつ一般化可能であることを示す。
  論文  参考訳（メタデータ） (2020-06-05T19:57:24Z)
• A Generic Network Compression Framework for Sequential Recommender Systems [71.81962915192022]
  シークエンシャルレコメンデーションシステム(SRS)は,ユーザの動的関心を捉え,高品質なレコメンデーションを生成する上で重要な技術となっている。 CpRecと呼ばれる圧縮されたシーケンシャルレコメンデーションフレームワークを提案する。 大規模なアブレーション研究により、提案したCpRecは実世界のSRSデータセットにおいて最大4$sim$8倍の圧縮速度を達成できることを示した。
  論文  参考訳（メタデータ） (2020-04-21T08:40:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。