論文の概要: Joint Optimization of Ranking and Calibration with Contextualized Hybrid
Model
- arxiv url: http://arxiv.org/abs/2208.06164v2
- Date: Sun, 28 May 2023 09:06:13 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-31 03:40:54.756092
- Title: Joint Optimization of Ranking and Calibration with Contextualized Hybrid
Model
- Title(参考訳): コンテクスト化ハイブリッドモデルによるランキングとキャリブレーションの協調最適化
- Authors: Xiang-Rong Sheng, Jingyue Gao, Yueyao Cheng, Siran Yang, Shuguang Han,
Hongbo Deng, Yuning Jiang, Jian Xu, Bo Zheng
- Abstract要約: 本稿では,短時間でランキング・アンド・アビリティ(JRC)を最適化する手法を提案する。
JRCは、サンプルのロジット値を異なるラベルで対比することでランキング能力を向上し、ロジットサブトラクションの関数である予測確率を制約する。
JRCはAlibabaのディスプレイ広告プラットフォームにデプロイされており、大幅なパフォーマンス向上を実現している。
- 参考スコア(独自算出の注目度): 24.66016187602343
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Despite the development of ranking optimization techniques, pointwise loss
remains the dominating approach for click-through rate prediction. It can be
attributed to the calibration ability of the pointwise loss since the
prediction can be viewed as the click probability. In practice, a CTR
prediction model is also commonly assessed with the ranking ability. To
optimize the ranking ability, ranking loss (e.g., pairwise or listwise loss)
can be adopted as they usually achieve better rankings than pointwise loss.
Previous studies have experimented with a direct combination of the two losses
to obtain the benefit from both losses and observed an improved performance.
However, previous studies break the meaning of output logit as the
click-through rate, which may lead to sub-optimal solutions. To address this
issue, we propose an approach that can Jointly optimize the Ranking and
Calibration abilities (JRC for short). JRC improves the ranking ability by
contrasting the logit value for the sample with different labels and constrains
the predicted probability to be a function of the logit subtraction. We further
show that JRC consolidates the interpretation of logits, where the logits model
the joint distribution. With such an interpretation, we prove that JRC
approximately optimizes the contextualized hybrid discriminative-generative
objective. Experiments on public and industrial datasets and online A/B testing
show that our approach improves both ranking and calibration abilities. Since
May 2022, JRC has been deployed on the display advertising platform of Alibaba
and has obtained significant performance improvements.
- Abstract(参考訳): ランキング最適化手法の開発にもかかわらず、ポイントワイズ損失はクリックスルー率予測において依然として優位なアプローチである。
これは、予測をクリック確率と見なすことができるため、ポイントワイズ損失のキャリブレーション能力に起因する可能性がある。
実際には、CTR予測モデルは、一般的にランキング能力によって評価される。
ランキング能力を最適化するために、ランキングの損失(例えば、ペアワイズまたはリストワイズ損失)は、通常、ポイントワイズ損失よりも優れたランク付けを達成できるため、採用できる。
これまでの研究では、両者の損失から利益を得るために2つの損失を直接組み合わせて実験し、性能が向上した。
しかし、以前の研究では、アウトプット・ロジットをクリックスルーレートとして意味付けしており、それが最適な解決策につながる可能性がある。
この問題に対処するため,我々はランキング・キャリブレーション能力(JRC)を簡易に最適化する手法を提案する。
JRCは、サンプルのロジット値を異なるラベルで対比することでランキング能力を向上し、ロジットサブトラクションの関数である予測確率を制約する。
さらに,JRCはロジットの解釈を強化し,ロジットが共同分布をモデル化していることを示す。
このような解釈により、JRCは文脈化されたハイブリッド識別・生成目的をほぼ最適化していることを示す。
パブリックデータセットと産業データセットとオンラインa/bテストの実験では,評価とキャリブレーションの両能力が改善されている。
2022年5月以降、JRCはAlibabaのディスプレイ広告プラットフォームに配備され、大幅な性能向上を実現している。
関連論文リスト
- A Self-boosted Framework for Calibrated Ranking [7.4291851609176645]
キャリブレーションランキング(Calibrated Ranking)は、正確なランキング品質とキャリブレーションされた確率予測を同時に追求するスケールキャリブレーションランキングシステムである。
それまでの方法は、ランキングの損失を計算するために、単一のミニバッチ内に完全な候補リストを集約する必要があった。
校正ランク付けのための自己ブーストフレームワーク(SBCR)を提案する。
論文 参考訳(メタデータ) (2024-06-12T09:00:49Z) - Helen: Optimizing CTR Prediction Models with Frequency-wise Hessian
Eigenvalue Regularization [22.964109377128523]
CTR(Click-Through Rate)予測は、オンライン広告とレコメンデーションシナリオにおいて最も重要である。
近年のCTR予測モデルの普及にもかかわらず、性能の改善は限られている。
論文 参考訳(メタデータ) (2024-02-23T15:00:46Z) - Adaptive Neural Ranking Framework: Toward Maximized Business Goal for
Cascade Ranking Systems [33.46891569350896]
カスケードランキングは、オンライン広告とレコメンデーションシステムにおける大規模なトップk選択問題に広く使われている。
それまでの学習からランクへの取り組みは、モデルに完全な順序やトップクオーダを学習させることに重点を置いていた。
我々はこの手法をアダプティブ・ニューラルランキング・フレームワーク (Adaptive Neural Ranking Framework, ARF) と命名する。
論文 参考訳(メタデータ) (2023-10-16T14:43:02Z) - Evaluating Probabilistic Classifiers: The Triptych [62.997667081978825]
本稿では,予測性能の異なる相補的な側面に焦点をあてた診断グラフィックのトリチチを提案し,研究する。
信頼性図は校正に対処し、受信動作特性(ROC)曲線は識別能力を診断し、マーフィー図は全体的な予測性能と価値を視覚化する。
論文 参考訳(メタデータ) (2023-01-25T19:35:23Z) - Optimizing Partial Area Under the Top-k Curve: Theory and Practice [151.5072746015253]
トップk曲線下部分領域(AUTKC)と呼ばれる新しい計量法を開発した。
AUTKCはより優れた識別能力を持ち、ベイズ最適スコア関数は条件付き確率に対して正しいトップKランクを与えることができる。
提案手法を最適化するために,実証的なサロゲートリスク最小化フレームワークを提案する。
論文 参考訳(メタデータ) (2022-09-03T11:09:13Z) - Meta-Wrapper: Differentiable Wrapping Operator for User Interest
Selection in CTR Prediction [97.99938802797377]
クリックスルー率(CTR)予測は、ユーザーが商品をクリックする確率を予測することを目的としており、リコメンデーションシステムにおいてますます重要になっている。
近年,ユーザの行動からユーザの興味を自動的に抽出する深層学習モデルが大きな成功を収めている。
そこで我々は,メタラッパー(Meta-Wrapper)と呼ばれるラッパー手法の枠組みに基づく新しい手法を提案する。
論文 参考訳(メタデータ) (2022-06-28T03:28:15Z) - Probabilistic Permutation Graph Search: Black-Box Optimization for
Fairness in Ranking [53.94413894017409]
本稿では、置換グラフの概念に基づいて、置換分布を表現する新しい方法を提案する。
PLと同様に、PPGと呼ばれる分布表現は、公正性のブラックボックス最適化に利用できる。
論文 参考訳(メタデータ) (2022-04-28T20:38:34Z) - Cross Pairwise Ranking for Unbiased Item Recommendation [57.71258289870123]
我々はCPR(Cross Pairwise Ranking)という新しい学習パラダイムを開発する。
CPRは、露出メカニズムを知らずに不偏の推奨を達成する。
理論的には、この方法が学習に対するユーザ/イテムの適合性の影響を相殺することを証明する。
論文 参考訳(メタデータ) (2022-04-26T09:20:27Z) - Improving Calibration for Long-Tailed Recognition [68.32848696795519]
このようなシナリオにおけるキャリブレーションとパフォーマンスを改善する2つの方法を提案します。
異なるサンプルによるデータセットバイアスに対して,シフトバッチ正規化を提案する。
提案手法は,複数の長尾認識ベンチマークデータセットに新しいレコードをセットする。
論文 参考訳(メタデータ) (2021-04-01T13:55:21Z) - Mix-n-Match: Ensemble and Compositional Methods for Uncertainty
Calibration in Deep Learning [21.08664370117846]
我々は,Mix-n-Matchキャリブレーション戦略が,データ効率と表現力を大幅に向上することを示す。
標準評価プラクティスの潜在的な問題も明らかにします。
我々の手法はキャリブレーションと評価タスクの両方において最先端のソリューションより優れている。
論文 参考訳(メタデータ) (2020-03-16T17:00:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。