論文の概要: Beyond Interaction Capacity: Estimator Scaling with Recursive Models for CTR Prediction
- arxiv url: http://arxiv.org/abs/2609.37905v1
- Date: Tue, 29 Sep 2026 16:03:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.722574
- Title: Beyond Interaction Capacity: Estimator Scaling with Recursive Models for CTR Prediction
- Title(参考訳): 相互作用能力を超えた: CTR予測のための再帰モデルによる推定器スケーリング
- Abstract要約: クリック・スローレートの予測は、スパースカテゴリーの特徴間の相互作用のモデル化に依存する。
予測性能を向上させる上では,相互作用能力の継続的な増大が最も効果的な方法であることを示す。
本稿では,RECursive Averaged Predictor (RECAP)を導入し,推定器のスケーリングを3段階に展開する。
- 参考スコア(独自算出の注目度): 32.285528845249814
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Click-Through Rate prediction, a core task in recommendation and advertising systems, relies on modeling interactions among sparse categorical features. Explicit cross networks are a central paradigm for CTR prediction, and recent progress has largely come from increasing the interaction capacity of a single predictor through deeper cross networks and more expressive cross operators. We revisit whether continually increasing interaction capacity remains the most effective way to improve predictive performance, and find that its benefits quickly exhibit diminishing returns even as capacity continues to grow. This motivates a complementary scaling direction that we call estimator scaling, where additional resources are used to incorporate multiple related estimators rather than only enlarging a single predictor. Through theoretical analysis, we show that the gains from estimator scaling are governed by the amount of non-shared predictive variation available across estimators. However, exploiting this variation naively can be expensive: independently trained models provide substantial estimator diversity but require deployment cost to grow with ensemble size. This motivates a parameter-efficient realization of estimator scaling that can incorporate diversity from multiple estimator sources without maintaining multiple full models. Building on this view, we introduce RECursive Averaged Predictor (RECAP), a parameter-efficient recursive CTR model that operationalizes estimator scaling at three levels: distillation across independently trained models, exponential moving averaging over training trajectories, and aggregation over inference-time routes within a weight-shared recursive backbone. Experiments across multiple benchmarks establish new state-of-the-art predictive performance on standard benchmarks, while placing the RECAP on a favorable performance-parameter Pareto frontier.
- Abstract(参考訳): Click-Through Rate予測は、リコメンデーションと広告システムにおける中核的なタスクであり、スパースカテゴリの特徴間の相互作用のモデリングに依存している。
明示的クロスネットワークは、CTR予測の中心パラダイムであり、近年の進歩は、より深いクロスネットワークとより表現力のあるクロス演算子を通じて、単一の予測子の相互作用能力を増加させることにある。
我々は、継続的な相互作用能力の増大が予測性能を改善する最も効果的な方法であるかどうかを再考し、その利点が、キャパシティが成長を続けるにもかかわらず、すぐに減少するリターンを示すことを発見した。
これは、推定器スケーリングと呼ばれる補完的なスケーリングの方向性を動機付けており、単一の予測器を拡大するだけでなく、複数の関連する推定器を組み込むために追加のリソースが使用される。
理論的解析により、推定器のスケーリングから得られる利得は、推定器間で利用可能な非共有予測変動の量によって制御されることを示す。
独立に訓練されたモデルは、かなりの推定値の多様性を提供するが、アンサンブルサイズで成長するためには、デプロイメントコストを必要とする。
これは、複数のフルモデルを維持することなく、複数の推定器源からの多様性を組み込むことができる推定器スケーリングのパラメータ効率の良い実現を動機付けている。
本稿では,ReCursive Averaged Predictor(RECAP)というパラメータ効率のよい再帰的CTRモデルを紹介した。これは,独立に訓練されたモデル間の蒸留,トレーニング軌道上の指数的移動平均化,および重み付き再帰的バックボーン内の推論時間経路上の集約である。
複数のベンチマークにわたる実験は、標準ベンチマークで最先端の予測性能を確立しつつ、RECAPを好ましいパフォーマンスパラメータのParetoフロンティアに配置する。
関連論文リスト
- CaReTS: A Multi-Task Framework Unifying Classification and Regression for Time Series Forecasting [7.600702118055632]
CaReTSは、分類と回帰タスクを組み合わせた新しいマルチタスク学習フレームワークである。
4つの変種(CaReTS1--4)がこのフレームワークの下でインスタンス化され、主流の時間モデリングエンコーダが組み込まれる。
実世界のデータセットの実験では、CaReTSが精度を予測するために最先端(SOTA)アルゴリズムより優れていることが示されている。
論文 参考訳(メタデータ) (2025-11-12T22:43:40Z) - FlowCritic: Bridging Value Estimation with Flow Matching in Reinforcement Learning [8.193127364294034]
既存の研究は、多批判アンサンブルと分布RLによる値関数推定の信頼性を向上させる。
生成モデルにおけるフローマッチングの成功に触発されて,FlowCriticと呼ばれる値推定のための生成パラダイムを提案する。
論文 参考訳(メタデータ) (2025-10-26T14:12:32Z) - MATT-CTR: Unleashing a Model-Agnostic Test-Time Paradigm for CTR Prediction with Confidence-Guided Inference Paths [9.542597285477683]
我々は,訓練されたCTRモデルの予測可能性を解き放つために,モデル非依存テスト時間パラダイム(MATT)を提案する。
特徴組合せの信頼性を定量化するために,階層的確率的ハッシュ法を導入する。
我々は,複数の経路から繰り返しサンプリングを行い,予測スコアを集約し,頑健な予測を行う。
論文 参考訳(メタデータ) (2025-10-10T02:22:55Z) - AdaPRL: Adaptive Pairwise Regression Learning with Uncertainty Estimation for Universal Regression Tasks [0.0]
回帰タスクのための適応型ペアワイズ学習フレームワーク(AdaPRL)を提案する。
AdaPRLは、データポイントと深い確率モデルの間の相対的な差異を利用して、予測に関連する不確実性を定量化する。
実験により、AdaPRLが最近提案された回帰フレームワークにシームレスに統合され、パフォーマンスが向上することが示された。
論文 参考訳(メタデータ) (2025-01-10T09:19:10Z) - Optimizing Sequential Recommendation Models with Scaling Laws and Approximate Entropy [104.48511402784763]
SRモデルの性能法則は,モデルの性能とデータ品質の関係を理論的に調査し,モデル化することを目的としている。
データ品質を評価するために、従来のデータ量メトリクスと比較して、より曖昧なアプローチを示すために、近似エントロピー(ApEn)を提案する。
論文 参考訳(メタデータ) (2024-11-30T10:56:30Z) - Consensus-Adaptive RANSAC [104.87576373187426]
本稿では,パラメータ空間の探索を学習する新しいRANSACフレームワークを提案する。
注意機構は、ポイント・ツー・モデル残差のバッチで動作し、軽量のワンステップ・トランスフォーマーで見いだされたコンセンサスを考慮するために、ポイント・ツー・モデル推定状態を更新する。
論文 参考訳(メタデータ) (2023-07-26T08:25:46Z) - Understanding Augmentation-based Self-Supervised Representation Learning
via RKHS Approximation and Regression [53.15502562048627]
最近の研究は、自己教師付き学習とグラフラプラシアン作用素のトップ固有空間の近似との関係を構築している。
この研究は、増強に基づく事前訓練の統計的分析に発展する。
論文 参考訳(メタデータ) (2023-06-01T15:18:55Z) - IPCC-TP: Utilizing Incremental Pearson Correlation Coefficient for Joint
Multi-Agent Trajectory Prediction [73.25645602768158]
IPCC-TPはインクリメンタルピアソン相関係数に基づく新しい関連認識モジュールであり,マルチエージェントインタラクションモデリングを改善する。
我々のモジュールは、既存のマルチエージェント予測手法に便利に組み込んで、元の動き分布デコーダを拡張することができる。
論文 参考訳(メタデータ) (2023-03-01T15:16:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。