論文の概要: LLM-HYPER: Generative CTR Modeling for Cold-Start Ad Personalization via LLM-Based Hypernetworks
- arxiv url: http://arxiv.org/abs/2604.12096v1
- Date: Mon, 13 Apr 2026 22:12:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-15 19:11:32.139299
- Title: LLM-HYPER: Generative CTR Modeling for Cold-Start Ad Personalization via LLM-Based Hypernetworks
- Title(参考訳): LLM-HYPER: LLM-based Hypernetworksによるコールドスター広告パーソナライゼーションのための生成CTRモデリング
- Authors: Luyi Ma, Wanjia Sherry Zhang, Zezhong Fan, Shubham Thakur, Kai Zhao, Kehui Yao, Ayush Agarwal, Rahul Iyer, Jason Cho, Jianpeng Xu, Evren Korpeoglu, Sushant Kumar, Kannan Achan,
- Abstract要約: LLM-HYPERは、大規模言語モデルをハイパーネットワークとして扱い、CTR(Click-through rate)推定器のパラメータをトレーニングなしで生成する。
大規模なオフライン実験により、LCM-HYPERはNDCG$@10$のコールドスタートベースラインを55.9%上回った。
LLM-HYPERの強力なパフォーマンスを実世界のオンラインA/Bテストが示すのは、米国のeコマースプラットフォームのトップのひとつだ。
- 参考スコア(独自算出の注目度): 10.426127907431772
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: On online advertising platforms, newly introduced promotional ads face the cold-start problem, as they lack sufficient user feedback for model training. In this work, we propose LLM-HYPER, a novel framework that treats large language models (LLMs) as hypernetworks to directly generate the parameters of the click-through rate (CTR) estimator in a training-free manner. LLM-HYPER uses few-shot Chain-of-Thought prompting over multimodal ad content (text and images) to infer feature-wise model weights for a linear CTR predictor. By retrieving semantically similar past campaigns via CLIP embeddings and formatting them into prompt-based demonstrations, the LLM learns to reason about customer intent, feature influence, and content relevance. To ensure numerical stability and serviceability, we introduce normalization and calibration techniques that align the generated weights with production-ready CTR distributions. Extensive offline experiments show that LLM-HYPER significantly outperforms cold-start baselines in NDCG$@10$ by 55.9\%. Our real-world online A/B test on one of the top e-commerce platforms in the U.S. demonstrates the strong performance of LLM-HYPER, which drastically reduces the cold-start period and achieves competitive performance. LLM-HYPER has been successfully deployed in production.
- Abstract(参考訳): オンライン広告プラットフォームでは、モデルトレーニングに十分なユーザーフィードバックがないため、新しく導入されたプロモーション広告がコールドスタートの問題に直面している。
本研究では,大規模言語モデル (LLM) をハイパーネットワークとして扱う新しいフレームワーク LLM-HYPER を提案し,クリックスルーレート (CTR) 推定器のパラメータを直接学習自由な方法で生成する。
LLM-HYPERは、数ショットのChain-of-Thoughtを使用して、マルチモーダル広告コンテンツ(テキストと画像)の上にプロンプトし、線形CTR予測器の機能的モデル重みを推測する。
CLIPの埋め込みを通じてセマンティックに類似した過去のキャンペーンを検索し、それらをプロンプトベースのデモにフォーマットすることで、LLMは顧客意図、機能の影響、コンテンツ関連性について推論することを学ぶ。
数値安定性とサービス性を確保するため,生成した重みを生産可能なCTR分布と整合させる正規化と校正手法を導入する。
大規模なオフライン実験により、LCM-HYPERはNDCG$@10$のコールドスタートベースラインを55.9%上回った。
LLM-HYPERはコールドスタート期間を大幅に短縮し、競争力のあるパフォーマンスを実現しています。
LLM-HYPERは運用に成功している。
関連論文リスト
- LLM-I: LLMs are Naturally Interleaved Multimodal Creators [24.64752837827959]
LLM-Interleaved (LLM-I) は、ツールユース問題としてインターリーブド画像テキスト生成を再設計するフレキシブルで動的フレームワークである。
我々のフレームワークは、中央のLLMエージェントやMLLMエージェントに、特殊な視覚ツールの多種多様なツールキットをインテリジェントにオーケストレーションする権限を与えます。
LLM-Iは最先端のパフォーマンスを実証し、4つのベンチマークで既存の手法をはるかに上回っている。
論文 参考訳(メタデータ) (2025-09-17T02:33:29Z) - ELEC: Efficient Large Language Model-Empowered Click-Through Rate Prediction [4.529095808378697]
クリックスルー率(CTR)予測は、オンライン広告システムにおいて重要な役割を果たす。
LLMはテキストの背後にあるコンテキストと意味を理解するのに優れていますが、協調的なシグナルをキャプチャする上での課題に直面します。
本稿では,両モデルの利点を活用し,コラボレーション,セマンティクス,効率性を追求することを目的とする。
論文 参考訳(メタデータ) (2025-09-09T11:06:37Z) - A Little Help Goes a Long Way: Efficient LLM Training by Leveraging Small LMs [74.35290684163718]
大規模言語モデル(LLM)開発における最大の課題は、その面倒な事前トレーニングコストである。
本稿では,小言語モデル(SLM)を活用して,LLMの事前学習効率と品質を改善するための有望なパラダイムについて検討する。
論文 参考訳(メタデータ) (2024-10-24T14:31:52Z) - Self-Play Fine-Tuning Converts Weak Language Models to Strong Language Models [52.98743860365194]
本稿では,SPIN(Self-Play fIne-tuNing)と呼ばれるファインチューニング手法を提案する。
SPINの中心には自己再生機構があり、LLMは自身のインスタンスと対戦することでその能力を洗練させる。
このことは、自己プレイの約束に光を当て、熟練した相手を必要とせずに、LSMにおける人間レベルのパフォーマンスの達成を可能にする。
論文 参考訳(メタデータ) (2024-01-02T18:53:13Z) - From Quantity to Quality: Boosting LLM Performance with Self-Guided Data Selection for Instruction Tuning [52.257422715393574]
本稿では,Large Language Models (LLMs) の自己誘導手法を導入し,オープンソースデータセットからサクラサンプルを自動識別し,選択する。
我々の重要な革新である命令追従困難度(IFD)メトリックは、モデルが期待する応答と本質的な生成能力の相違を識別するための重要な指標として現れます。
論文 参考訳(メタデータ) (2023-08-23T09:45:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。