論文の概要: Bridging the Information Gap: Semantic Densification and Hindsight Distillation for Cold-Start Prediction

• arxiv url: http://arxiv.org/abs/2607.17070v1
• Date: Sun, 19 Jul 2026 04:25:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-21 18:48:37.349031
• Title: Bridging the Information Gap: Semantic Densification and Hindsight Distillation for Cold-Start Prediction
• Title（参考訳）: 情報ギャップのブリッジ:コールドスタート予測のためのセマンティックデンシフィケーションとヒンドサイト蒸留
• Abstract要約: 新規ユーザーによるコールドスタートは、Eコマースプラットフォームにとって重要なボトルネックだ。 本稿ではセマンティック推論対応蒸留フレームワークSemRaDを提案する。
• 参考スコア（独自算出の注目度）: 18.058138411763593
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: New-user cold-start is a critical bottleneck for e-commerce platforms: predicting user lifetime value (LTV) and conversion rate (CVR) for users with sparse interaction history. Two prior directions -- LLM-based semantic augmentation and learning using privileged information (LUPI) -- each face a key limitation. First, LLM augmentation produces unstructured rationales that are noisy and hard to operationalize in production. Second, naive student-teacher distillation can be brittle due to an information gap between the privileged teacher and the sparse student; moreover, this gap is heterogeneous across users. We propose SemRaD, a Semantic Reasoning-aware Distillation framework addressing both limitations. First, a Structured Semantic Reasoning Pipeline replaces free-form rationales with a structured schema built via a discover-curate-audit workflow, producing per user a Densified Semantic Profile (consumed by the deployed student via a Semantic-Gated Encoder that focuses on the most informative dimensions) and a Hindsight Distillation Target reconciled from pre- and post-conversion reasoning (used only at training). Second, to bridge this gap and handle its heterogeneity, a Hindsight-Aware Distillation Network transfers privileged knowledge via the hindsight target, with Distillation Experts improving transfer under per-user variability. On a large-scale industrial dataset, SemRaD lifts +1.9% LTV (Gini) and +1.0% CVR (AUROC) over a production-grade base; a four-week online A/B at Keeta confirms +1.0% LTV / +0.43% CVR. SemRaD also matches the production system's LTV using only 9% of the training data while improving CVR by 0.8%.
• Abstract（参考訳）: 新しいユーザによるコールドスタートは、ユーザライフタイムバリュー(LTV)と、疎いインタラクション履歴を持つユーザのためのコンバージョンレート(CVR)を予測するという、Eコマースプラットフォームにとって重要なボトルネックである。 2つの事前方向 -- LLMベースのセマンティック拡張と、特権情報(LUPI)を使用した学習 -- は、それぞれが重要な制限に直面している。 第一に、LLMの拡張は、実運用環境での運用が困難でノイズの多い非構造的論理を生成する。 第二に、特権教師とスパース学生の間に情報ギャップがあるため、ナイーブな学生・教師の蒸留は脆くなり、また、このギャップはユーザ間で異質である。 両制約に対処するセマンティック推論対応蒸留フレームワークSemRaDを提案する。 ひとつは、構造化セマンティック推論パイプライン(Structured Semantic Reasoning Pipeline)、もうひとつは、自由形式の合理性から、発見キュレートされた監査ワークフローを通じて構築された構造化スキーマに置き換えることである。 第二に、このギャップを埋め、その異種性を扱うために、Hindsight-Aware Distillation Networkは、暗黙のターゲットを介して特権的な知識を転送する。 大規模産業データセットでは、SemRaDはプロダクショングレードベースで+1.9%のLTV(Gini)と+1.0%のCVR(AUROC)を持ち上げ、Keetaの4週間のオンラインA/Bでは+1.0%のLTV/+0.43%のCVRを確認している。 SemRaDはまた、トレーニングデータの9%しか使用せず、CVRを0.8%改善している。

関連論文リスト

• Scaling and Stabilizing Large-Scale Embedding-Based Retrieval [16.34687313227663]
  我々は、信号品質とモデル進化の両方に対処する統合パイプラインをウォルマートに展開する。 ドメイン固有の専門知識をレガシモデルから新しいバックボーンに転送するワームスタート蒸留技術を導入する。 提案されたパイプラインは実運用で展開され、NDCG@5で+7.34%改善され、収益で+0.50%上昇した。
  論文  参考訳（メタデータ） (2026-07-11T03:24:26Z)
• Condensing Large-Scale Datasets Directly with Minimal Information Loss [34.43216741538152]
  CIMは、欠陥のあるデュアル圧縮パラダイムを捨てた、新しい、メトリック駆動のフレームワークである。 CIMは、元のデータセットと合成データセットの間の情報ギャップを明示的に定量化し、最小化する。
  論文  参考訳（メタデータ） (2026-07-01T13:21:44Z)
• Self-Distilled RLVR [57.37526213765131]
  特権教師からのみ派生した学習信号が,情報漏洩と不安定な長期学習をもたらすことを示す。 textbfSelf-textbfDistillationを用いたtextbfRLSD(textbfRLVR)を提案する。 これにより、RSSDはRLVRとOPSDの両方の強度を同時に利用でき、高い収束天井と優れたトレーニング安定性を実現することができる。
  論文  参考訳（メタデータ） (2026-04-03T15:50:07Z)
• Semi-Supervised Federated Learning via Dual Contrastive Learning and Soft Labeling for Intelligent Fault Diagnosis [30.60728200709919]
  本稿では,半教師付きフェデレーション学習フレームワークSSFL-DCSLを提案する。 デュアルコントラストロスとソフトラベリングを統合して、データに対処し、分散クライアントのラベル不足に対処する。 最先端の手法で精度を1.15%から7.85%向上させることができる。
  論文  参考訳（メタデータ） (2025-07-12T10:54:23Z)
• Unlearning the Noisy Correspondence Makes CLIP More Robust [13.619912296579402]
  ノイズ対応(NC)サンプルは視覚言語モデル(VLM)の性能を著しく損なう 我々は,学習した雑音の知識を忘れることによって,VLMの堅牢性を効果的に向上する雑音対応学習フレームワークであるNCUを提案する。 様々なダウンストリームタスクに対して,CLIPモデルを用いてアプローチを検証する。
  論文  参考訳（メタデータ） (2025-07-04T09:45:11Z)
• Synthetic Data is an Elegant GIFT for Continual Vision-Language Models [52.343627275005026]
  GIFTはVision-Language Modelsにおける破滅的な忘れを克服するための、新しい連続的な微調整手法である。 我々は、事前学習と下流タスクデータの両方を再現するために、事前学習した拡散モデルを用いる。 提案手法は,様々な設定において従来手法よりも常に優れていた。
  論文  参考訳（メタデータ） (2025-03-06T09:09:18Z)
• Multi-Stage Knowledge Integration of Vision-Language Models for Continual Learning [79.46570165281084]
  蒸留法における人間の学習過程をエミュレートするマルチステージ知識統合ネットワーク(MulKI)を提案する。 Mulkiは、イデオロギーの排除、新しいイデオロギーの追加、イデオロギーの排除、コネクティクスの作りという4つの段階を通じてこれを達成している。 提案手法は,下流タスク間の連続学習をサポートしながら,ゼロショット能力の維持における大幅な改善を示す。
  論文  参考訳（メタデータ） (2024-11-11T07:36:19Z)
• Towards Robust and Parameter-Efficient Knowledge Unlearning for LLMs [25.91643745340183]
  大規模言語モデル(LLM)は、大量のテキストコーパスの事前学習を通じて、強い推論と記憶能力を示す。 これはプライバシーと著作権侵害のリスクを生じさせ、効率的な機械学習手法の必要性を強調している。 LLMの堅牢かつ効率的なアンラーニングを可能にする新しいフレームワークであるLoKUを提案する。
  論文  参考訳（メタデータ） (2024-08-13T04:18:32Z)
• VILA$^2$: VILA Augmented VILA [69.5318347688297]
  自己拡張ステップとスペシャリスト強化ステップを含む,単純で効果的なVLM拡張スキームを導入する。 3ラウンドの自己拡張ラウンドでデータ品質と下流精度の向上を観察する。 VLMの専門家は、空間、接地、OCRなどドメイン固有の専門家とともに自己拡張VLMから抽出し、タスク認識合成データを事前学習段階に融合させる。
  論文  参考訳（メタデータ） (2024-07-24T17:37:05Z)
• Mind the Interference: Retaining Pre-trained Knowledge in Parameter Efficient Continual Learning of Vision-Language Models [79.28821338925947]
  ドメインクラスのインクリメンタル学習は現実的だが、継続的な学習シナリオである。 これらの多様なタスクに対処するために、事前訓練されたビジョンランゲージモデル(VLM)を導入し、その強力な一般化性を実現する。 事前訓練されたVLMにエンコードされた知識は、新しいタスクに適応する際に妨げられ、固有のゼロショット能力を損なう。 既存の手法では、膨大なオーバーヘッドを必要とする余分なデータセットに知識蒸留でVLMをチューニングすることで、この問題に対処している。 我々は、事前学習した知識を保持できるDIKI(Distributed-Aware Interference-free Knowledge Integration)フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-07T12:19:37Z)
• Towards Accurate Knowledge Transfer via Target-awareness Representation Disentanglement [56.40587594647692]
  本稿では,TRED(Target-Awareness Representation Disentanglement)の概念を取り入れた新しいトランスファー学習アルゴリズムを提案する。 TREDは、対象のタスクに関する関連する知識を元のソースモデルから切り離し、ターゲットモデルを微調整する際、レギュレータとして使用する。 各種実世界のデータセットを用いた実験により,本手法は標準微調整を平均2%以上安定的に改善することが示された。
  論文  参考訳（メタデータ） (2020-10-16T17:45:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。