論文の概要: Memento: Personalized RAG-Style Long-Retention Data Scaling for META Ads Recommendation
- arxiv url: http://arxiv.org/abs/2605.24051v1
- Date: Fri, 22 May 2026 00:12:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 15:02:31.466658
- Title: Memento: Personalized RAG-Style Long-Retention Data Scaling for META Ads Recommendation
- Title(参考訳): Memento: META広告推奨のためのパーソナライズされたRAGスタイルの長期保持データスケーリング
- Abstract要約: 我々は,履歴ユーザのエンゲージメントをドキュメントコーパスとして扱い,広告要求をクエリとして扱う,パーソナライズされた検索拡張フレームワークであるMementoを紹介した。
Mementoは1日10ms以下のレイテンシで処理し、クリックスルーと変換予測の両方で0.25-0.3%の正規化エントロピーゲインを得る。
- 参考スコア(独自算出の注目度): 16.367591533012273
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Modeling of long history data suffers from long-context window attention dilution, system efficiency and catastrophic forgetting problems, where naive linear scaling approach like LastN would fail. We introduce Memento, a personalized retrieval-augmented framework that treats historical user engagements as a document corpus and ad requests as queries, retrieving relevant interactions via Maximal Marginal Relevance (MMR) to balance similarity with diversity. We identify two complementary applications: Representation Memento, which retrieves historical embeddings for feature augmentation, and Data Memento, which retrieves past training examples for multipass training. Through infrastructure co-design -- temporal chunking, INT8 quantization, and asynchronous serving -- Memento achieves 5-10$\times$ resource efficiency over linear scaling. Memento processes daily requests with sub-10ms latency, yielding 0.25-0.3% Normalized Entropy gain on both click-through and conversion prediction. In production, Memento delivers a 1% CTR lift on Facebook Feed and Reels and a 1.2% CVR lift, scaling personalization to 365+ days of history.
- Abstract(参考訳): 長い履歴データのモデリングは、LastNのような単純な線形スケーリングアプローチが失敗する、長いコンテキストの窓の注意の希釈、システムの効率、破滅的な忘れの問題に悩まされる。
本稿では,過去のユーザエンゲージメントをドキュメントコーパスとして扱い,広告要求をクエリとして扱い,MMR(Maximal Marginal Relevance)を介して関連するインタラクションを検索して,多様性と類似性をバランスさせる,パーソナライズされた検索拡張フレームワークであるMementoを紹介する。
特徴拡張のための履歴埋め込みを検索するRepresentation Mementoと、マルチパストレーニングのための過去のトレーニング例を検索するData Mementoの2つの補完的応用を識別する。
インフラストラクチャの共同設計 -- 時間的チャンク、INT8量子化、非同期サービス -- を通じて、Mementoは、線形スケーリングよりも5-10$\times$リソース効率を達成した。
Mementoは10ms以下のレイテンシで日々のリクエストを処理し、クリックスルーと変換予測の両方で0.25-0.3%の正規化エントロピーゲインを得る。
プロダクションでは、Facebook Feed and Reelsで1%のCTRリフトと1.2%のCVRリフトを提供し、365日以上の履歴にパーソナライズする。
関連論文リスト
- SequenceO1: End-to-End Ultra-Long (100K) Sequence Modeling in Recommendation with Low-Rank Caching [17.335538522124555]
SequenceO1は、超長期のユーザ行動シーケンスモデリングのためのエンドツーエンドフレームワークである。
Douyinのフルトラフィックにデプロイされ、最大100Kのインタラクション履歴がある。
結果は、オフラインとオンラインの連続的なゲインを示しているが、スケッチは、エンドツーエンドのシーケンスランキングを直接100Kにスケーリングするメリットの大部分を保っている。
論文 参考訳(メタデータ) (2026-09-08T08:49:44Z) - SlimPer: Make Personalization Model Slim and Smart [20.68857468213109]
SlimPer は,コンパクトで統一されたユーザ,項目> 知識基盤の反復的改良としてパーソナライズされたランキングを再構築する。
SlimPerは単一のバックボーン内でスパース、シークエンス、シークエンス機能を統一し、アテンションメカニズムを通じて固有の解釈性を提供する。
論文 参考訳(メタデータ) (2026-07-14T02:31:32Z) - Akashic: A Low-Overhead LLM Inference Service with MemAttention [24.632531185056262]
本稿では,MemAttentionを中心に構築された低オーバーヘッドメモリシステムであるAkashicを提案する。
Akashicはコンテキストを境界チャンクに整理し、チャンク間のセマンティックな関係をモデル化する。
Akashicはタスクの精度を最大10.2ポイント、スループットを最大1.21倍、リクエストレートを最大1.88倍改善する。
論文 参考訳(メタデータ) (2026-07-07T00:06:22Z) - Planning over Matrix-Factorization MDPs for Candidate Generation [0.0]
我々は、暗黙のALS後段$(A-1,u)$に対して、トップ$K$検索をMDPとしてキャストすることを提案する。
ワンステップのルックアヘッドはすでに利益のほとんどを捉えているので、軽量のプランニング層は静的のトップ$K$スコアを短い決定に切り替える。
論文 参考訳(メタデータ) (2026-07-02T12:50:45Z) - UniPinRec: Unifying Generative Retrieval and Ranking at Pinterest Scale [13.323495829411577]
Pinterestにおける検索とランキングのフルスタック統合を実現するUniPinRecを提案する。
UniPinRecは、約1%のオンラインエンゲージメントリフトを提供し、エンドツーエンドのサービスレイテンシを11.1%削減し、QPSを63.6%引き上げている。
論文 参考訳(メタデータ) (2026-05-29T23:17:34Z) - Towards Generalizable and Efficient Large-Scale Generative Recommenders [5.085303286789844]
生成レコメンデーションモデルは、ユーザの振る舞いをイベントのシーケンスとしてモデル化し、複数のレコメンデーションタスクのための共有バックボーンを提供する。
本稿では,2Mから1Bのバックボーンパラメータへの生成レコメンデータのスケーリング経験について述べる。
全体としては,タスクのヘッダー,デコードコスト,サービスレイテンシのアライメント,アイテムの一般化とともに,モデルスケールを生産移行問題の1つのコンポーネントとして扱うことを支援する。
論文 参考訳(メタデータ) (2026-05-22T07:31:00Z) - GenRec: A Preference-Oriented Generative Framework for Large-Scale Recommendation [14.663434490160016]
我々は、JD App上にデプロイされた嗜好指向の生成フレームワークであるGenRecを紹介する。
月のオンラインA/Bテストでは、GenRecは9.5%のクリック数の改善と8.7%のトランザクション数を達成した。
論文 参考訳(メタデータ) (2026-04-16T11:07:05Z) - To Memorize or to Retrieve: Scaling Laws for RAG-Considerate Pretraining [24.61808957290675]
本研究では,事前学習コーパスサイズと検索ストアサイズとのトレードオフを,広範囲のモデルとデータスケールで検討する。
モデルスケール全体にわたるパラメトリックのみのベースラインよりも,検索が一貫してパフォーマンスを向上させることが判明した。
論文 参考訳(メタデータ) (2026-04-01T10:26:03Z) - PERMA: Benchmarking Personalized Memory Agents via Event-Driven Preference and Realistic Task Environments [72.02445514666428]
静的な嗜好リコールを超えてペルマの一貫性を評価するためのベンチマークであるPERMAを紹介する。
PerMAは、複数のセッションとドメインにまたがる時間的に順序付けられたインタラクションイベントと、時間とともに好みに関連するクエリで構成されている。
実験により、関連するインタラクションをリンクすることで、高度なメモリシステムはより正確な好みを抽出し、トークン消費を減らすことができることが示された。
論文 参考訳(メタデータ) (2026-03-24T14:04:11Z) - Towards Multimodal Lifelong Understanding: A Dataset and Agentic Baseline [58.585692088008905]
MM-Lifelongはマルチモーダルライフロング理解のために設計されたデータセットである。
撮影時間は181.1時間で、日、週、月の各スケールにまたがって構成され、様々な時間密度を捉えている。
論文 参考訳(メタデータ) (2026-03-05T18:52:12Z) - Save, Revisit, Retain: A Scalable Framework for Enhancing User Retention in Large-Scale Recommender Systems [1.4937608608681092]
ユーザーが以前保存されたコンテンツを見るために戻るとき、ユーザーの保持の鍵となる指標は、再考である。
特定のユーザーアクションやコンテンツ露出がリビジットを引き起こすかは、しばしば不明である。
我々は、リビテーション行動のモデリングのための、新しく、軽量で、解釈可能なフレームワークを導入する。
論文 参考訳(メタデータ) (2025-11-22T10:27:20Z) - MemSearcher: Training LLMs to Reason, Search and Manage Memory via End-to-End Reinforcement Learning [73.27233666920618]
本稿では,メモリを反復的に保持し,現在のターンと組み合わせたエージェントワークフローであるMemSearcherを提案する。
それぞれのターンで、MemSearcherはユーザーの質問をメモリに融合させ、推論トレースを生成し、検索アクションを実行し、メモリを更新してタスクの解決に必要な情報のみを保持する。
我々は,MemSearcher Agents の推論,検索戦略,メモリ管理を協調的に最適化する,エンドツーエンドの RL フレームワークである Multi-context GRPO を紹介する。
論文 参考訳(メタデータ) (2025-11-04T18:27:39Z) - Memento: Note-Taking for Your Future Self [19.335552697328783]
本稿では,まず複雑な質問を小さなステップに分解し,次に LLM を用いて事実のデータベースを動的に構築するプロンプト戦略を提案する。
私たちがMementoと呼ぶこの3段階戦略によって、さまざまな設定で既存のプロンプト戦略のパフォーマンスが向上することを示す。
論文 参考訳(メタデータ) (2025-06-25T17:37:59Z) - RAP: Retrieval-Augmented Personalization for Multimodal Large Language Models [53.304699445700926]
MLLMのパーソナライズのための検索強化パーソナライズフレームワークについて紹介する。
一般的なMLLMから始まり、3つのステップでパーソナライズされたアシスタントにします。
大規模データセットを事前トレーニングすることにより、RAP-MLLMは、追加の微調整なしで無限の視覚概念に一般化することができる。
論文 参考訳(メタデータ) (2024-10-17T09:10:26Z) - Training-Free Exponential Context Extension via Cascading KV Cache [49.608367376911694]
カスケードサブキャッシュバッファを利用して,最も関連性の高いトークンを選択的に保持する機構を導入する。
本手法は,1Mトークンのフラッシュアテンションと比較して,プリフィルステージ遅延を6.8倍削減する。
論文 参考訳(メタデータ) (2024-06-24T03:59:17Z) - Dynamic Memory based Attention Network for Sequential Recommendation [79.5901228623551]
DMAN(Dynamic Memory-based Attention Network)と呼ばれる新しい連続的推薦モデルを提案する。
長い動作シーケンス全体を一連のサブシーケンスに分割し、モデルをトレーニングし、ユーザの長期的な利益を維持するためにメモリブロックのセットを維持する。
動的メモリに基づいて、ユーザの短期的および長期的関心を明示的に抽出し、組み合わせて効率的な共同推薦を行うことができる。
論文 参考訳(メタデータ) (2021-02-18T11:08:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。