Fugu-MT 論文翻訳(概要): Building a User Foundation Model for the Open Web

論文の概要: Building a User Foundation Model for the Open Web

arxiv url: http://arxiv.org/abs/2607.28019v1
Date: Thu, 30 Jul 2026 11:07:54 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-31 21:37:00.518269
Title: Building a User Foundation Model for the Open Web
Title（参考訳）: Open Webのためのユーザ基盤モデルの構築
Abstract要約: ユーザ閲覧履歴に自己教師型学習を適用したユーザ基盤モデルを提案する。学習した表現が複数の下流生産タスクを改善することを示す。
参考スコア（独自算出の注目度）: 2.097346573871652
License: http://creativecommons.org/licenses/by/4.0/
Abstract: User foundation models have demonstrated strong results in e-commerce and social recommendation, but most industrial deployments assume environments where user identity is stable and persistent. Open-web real-time bidding (RTB) operates on a structurally different data distribution: user identity is fragmented and non-persistent across browsing sessions, and the availability of browsing history depends on user privacy choices. Consequently, a significant portion of traffic carries no historical data, and available records often consist of relatively short, disjointed sessions. As a result, historical signals in this domain are typically represented as aggregated counters and recency buckets, leaving the sequential structure unexploited. To address this limitation, we present a user foundation model that applies self-supervised learning on user browsing histories and show that the learned representation improves multiple downstream production tasks, demonstrating the viability of this approach on the open web. We pre-train a Transformer encoder with masked language modeling and a sequence-level contrastive objective, then fine-tune it on the click prediction task. We optimize the encoder's pre-training pipeline with an LLM-in-the-loop search over a curated catalog of reviewable, code-level edits (lifters), instantiating the LLM-as-optimizer paradigm in an industrial setting. The same encoder representation yields +1.197% RIG on the production bid win-rate model and +1.354% RIG on the production CTR ranker; a 7-day live A/B test confirms +2.13% CTR, -1.13% eCPC (80% CI excluding zero on both metrics).
Abstract（参考訳）: ユーザ基盤モデルは、電子商取引やソーシャルレコメンデーションにおいて強力な結果を示しているが、ほとんどの産業展開は、ユーザアイデンティティが安定し永続的な環境を前提としている。 Open-web Real-time bidding (RTB) は、構造的に異なるデータ分散を運用している: ユーザアイデンティティは、ブラウジングセッション間で断片化され、永続的であり、ブラウジング履歴の可用性は、ユーザのプライバシ選択に依存する。その結果、トラフィックのかなりの部分は歴史的なデータを持っておらず、利用可能な記録は比較的短くて不定期なセッションで構成されていることが多い。結果として、この領域の歴史的信号は通常、集約されたカウンタとレレンシバケットとして表現され、シーケンシャルな構造は明らかにされていない。この制限に対処するために、ユーザ閲覧履歴に自己教師付き学習を適用し、学習した表現が複数の下流生産タスクを改善し、オープンウェブ上でのこのアプローチの実現可能性を示すユーザ基盤モデルを提案する。我々は、マスク付き言語モデリングとシーケンスレベルのコントラスト目的を用いたTransformerエンコーダを事前訓練し、クリック予測タスクで微調整する。我々は,LLM-as-optimizerパラダイムを産業環境でインスタンス化し,レビュー可能なコードレベルの編集(リフト)のカタログ上で,LLM-in-the-loopサーチを用いて,エンコーダの事前学習パイプラインを最適化する。同じエンコーダの表現は、生産入札の勝利率モデルで+1.197%、生産CTRランキングで+1.354%、生産CTRで+1.354%、そして7日間のライブA/Bテストで+2.13%、eCPCで+1.13%である(両方の指標で0を除いた80% CI)。

関連論文リスト

From Clicks to Intent: Cross-Platform Session Embeddings with LLM-Distilled Taxonomy for Financial Services Recommendations [35.562512604326]
本稿では,Web ベースインタラクションのためのスケーラブルで多目的な意図予測フレームワークを提案する。我々の手法は、生のウェブクリックストリームを2つの出力に変換する: 自己教師型トランスフォーマーは、マルチモーダルなクリックストリームをコンパクトなセッション埋め込みに変換する。本システムでは,LLM蒸留と組み合わせた自己教師型クリックストリーム表現が,生産における定量的タスクと質的理解の両立を図っている。
論文参考訳（メタデータ） (2026-06-24T18:18:56Z)
TokenMinds: Pretrained User Tokens and Embeddings for User Understanding in Large Recommender Systems [22.086361560657593]
TokenMindsはPLUMフレームワークをアイテム検索からユーザモデリングまで拡張する産業規模のシステムである。個別のSIDベースのユーザトークンと、事前訓練されたLLMから適応したエンコーダデコーダアーキテクチャにより、密なユーザ埋め込みの両方を生成する。
論文参考訳（メタデータ） (2026-06-23T20:20:37Z)
Dooly: Configuration-Agnostic, Redundancy-Aware Profiling for LLM Inference Simulation [7.365191900032772]
プロファイルベースのシミュレータは標準的なツールだが、特定の設定に設定した操作をハードコードし、スクラッチからすべての操作を再認識する。それぞれの操作の入力次元はモデル構成によって固定されるか、受信要求によって決定される。構成に依存しない冗長性を考慮したプロファイリングを実現するために,この構造を利用するDoolyを提案する。
論文参考訳（メタデータ） (2026-05-08T16:44:47Z)
Action-Aware Generative Sequence Modeling for Short Video Recommendation [50.74467504063892]
ショートビデオには様々な部分が含まれており、ユーザーはそれらすべてに対して同じ態度を取ることはできない。従来のバイナリ分類レコメンデーションモデルは、ビデオを単一の全体的エンティティとして扱うが、そのような微妙な好みを正確に捉えるには限界に直面している。本稿では,時間的次元に沿ってユーザアクションを洗練させる行動認識生成系列ネットワーク(A2Gen)を提案する。
論文参考訳（メタデータ） (2026-04-28T16:41:04Z)
Query as Anchor: Scenario-Adaptive User Representation via Large Language Model [28.30329175937291]
静的エンコーディングから動的クエリ認識合成へユーザモデリングをシフトするフレームワークであるQuery-as-Anchorを提案する。まず,産業規模の事前学習データセットであるUserUを構築し,行動系列とユーザ理解のセマンティクスを整合させる。クラスタベースのSoft Prompt Tuningを導入し、識別潜在構造を強制する。デプロイメントでは、シーケンスターミニでのクエリのアンカーにより、無視可能なインクリメンタルレイテンシでKVキャッシュを加速する推論が可能になる。
論文参考訳（メタデータ） (2026-02-16T06:09:31Z)
GenCI: Generative Modeling of User Interest Shift via Cohort-based Intent Learning for CTR Prediction [84.0125708499372]
本稿では,クリックスルー率(CTR)予測のためのユーザ嗜好をモデル化するための生成ユーザ意図フレームワークを提案する。このフレームワークはまず、次の項目の予測目標で訓練された生成モデルを使用して、候補の関心コホートを積極的に生成する。階層的候補認識ネットワークは、このリッチなコンテキスト信号をランキングステージに注入し、ユーザ履歴とターゲットアイテムの両方に適合するように、クロスアテンションで精製する。
論文参考訳（メタデータ） (2026-01-26T08:15:04Z)
SessionIntentBench: A Multi-task Inter-session Intention-shift Modeling Benchmark for E-commerce Customer Behavior Understanding [64.45047674586671]
本稿では,意図木の概念を導入し,データセットキュレーションパイプラインを提案する。我々は,L(V)LMsのセッション間意図シフト理解能力を評価するマルチモーダルベンチマークSessionIntentBenchを構築した。 1,952,177の意図的エントリ,1,132,145のセッション意図軌跡,および10,905のセッションを使用してマイニングされた13,003,664のタスクにより,既存のセッションデータを活用可能なスケーラブルな方法を提供する。
論文参考訳（メタデータ） (2025-07-27T09:04:17Z)
MMGRec: Multimodal Generative Recommendation with Transformer Model [81.61896141495144]
MMGRecは、マルチモーダルレコメンデーションに生成パラダイムを導入することを目指している。まず,階層的な量子化手法であるGraph CF-RQVAEを考案し,各項目にRec-IDを割り当てる。次に、Transformerベースのレコメンデータをトレーニングし、過去のインタラクションシーケンスに基づいて、ユーザが推奨するアイテムのRec-IDを生成する。
論文参考訳（メタデータ） (2024-04-25T12:11:27Z)
Breaking the Length Barrier: LLM-Enhanced CTR Prediction in Long Textual User Behaviors [25.086118164540974]
大型言語モデル(LLM)はクリックスルー率(CTR)予測の性能を向上させるために用いられる。ユーザシーケンスが長くなるにつれて、LLMの現在の効率は数十億のユーザやアイテムのトレーニングに不十分である。我々は,LLMに基づくCTRモデリングの効率を高めるために,行動集約階層(BAHE)を提案する。
論文参考訳（メタデータ） (2024-03-28T12:05:15Z)
FedAvg with Fine Tuning: Local Updates Lead to Representation Learning [54.65133770989836]
Federated Averaging (FedAvg)アルゴリズムは、クライアントノードでのいくつかのローカルな勾配更新と、サーバでのモデル平均更新の交互化で構成されている。我々は、FedAvgの出力の一般化の背景には、クライアントのタスク間の共通データ表現を学習する能力があることを示す。異種データを用いたフェデレーション画像分類におけるFedAvgの表現学習能力を示す実証的証拠も提供する。
論文参考訳（メタデータ） (2022-05-27T00:55:24Z)
End-to-End Object Detection with Transformers [88.06357745922716]
本稿では,オブジェクト検出を直接セット予測問題とみなす新しい手法を提案する。我々のアプローチは検出パイプラインを合理化し、手作業で設計された多くのコンポーネントの必要性を効果的に除去する。この新しいフレームワークの主な構成要素は、Detection TRansformerまたはDETRと呼ばれ、セットベースのグローバルな損失である。
論文参考訳（メタデータ） (2020-05-26T17:06:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。