論文の概要: RecPFN: Prior-Fitted Networks for In-Context-Based Recommendations
- arxiv url: http://arxiv.org/abs/2608.19735v1
- Date: Thu, 20 Aug 2026 07:35:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-21 20:28:51.483284
- Title: RecPFN: Prior-Fitted Networks for In-Context-Based Recommendations
- Title(参考訳): RecPFN: In-Context-based Recommendationsのためのプレフィルタネットワーク
- Abstract要約: 本稿では,コンテクスト内学習を逐次推奨するネットワークRecPFNを紹介する。
RecPFNは、広く構造的な因果関係からサンプリングされた合成クリックストリーム環境に完全に事前訓練されている。
ウェイト更新なしで、単一のフォワードパスでクエリの次のイテム予測を生成する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We introduce RecPFN, a prior-fitted network that brings in-context learning to sequential recommendation. RecPFN is pretrained entirely on synthetic clickstream environments sampled from a broad structural causal prior, enabling it to amortize Bayesian-style inference from a small support set. At inference, a lightweight decoder-only transformer conditions on a handful of domain sequences and produces next-item predictions for queries in a single forward pass, without any weight updates. Across eight public benchmarks, RecPFN achives state-of-the-art zero-shot performance while remaining strongly competitive with supervised methods in low-compute and low-data regimes. It is deployment-efficient and robust to domain shift, outperforming strong zero-shot baselines that rely on large real-interaction corpora. RecPFN provides a practical path toward generalizable, data-efficient recommenders and opens avenues for richer priors, longer-context ICL, and multimodal extensions. Code for training and evaluation is publicly available at https://github.com/SAP-samples/tabular-ai-recpfn/.
- Abstract(参考訳): 本稿では,コンテクスト内学習を逐次推奨するネットワークRecPFNを紹介する。
RecPFNは、広く構造的な因果関係からサンプリングされた合成クリックストリーム環境に完全に事前訓練されており、小さなサポートセットからベイズ式の推論を和らげることができる。
推論では、軽量なデコーダのみのトランスフォーマーが、いくつかのドメインシーケンス上で条件を指定し、単一のフォワードパスでクエリの次イテム予測を生成する。
8つの公開ベンチマークにおいて、RecPFNは最先端のゼロショット性能を達成しつつ、低計算および低データ体制における教師あり手法と強く競合する。
デプロイ効率が良く、ドメインシフトに対して堅牢であり、大規模な実相互作用コーパスに依存する強力なゼロショットベースラインよりも優れています。
RecPFNは、一般化可能でデータ効率のよいレコメンデータへの実践的な道を提供し、よりリッチな事前、より長いコンテキストのICL、マルチモーダル拡張のための道を開く。
トレーニングと評価のためのコードはhttps://github.com/SAP-samples/tabular-ai-recpfn/で公開されている。
関連論文リスト
- Hierarchical Residual Policy Optimization for Generative Recommendations [46.030303420508254]
本稿では,アイテムレベルの結果を高密度なトークン整合学習信号に変換するポストトレーニングフレームワークを提案する。
大規模な商用システムにおける公開データセットとオンラインA/Bテストの実験は、セッションレベルのユーティリティと重要なビジネスメトリクスが一貫して向上していることを示している。
論文 参考訳(メタデータ) (2026-08-01T16:33:15Z) - One Sequential Recommendation Model Pretrained from Synthetic Priors Predicts Multiple Datasets [30.22142935273037]
逐次レコメンデーションのための事前データフィットネットワークであるSRPFNを提案する。
SRPFNは、1つのフォワードパスにおける次の項目を、ターゲットドメインの勾配ベースのパラメータ更新なしで予測する。
論文 参考訳(メタデータ) (2026-06-14T11:28:32Z) - PRISMR: Overcoming Parse Collapse in Multimodal Listwise Ranking via Parameterized Representation Internalization [49.659739762240655]
LMM(Large Multimodal Models)を用いたジェネレーティブ・リストワイド・ランキングは,グローバル・リストのコンテキストを単一の前方通過で捉えることを目的としている。
自動回帰デコーダは、無音で候補を省略し、早期に終了することで、流動的で不完全なランク付けを発生させる。
PRISMRは、一貫したコンテキスト内リスト処理をパラメトリックな構造条件に置き換えるフレームワークである。
論文 参考訳(メタデータ) (2026-06-11T06:09:51Z) - Towards On-Policy SFT: Distribution Discriminant Theory and its Applications in LLM Training [61.1421888242439]
Supervised Fine-tuning (SFT) は計算効率が良いが、強化学習 (RL) に比べて一般化が劣ることが多い。
そこで我々は,オンポリシィSFTを有効にすることで,このシャームを橋渡しするフレームワークを提案する。
論文 参考訳(メタデータ) (2026-02-12T17:59:58Z) - Coverage Improvement and Fast Convergence of On-policy Preference Learning [67.36750525893514]
言語モデルアライメントのためのオンラインのオンラインプライオリティ学習アルゴリズムは、オフラインのアルゴリズムよりも大幅に優れている。
我々は,サンプリング政策の包括的範囲が政治訓練を通じてどのように進展するかを分析する。
一般機能クラス設定における報奨蒸留のための原則的オンライン方式を開発した。
論文 参考訳(メタデータ) (2026-01-13T10:46:06Z) - Holdout-Loss-Based Data Selection for LLM Finetuning via In-Context Learning [19.677969862434708]
本稿では,データ選択と再重み付けのための理論的に基礎的,資源効率のよいフレームワークを提案する。
In-Context Approximation (ICA) は、モデルが候補の例でトレーニングした後のホールドアウト損失を推定する。
モデルパラメータの進化に伴い, ICAスコアから指数重みを導出し, 勾配更新を動的に再加重する。
論文 参考訳(メタデータ) (2025-10-16T09:00:39Z) - Cooperative Pseudo Labeling for Unsupervised Federated Classification [62.9387841396335]
Unsupervised Federated Learning (UFL)は、データを共有したりラベル情報にアクセスしたりすることなく、分散クライアント間でグローバルモデルを協調的にトレーニングすることを目的としている。
我々は、新しい方法、 underlinetextbfFederated underlinetextbfCooperative underlinetextbfPseudo underlinetextbfLabeling (textbfFedCoPL)を提案する。
特に、一般的な画像特徴を含む視覚的プロンプトをサーバに集約し、パーソナライズされた知識をコードするテキストプロンプトをローカルに保持する。
論文 参考訳(メタデータ) (2025-10-11T08:18:26Z) - Efficient Cold-Start Recommendation via BPE Token-Level Embedding Initialization with LLM [1.1049570075807806]
本稿では,サブワードレベルの表現に基づく効率的なコールドスタートレコメンデーション戦略を提案する。
BPE語彙に整合したきめ細かいトークンレベルのベクトルを得る。
サブワード認識埋め込みを用いることで、より一般化し、より解釈可能であることを示す。
論文 参考訳(メタデータ) (2025-09-16T15:32:51Z) - RecBase: Generative Foundation Model Pretraining for Zero-Shot Recommendation [78.01030342481246]
RecBaseは、レコメンデーション指向の目的によって事前訓練されたドメインに依存しない基礎モデルである。
アイテムを階層的な概念識別子にエンコードする統一されたアイテムトークンを導入します。
我々のモデルは、ゼロショットおよびクロスドメインレコメンデーションタスクにおいて、LLMのベースラインの最大7Bパラメータのパフォーマンスを一致または超過します。
論文 参考訳(メタデータ) (2025-09-03T08:33:43Z) - Prefix Grouper: Efficient GRPO Training through Shared-Prefix Forward [10.640867597958863]
提案するPrefix Grouperは,より効率的なGRPO学習アルゴリズムであり,Shared-Prefix Forward戦略を用いて冗長なプレフィックスを除去する。
自己注意を2つの部分に再構成することで、共有プレフィックスを1回だけエンコードすることが可能となる。
我々は、Prefix Grouperが標準GRPOと同等のトレーニングであるという理論的および実証的な証拠を提供する。
論文 参考訳(メタデータ) (2025-06-05T09:13:37Z) - Context-DPO: Aligning Language Models for Context-Faithfulness [80.62221491884353]
本研究では,大規模言語モデルの文脈信頼度を高めるためのアライメント手法を提案する。
ConFiQAから提供されたコンテキストの質問に対する忠実で頑健な応答を活用することで、Context-DPOは直接の選好最適化を通じてLLMを調整します。
大規模な実験により、私たちのContext-DPOは、一般的なオープンソースモデルで35%から280%の改善を達成し、コンテキスト忠実性を大幅に改善します。
論文 参考訳(メタデータ) (2024-12-18T04:08:18Z) - Self-Augmented Preference Optimization: Off-Policy Paradigms for Language Model Alignment [104.18002641195442]
既存のペアデータを必要としない、効果的でスケーラブルなトレーニングパラダイムである自己拡張型優先度最適化(SAPO)を導入する。
負の反応を自律的に生成するセルフプレイの概念に基づいて、我々はさらに、データ探索とエクスプロイトを強化するために、非政治的な学習パイプラインを組み込む。
論文 参考訳(メタデータ) (2024-05-31T14:21:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。