論文の概要: LSNR: Learned Sparse News Recommendations with Attentive User Modeling
- arxiv url: http://arxiv.org/abs/2610.23510v1
- Date: Fri, 16 Oct 2026 14:19:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.948739
- Title: LSNR: Learned Sparse News Recommendations with Attentive User Modeling
- Title(参考訳): LSNR: 注意的ユーザモデリングを用いたスパースニュースレコメンデーション
- Abstract要約: 学習されたスパースニュースレコメンデーション(LSNR)を紹介する。
LSNRは各項目を独立にエンコードし、各アーティクルごとのスパース表現の学習された注意に基づく重み付けとユーザレベルでの密集した拡張を組み合わせることでスパースユーザベクトルを構築する。
最先端の高密度レコメンデータと比較して、LSNRは標準設定では競争力があり、ユーザ履歴が短い場合には性能が優れています。
- 参考スコア(独自算出の注目度): 56.79018258783646
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Current learned sparse approaches for recommender systems, such as STAR, represent a user by concatenating their interaction history into a single query string. For news, this creates two bottlenecks: concatenation collapses a user's distinct reading interests into one flat query, and, because news articles are long-form text, concatenating several news articles quickly overruns the context window of the language model used as backbone and forces quality-degrading truncation. To address both bottlenecks, we introduce learned sparse news recommendations (LSNR). LSNR encodes each article independently and constructs a sparse user vector by combining learned, attention-based weighting of the per-article sparse representations with a dense-projected expansion at the user level. Experiments on the MIND and EBNeRD datasets show that LSNR significantly outperforms STAR, with these gains holding even in short-history settings where truncation is not a factor. Compared to state-of-the-art dense recommenders, LSNR is competitive in standard settings and it outperforms them when the user history is short. An ablation of the user encoder confirms that learned attention-based aggregation outperforms simpler pooling alternatives. Beyond effectiveness, an additional advantage of LSNR is that it serves from an index an order of magnitude smaller than an uncompressed dense baseline.
- Abstract(参考訳): STARのような推薦システムに対する現在の学習されたスパースアプローチは、インタラクション履歴を単一のクエリ文字列にまとめることでユーザを表現する。
ニュース記事は長文であるので、いくつかのニュース記事がバックボーンとして使用される言語モデルのコンテキストウィンドウを素早くオーバーランし、品質劣化を強制する。
両ボトルネックに対処するために,学習されたスパースニュースレコメンデーション(LSNR)を導入する。
LSNRは各項目を独立にエンコードし、各アーティクルごとのスパース表現の学習された注意に基づく重み付けとユーザレベルでの密集した拡張を組み合わせることでスパースユーザベクトルを構築する。
MINDデータセットとEBNeRDデータセットの実験では、LSNRはSTARを著しく上回り、トランチケーションが要因ではない短史的環境でもこれらの利得は維持されている。
最先端の高密度レコメンデータと比較すると、LSNRは標準設定では競争力があり、ユーザ履歴が短い場合には性能が優れています。
ユーザエンコーダのアブレーションにより、学習した注意に基づくアグリゲーションが、単純なプール代替よりも優れていることが確認される。
LSNRのさらなる利点は、非圧縮密度ベースラインよりも桁違いに小さいインデックスから機能することである。
関連論文リスト
- Hierarchical Sparse Attention Done Right: Toward Infinite Context Modeling [65.65882819517455]
本稿では,言語モデリング(LM)損失下でチャンク選択をエンドツーエンドに学習するチャンクワイズアテンション機構を提案する。
実験結果から,HiLS-Attentionはドメイン内コンテキスト長に対して十分に注意を払っている場合に比較して,性能が向上することが示された。
論文 参考訳(メタデータ) (2026-07-03T05:39:00Z) - HyMiRec: A Hybrid Multi-interest Learning Framework for LLM-based Sequential Recommendation [24.720767926024433]
HyMiRecは、大規模言語モデルのためのハイブリッドシーケンシャルレコメンデーションフレームワークである。
長いユーザシーケンスから粗い関心埋め込みを抽出し、洗練された関心埋め込みをキャプチャするためのLLMベースのレコメンデータを抽出する。
ユーザの多様な嗜好をモデル化するために,不整合型多目的学習モジュールを設計する。
論文 参考訳(メタデータ) (2025-10-15T16:45:59Z) - Multi-agents based User Values Mining for Recommendation [52.26100802380767]
効率的なユーザ値抽出のためのゼロショットマルチLLM協調フレームワークを提案する。
本研究は,本質的な意味を保ちながら,項目内容のコンデンスにテキスト要約手法を適用した。
幻覚を緩和するために,評価役と監督役の2つの特殊エージェントの役割を導入する。
論文 参考訳(メタデータ) (2025-05-02T04:01:31Z) - LLM-based Bi-level Multi-interest Learning Framework for Sequential Recommendation [54.396000434574454]
本稿では,暗黙的行動と明示的意味論的視点を組み合わせた新しい多目的SRフレームワークを提案する。
Implicit Behavioral Interest ModuleとExplicit Semantic Interest Moduleの2つのモジュールが含まれている。
4つの実世界のデータセットの実験は、フレームワークの有効性と実用性を検証する。
論文 参考訳(メタデータ) (2024-11-14T13:00:23Z) - ELCoRec: Enhance Language Understanding with Co-Propagation of Numerical and Categorical Features for Recommendation [38.64175351885443]
大規模言語モデルは自然言語処理(NLP)領域で栄えている。
レコメンデーション指向の微調整モデルによって示された知性にもかかわらず、LLMはユーザーの行動パターンを完全に理解するのに苦労している。
既存の作業は、その重要な情報を導入することなく、与えられたテキストデータに対してのみLLMを微調整するだけである。
論文 参考訳(メタデータ) (2024-06-27T01:37:57Z) - Nearest Neighbor Speculative Decoding for LLM Generation and Attribution [87.3259169631789]
Nearest Speculative Decoding (NEST)は、任意の長さの実世界のテキストスパンをLM世代に組み込むことができ、それらのソースへの属性を提供する。
NESTは、様々な知識集約タスクにおいて、基本LMの生成品質と帰属率を大幅に向上させる。
さらに、NESTは、Llama-2-Chat 70Bに適用した場合の推論時間において1.8倍のスピードアップを達成することにより、生成速度を大幅に改善する。
論文 参考訳(メタデータ) (2024-05-29T17:55:03Z) - TBIN: Modeling Long Textual Behavior Data for CTR Prediction [15.056265935931377]
クリックスルー率(CTR)予測は、レコメンデーションの成功において重要な役割を果たす。
近年の言語モデル(LM)の発展に触発されて,テキストテキスト形式でユーザ行動データを整理することで,予測を改善する作業が急増している。
有望ではあるが、これらの研究は、LMにおける自己注意の2次計算オーバーヘッドを減らすために、テキストデータを切り離さなければならない。
本稿では,textbfTextual textbfBehavior-based textbfInterest Chunking textbfNを提案する。
論文 参考訳(メタデータ) (2023-08-09T03:48:41Z) - Neural News Recommendation with Collaborative News Encoding and
Structural User Encoding [18.407727437603178]
協調ニュースエンコーディング(CNE)と構造化ユーザエンコーディング(SUE)からなるニュースレコメンデーションフレームワークを提案する。
MINDデータセットの実験結果から,提案モデルの有効性を検証し,ニュースレコメンデーションの性能を向上させる。
論文 参考訳(メタデータ) (2021-09-02T07:16:42Z) - CSRN: Collaborative Sequential Recommendation Networks for News
Retrieval [26.852710435482997]
ニュースアプリが紙ベースのメディアの人気を引き継ぎ、パーソナライゼーションの絶好の機会となった。
リカレントニューラルネットワーク(RNN)ベースのシーケンシャルレコメンデーションは、ユーザの最近のブラウジング履歴を利用して将来のアイテムを予測する一般的なアプローチである。
本稿では、RNNに基づくシーケンシャルレコメンデーションとUserCFのキーアイデアを統合するためのディープニューラルネットワークのフレームワークを提案する。
論文 参考訳(メタデータ) (2020-04-07T13:25:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。