論文の概要: SAILRec: Steering LLM Attention to Dual-Side Semantically Aligned Collaborative Embeddings for Recommendation
- arxiv url: http://arxiv.org/abs/2606.04514v1
- Date: Wed, 03 Jun 2026 06:46:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-04 20:44:18.592848
- Title: SAILRec: Steering LLM Attention to Dual-Side Semantically Aligned Collaborative Embeddings for Recommendation
- Title(参考訳): SAILRec:レコメンデーションのための2面アライズされた協調型埋め込みに対するLLMの取組み
- Authors: Xi Wu, Jiale Wang, Zihan Wang, Yichen Gao, Xiaocui Yang, Shi Feng, Daling Wang, Yifei Zhang,
- Abstract要約: LLMベースのレコメンデータは、ユーザとイテムのインタラクションからの協調的な埋め込みによって言語モデルを強化する。
協調的な埋め込みの利用は深さ依存的でアライメントに敏感であることがわかった。
両面のセマンティックアライメントと階層的アテンションステアリングにより,このバランスを改善するLLMベースのレコメンデータSAILRecを提案する。
- 参考スコア(独自算出の注目度): 36.867366609555
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent LLM-based recommenders enhance language models with collaborative embeddings from user-item interactions, but making such embeddings available does not ensure their proper use during inference. Through a diagnostic attention analysis, we find that the utilization of collaborative embeddings is depth-dependent and alignment-sensitive, suggesting that LLMs need to balance their internal semantic knowledge with external collaborative knowledge. To address this issue, we propose SAILRec, an LLM-based recommender that improves this balance through dual-side semantic alignment and hierarchical attention steering. The former aligns item-side embeddings with item-text semantics and user-side embeddings with codebook-based semantic profiles, while the latter suppresses premature shallow-layer collaborative interference and strengthens collaborative evidence in deeper decision layers. Experiments on MovieLens-1M and Amazon-Book show that SAILRec consistently outperforms representative baselines, with ablation and masking analyses validating its key designs.
- Abstract(参考訳): 近年のLLMベースのレコメンデータは,ユーザとイテムのインタラクションから,協調的な埋め込みによる言語モデルを強化しているが,そのような埋め込みを利用可能にすることは,推論時に適切な使用を保証できない。
診断注意分析により, 協調埋め込みの活用は深度依存的かつアライメントに敏感であることが判明し, LLMは内部意味知識と外部協調知識のバランスをとる必要があることが示唆された。
この問題に対処するために,両面のセマンティックアライメントと階層的アテンションステアリングにより,このバランスを改善するLLMベースのレコメンデータSAILRecを提案する。
前者はアイテム側の埋め込みとアイテムテキストのセマンティクスとユーザ側の埋め込みとをコードブックベースのセマンティクスプロファイルに整合させ、後者は未熟な浅い層の協調的干渉を抑制し、より深い決定層の協調的証拠を強化する。
MovieLens-1MとAmazon-Bookの実験によると、SAILRecは、アブレーションとマスキングによる主要なデザインの検証によって、代表的ベースラインを一貫して上回っている。
関連論文リスト
- AgentDR Dynamic Recommendation with Implicit Item-Item Relations via LLM-based Agents [42.177723613925146]
本稿では,LLM推論をスケーラブルなレコメンデーションツールでブリッジする新しいLLMエージェントフレームワークであるAgenDRを提案する。
提案手法は,複数のレコメンデーション出力を統合するためにLLMを活用しながら,従来のモデルに上位タスクを委譲する。
我々のフレームワークは、その基盤となるツールよりも平均して2倍改善され、優れたフルレベルのパフォーマンスを実現していることを示す。
論文 参考訳(メタデータ) (2025-10-07T05:48:05Z) - LLM2Rec: Large Language Models Are Powerful Embedding Models for Sequential Recommendation [49.78419076215196]
シーケンスレコメンデーションは、類似したユーザやアイテムの履歴行動から協調フィルタリング(CF)信号をモデル化することで、ユーザの将来のインタラクションを予測することを目的としている。
従来のシーケンシャルなレコメンダは、高次の共起パターンを通じてCF信号をキャプチャするIDベースの埋め込みに依存している。
大規模言語モデル(LLM)の最近の進歩は、テキスト記述からアイテム表現を導出するテキストベースのレコメンデーションアプローチを動機付けている。
理想的な埋め込みモデルは、ドメイン内およびドメイン外のレコメンデーションパフォーマンスを改善するために、CF信号とリッチなセマンティック表現をシームレスに統合すべきである、と我々は主張する。
論文 参考訳(メタデータ) (2025-06-16T13:27:06Z) - Enhancing LLM-based Recommendation through Semantic-Aligned Collaborative Knowledge [25.757451106327167]
SeLLa-RecはCollabs.とLLMsのセマンティック空間間のアライメントの実現に重点を置いている。
このアライメントは効果的な知識融合を促進し、識別ノイズの影響を緩和する。
2つの公開ベンチマークデータセットで実施された実験は、SeLLa-Recが最先端のパフォーマンスを達成することを示した。
論文 参考訳(メタデータ) (2025-04-14T11:15:30Z) - Towards Scalable Semantic Representation for Recommendation [65.06144407288127]
大規模言語モデル(LLM)に基づく意味的IDを構築するために、Mixture-of-Codesを提案する。
提案手法は,識別性と寸法の堅牢性に優れたスケーラビリティを実現し,提案手法で最高のスケールアップ性能を実現する。
論文 参考訳(メタデータ) (2024-10-12T15:10:56Z) - Enhancing High-order Interaction Awareness in LLM-based Recommender Model [3.7623606729515133]
本稿では,LLMベースのリコメンデータ(ELMRec)について述べる。
我々は、レコメンデーションのためのグラフ構築相互作用のLLM解釈を大幅に強化するために、単語全体の埋め込みを強化する。
ELMRecは、直接およびシーケンシャルなレコメンデーションの両方において、最先端(SOTA)メソッドよりも優れています。
論文 参考訳(メタデータ) (2024-09-30T06:07:12Z) - DaRec: A Disentangled Alignment Framework for Large Language Model and Recommender System [83.34921966305804]
大規模言語モデル (LLM) はレコメンデーションシステムにおいて顕著な性能を示した。
LLMと協調モデルのための新しいプラグ・アンド・プレイアライメントフレームワークを提案する。
我々の手法は既存の最先端アルゴリズムよりも優れている。
論文 参考訳(メタデータ) (2024-08-15T15:56:23Z) - Beyond Inter-Item Relations: Dynamic Adaption for Enhancing LLM-Based Sequential Recommendation [83.87767101732351]
逐次リコメンデータシステム(SRS)は,ユーザの過去のインタラクションシーケンスに基づいて,ユーザが好む次の項目を予測する。
様々なAIアプリケーションにおける大規模言語モデル(LLM)の台頭に触発されて、LLMベースのSRSの研究が急増している。
我々は,大きめの粒度適応の上に構築された逐次レコメンデーションモデルであるDARecを提案する。
論文 参考訳(メタデータ) (2024-08-14T10:03:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。