論文の概要: Uncertainty-Aware Semantic Decoding for LLM-Based Sequential Recommendation
- arxiv url: http://arxiv.org/abs/2508.07210v1
- Date: Sun, 10 Aug 2025 07:10:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-12 21:23:28.756115
- Title: Uncertainty-Aware Semantic Decoding for LLM-Based Sequential Recommendation
- Title(参考訳): LLMに基づくシークエンシャルレコメンデーションのための不確実性を考慮したセマンティックデコーディング
- Authors: Chenke Yin, Li Fan, Jia Wang, Dongxiao Hu, Haichao Zhang, Chong Zhang, Yang Xiang,
- Abstract要約: 本稿では,不確実性を考慮したセマンティックデコーディングフレームワークを提案する。
ログベースのクラスタリングとアダプティブスコアリングを組み合わせて、次世代の予測を改善する。
- 参考スコア(独自算出の注目度): 16.781611487787682
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models have been widely applied to sequential recommendation tasks, yet during inference, they continue to rely on decoding strategies developed for natural language processing. This creates a mismatch between text-generation objectives and recommendation next item selection objectives. This paper addresses this limitation by proposing an Uncertainty-aware Semantic Decoding (USD) framework that combines logit-based clustering with adaptive scoring to improve next-item predictions. Our approach clusters items with similar logit vectors into semantic equivalence groups, then redistributes probability mass within these clusters and computes entropy across them to control item scoring and sampling temperature during recommendation inference. Experiments on Amazon Product datasets (six domains) gains of 18.5\% in HR@3, 11.9\% in NDCG@3, and 10.8\% in MRR@3 compared to state-of-the-art baselines. Hyperparameter analysis confirms the optimal parameters among various settings, and experiments on H\&M, and Netflix datasets indicate that the framework can adapt to differing recommendation domains. The experimental results confirm that integrating semantic clustering and uncertainty assessment yields more reliable and accurate recommendations.
- Abstract(参考訳): 大規模言語モデルは、シーケンシャルなレコメンデーションタスクに広く適用されてきたが、推論の間は、自然言語処理のために開発されたデコード戦略に依存し続けている。
これにより、テキスト生成目標と次の項目選択目標とのミスマッチが発生します。
本稿では,ロジットに基づくクラスタリングとアダプティブスコアリングを組み合わせた,不確実性を考慮したセマンティックデコーディング(USD)フレームワークの提案により,この制限に対処する。
我々のアプローチでは、類似のロジットベクトルを持つアイテムをセマンティック同値群にクラスタし、これらのクラスタ内の確率質量を再分割し、それらのエントロピーを計算し、推奨推論中のアイテムのスコアリングとサンプリング温度を制御する。
Amazon Productデータセット(6つのドメイン)の実験は、HR@3では18.5\%、NDCG@3では11.9\%、MRR@3では10.8\%、最先端のベースラインでは10.8\%となる。
ハイパーパラメータ分析は、さまざまな設定の最適パラメータを確認し、H&MとNetflixデータセットの実験は、フレームワークが異なるレコメンデーションドメインに適応可能であることを示している。
実験結果から,セマンティッククラスタリングと不確実性評価の統合により,より信頼性が高く正確なレコメンデーションが得られた。
関連論文リスト
- LLM-CoT Enhanced Graph Neural Recommendation with Harmonized Group Policy Optimization [6.534288158740448]
グラフニューラルネットワーク(GNN)は相互作用関係をモデル化することによって高度なレコメンデータシステムを備えている。
既存のグラフベースのレコメンダはスパースID機能に依存しており、テキスト情報を十分に活用していない。
我々はLGHRec (LLM-CoT強化グラフニューラルレコメンデーションと調和群ポリシー最適化)を紹介する。
論文 参考訳(メタデータ) (2025-05-18T12:50:36Z) - Clustering by Nonparametric Smoothing [6.635604919499181]
クラスタリング問題の新たな定式化は、タスクを推定問題として表現するものである。
提案手法は、任意の明示的なモデリング仮定を回避し、非パラメトリックな平滑化の柔軟な推定ポテンシャルを利用する。
提案手法の強い性能を示すために,公開データセットの大規模なコレクションに関する実験が用いられている。
論文 参考訳(メタデータ) (2025-03-12T07:44:11Z) - Beyond Exact Match: Semantically Reassessing Event Extraction by Large Language Models [65.8478860180793]
イベント抽出は広範囲の応用により、広範囲の研究が注目されている。
イベント抽出の現在の評価法はトークンレベルの正確な一致に依存している。
イベント抽出のための信頼性とセマンティックな評価フレームワークであるRAEEを提案する。
論文 参考訳(メタデータ) (2024-10-12T07:54:01Z) - Balancing Diversity and Risk in LLM Sampling: How to Select Your Method and Parameter for Open-Ended Text Generation [60.493180081319785]
本稿では,各復号ステップにおける多様性とリスクのトレードオフを考慮し,トラクションサンプリング手法のキャパシティを推定する体系的手法を提案する。
本研究は,既存のトラクションサンプリング手法を総合的に比較し,パラメータ選択のための実用的なユーザガイドとして機能する。
論文 参考訳(メタデータ) (2024-08-24T14:14:32Z) - ROPO: Robust Preference Optimization for Large Language Models [59.10763211091664]
外部モデルの助けを借りずにノイズ耐性とノイズサンプルのフィルタリングを統合する反復アライメント手法を提案する。
Mistral-7BとLlama-2-7Bで広く使われている3つのデータセットの実験では、ROPOが既存の嗜好アライメント法を大幅に上回っていることが示されている。
論文 参考訳(メタデータ) (2024-04-05T13:58:51Z) - Self-Evaluation Improves Selective Generation in Large Language Models [54.003992911447696]
オープンエンド生成タスクをトークンレベルの予測タスクに再構成する。
我々はLSMに答えを自己評価するように指示する。
自己評価に基づくスコアリング手法をベンチマークする。
論文 参考訳(メタデータ) (2023-12-14T19:09:22Z) - Robust Consensus Clustering and its Applications for Advertising
Forecasting [18.242055675730253]
我々は,専門家の意見に共通する根拠となる真実を見出すことのできる,ロバストなコンセンサスクラスタリングという新しいアルゴリズムを提案する。
提案手法を実世界の広告キャンペーンセグメンテーションと予測タスクに適用する。
論文 参考訳(メタデータ) (2022-12-27T21:49:04Z) - Partial sequence labeling with structured Gaussian Processes [8.239028141030621]
部分列ラベリングのための構造付きガウス過程を提案する。
予測の不確実性を符号化し、モデル選択やハイパーパラメータ学習に余分な労力を要しない。
いくつかのシーケンスラベリングタスクで評価を行い,実験結果から提案手法の有効性が示された。
論文 参考訳(メタデータ) (2022-09-20T00:56:49Z) - Parameter Space Factorization for Zero-Shot Learning across Tasks and
Languages [112.65994041398481]
本稿では,ニューラルパラメータの空間に対するベイズ生成モデルを提案する。
タスク言語の組み合わせから得られたデータに基づいて、そのような潜伏変数よりも後部を推測する。
我々のモデルは、最先端のゼロショットの言語間転送手法よりも、同等か良い結果が得られる。
論文 参考訳(メタデータ) (2020-01-30T16:58:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。