論文の概要: Revisiting Language Models in Neural News Recommender Systems

• arxiv url: http://arxiv.org/abs/2501.11391v1
• Date: Mon, 20 Jan 2025 10:35:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-22 14:19:23.663089
• Title: Revisiting Language Models in Neural News Recommender Systems
• Title（参考訳）: ニューラルニュースレコメンダシステムにおける言語モデルの再検討
• Authors: Yuyue Zhao, Jin Huang, David Vos, Maarten de Rijke,
• Abstract要約: ニューラルニュースレコメンダシステム(RS)は、リッチなテキスト情報を持つニュース記事を表現にエンコードする言語モデル(LM)を備えている。 多くの研究は、(i)ニュースRSは、浅い言語モデル(SLM)よりも大きな事前学習言語モデル(PLM)でより良いパフォーマンスを達成することを示唆している。 本稿では、実世界のMINDデータセットを用いて、ニュースRSにおけるLMの有効性について、これらの比較を再検討し、統一し、拡張する。
• 参考スコア（独自算出の注目度）: 48.372289545886495
• License:
• Abstract: Neural news recommender systems (RSs) have integrated language models (LMs) to encode news articles with rich textual information into representations, thereby improving the recommendation process. Most studies suggest that (i) news RSs achieve better performance with larger pre-trained language models (PLMs) than shallow language models (SLMs), and (ii) that large language models (LLMs) outperform PLMs. However, other studies indicate that PLMs sometimes lead to worse performance than SLMs. Thus, it remains unclear whether using larger LMs consistently improves the performance of news RSs. In this paper, we revisit, unify, and extend these comparisons of the effectiveness of LMs in news RSs using the real-world MIND dataset. We find that (i) larger LMs do not necessarily translate to better performance in news RSs, and (ii) they require stricter fine-tuning hyperparameter selection and greater computational resources to achieve optimal recommendation performance than smaller LMs. On the positive side, our experiments show that larger LMs lead to better recommendation performance for cold-start users: they alleviate dependency on extensive user interaction history and make recommendations more reliant on the news content.
• Abstract（参考訳）: ニューラルニュースレコメンダシステム(RS)は、リッチテキスト情報でニュース記事を表現にエンコードし、レコメンデーションプロセスを改善するために、言語モデル(LM)を統合している。 多くの研究が示唆している。 (i)ニュースRSは、浅層言語モデル(SLM)よりも大きな事前学習言語モデル(PLM)により、より良い性能を達成する。 (2)大言語モデル(LLM)はPLMよりも優れています。 しかし、他の研究では、PLMは時としてSLMよりも性能が悪くなることが示されている。 したがって、より大きなLMを使うことがニュースRSの性能を継続的に改善するかどうかは不明である。 本稿では、実世界のMINDデータセットを用いて、ニュースRSにおけるLMの有効性について、これらの比較を再検討し、統一し、拡張する。 私たちはそれを見つける。 (i)より大きなLMはニュースRSの性能向上に必ずしも寄与しない。 (II)より厳密な微調整ハイパーパラメータ選択と計算資源が要求され、より小さなLMよりも最適なレコメンデーション性能が得られる。 積極的側面から、私たちの実験では、より大きなLMが、コールドスタートユーザーの推奨パフォーマンスの向上につながることが示されており、これは、広範なユーザーインタラクション履歴への依存を緩和し、ニュースコンテンツへのより信頼を高めるものである。

関連論文リスト

• Small Models, Big Impact: Efficient Corpus and Graph-Based Adaptation of Small Multilingual Language Models for Low-Resource Languages [10.418542753869433]
  低リソース言語(LRL)は、限られたデータのために自然言語処理(NLP)において重大な課題に直面している。 現在の最先端の大規模言語モデル(LLM)は、まだLRLと競合している。 mBERTやXLM-Rのような小さなマルチリンガルモデル(mLM)は、トレーニングデータサイズに適合する能力が向上するため、より有望である。
  論文  参考訳（メタデータ） (2025-02-14T13:10:39Z)
• Enhancing Code Generation for Low-Resource Languages: No Silver Bullet [55.39571645315926]
  大規模言語モデル(LLM)は、プログラミング言語の構文、意味論、使用パターンを学ぶために、大規模で多様なデータセットに依存している。 低リソース言語では、そのようなデータの限られた可用性は、モデルを効果的に一般化する能力を損なう。 本稿では,低リソース言語におけるLLMの性能向上のためのいくつかの手法の有効性を実証研究する。
  論文  参考訳（メタデータ） (2025-01-31T12:23:28Z)
• CRPO: Confidence-Reward Driven Preference Optimization for Machine Translation [20.959453238159863]
  大規模言語モデル(LLM)は自然言語処理タスクにおいて大きな可能性を示しているが、機械翻訳(MT)への応用は依然として難しい。 直接選好最適化(DPO)は、よりシンプルで効率的な代替手段として登場したが、その性能は好みデータの品質に大きく依存している。 本稿では,報酬スコアとモデル信頼度を組み合わせて微調整のためのデータ選択を改善する新しい手法であるCRPOを提案する。
  論文  参考訳（メタデータ） (2025-01-23T18:59:47Z)
• LLMEmb: Large Language Model Can Be a Good Embedding Generator for Sequential Recommendation [57.49045064294086]
  大きな言語モデル(LLM)は、その人気とは無関係に、アイテム間の意味的関係をキャプチャする能力を持つ。 LLMEmb(LLMEmb)は、LCMを利用してアイテム埋め込みを生成し、逐次レコメンダシステム(SRS)の性能を向上させる手法である。
  論文  参考訳（メタデータ） (2024-09-30T03:59:06Z)
• HLLM: Enhancing Sequential Recommendations via Hierarchical Large Language Models for Item and User Modeling [21.495443162191332]
  大規模言語モデル(LLM)は様々な分野で顕著な成功を収めており、いくつかの研究がレコメンデーションシステムにおいてその可能性を探求している。 逐次レコメンデーションシステムを強化するために,新しい階層型大規模言語モデル (HLLM) アーキテクチャを提案する。 HLLMは,項目特徴抽出とユーザ関心モデリングの両方に 7B パラメータを利用する構成で,優れたスケーラビリティを実現している。
  論文  参考訳（メタデータ） (2024-09-19T13:03:07Z)
• MMREC: LLM Based Multi-Modal Recommender System [2.3113916776957635]
  本稿では,Large Language Models(LLM)とディープラーニング技術を活用して,レコメンデータシステムを強化する新しい手法を提案する。 提案フレームワークは,マルチモーダル情報処理を取り入れたレコメンデーションの精度と妥当性を,統一された潜在空間表現を用いて向上することを目的としている。
  論文  参考訳（メタデータ） (2024-08-08T04:31:29Z)
• SLMRec: Distilling Large Language Models into Small for Sequential Recommendation [38.51895517016953]
  シーケンシャルレコメンデーションタスクでは、過去のインタラクションを考慮して、ユーザが対話する可能性のある次の項目を予測する。 最近の研究は、LCMがシーケンシャルレコメンデーションシステムに与える影響を実証している。 LLM の巨大なサイズのため、現実のプラットフォームに LLM ベースのモデルを適用するのは非効率で実用的ではない。
  論文  参考訳（メタデータ） (2024-05-28T07:12:06Z)
• Unlocking the Potential of Large Language Models for Explainable Recommendations [55.29843710657637]
  説明ジェネレータを最近登場した大規模言語モデル(LLM)に置き換える影響は、まだ不明である。 本研究では,シンプルで効果的な2段階説明可能なレコメンデーションフレームワークであるLLMXRecを提案する。 いくつかの重要な微調整技術を採用することで、制御可能で流動的な説明が十分に生成できる。
  論文  参考訳（メタデータ） (2023-12-25T09:09:54Z)
• MLLM-DataEngine: An Iterative Refinement Approach for MLLM [62.30753425449056]
  本稿では,データ生成,モデルトレーニング,評価を橋渡しする新しいクローズドループシステムを提案する。 各ループ内で、MLLM-DataEngineはまず評価結果に基づいてモデルの弱点を分析する。 ターゲットとして,異なる種類のデータの比率を調整する適応型バッドケースサンプリングモジュールを提案する。 品質については、GPT-4を用いて、各データタイプで高品質なデータを生成する。
  論文  参考訳（メタデータ） (2023-08-25T01:41:04Z)
• LLMRec: Benchmarking Large Language Models on Recommendation Task [54.48899723591296]
  推奨領域におけるLarge Language Models (LLMs) の適用について, 十分に検討されていない。 我々は、評価予測、シーケンシャルレコメンデーション、直接レコメンデーション、説明生成、レビュー要約を含む5つのレコメンデーションタスクにおいて、市販のLLMをベンチマークする。 ベンチマークの結果,LLMは逐次的・直接的推薦といった精度に基づくタスクにおいて適度な熟練度しか示さないことがわかった。
  論文  参考訳（メタデータ） (2023-08-23T16:32:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。