論文の概要: Large Language Model Enhanced Hard Sample Identification for Denoising Recommendation

• arxiv url: http://arxiv.org/abs/2409.10343v1
• Date: Mon, 16 Sep 2024 14:57:09 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-17 15:10:41.916698
• Title: Large Language Model Enhanced Hard Sample Identification for Denoising Recommendation
• Title（参考訳）: 大規模言語モデルによる推薦の難読化のためのハードサンプル同定
• Authors: Tianrui Song, Wenshuo Chao, Hao Liu,
• Abstract要約: 暗黙のフィードバックは、しばしばレコメンデーションシステムを構築するために使われる。 従来の研究では、分散したパターンに基づいてノイズの多いサンプルを識別することで、これを緩和しようと試みてきた。 大規模言語モデル強化型ハードサンプルデノゲーションフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 4.297249011611168
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Implicit feedback, often used to build recommender systems, unavoidably confronts noise due to factors such as misclicks and position bias. Previous studies have attempted to alleviate this by identifying noisy samples based on their diverged patterns, such as higher loss values, and mitigating the noise through sample dropping or reweighting. Despite the progress, we observe existing approaches struggle to distinguish hard samples and noise samples, as they often exhibit similar patterns, thereby limiting their effectiveness in denoising recommendations. To address this challenge, we propose a Large Language Model Enhanced Hard Sample Denoising (LLMHD) framework. Specifically, we construct an LLM-based scorer to evaluate the semantic consistency of items with the user preference, which is quantified based on summarized historical user interactions. The resulting scores are used to assess the hardness of samples for the pointwise or pairwise training objectives. To ensure efficiency, we introduce a variance-based sample pruning strategy to filter potential hard samples before scoring. Besides, we propose an iterative preference update module designed to continuously refine summarized user preference, which may be biased due to false-positive user-item interactions. Extensive experiments on three real-world datasets and four backbone recommenders demonstrate the effectiveness of our approach.
• Abstract（参考訳）: しばしばレコメンデーションシステムを構築するために使われる暗黙のフィードバックは、ミスクリックや位置バイアスなどの要因により、避けられないほどノイズに直面する。 従来の研究では、損失値の増大や、サンプルの落下や再重み付けによるノイズの緩和など、分散したパターンに基づいてノイズのあるサンプルを識別することで、これを緩和しようと試みてきた。 進歩にもかかわらず、我々は、しばしば類似したパターンを示すため、ハードサンプルとノイズサンプルの区別に苦慮している既存のアプローチを観察し、レコメンデーションの認知における効果を抑える。 この課題に対処するため,我々はLLMHD(Large Language Model Enhanced Hard Sample Denoising)フレームワークを提案する。 具体的には,LLMに基づくスコアラを構築し,過去のユーザインタラクションを要約して定量化した,ユーザの好みに応じた項目のセマンティック一貫性を評価する。 得られたスコアは、ポイントワイドまたはペアワイドトレーニング目的のサンプルの硬さを評価するために使用される。 効率性を確保するため, 分散型サンプルプルーニング手法を導入し, 採点前の潜在的硬度サンプルをフィルタする。 また,偽陽性のユーザ-イテム相互作用によってバイアスが生じる可能性のある,要約されたユーザの嗜好を継続的に洗練する反復的嗜好更新モジュールを提案する。 3つの実世界のデータセットと4つのバックボーンレコメンデータに関する大規模な実験は、我々のアプローチの有効性を実証している。

関連論文リスト

• Double Correction Framework for Denoising Recommendation [45.98207284259792]
  暗黙のフィードバックでは、ノイズの多いサンプルが正確なユーザの好みの学習に影響を与える可能性がある。 一般的なソリューションは、モデルトレーニングフェーズでノイズの多いサンプルをドロップすることに基づいている。 提案手法では,勧告を記述するための二重補正フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-05-18T12:15:10Z)
• ROPO: Robust Preference Optimization for Large Language Models [59.10763211091664]
  外部モデルの助けを借りずにノイズ耐性とノイズサンプルのフィルタリングを統合する反復アライメント手法を提案する。 Mistral-7BとLlama-2-7Bで広く使われている3つのデータセットの実験では、ROPOが既存の嗜好アライメント法を大幅に上回っていることが示されている。
  論文  参考訳（メタデータ） (2024-04-05T13:58:51Z)
• Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
  クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。 我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
  論文  参考訳（メタデータ） (2023-12-27T09:03:43Z)
• PASS: Peer-Agreement based Sample Selection for training with Noisy Labels [16.283722126438125]
  ノイズラベルサンプルの頻度は、深層学習において重要な課題となり、過剰適合効果を誘発する。 現在の方法論は、しばしばノイズとクリーンなラベルのサンプルを分離するために、小さな損失仮説や特徴に基づく選択に依存している。 本稿では,PASS (Peer-Agreement based Sample Selection) と呼ばれる新しいノイズラベル検出手法を提案する。
  論文  参考訳（メタデータ） (2023-03-20T00:35:33Z)
• Denoising after Entropy-based Debiasing A Robust Training Method for Dataset Bias with Noisy Labels [12.335698325757491]
  エントロピーに基づくデバイアス(debiasing),すなわちDNEB(denoising)と呼ばれる3つの主要なステージを持つアプローチを提案する。 復調前の復調アルゴリズムの実行は、復調アルゴリズムが難読化サンプルの影響を減少させるため、効果がないことが判明した。
  論文  参考訳（メタデータ） (2022-12-01T04:34:59Z)
• Self-Filtering: A Noise-Aware Sample Selection for Label Noise with Confidence Penalization [39.90342091782778]
  本研究では,歴史予測におけるノイズの多い例の変動を利用した新しい選択手法であるtextbfSelf-textbfFiltextbftering (SFT)を提案する。 具体的には、各例の履歴予測を格納したメモリバンクモジュールを導入し、その後の学習イテレーションの選択をサポートするために動的に更新する。 この項で誤分類されたカテゴリーの重みを増大させることで、損失関数は穏やかな条件下でのノイズのラベル付けに頑健である。
  論文  参考訳（メタデータ） (2022-08-24T08:02:36Z)
• Neighborhood Collective Estimation for Noisy Label Identification and Correction [92.20697827784426]
  ノイズラベルを用いた学習(LNL)は,ノイズラベルに対するモデルオーバーフィットの効果を軽減し,モデル性能と一般化を改善するための戦略を設計することを目的としている。 近年の進歩は、個々のサンプルのラベル分布を予測し、ノイズ検証とノイズラベル補正を行い、容易に確認バイアスを生じさせる。 提案手法では, 候補サンプルの予測信頼性を, 特徴空間近傍と対比することにより再推定する。
  論文  参考訳（メタデータ） (2022-08-05T14:47:22Z)
• Probabilistic and Variational Recommendation Denoising [56.879165033014026]
  暗黙のフィードバックから学ぶことは、推奨システムの適用において最も一般的なケースの1つである。 本稿では,暗黙のフィードバックに対する確率的・変動的推薦を提案する。 提案したDPIとDVAEを4つの最先端レコメンデーションモデルに適用し、3つのデータセットで実験を行う。
  論文  参考訳（メタデータ） (2021-05-20T08:59:44Z)
• Jo-SRC: A Contrastive Approach for Combating Noisy Labels [58.867237220886885]
  Jo-SRC (Joint Sample Selection and Model Regularization based on Consistency) というノイズロバスト手法を提案する。 具体的には、対照的な学習方法でネットワークをトレーニングする。 各サンプルの2つの異なるビューからの予測は、クリーンまたは分布不足の「可能性」を推定するために使用されます。
  論文  参考訳（メタデータ） (2021-03-24T07:26:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。