論文の概要: Preprocessing Choices in Fine-Tuning Data Matter: Utility and Demographic Sensitivity in LLM-Based Recommendation
- arxiv url: http://arxiv.org/abs/2611.03113v1
- Date: Mon, 02 Nov 2026 13:32:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-04 23:36:30.604756
- Title: Preprocessing Choices in Fine-Tuning Data Matter: Utility and Demographic Sensitivity in LLM-Based Recommendation
- Title(参考訳): 微調整データにおける前処理選択:LCM勧告における実用性と復感性
- Abstract要約: 微調整データにおける事前処理の選択が、推奨ユーティリティと公正関連行動にどのように影響するかを検討する。
まず、教師付き微調整、カタログ制約付き復号化、即時拡張を組み合わせた制御されたレコメンデーションパイプラインを構築します。
MovieLens-1Mの実験では、カタログに制約のあるパイプラインは、外部のアイテムを排除し、完全な10項目の出力を保証する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) have introduced a generative approach to recommendation, producing item lists from textual representations of user histories and item information. However, this generative setting raises challenges concerning output validity, prompt consistency, and sensitivity to demographic descriptors. In this work, we investigate how preprocessing choices in fine-tuning data affect recommendation utility and fairness-related behavior in a generative LLM-based recommender system. We first establish a controlled recommendation pipeline that combines supervised fine-tuning, catalog-constrained decoding, and prompt augmentation. We then study three preprocessing choices: item-title representation, demographic balancing, and auxiliary item-knowledge enrichment. Experiments on MovieLens-1M show that the catalog-constrained pipeline eliminates out-of-catalog items and ensures complete ten-item outputs, while prompt augmentation improves prompt consistency and utility. Original MovieLens titles increase HR@10 from 10.67% to 12.47% and Coverage@10 from 41.36% to 47.88%. Fairness-related effects are attribute-dependent: age balancing and knowledge enrichment reduce selected group-level utility gaps while largely preserving utility, whereas gender balancing reduces utility without improving the evaluated gender-related indicators. Overall, preprocessing choices in fine-tuning data should be evaluated jointly in terms of utility, output behavior, and demographic sensitivity.
- Abstract(参考訳): 大規模言語モデル (LLMs) は、ユーザ履歴と項目情報のテキスト表現から項目リストを生成する、レコメンデーションのためのジェネレーティブなアプローチを導入している。
しかし、この生成設定は、出力の妥当性、迅速な一貫性、人口統計記述子に対する感受性に関する課題を提起する。
本研究では,LLMに基づくレコメンデーションシステムにおいて,微調整データの事前処理選択が推薦ユーティリティと公正関連行動に与える影響について検討する。
まず、教師付き微調整、カタログ制約付き復号化、即時拡張を組み合わせた制御されたレコメンデーションパイプラインを構築します。
次に,3つの前処理の選択について検討する。
MovieLens-1Mの実験では、カタログに制約のあるパイプラインは、アウトオブカタログアイテムを排除し、完全なテンテム出力を保証し、迅速な拡張により、迅速な一貫性と利便性が向上した。
オリジナルタイトルのHR@10は10.67%から12.47%に増加し、Coverage@10は41.36%から47.88%に増加した。
年齢のバランスと知識の豊かさは、選択されたグループレベルのユーティリティギャップを減らし、その一方で、性別のバランスは、評価された性別関連の指標を改善することなく、実用性を低下させる。
全体として、微調整データにおける事前処理の選択は、実用性、出力挙動、人口統計学的感度の観点から共同で評価されるべきである。
関連論文リスト
- Learning Preference from Observed Rankings [0.0]
本稿では,部分的なランキング情報から個人の好みを学習するためのフレキシブルなフレームワークを開発する。
我々は、解釈可能な製品属性、アイテムの固定効果、低ランクのユーザ・イテム・ファクター構造の合計として潜在ユーティリティをモデル化する。
オンラインワイン小売業者からのデータを扱うアプリケーションでは、人気ベースのベンチマークと比較して、サンプル外の推薦性能を向上させる。
論文 参考訳(メタデータ) (2026-02-18T14:07:05Z) - Vectorized Context-Aware Embeddings for GAT-Based Collaborative Filtering [0.0]
本稿では,Large Language Model (LLM) により拡張されたグラフ注意ネットワーク(GAT)ベースの協調フィルタリングフレームワークについて述べる。
MovieLens 100kと1Mデータセットの実験では、Precision、NDCG、MAPの最先端ベースラインに対して一貫した改善が見られた。
提案手法は,LLMに基づく文脈理解をグラフアーキテクチャに組み込むことで,空間性やコールドスタートの制限を効果的に緩和する。
論文 参考訳(メタデータ) (2025-10-30T13:07:39Z) - End-to-End Personalization: Unifying Recommender Systems with Large Language Models [0.0]
グラフ注意ネットワーク(GAT)と大言語モデル(LLM)を組み合わせた新しいハイブリッドレコメンデーションフレームワークを提案する。
LLMは、タイトル、ジャンル、概要などのメタデータに基づいて意味的に意味のあるプロファイルを生成することによって、ユーザーとアイテムの表現を豊かにするために最初に使用される。
MovieLens 100kと1Mを含むベンチマークデータセットでモデルを評価し、強いベースラインを一貫して上回ります。
論文 参考訳(メタデータ) (2025-08-02T22:46:50Z) - Distilling a Small Utility-Based Passage Selector to Enhance Retrieval-Augmented Generation [110.610512800947]
Retrieval-augmented Generation (RAG)は、取得した情報を組み込むことで、大規模言語モデル(LLM)を強化する。
RAGでは、重要度は実用性に移行し、正確な回答を生成するためのパスの有用性を考慮している。
提案手法は、ランク付けよりもユーティリティベースの選択に重点を置いており、固定しきい値を必要とせずに、特定のクエリに合わせた動的通過選択を可能にする。
本実験は, 実用性に基づく選択により, RAGの柔軟性とコスト効率が向上し, 計算コストが大幅に低減され, 応答品質が向上することを示した。
論文 参考訳(メタデータ) (2025-07-25T09:32:29Z) - ELSPR: Evaluator LLM Training Data Self-Purification on Non-Transitive Preferences via Tournament Graph Reconstruction [25.85736569130897]
大規模言語モデル(LLM)のペアワイズ評価は、オープンエンドタスクのベンチマークにおいて支配的なパラダイムとなっている。
この重要な問題は、本質的に曖昧な選好ペアを含む低品質データに起因していることを示す。
トーナメントグラフとしてペアの選好をモデル化する,原則付きグラフ理論フレームワークであるESSPRを提案する。
論文 参考訳(メタデータ) (2025-05-23T10:00:03Z) - AdaptRec: A Self-Adaptive Framework for Sequential Recommendations with Large Language Models [10.52052172996229]
AdaptRecは、明示的な協調シグナルを組み込むことで、シーケンシャルなレコメンデーションのためにLarge Language Modelsを活用する、自己適応型のフラムワークである。
本研究では,その行動系列を自然言語に変換するユーザコンテキスト適応型レコメンデーション・プロンプトを開発し,これらの情報をレコメンデーション・プロセスに明示的に統合する。
AdaptRecの優れたパフォーマンスを示す実験では、HitRatio@1スコアの7.13%、18.16%、10.41%が現実世界のデータセットで大幅に改善されている。
論文 参考訳(メタデータ) (2025-04-06T00:30:50Z) - Spread Preference Annotation: Direct Preference Judgment for Efficient LLM Alignment [72.99676237703099]
大規模言語モデルと人間の嗜好の整合性を高める新しいフレームワークを提案する。
私たちのキーとなるアイデアは、小さな(種)データの中で人間の事前知識を活用することです。
本稿では,ノイズ認識型選好学習アルゴリズムを導入し,生成した選好データにおける品質低下のリスクを軽減する。
論文 参考訳(メタデータ) (2024-06-06T18:01:02Z) - IDEAL: Influence-Driven Selective Annotations Empower In-Context Learners in Large Language Models [63.15355173909631]
本稿では,影響駆動型選択的アノテーション手法を提案する。
アノテーションのコストを最小限に抑えつつ、コンテキスト内サンプルの品質を向上させることを目的としている。
様々なベンチマークで提案手法の優位性を確認する実験を行った。
論文 参考訳(メタデータ) (2023-10-16T22:53:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。