論文の概要: Unveiling and Mitigating Bias in Large Language Model Recommendations: A Path to Fairness

• arxiv url: http://arxiv.org/abs/2409.10825v3
• Date: Mon, 02 Dec 2024 07:00:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-03 16:56:46.430812
• Title: Unveiling and Mitigating Bias in Large Language Model Recommendations: A Path to Fairness
• Title（参考訳）: 大規模言語モデル勧告におけるバイアスの発見と緩和 : 公平性への道筋
• Authors: Anindya Bijoy Das, Shahnewaz Karim Sakib,
• Abstract要約: 本研究では,LLMに基づくレコメンデーションシステムとバイアスの相互作用について検討する。 音楽、歌、書籍のレコメンデーションなど、様々な民族や文化グループに重点を置いている。 我々の発見によると、これらのシステムのバイアスは深く根深いが、迅速なエンジニアリングのような単純な介入さえも、それを大幅に減らすことができる。
• 参考スコア（独自算出の注目度）: 3.5297361401370044
• License:
• Abstract: excel in delivering comprehensive suggestions by deeply analyzing content and user behavior. However, they often inherit biases from skewed training data, favoring mainstream content while underrepresenting diverse or non-traditional options. This study explores the interplay between bias and LLM-based recommendation systems, focusing on music, song, and book recommendations across diverse demographic and cultural groups. This paper analyzes bias in LLM-based recommendation systems across multiple models (GPT, LLaMA, and Gemini), revealing its deep and pervasive impact on outcomes. Intersecting identities and contextual factors, like socioeconomic status, further amplify biases, complicating fair recommendations across diverse groups. Our findings reveal that bias in these systems is deeply ingrained, yet even simple interventions like prompt engineering can significantly reduce it. We further propose a retrieval-augmented generation strategy to mitigate bias more effectively. Numerical experiments validate these strategies, demonstrating both the pervasive nature of bias and the impact of the proposed solutions.
• Abstract（参考訳）: コンテンツやユーザの振る舞いを深く分析することで、包括的な提案を提供することに長けています。 しかし、それらは歪んだトレーニングデータからバイアスを受け継ぎ、主流のコンテンツを好む一方で、多様な選択肢や非伝統的な選択肢を過小評価することが多い。 本研究は,音楽,歌,書籍レコメンデーションを中心に,多様な人口・文化集団を対象としたバイアスとLLMに基づくレコメンデーションシステムとの相互作用を考察する。 本稿では,複数のモデル(GPT, LLaMA, Gemini)にまたがるLLMに基づくレコメンデーションシステムのバイアスを分析する。 社会経済的地位のようなアイデンティティと文脈的要因を交わすことは、バイアスをさらに増幅し、多様なグループにわたって公正な推奨を複雑化する。 我々の発見によると、これらのシステムのバイアスは深く根深いが、迅速なエンジニアリングのような単純な介入さえも、それを大幅に減らすことができる。 さらに,より効果的にバイアスを緩和する検索強化型生成戦略を提案する。 数値実験はこれらの戦略を検証し、バイアスの広範性と提案した解の影響を実証した。

関連論文リスト

• Cognitive Biases in Large Language Models for News Recommendation [68.90354828533535]
  本稿では,認知バイアスが大規模言語モデル(LLM)に基づくニュースレコメンデータシステムに与える影響について検討する。 データ拡張、エンジニアリングと学習アルゴリズムの側面を通じて、これらのバイアスを軽減する戦略について議論する。
  論文  参考訳（メタデータ） (2024-10-03T18:42:07Z)
• Mitigating Propensity Bias of Large Language Models for Recommender Systems [20.823461673845756]
  我々は,CLLMR(Counterfactual LLM Recommendation)という新しいフレームワークを紹介する。 本稿では,歴史的相互作用から得られた構造情報をサイド情報表現に暗黙的に埋め込むスペクトルベースのサイド情報エンコーダを提案する。 我々の CLLMR アプローチは LLM ベースのレコメンデータシステムに固有の因果関係を探索する。
  論文  参考訳（メタデータ） (2024-09-30T07:57:13Z)
• CEB: Compositional Evaluation Benchmark for Fairness in Large Language Models [58.57987316300529]
  大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクを処理するために、ますます多くデプロイされている。 LLMが示すバイアスを評価するために、研究者は最近、様々なデータセットを提案している。 我々は,様々な社会的グループやタスクにまたがる様々なバイアスをカバーした構成的評価ベンチマークであるCEBを提案する。
  論文  参考訳（メタデータ） (2024-07-02T16:31:37Z)
• A Normative Framework for Benchmarking Consumer Fairness in Large Language Model Recommender System [9.470545149911072]
  本稿では,LCMを利用したリコメンデータシステムにおいて,消費者の公正性をベンチマークするための規範的フレームワークを提案する。 このギャップは公平性に関する任意の結論につながる可能性があると我々は主張する。 MovieLensデータセットの消費者の公正性に関する実験は、年齢ベースの推奨において公平さの偏りを明らかにしている。
  論文  参考訳（メタデータ） (2024-05-03T16:25:27Z)
• GPTBIAS: A Comprehensive Framework for Evaluating Bias in Large Language Models [83.30078426829627]
  大規模言語モデル(LLM)は人気を集め、大規模なユーザコミュニティで広く採用されている。 既存の評価手法には多くの制約があり、それらの結果は限定的な解釈可能性を示している。 本稿では,LPMの高性能性を活用し,モデル内のバイアスを評価するGPTBIASというバイアス評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-11T12:02:14Z)
• Exploring the Jungle of Bias: Political Bias Attribution in Language Models via Dependency Analysis [86.49858739347412]
  大規模言語モデル(LLM)は、これらのモデルにおけるバイアスの頻度とその緩和に関する激しい議論を引き起こしている。 本稿では,意思決定プロセスに寄与する属性の抽出と仲介を行うためのプロンプトベースの手法を提案する。 観察された異なる治療は、少なくとも部分的には、属性の相違とモデルの相違によるものであることが判明した。
  論文  参考訳（メタデータ） (2023-11-15T00:02:25Z)
• Bias and Fairness in Large Language Models: A Survey [73.87651986156006]
  本稿では,大規模言語モデル(LLM)のバイアス評価と緩和手法に関する総合的な調査を行う。 まず、自然言語処理における社会的偏見と公平性の概念を統合し、形式化し、拡張する。 次に,3つの直感的な2つのバイアス評価法と1つの緩和法を提案し,文献を統一する。
  論文  参考訳（メタデータ） (2023-09-02T00:32:55Z)
• A Survey on Large Language Models for Recommendation [77.91673633328148]
  大規模言語モデル(LLM)は自然言語処理(NLP)の分野で強力なツールとして登場した。 本調査では,これらのモデルを2つの主要なパラダイム(DLLM4Rec)とジェネレーティブLSM4Rec(GLLM4Rec)に分類する。
  論文  参考訳（メタデータ） (2023-05-31T13:51:26Z)
• A Comparative Analysis of Bias Amplification in Graph Neural Network Approaches for Recommender Systems [0.0]
  バイアス増幅問題はこれらのアルゴリズムを用いて検討する必要がある。 本稿では,GNNに基づく異なるアルゴリズムのバイアスに対する振る舞いの文献レビューと分析を通じて,この問題を包括的に研究することを目的とする。
  論文  参考訳（メタデータ） (2023-01-18T16:29:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。