論文の概要: Unveiling and Mitigating Bias in Large Language Model Recommendations: A Path to Fairness

• arxiv url: http://arxiv.org/abs/2409.10825v2
• Date: Tue, 19 Nov 2024 01:51:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-20 13:34:39.696963
• Title: Unveiling and Mitigating Bias in Large Language Model Recommendations: A Path to Fairness
• Title（参考訳）: 大規模言語モデル勧告におけるバイアスの発見と緩和 : 公平性への道筋
• Authors: Shahnewaz Karim Sakib, Anindya Bijoy Das,
• Abstract要約: 大言語モデル(LLM)ベースのレコメンデーションシステムは、従来のシステムよりも包括的なレコメンデーションを提供する。 本研究では,LLMに基づくレコメンデーションシステムとバイアスの関係について検討した。 我々の発見は、バイアスが深く埋め込まれているだけでなく、これらのシステムに広く浸透していることを浮き彫りにしている。
• 参考スコア（独自算出の注目度）: 3.5297361401370044
• License:
• Abstract: Large Language Model (LLM)-based recommendation systems provide more comprehensive recommendations than traditional systems by deeply analyzing content and user behavior. However, these systems often exhibit biases, favoring mainstream content while marginalizing non-traditional options due to skewed training data. This study investigates the intricate relationship between bias and LLM-based recommendation systems, with a focus on music, song, and book recommendations across diverse demographic and cultural groups. Through a comprehensive analysis conducted over different LLM-models, this paper evaluates the impact of bias on recommendation outcomes. Our findings highlight that biases are not only deeply embedded but also widely pervasive across these systems, emphasizing the substantial and widespread nature of the issue. Moreover, contextual information, such as socioeconomic status, further amplify these biases, demonstrating the complexity and depth of the challenges faced in creating fair recommendations across different groups.
• Abstract（参考訳）: 大言語モデル(LLM)に基づくレコメンデーションシステムは、コンテンツやユーザの振る舞いを深く分析することによって、従来のシステムよりも包括的なレコメンデーションを提供する。 しかし、これらのシステムはしばしばバイアスを示し、主流のコンテンツを好む一方で、歪んだトレーニングデータによって非伝統的な選択肢を疎外する。 本研究では, 音楽, 歌, 書籍レコメンデーションに焦点をあて, バイアスとLLMに基づくレコメンデーションシステムとの複雑な関係について検討した。 本稿では,LLMモデルを用いた総合的な分析を通じて,推薦結果に対するバイアスの影響について検討する。 我々の発見は、バイアスが深く埋め込まれているだけでなく、これらのシステムに広く浸透していることを強調し、問題の実質的で広範な性質を強調した。 さらに、社会経済状態のような文脈情報は、これらのバイアスをさらに増幅し、異なるグループ間で公正なレコメンデーションを作成する際に直面する課題の複雑さと深さを実証する。

関連論文リスト

• Cognitive Biases in Large Language Models for News Recommendation [68.90354828533535]
  本稿では,認知バイアスが大規模言語モデル(LLM)に基づくニュースレコメンデータシステムに与える影響について検討する。 データ拡張、エンジニアリングと学習アルゴリズムの側面を通じて、これらのバイアスを軽減する戦略について議論する。
  論文  参考訳（メタデータ） (2024-10-03T18:42:07Z)
• Mitigating Propensity Bias of Large Language Models for Recommender Systems [20.823461673845756]
  我々は,CLLMR(Counterfactual LLM Recommendation)という新しいフレームワークを紹介する。 本稿では,歴史的相互作用から得られた構造情報をサイド情報表現に暗黙的に埋め込むスペクトルベースのサイド情報エンコーダを提案する。 我々の CLLMR アプローチは LLM ベースのレコメンデータシステムに固有の因果関係を探索する。
  論文  参考訳（メタデータ） (2024-09-30T07:57:13Z)
• Social Debiasing for Fair Multi-modal LLMs [55.8071045346024]
  MLLM(Multi-modal Large Language Models)は、強力な視覚言語理解機能を提供する。 しかしながら、これらのモデルはトレーニングデータセットから深刻な社会的偏見を継承することが多く、人種や性別といった属性に基づいた不公平な予測につながります。 本稿では,MLLMにおける社会的バイアスの問題に対処する。i)多元的社会的概念(CMSC)を用いた包括的対実的データセットの導入,i)アンチステレオタイプデバイアス戦略(ASD)を提案する。
  論文  参考訳（メタデータ） (2024-08-13T02:08:32Z)
• CEB: Compositional Evaluation Benchmark for Fairness in Large Language Models [58.57987316300529]
  大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクを処理するために、ますます多くデプロイされている。 LLMが示すバイアスを評価するために、研究者は最近、様々なデータセットを提案している。 我々は,様々な社会的グループやタスクにまたがる様々なバイアスをカバーした構成的評価ベンチマークであるCEBを提案する。
  論文  参考訳（メタデータ） (2024-07-02T16:31:37Z)
• The African Woman is Rhythmic and Soulful: An Investigation of Implicit Biases in LLM Open-ended Text Generation [3.9945212716333063]
  大規模言語モデル(LLM)による決定に影響を与えるため、暗黙のバイアスは重要である。 伝統的に、明示的なバイアステストや埋め込みベースの手法はバイアスを検出するために使用されるが、これらのアプローチはより微妙で暗黙的なバイアスの形式を見落としることができる。 提案手法は, 暗黙の偏見を明らかにするために, 即発的, 意思決定的タスクによる2つの新しい心理学的手法を導入している。
  論文  参考訳（メタデータ） (2024-07-01T13:21:33Z)
• A Normative Framework for Benchmarking Consumer Fairness in Large Language Model Recommender System [9.470545149911072]
  本稿では,LCMを利用したリコメンデータシステムにおいて,消費者の公正性をベンチマークするための規範的フレームワークを提案する。 このギャップは公平性に関する任意の結論につながる可能性があると我々は主張する。 MovieLensデータセットの消費者の公正性に関する実験は、年齢ベースの推奨において公平さの偏りを明らかにしている。
  論文  参考訳（メタデータ） (2024-05-03T16:25:27Z)
• GPTBIAS: A Comprehensive Framework for Evaluating Bias in Large Language Models [83.30078426829627]
  大規模言語モデル(LLM)は人気を集め、大規模なユーザコミュニティで広く採用されている。 既存の評価手法には多くの制約があり、それらの結果は限定的な解釈可能性を示している。 本稿では,LPMの高性能性を活用し,モデル内のバイアスを評価するGPTBIASというバイアス評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-11T12:02:14Z)
• Exploring the Jungle of Bias: Political Bias Attribution in Language Models via Dependency Analysis [86.49858739347412]
  大規模言語モデル(LLM)は、これらのモデルにおけるバイアスの頻度とその緩和に関する激しい議論を引き起こしている。 本稿では,意思決定プロセスに寄与する属性の抽出と仲介を行うためのプロンプトベースの手法を提案する。 観察された異なる治療は、少なくとも部分的には、属性の相違とモデルの相違によるものであることが判明した。
  論文  参考訳（メタデータ） (2023-11-15T00:02:25Z)
• Bias and Fairness in Large Language Models: A Survey [73.87651986156006]
  本稿では,大規模言語モデル(LLM)のバイアス評価と緩和手法に関する総合的な調査を行う。 まず、自然言語処理における社会的偏見と公平性の概念を統合し、形式化し、拡張する。 次に,3つの直感的な2つのバイアス評価法と1つの緩和法を提案し,文献を統一する。
  論文  参考訳（メタデータ） (2023-09-02T00:32:55Z)
• A Comparative Analysis of Bias Amplification in Graph Neural Network Approaches for Recommender Systems [0.0]
  バイアス増幅問題はこれらのアルゴリズムを用いて検討する必要がある。 本稿では,GNNに基づく異なるアルゴリズムのバイアスに対する振る舞いの文献レビューと分析を通じて,この問題を包括的に研究することを目的とする。
  論文  参考訳（メタデータ） (2023-01-18T16:29:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。