論文の概要: LLM Recommenders Produce Demographic Inequality Through Content Preferences

• arxiv url: http://arxiv.org/abs/2610.41854v1
• Date: Fri, 30 Oct 2026 15:11:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.78236
• Title: LLM Recommenders Produce Demographic Inequality Through Content Preferences
• Title（参考訳）: LLMレコメンダは、コンテンツ選好によるデモグラフィックの不平等を創出する
• Abstract要約: 大規模言語モデル(LLM)は、オンラインコンテンツをランク付けし推奨するシステムに統合されつつある。 この変化が、音声が表面化している人口不平等をいかに生み出すかを検討する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are increasingly being integrated into systems that rank and recommend online content. We examine how this shift can produce demographic inequality in whose voices are surfaced. Using 10,000 Twitter/X posts written by 1,000 survey respondents and linked to verified self-reported characteristics across nine demographic attributes, we conduct a controlled recommendation experiment across three LLM providers, six recommendation objectives, and five levels of contextual information. By varying whether models receive post text alone, platform metadata, or explicit author demographics, we isolate three pathways to unequal recommendation: preferences for demographically patterned content, reliance on unequal engagement signals, and direct use of disclosed identity. We find that demographic inequality emerges from text alone. Models consistently favour longer, more negative, and more opinionated posts, particularly those concerning news and social issues, producing systematic differences in the demographic composition of recommended authors. Platform metadata generally amplifies these inequalities, while explicitly disclosing authors' demographic characteristics produces little additional change. Recommendation objectives mainly affect the magnitude of these patterns: controversial framing intensifies both content and demographic skew, whereas popularity-oriented framing dampens it, although for some attributes - most notably age - the objective can also reverse which group is favoured. LLM-based recommenders can therefore reproduce demographic inequality by proxy, not through explicit demographic targeting, but through preferences for content and engagement signals already structured by social inequality.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、オンラインコンテンツをランク付けし推奨するシステムに統合されつつある。 この変化が、音声が表面化している人口不平等をいかに生み出すかを検討する。 1000人の回答者が書いた1万件のTwitter/X投稿を、9つの統計属性にまたがって自己申告された特性に関連付け、私たちは3つのLLMプロバイダ、6つの推奨目標、5レベルのコンテキスト情報で制御されたレコメンデーション実験を実施しました。 モデルがポストテキストのみ、プラットフォームメタデータ、あるいは明示的な著者の人口統計を受信するかによって、人口動態がパターン化されたコンテンツの嗜好、不平等なエンゲージメント信号への依存、開示されたアイデンティティの直接利用の3つの経路を分離する。 人口不平等はテキストだけで現れる。 モデルは常に、より長く、より否定的で、より意見に富んだポスト、特にニュースや社会問題に関する投稿を好んでおり、推奨作家の人口構成に体系的な違いをもたらしている。 プラットフォームメタデータは、一般的にこれらの不平等を増幅するが、著者の人口統計特性を明示的に開示することは、追加的な変化をほとんど起こさない。 議論の的になっているフレーミングは、コンテンツと人口統計の両方を強要する一方、人気指向のフレーミングは、その傾向を弱めるが、いくつかの属性(特に年齢)では、どのグループが好まれるかを逆転させることもできる。 したがって、LLMベースのレコメンダは、明示的な人口動態ターゲティングを通してではなく、既に社会的不平等によって構成されているコンテンツやエンゲージメント信号によって、代理によって人口動態の不平等を再現することができる。

関連論文リスト

• Who Gets Which Message? Auditing Demographic Bias in LLM-Generated Targeted Text [8.06425428468097]
  大規模言語モデル(LLM)は、大規模にパーソナライズされた説得力のあるテキストを生成する能力がますます高まっている。 本稿では,LLMが人口動態を考慮したターゲットメッセージ処理を行う際の振る舞いを,初めて体系的に分析した。
  論文  参考訳（メタデータ） (2026-01-23T21:07:59Z)
• Mitigating Bias with Words: Inducing Demographic Ambiguity in Face Recognition Templates by Text Encoding [18.08946802592489]
  顔認識システムは、しばしば人口統計学的バイアスに起因し、部分的には、人口統計学的情報と、顔の埋め込みにおけるアイデンティティ関連の特徴が絡み合っているためである。 我々は,顔埋め込みにおける人口動態のあいまいさを誘発する新しい手法である統一テキスト・イメージ・埋め込み(UTIE)を提案する。 UTIEは、いくつかのケースにおいて、顔認証精度を維持しながら、あるいは改善しながら、常にバイアスメトリクスを減少させることを示す。
  論文  参考訳（メタデータ） (2025-12-05T10:41:58Z)
• DAIQ: Auditing Demographic Attribute Inference from Question in LLMs [3.1677998308405786]
  大規模言語モデル(LLM)は、性別や人種などの人口特性が入力の中に明示的に存在するときに、社会的偏見を反映することが知られている。 しかし、それらのモデルが存在しない場合でも、これらのモデルは質問のフレーズだけでユーザーのアイデンティティを推測する。 本稿では,言語モデルで見過ごされた障害モードを監査するためのタスクおよびフレームワークであるDAIQを紹介する。
  論文  参考訳（メタデータ） (2025-08-18T19:26:17Z)
• Assessing the Reliability of LLMs Annotations in the Context of Demographic Bias and Model Explanation [5.907945985868999]
  本研究では,アノテータの人口統計学的特徴がテキストコンテンツと比較してラベル決定に与える影響について検討した。 一般化線形混合モデルを用いて、この差分率を定量化し、観測された分散のごく一部(8%)が人口統計因子であることを示した。 次に、ジェネレーティブAI(GenAI)モデルの信頼性をアノテータとして評価し、人口統計学的パーソナによる指導が人間の判断との整合性を改善するかどうかを具体的に評価する。
  論文  参考訳（メタデータ） (2025-07-17T14:00:13Z)
• White Men Lead, Black Women Help? Benchmarking and Mitigating Language Agency Social Biases in LLMs [58.27353205269664]
  社会的バイアスは、Large Language Model(LLM)生成コンテンツにおいて言語エージェンシーに現れる。 LLMのバイアスを包括的に評価するLanguage Agency Bias Evaluationベンチマークを導入する。 LABEを用いて,近年の3つのLLM(ChatGPT,Llama3,Mistral)における言語エージェントの社会的バイアスを明らかにした。
  論文  参考訳（メタデータ） (2024-04-16T12:27:54Z)
• Leveraging Prototypical Representations for Mitigating Social Bias without Demographic Information [50.29934517930506]
  DAFairは、言語モデルにおける社会的バイアスに対処する新しいアプローチである。 偏見を緩和するために、原型的人口統計テキストを活用し、微調整プロセス中に正規化用語を取り入れる。
  論文  参考訳（メタデータ） (2024-03-14T15:58:36Z)
• Fair Abstractive Summarization of Diverse Perspectives [103.08300574459783]
  公平な要約は、特定のグループを過小評価することなく、多様な視点を包括的にカバーしなければなりません。 はじめに、抽象的な要約における公正性は、いかなる集団の視点にも過小評価されないものとして、正式に定義する。 本研究では,対象視点と対象視点の差を測定することで,基準のない4つの自動計測手法を提案する。
  論文  参考訳（メタデータ） (2023-11-14T03:38:55Z)
• On the steerability of large language models toward data-driven personas [98.9138902560793]
  大規模言語モデル(LLM)は、特定のグループや集団の意見が不足している偏りのある応答を生成することが知られている。 本稿では, LLM を用いて特定の視点の制御可能な生成を実現するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-08T19:01:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。