論文の概要: Whose Judgments Count? Representation Gaps in Crowdsourced Content Moderation Produce Unequal Protection from Perceived Toxicity

• arxiv url: http://arxiv.org/abs/2609.01625v1
• Date: Wed, 05 Aug 2026 21:59:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-06 19:38:41.478343
• Title: Whose Judgments Count? Representation Gaps in Crowdsourced Content Moderation Produce Unequal Protection from Perceived Toxicity
• Title（参考訳）: クラウドソーシングによるコンテンツモデレーションにおける表現ギャップは, 有害性知覚からの不平等を誘発する
• Abstract要約: 本研究は,モデレータープールの人口統計的同一性を共有するユーザに対して,有害性認知の減少が相反することを示す。 黒とLGBのユーザーは、人口のシェアをはるかに超えない限り、保護されていないままだ。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Content moderation is a central form of digital governance, yet people disagree over what content should be removed from shared online spaces. While platforms aggregate human judgments to build moderation systems, it remains unclear how this process shapes which users are protected from content they perceive as toxic. We address this gap by combining large-scale judgment data with counterfactual simulations that trace how the demographic composition of moderator pools shapes the distribution of protection across users. Applying this framework to removal judgments from 16,221 U.S. respondents evaluating 102,463 comments from Twitter, Reddit, and 4chan, we find demographic heterogeneities in moderation demand. We further reveal a consistent pattern of in-group protection: reductions in perceived toxicity accrue disproportionately to users who share the demographic identities of the moderator pool. Crucially, moderator pools that mirror the demographic composition of self-identified moderators on Prolific widen these disparities relative to a nationally representative baseline, while even fully representative pools fail to ensure equal protection: Black and LGB users remain underprotected unless they are represented well beyond their population share. These findings show that unequal protection from perceived toxicity can arise structurally from the aggregation of stratified removal standards, making the demographic composition of moderation inputs a key determinant of who is protected online.
• Abstract（参考訳）: コンテンツモデレーションはデジタルガバナンスの中心的な形態であるが、どのコンテンツが共有オンライン空間から削除されるべきかについて人々は意見が一致しない。 プラットフォームは、人間による判断を集約してモデレーションシステムを構築するが、このプロセスが、ユーザーが有害と認識するコンテンツから保護されているコンテンツをどのように形作るかは、まだ不明である。 我々は,このギャップを,大規模な判断データと,モデレータープールの人口構成がユーザ間の保護の分布をいかに形作るかを追及する反実シミュレーションを組み合わせることで解決する。 このフレームワークを適用して、米国の回答者16,221人の判断を排除し、Twitter、Reddit、および4chanからの102,463のコメントを評価した。 我々はさらに、モデレータープールの人口密度を共有するユーザに対して、有害性に対する認識の低下という、グループ内保護の一貫したパターンを明らかにした。 重要なことに、Prolificの自己識別モデレーターの人口構成を反映したモデレータープールは、全国的に代表されるベースラインと比較してこれらの格差を広げる一方、完全に代表されるプールでさえ、平等な保護を確保できない。 これらの結果から, 階層化除去基準の集合から, 知覚毒性からの不平等な保護が生じる可能性が示唆され, モデレーション入力の人口構成がオンライン保護の鍵となる要因となった。

関連論文リスト

• Epistemic Injustice in Language Models: An Audit of Pretraining Filters and Guardrails [21.15987151986872]
  本研究は,4つの事前学習フィルタと3つの推論時ガードレールを,ジェンダーと地域的言及を含むCommon Crawl文で評価する。 分析の結果,フィルタとガードレールの決定はブロックリストに基づく語彙的手がかりと強く関連していることがわかった。 同時に、特にトランスジェンダーの人々、女性、中央アメリカ人といった疎外されたグループは、システム全体で著しく過度に偏っている。
  論文  参考訳（メタデータ） (2026-06-04T09:38:55Z)
• Boundary-targeted Membership Inference Attacks on Safety Classifiers [70.20833439671131]
  安全分類器は、セルフハームとメンタルヘルスの議論を含むセンシティブなデータセットに基づいて訓練される。 低信頼例を識別する新たな境界目標選択戦略を導入する。 実験により、相手は会話の19%を安全分類器が5%の偽陽性率でユーザーの苦痛を示すようにフラグ付けして回復できることが示された。 これは最先端のMIAメソッドだけで攻撃するより3.5ドル高い。
  論文  参考訳（メタデータ） (2026-05-21T12:05:22Z)
• Intimacy as Service, Harm as Externality: Critical Perspectives on AI Companion Platform Accountability [0.0]
  本稿では,親密な関係を同時に生成,抽出,管理する場として,人工知能(AI)の連携について検討する。 AIコンパニオンを持つ20人の個人との詳細なインタビューを通じて、私たちは3つの質問に対処する。 本研究は, 構造的代替手段を欠くユーザの解釈作業を通じて, プラットフォーム生成の脆弱性が自己持続的になることを示すことによって, 責任化理論を拡張した。
  論文  参考訳（メタデータ） (2026-04-07T19:11:54Z)
• Auditing the Auditors: Does Community-based Moderation Get It Right? [0.5833117322405447]
  我々は,Xのコミュニティノートにおけるコンセンサスに基づく監査の結果を分析した。 マイノリティ・コントリビュータの評価は多数派に傾き、彼らの参加比率は議論の的となっているトピックに該当する。 多数派との合意によってではなく,過去の残余の安定性によって貢献者を重み付けする2段階監査・集約アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2026-03-17T21:58:13Z)
• Measuring Social Bias in Vision-Language Models with Face-Only Counterfactuals from Real Photos [79.03150233804458]
  現実のイメージは人種と性別を混在させ、背景や衣服などの関連要因や属性を隠蔽する。 テキストのみの対実的評価パラダイムを提案する。 我々は、人種や性別に関連する顔属性のみを編集し、他の視覚的要素を全て固定することで、反事実的変異を生成する。
  論文  参考訳（メタデータ） (2026-01-11T14:35:06Z)
• Reddit Deplatforming and Toxicity Dynamics on Generalist Voat Communities [73.88859384645264]
  コミュニティ全体の恒久的な禁止であるデプラットフォームは、主要なプラットフォームでコンテンツモデレーションを行うための主要なツールである。 Redditの4大禁止波(2015-2020)と、Voatの一般コミュニティへの影響を分析した。
  論文  参考訳（メタデータ） (2025-12-26T19:13:45Z)
• When the Majority is Wrong: Modeling Annotator Disagreement for Subjective Tasks [45.14664901245331]
  ヘイトスピーチの検出における重要な問題は、ある声明が人口集団に対して攻撃的であるかどうかを決定することである。 我々は、潜在的に攻撃的なテキストに基づいて、個々のアノテータ評価を予測するモデルを構築した。 その結果、アノテータの評価は、その人口統計情報とオンラインコンテンツに関する意見を用いて予測できることがわかった。
  論文  参考訳（メタデータ） (2023-05-11T07:55:20Z)
• Estimating Topic Exposure for Under-Represented Users on Social Media [25.963970325207892]
  この研究は、観察されたデータに対する参加者の貢献を強調することに重点を置いている。 これらのユーザの行動分析の最初のステップは、公開されているが関与していないトピックを見つけることです。 本稿では,これらのユーザを特定し,トピックの露出を推定する新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-08-07T19:37:41Z)
• Joint Multisided Exposure Fairness for Recommendation [76.75990595228666]
  本稿では,消費者と生産者の両面から共同で問題をモデル化する,露出公正度尺度のファミリを定式化する。 具体的には、双方の利害関係者に対するグループ属性について、個別のユーザや項目を超えて、より体系的なバイアスを推奨するフェアネスの懸念を識別し緩和する。
  論文  参考訳（メタデータ） (2022-04-29T19:13:23Z)
• Measuring Fairness Under Unawareness of Sensitive Attributes: A Quantification-Based Approach [131.20444904674494]
  センシティブな属性の無意識下でのグループフェアネスを測定する問題に取り組む。 定量化手法は, フェアネスと無意識の問題に対処するのに特に適していることを示す。
  論文  参考訳（メタデータ） (2021-09-17T13:45:46Z)
• Designing Toxic Content Classification for a Diversity of Perspectives [15.466547856660803]
  我々は17,280人の参加者を対象に,有毒なコンテンツを構成するものに対するユーザの期待が,人口動態,信念,個人的経験によってどのように異なるかを調査した。 歴史的に嫌がらせのリスクがあるグループは、Reddit、Twitter、あるいは4chanから無作為なコメントを有害であると警告する傾向にある。 JigsawのパースペクティブAPIのような、現在の一大毒性分類アルゴリズムは、パーソナライズされたモデルチューニングによって、平均86%の精度で改善できることを示す。
  論文  参考訳（メタデータ） (2021-06-04T16:45:15Z)
• Balancing Biases and Preserving Privacy on Balanced Faces in the Wild [50.915684171879036]
  現在の顔認識(FR)モデルには、人口統計バイアスが存在する。 さまざまな民族と性別のサブグループにまたがる偏見を測定するために、我々のバランス・フェイススをWildデータセットに導入します。 真偽と偽のサンプルペアを区別するために1点のスコアしきい値に依存すると、最適以下の結果が得られます。 本稿では,最先端ニューラルネットワークから抽出した顔特徴を用いたドメイン適応学習手法を提案する。
  論文  参考訳（メタデータ） (2021-03-16T15:05:49Z)
• Mitigating Face Recognition Bias via Group Adaptive Classifier [53.15616844833305]
  この研究は、全てのグループの顔がより平等に表現できる公正な顔表現を学ぶことを目的としている。 我々の研究は、競争精度を維持しながら、人口集団間での顔認識バイアスを軽減することができる。
  論文  参考訳（メタデータ） (2020-06-13T06:43:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。