論文の概要: Characterizing Bluesky Content Moderation Service: From Automation of Service to Landscape of Harms
- arxiv url: http://arxiv.org/abs/2609.11373v1
- Date: Thu, 10 Sep 2026 11:08:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-11 23:53:35.308997
- Title: Characterizing Bluesky Content Moderation Service: From Automation of Service to Landscape of Harms
- Title（参考訳）: ブルースキーコンテンツモデレーションサービスの特徴:サービスの自動化からハームの景観へ
- Abstract要約: 我々はBluesky Moderation Service(BMS)のデフォルトモデレーションシステムの大規模な監査を行う。
そこで本研究では,人間とAIのコラボレーションシステムを用いて,性的・グラフィック的コンテンツのラベルを数秒で自動的に適用するシステムについて検討した。
最も頻繁に適用されるポストの教師なしクラスタリングは、言論における敵意から保護されたグループ、性的に明示的なその他のグラフィックコンテンツの拡散まで、検出された害を明らかにしている。
- 参考スコア（独自算出の注目度）: 5.560750448549168
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Empirical research on content moderation is fundamentally constrained by the opaque deployment of moderation systems on major social media platforms. To this end, the recent emergence of decentralized platforms with transparent, public moderation logs presents an unprecedented opportunity for independent audits. In this work, we leverage this architectural transparency to conduct the first large-scale audit of the default moderation system on Bluesky, the Bluesky Moderation Service (BMS). Analyzing its 10.6M moderation labels from 2025, we investigate three foundational aspects: (i) its mechanism (the degree of automation versus human oversight), (ii) its efficacy (accuracy in detecting harms), and (iii) its purpose (the landscape of harms it identifies). Our findings reveal a human-AI collaborative system where labels for sexual and graphic content are applied automatically in seconds, while nuanced and high stakes labels require more human oversight, taking hours or days. Through a manual annotation study, we find the BMS operates with high precision (0.837), but struggles with low recall (0.222), with our annotators identifying 4.5$\times$ more harmful content than the moderation system in a random sample. Finally, unsupervised clustering of the most frequently applied labeled posts uncovers detected harms ranging from hostility in discourse toward protected groups to the spread of sexually explicit and other graphic content. Our work offers a look into the operational realities of a deployed moderation system, providing a concrete data-driven foundation for designing more effective and transparent moderation systems.
- Abstract（参考訳）: コンテンツモデレーションに関する実証的研究は、主要なソーシャルメディアプラットフォームへのモデレーションシステムの不透明な展開によって、基本的に制限されている。
この目的のために、透明性のある公開モデレーションログを備えた分散プラットフォームが最近出現したことは、独立監査にとって前例のない機会である。
本稿では,このアーキテクチャの透明性を活用して,BlueskyのデフォルトモデレーションシステムであるBluesky Moderation Service (BMS)の大規模監査を行う。
2025年からの10.6Mモデレーションラベルの分析から,3つの基礎的側面を考察する。
(i)その機構(自動化と人間の監視の程度)
二 その効力(害を検知する精度)、及び
(三)目的(害の風景)
以上の結果から,性的・グラフィック的コンテンツのラベルを数秒で自動的に適用する,人間とAIの協調システムを見いだすことができた。
手動のアノテーション研究により、BMSは高い精度(0.837)で動作しているが、低いリコール(0.222)に苦慮し、アノテータはランダムサンプルのモデレーションシステムよりも4.5$\times$有害なコンテンツを識別する。
最後に、最も頻繁に適用されるラベル付きポストの教師なしクラスタリングは、言論における敵意から保護されたグループへの攻撃から、性的に明示的な他のグラフィックコンテンツの拡散まで、検出された害を明らかにする。
我々の研究は、より効果的で透明なモデレーションシステムを設計するための具体的なデータ駆動基盤を提供する、デプロイモデレーションシステムの運用実態を考察する。
関連論文リスト
- What the Eyes See, the LLMs Miss: Exploiting Human Perception for Adversarial Text Attacks [9.745253975157912]
大規模言語モデル(LLM)を利用したコンテンツモデレーションシステムは,有害なオンラインコンテンツに対して重要な防御手段となっている。
人から有害と容易に認識されるコンテンツは、自動モデレーションシステムでは効果的に見えなくなる。
我々は、有害な表現を良質なテキストに埋め込むHPAA(Human-Perceptible Adversarial Attacks)のクラスを導入する。
論文 参考訳（メタデータ） (2026-06-08T16:21:34Z) - FoodMonitor: Benchmarking MLLMs for Explainable Compliance Analysis [29.80090524705393]
FoodMonitorは、商用キッチン監視における説明可能なコンプライアンス分析のベンチマークである。
最高の性能モデルは0.360ドルC_textscore$でしか得られず、空間的局所化と細かいルール理解が主要なボトルネックとして現れる。
論文 参考訳（メタデータ） (2026-05-23T10:19:41Z) - Transparent and Controllable Recommendation Filtering via Multimodal Multi-Agent Collaboration [48.028080782524064]
我々は、エンドツーエンドのコラボレーション、マルチモーダル認識、マルチエージェントオーケストレーションを統合する新しいフレームワークを紹介します。
本システムでは,帰納的幻覚を除去するために,ファクトグラウンドの偏見パイプラインを用いている。
ダイナミックな2階層の嗜好グラフを構築し、明示的なループ内の人為的な修正を可能にする。
論文 参考訳（メタデータ） (2026-04-19T14:19:28Z) - Beyond One-Size-Fits-All: Personalized Harmful Content Detection with In-Context Learning [4.559454504442884]
本稿では, 有害性, スパム, ネガティブ感情の検出を, バイナリ, マルチクラス, マルチラベル設定で統一するフレームワークを提案する。
このアプローチにより、軽量なパーソナライズが可能となり、ユーザーは、新しいカテゴリを簡単にブロックしたり、既存のカテゴリをブロックしたり、検出をセマンティックなバリエーションに拡張できる。
論文 参考訳（メタデータ） (2025-10-29T09:11:20Z) - RoboView-Bias: Benchmarking Visual Bias in Embodied Agents for Robotic Manipulation [67.38036090822982]
ロボット操作における視覚バイアスの定量化を目的とした,最初のベンチマークであるRoboView-Biasを提案する。
我々は、個々の視覚的要因とその相互作用によって引き起こされるバイアスの堅牢な測定を可能にする2,127のタスクインスタンスを作成します。
本研究は,視覚バイアスの系統的解析が,安全で信頼性の高い汎用的なエンボディエージェントの開発に必須であることを示す。
論文 参考訳（メタデータ） (2025-09-26T13:53:25Z) - ToVo: Toxicity Taxonomy via Voting [25.22398575368979]
投票と連鎖プロセスを統合したデータセット作成機構を提案する。
本手法は,各サンプルの分類基準を多種多様に設定する。
提案したメカニズムによって生成されたデータセットを使用してモデルをトレーニングします。
論文 参考訳（メタデータ） (2024-06-21T02:35:30Z) - TeD-SPAD: Temporal Distinctiveness for Self-supervised
Privacy-preservation for video Anomaly Detection [59.04634695294402]
人間の監視のないビデオ異常検出(VAD)は複雑なコンピュータビジョンタスクである。
VADのプライバシー漏洩により、モデルは人々の個人情報に関連する不必要なバイアスを拾い上げ、増幅することができる。
本稿では,視覚的プライベート情報を自己管理的に破壊する,プライバシーに配慮したビデオ異常検出フレームワークTeD-SPADを提案する。
論文 参考訳（メタデータ） (2023-08-21T22:42:55Z) - Stable Bias: Analyzing Societal Representations in Diffusion Models [72.27121528451528]
本稿では,テキスト・ツー・イメージ(TTI)システムにおける社会的バイアスを探索する新しい手法を提案する。
我々のアプローチは、プロンプト内の性別や民族のマーカーを列挙して生成された画像の変動を特徴づけることに依存している。
我々はこの手法を利用して3つのTTIシステムによって生成された画像を分析し、そのアウトプットが米国の労働人口層と相関しているのに対して、彼らは常に異なる範囲において、限界化されたアイデンティティを低く表現している。
論文 参考訳（メタデータ） (2023-03-20T19:32:49Z) - Explainable Abuse Detection as Intent Classification and Slot Filling [66.80201541759409]
我々は、システムがデータ検査だけで乱用を構成する事象を確実に学習できるという非現実的な期待を捨て、政策対応による悪用検出の概念を導入する。
目的分類とスロットフィリングのためのアーキテクチャは、モデル決定の根拠を提供しながら、悪用検出にどのように使用できるかを示す。
論文 参考訳（メタデータ） (2022-10-06T03:33:30Z) - A2Log: Attentive Augmented Log Anomaly Detection [53.06341151551106]
異常検出は、ITサービスの信頼性とサービス性にとってますます重要になる。
既存の教師なし手法は、適切な決定境界を得るために異常な例を必要とする。
我々は,異常判定と異常判定の2段階からなる教師なし異常検出手法であるA2Logを開発した。
論文 参考訳（メタデータ） (2021-09-20T13:40:21Z) - Robustness Disparities in Commercial Face Detection [72.25318723264215]
私たちは、Amazon Rekognition、Microsoft Azure、Google Cloud Platformの3つのシステムの堅牢性に関する、この種の詳細なベンチマークを初めて提示します。
一般的には、年齢、男性像、肌型、薄暗い色合いの人物の写真は、他のアイデンティティーの人物よりも、エラーの影響を受けやすいことが分かりました。
論文 参考訳（メタデータ） (2021-08-27T21:37:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。