論文の概要: Let Community Rules Be Reflected in Online Content Moderation

• arxiv url: http://arxiv.org/abs/2408.12035v1
• Date: Wed, 21 Aug 2024 23:38:02 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-23 15:43:40.000494
• Title: Let Community Rules Be Reflected in Online Content Moderation
• Title（参考訳）: オンラインコンテンツモデレーションにおけるコミュニティルールの反映
• Authors: Wangjiaxuan Xin, Kanlun Wang, Zhe Fu, Lina Zhou,
• Abstract要約: 本研究では,コミュニティルールに基づくコンテンツモデレーションフレームワークを提案する。 コミュニティルールをユーザ生成コンテンツのモデレーションに統合する。 特に、コミュニティルールを取り入れることで、コンテンツモデレーションにおけるモデルパフォーマンスが大幅に向上する。
• 参考スコア（独自算出の注目度）: 2.4717834653693083
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Content moderation is a widely used strategy to prevent the dissemination of irregular information on social media platforms. Despite extensive research on developing automated models to support decision-making in content moderation, there remains a notable scarcity of studies that integrate the rules of online communities into content moderation. This study addresses this gap by proposing a community rule-based content moderation framework that directly integrates community rules into the moderation of user-generated content. Our experiment results with datasets collected from two domains demonstrate the superior performance of models based on the framework to baseline models across all evaluation metrics. In particular, incorporating community rules substantially enhances model performance in content moderation. The findings of this research have significant research and practical implications for improving the effectiveness and generalizability of content moderation models in online communities.
• Abstract（参考訳）: コンテンツモデレーションは、ソーシャルメディアプラットフォーム上の不規則な情報の拡散を防ぐために広く利用されている戦略である。 コンテンツモデレーションにおける意思決定を支援するための自動モデルの開発に関する広範な研究にもかかわらず、オンラインコミュニティのルールをコンテンツモデレーションに統合する研究はほとんどない。 本研究では,コミュニティルールをユーザ生成コンテンツのモデレーションに直接統合するコミュニティルールベースのコンテンツモデレーションフレームワークを提案することにより,このギャップを解消する。 本実験は,2つの領域から収集したデータセットを用いて,フレームワークに基づくモデルの優れた性能と,評価指標全体のベースラインモデルを示す。 特に、コミュニティルールを取り入れることで、コンテンツモデレーションにおけるモデルパフォーマンスが大幅に向上する。 本研究は,オンラインコミュニティにおけるコンテンツモデレーションモデルの有効性と一般化性向上に重要な研究と実践的意味を持っている。

関連論文リスト

• Towards Safer Social Media Platforms: Scalable and Performant Few-Shot Harmful Content Moderation Using Large Language Models [9.42299478071576]
  ソーシャルメディアプラットフォーム上の有害コンテンツは、ユーザーや社会に重大なリスクをもたらす。 現在のアプローチは、人間のモデレーター、教師付き分類器、大量のトレーニングデータに依存している。 我々は,Large Language Models (LLMs) を用いて,テキスト内学習による動的コンテンツのモデレーションを少数行う。
  論文  参考訳（メタデータ） (2025-01-23T00:19:14Z)
• Multi-Platform Aggregated Dataset of Online Communities (MADOC) [64.45797970830233]
  MADOCはBluesky、Koo、Reddit、Voat(2012-2024)のデータを集め、標準化している。 このデータセットは、標準化されたインタラクション記録と感情分析を通じて、プラットフォーム間の有害な振る舞いの進化の比較研究を可能にする。
  論文  参考訳（メタデータ） (2025-01-22T14:02:11Z)
• ICM-Assistant: Instruction-tuning Multimodal Large Language Models for Rule-based Explainable Image Content Moderation [48.1894038905491]
  従来の画像コンテンツモデレーション(ICM)モデルは、様々な標準に対して正確なモデレーション決定を下すには不十分である。 我々は、簡潔な人間定義ルールを分解する新しいルールベースのデータセット生成パイプラインを設計する。 我々はルールベースのIMMのフレームワークでIMM-Assistantモデルを作成し、実際の実践で容易に適用できるようにします。
  論文  参考訳（メタデータ） (2024-12-24T06:45:36Z)
• The Unappreciated Role of Intent in Algorithmic Moderation of Social Media Content [2.2618341648062477]
  本稿では,コンテンツモデレーションシステムにおける意図の役割について考察する。 本研究は,意識と意図を捉える能力を評価するために,オンライン虐待に対するアート検出モデルとベンチマークトレーニングデータセットの現状をレビューする。
  論文  参考訳（メタデータ） (2024-05-17T18:05:13Z)
• Content Moderation and the Formation of Online Communities: A Theoretical Framework [7.900694093691988]
  オンラインコミュニティにおけるコンテンツモデレーションポリシーの影響について検討する。 まず,安定なコミュニティを創り,維持するためのモデレーション政策の自然クラスの有効性を特徴付ける。
  論文  参考訳（メタデータ） (2023-10-16T16:49:44Z)
• Adapting Large Language Models for Content Moderation: Pitfalls in Data Engineering and Supervised Fine-tuning [79.53130089003986]
  大規模言語モデル(LLM)は、様々なドメインでタスクを処理するための実現可能なソリューションとなっている。 本稿では、コンテンツモデレーションのためにプライベートにデプロイ可能なLLMモデルを微調整する方法を紹介する。
  論文  参考訳（メタデータ） (2023-10-05T09:09:44Z)
• IDA: Informed Domain Adaptive Semantic Segmentation [51.12107564372869]
  クラスレベルのセグメンテーション性能に基づいてデータを混合する自己学習フレームワークであるDomain Informed Adaptation (IDA) モデルを提案する。 IDAモデルでは、クラスレベルの性能を期待信頼スコア(ECS)によって追跡し、動的スケジュールを用いて異なる領域のデータに対する混合比を決定する。 提案手法は,GTA-Vの都市景観への適応において1.1 mIoU,SynTHIAの都市への適応において0.9 mIoUのマージンで,最先端のUDA-SS法よりも優れる。
  論文  参考訳（メタデータ） (2023-03-05T18:16:34Z)
• Bandits for Online Calibration: An Application to Content Moderation on Social Media Platforms [14.242221219862849]
  本稿では、Metaがプラットフォームからポリシー違反コンテンツを取り除くために採用している、現在のコンテンツモデレーション戦略について述べる。 手工芸品と学習リスクモデルの両方を使って、人間のレビューのために潜在的に違反するコンテンツをフラグ付けします。 当社のアプローチでは、これらのリスクモデルを単一のランキングスコアに集約し、より信頼性の高いリスクモデルを優先順位付けします。
  論文  参考訳（メタデータ） (2022-11-11T23:55:53Z)
• SoK: Content Moderation in Social Media, from Guidelines to Enforcement, and Research to Practice [9.356143195807064]
  米国におけるソーシャルメディアコンテンツモデレーションのガイドラインと実践について調査する。 主流のソーシャルメディアプラットフォームで採用されているコンテンツモデレーションと、フリンジプラットフォームで採用されているコンテンツモデレーションの違いを識別する。 プラットフォームがワンサイズのモデルから、より包括的なモデルに移行するべき理由を強調します。
  論文  参考訳（メタデータ） (2022-06-29T18:48:04Z)
• This Must Be the Place: Predicting Engagement of Online Communities in a Large-scale Distributed Campaign [70.69387048368849]
  我々は、何百万人ものアクティブメンバーを持つコミュニティの行動について研究する。 テキストキュー,コミュニティメタデータ,構造的特性を組み合わせたハイブリッドモデルを構築した。 Redditのr/placeを通じて、大規模なオンライン実験を通じて、私たちのモデルの適用性を実証します。
  論文  参考訳（メタデータ） (2022-01-14T08:23:16Z)
• Personalized Fashion Recommendation from Personal Social Media Data: An Item-to-Set Metric Learning Approach [71.63618051547144]
  ソーシャルメディアデータからパーソナライズされたファッションレコメンデーションの問題について検討する。 本稿では,ユーザの過去のファッションアイテムと新しいファッションアイテムとの類似性を学習する,アイテムツーセットのメトリック学習フレームワークを提案する。 提案手法の有効性を検証するために,実世界のソーシャルメディアデータセットを収集する。
  論文  参考訳（メタデータ） (2020-05-25T23:24:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。