論文の概要: Let Community Rules Be Reflected in Online Content Moderation
- arxiv url: http://arxiv.org/abs/2408.12035v1
- Date: Wed, 21 Aug 2024 23:38:02 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-23 15:43:40.000494
- Title: Let Community Rules Be Reflected in Online Content Moderation
- Title（参考訳）: オンラインコンテンツモデレーションにおけるコミュニティルールの反映
- Authors: Wangjiaxuan Xin, Kanlun Wang, Zhe Fu, Lina Zhou,
- Abstract要約: 本研究では,コミュニティルールに基づくコンテンツモデレーションフレームワークを提案する。
コミュニティルールをユーザ生成コンテンツのモデレーションに統合する。
特に、コミュニティルールを取り入れることで、コンテンツモデレーションにおけるモデルパフォーマンスが大幅に向上する。
- 参考スコア（独自算出の注目度）: 2.4717834653693083
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Content moderation is a widely used strategy to prevent the dissemination of irregular information on social media platforms. Despite extensive research on developing automated models to support decision-making in content moderation, there remains a notable scarcity of studies that integrate the rules of online communities into content moderation. This study addresses this gap by proposing a community rule-based content moderation framework that directly integrates community rules into the moderation of user-generated content. Our experiment results with datasets collected from two domains demonstrate the superior performance of models based on the framework to baseline models across all evaluation metrics. In particular, incorporating community rules substantially enhances model performance in content moderation. The findings of this research have significant research and practical implications for improving the effectiveness and generalizability of content moderation models in online communities.
- Abstract（参考訳）: コンテンツモデレーションは、ソーシャルメディアプラットフォーム上の不規則な情報の拡散を防ぐために広く利用されている戦略である。
コンテンツモデレーションにおける意思決定を支援するための自動モデルの開発に関する広範な研究にもかかわらず、オンラインコミュニティのルールをコンテンツモデレーションに統合する研究はほとんどない。
本研究では,コミュニティルールをユーザ生成コンテンツのモデレーションに直接統合するコミュニティルールベースのコンテンツモデレーションフレームワークを提案することにより,このギャップを解消する。
本実験は,2つの領域から収集したデータセットを用いて,フレームワークに基づくモデルの優れた性能と,評価指標全体のベースラインモデルを示す。
特に、コミュニティルールを取り入れることで、コンテンツモデレーションにおけるモデルパフォーマンスが大幅に向上する。
本研究は,オンラインコミュニティにおけるコンテンツモデレーションモデルの有効性と一般化性向上に重要な研究と実践的意味を持っている。
関連論文リスト
- The Unappreciated Role of Intent in Algorithmic Moderation of Social Media Content [2.2618341648062477]
本稿では,コンテンツモデレーションシステムにおける意図の役割について考察する。
本研究は,意識と意図を捉える能力を評価するために,オンライン虐待に対するアート検出モデルとベンチマークトレーニングデータセットの現状をレビューする。
論文 参考訳（メタデータ） (2024-05-17T18:05:13Z) - Content Moderation and the Formation of Online Communities: A
Theoretical Framework [7.900694093691988]
オンラインコミュニティにおけるコンテンツモデレーションポリシーの影響について検討する。
まず,安定なコミュニティを創り,維持するためのモデレーション政策の自然クラスの有効性を特徴付ける。
論文 参考訳（メタデータ） (2023-10-16T16:49:44Z) - Adapting Large Language Models for Content Moderation: Pitfalls in Data
Engineering and Supervised Fine-tuning [79.53130089003986]
大規模言語モデル(LLM)は、様々なドメインでタスクを処理するための実現可能なソリューションとなっている。
本稿では、コンテンツモデレーションのためにプライベートにデプロイ可能なLLMモデルを微調整する方法を紹介する。
論文 参考訳（メタデータ） (2023-10-05T09:09:44Z) - Interactive Graph Convolutional Filtering [79.34979767405979]
インタラクティブ・レコメンダ・システム(IRS)は、パーソナライズされた記事レコメンデーション、ソーシャルメディア、オンライン広告など、さまざまな領域でますます利用されている。
これらの問題は、コールドスタート問題とデータスポーサリティ問題によって悪化する。
既存のMulti-Armed Bandit手法は、慎重に設計された探査戦略にもかかわらず、しばしば初期の段階で満足な結果を提供するのに苦労する。
提案手法は,ユーザとアイテム間の協調フィルタリング性能を向上させるため,協調フィルタリングをグラフモデルに拡張する。
論文 参考訳（メタデータ） (2023-09-04T09:02:31Z) - A Unified Framework for Integrating Semantic Communication and
AI-Generated Content in Metaverse [57.317580645602895]
統合セマンティックコミュニケーションとAI生成コンテンツ(ISGC)は近年多くの注目を集めている。
ISGCはユーザ入力から意味情報を転送し、デジタルコンテンツを生成し、Metaverse用のグラフィックをレンダリングする。
最適化されたリソース割り当てのための統合ゲインを含む,ISGCの2つの主要なメリットをキャプチャする統合フレームワークを導入する。
論文 参考訳（メタデータ） (2023-05-18T02:02:36Z) - IDA: Informed Domain Adaptive Semantic Segmentation [51.12107564372869]
クラスレベルのセグメンテーション性能に基づいてデータを混合する自己学習フレームワークであるDomain Informed Adaptation (IDA) モデルを提案する。
IDAモデルでは、クラスレベルの性能を期待信頼スコア(ECS)によって追跡し、動的スケジュールを用いて異なる領域のデータに対する混合比を決定する。
提案手法は,GTA-Vの都市景観への適応において1.1 mIoU,SynTHIAの都市への適応において0.9 mIoUのマージンで,最先端のUDA-SS法よりも優れる。
論文 参考訳（メタデータ） (2023-03-05T18:16:34Z) - Bandits for Online Calibration: An Application to Content Moderation on
Social Media Platforms [14.242221219862849]
本稿では、Metaがプラットフォームからポリシー違反コンテンツを取り除くために採用している、現在のコンテンツモデレーション戦略について述べる。
手工芸品と学習リスクモデルの両方を使って、人間のレビューのために潜在的に違反するコンテンツをフラグ付けします。
当社のアプローチでは、これらのリスクモデルを単一のランキングスコアに集約し、より信頼性の高いリスクモデルを優先順位付けします。
論文 参考訳（メタデータ） (2022-11-11T23:55:53Z) - Reliable Decision from Multiple Subtasks through Threshold Optimization:
Content Moderation in the Wild [7.176020195419459]
ソーシャルメディアプラットフォームは、コンテンツモデレーションを通じて有害なコンテンツからユーザーを守るのに苦労している。
これらのプラットフォームは最近、大量のユーザー生成コンテンツに毎日対処するために機械学習モデルを活用している。
サードパーティーのコンテンツモデレーションサービスは、未成年者の存在、失礼なジェスチャー、武器など、複数のサブタスクの予測スコアを提供する。
本稿では,複数のサブタスクの最適しきい値を探索し,信頼性の高いモデレーション決定をコスト効率よく行うための,シンプルで効果的なしきい値最適化手法を提案する。
論文 参考訳（メタデータ） (2022-08-16T03:51:43Z) - SoK: Content Moderation in Social Media, from Guidelines to Enforcement,
and Research to Practice [9.356143195807064]
米国におけるソーシャルメディアコンテンツモデレーションのガイドラインと実践について調査する。
主流のソーシャルメディアプラットフォームで採用されているコンテンツモデレーションと、フリンジプラットフォームで採用されているコンテンツモデレーションの違いを識別する。
プラットフォームがワンサイズのモデルから、より包括的なモデルに移行するべき理由を強調します。
論文 参考訳（メタデータ） (2022-06-29T18:48:04Z) - This Must Be the Place: Predicting Engagement of Online Communities in a
Large-scale Distributed Campaign [70.69387048368849]
我々は、何百万人ものアクティブメンバーを持つコミュニティの行動について研究する。
テキストキュー,コミュニティメタデータ,構造的特性を組み合わせたハイブリッドモデルを構築した。
Redditのr/placeを通じて、大規模なオンライン実験を通じて、私たちのモデルの適用性を実証します。
論文 参考訳（メタデータ） (2022-01-14T08:23:16Z) - Personalized Fashion Recommendation from Personal Social Media Data: An
Item-to-Set Metric Learning Approach [71.63618051547144]
ソーシャルメディアデータからパーソナライズされたファッションレコメンデーションの問題について検討する。
本稿では,ユーザの過去のファッションアイテムと新しいファッションアイテムとの類似性を学習する,アイテムツーセットのメトリック学習フレームワークを提案する。
提案手法の有効性を検証するために,実世界のソーシャルメディアデータセットを収集する。
論文 参考訳（メタデータ） (2020-05-25T23:24:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。