論文の概要: Content Moderation and the Formation of Online Communities: A
Theoretical Framework
- arxiv url: http://arxiv.org/abs/2310.10573v1
- Date: Mon, 16 Oct 2023 16:49:44 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-17 12:50:09.024518
- Title: Content Moderation and the Formation of Online Communities: A
Theoretical Framework
- Title（参考訳）: コンテンツモデレーションとオンラインコミュニティの形成:理論的枠組み
- Authors: Cynthia Dwork, Chris Hays, Jon Kleinberg, Manish Raghavan
- Abstract要約: オンラインコミュニティにおけるコンテンツモデレーションポリシーの影響について検討する。
まず,安定なコミュニティを創り,維持するためのモデレーション政策の自然クラスの有効性を特徴付ける。
- 参考スコア（独自算出の注目度）: 7.900694093691988
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study the impact of content moderation policies in online communities. In
our theoretical model, a platform chooses a content moderation policy and
individuals choose whether or not to participate in the community according to
the fraction of user content that aligns with their preferences. The effects of
content moderation, at first blush, might seem obvious: it restricts speech on
a platform. However, when user participation decisions are taken into account,
its effects can be more subtle $\unicode{x2013}$ and counter-intuitive. For
example, our model can straightforwardly demonstrate how moderation policies
may increase participation and diversify content available on the platform. In
our analysis, we explore a rich set of interconnected phenomena related to
content moderation in online communities. We first characterize the
effectiveness of a natural class of moderation policies for creating and
sustaining stable communities. Building on this, we explore how
resource-limited or ideological platforms might set policies, how communities
are affected by differing levels of personalization, and competition between
platforms. Our model provides a vocabulary and mathematically tractable
framework for analyzing platform decisions about content moderation.
- Abstract（参考訳）: オンラインコミュニティにおけるコンテンツモデレーションポリシーの影響について検討する。
我々の理論モデルでは、プラットフォームはコンテンツモデレーションポリシーを選択し、個人は好みに合ったユーザーのコンテンツの割合に応じてコミュニティに参加するかどうかを選択する。
コンテンツモデレーションの効果は、最初は明らかで、プラットフォーム上でのスピーチを制限する。
しかし、ユーザー参加の決定が考慮されると、その効果はより微妙な$\unicode{x2013}$と反直感的になる。
例えば、当社のモデルでは、モデレーションポリシーがプラットフォーム上で利用可能なコンテンツへの参加や多様化をいかに促進するかを簡単に示せる。
本分析では,オンラインコミュニティにおけるコンテンツモデレーションに関連する相互接続現象の豊富な集合を探索する。
まず,安定なコミュニティを創り,維持するためのモデレーション政策の自然クラスの有効性を特徴付ける。
これに基づいて,資源制限やイデオロギー的プラットフォームが政策をどう設定するか,コミュニティがパーソナライズレベルの違いやプラットフォーム間の競合によってどのように影響を受けるかを検討する。
私たちのモデルは、コンテンツモデレーションに関するプラットフォーム決定を分析するための語彙と数学的に扱いやすいフレームワークを提供します。
関連論文リスト
- Let Community Rules Be Reflected in Online Content Moderation [2.4717834653693083]
本研究では,コミュニティルールに基づくコンテンツモデレーションフレームワークを提案する。
コミュニティルールをユーザ生成コンテンツのモデレーションに統合する。
特に、コミュニティルールを取り入れることで、コンテンツモデレーションにおけるモデルパフォーマンスが大幅に向上する。
論文 参考訳（メタデータ） (2024-08-21T23:38:02Z) - Content Moderation Justice and Fairness on Social Media: Comparisons
Across Different Contexts and Platforms [23.735552021636245]
我々はRedditとTwitterの200人のアメリカのソーシャルメディアユーザーを対象にオンライン実験を行っている。
帰属的モデレーションは、違法な違反行為において、商業的に中途半端なプラットフォームに対して、より高い正義と公正をもたらすことが分かっています。
我々は、モデレーション・システム設計を改善するためのプラットフォーム・ポリシー作成の機会について論じる。
論文 参考訳（メタデータ） (2024-03-09T22:50:06Z) - Content Moderation on Social Media in the EU: Insights From the DSA
Transparency Database [0.0]
デジタルサービス法(DSA)は、EU内の大規模なソーシャルメディアプラットフォームに対して、特定のコンテンツへのアクセスを制限するたびに明確で具体的な情報を提供することを要求する。
Reasons(SoR)のステートメントは、コンテンツモデレーション決定の透明性と精査を保証するために、DSA Transparency Databaseに収集される。
われわれは、EUのソーシャルメディアプラットフォームにおけるコンテンツモデレーション決定を早期に検討するため、2ヶ月の観察期間内に1億5600万のSoRを実証分析した。
論文 参考訳（メタデータ） (2023-12-07T16:56:19Z) - Analyzing Norm Violations in Live-Stream Chat [49.120561596550395]
本研究は,ライブストリーミングプラットフォーム上での会話における規範違反を検出することを目的とした,最初のNLP研究である。
ライブストリームチャットにおける標準違反カテゴリを定義し、Twitchから4,583のコメントを注釈付けします。
以上の結果から,適切なコンテキスト情報がモデレーション性能を35%向上させる可能性が示唆された。
論文 参考訳（メタデータ） (2023-05-18T05:58:27Z) - A User-Driven Framework for Regulating and Auditing Social Media [94.70018274127231]
アルゴリズムフィルタリングは、フレキシブルでユーザ主導のベースラインに対して規制されるべきである。
プラットフォームフィルタのフィードには,それぞれのベースラインフィードと「類似した」情報コンテンツが含まれる必要がある。
プラットフォームがこの要件を尊重するかどうかをチェックする監査手順を提案する。
論文 参考訳（メタデータ） (2023-04-20T17:53:34Z) - Reliable Decision from Multiple Subtasks through Threshold Optimization:
Content Moderation in the Wild [7.176020195419459]
ソーシャルメディアプラットフォームは、コンテンツモデレーションを通じて有害なコンテンツからユーザーを守るのに苦労している。
これらのプラットフォームは最近、大量のユーザー生成コンテンツに毎日対処するために機械学習モデルを活用している。
サードパーティーのコンテンツモデレーションサービスは、未成年者の存在、失礼なジェスチャー、武器など、複数のサブタスクの予測スコアを提供する。
本稿では,複数のサブタスクの最適しきい値を探索し,信頼性の高いモデレーション決定をコスト効率よく行うための,シンプルで効果的なしきい値最適化手法を提案する。
論文 参考訳（メタデータ） (2022-08-16T03:51:43Z) - SoK: Content Moderation in Social Media, from Guidelines to Enforcement,
and Research to Practice [9.356143195807064]
米国におけるソーシャルメディアコンテンツモデレーションのガイドラインと実践について調査する。
主流のソーシャルメディアプラットフォームで採用されているコンテンツモデレーションと、フリンジプラットフォームで採用されているコンテンツモデレーションの違いを識別する。
プラットフォームがワンサイズのモデルから、より包括的なモデルに移行するべき理由を強調します。
論文 参考訳（メタデータ） (2022-06-29T18:48:04Z) - This Must Be the Place: Predicting Engagement of Online Communities in a
Large-scale Distributed Campaign [70.69387048368849]
我々は、何百万人ものアクティブメンバーを持つコミュニティの行動について研究する。
テキストキュー,コミュニティメタデータ,構造的特性を組み合わせたハイブリッドモデルを構築した。
Redditのr/placeを通じて、大規模なオンライン実験を通じて、私たちのモデルの適用性を実証します。
論文 参考訳（メタデータ） (2022-01-14T08:23:16Z) - News consumption and social media regulations policy [70.31753171707005]
我々は、ニュース消費とコンテンツ規制の間の相互作用を評価するために、反対のモデレーション手法であるTwitterとGabを強制した2つのソーシャルメディアを分析した。
以上の結果から,Twitterが追求するモデレーションの存在は,疑わしいコンテンツを著しく減少させることがわかった。
Gabに対する明確な規制の欠如は、ユーザが両方のタイプのコンテンツを扱う傾向を生じさせ、ディスカウント/エンドレスメントの振る舞いを考慮に入れた疑わしいコンテンツに対してわずかに好みを示す。
論文 参考訳（メタデータ） (2021-06-07T19:26:32Z) - Detecting Harmful Content On Online Platforms: What Platforms Need Vs.
Where Research Efforts Go [44.774035806004214]
オンラインプラットフォーム上の有害コンテンツには、ヘイトスピーチ、攻撃的言語、いじめとハラスメント、誤情報、スパム、暴力、グラフィックコンテンツ、性的虐待、自己被害など、さまざまな形態がある。
オンラインプラットフォームは、そのようなコンテンツを、社会的危害を抑えるため、法律に従うために、ユーザーのためにより包括的な環境を作るために、緩和しようとしている。
現在、オンラインプラットフォームが抑制しようとしている有害なコンテンツの種類と、そのようなコンテンツを自動的に検出する研究努力との間には、隔たりがある。
論文 参考訳（メタデータ） (2021-02-27T08:01:10Z) - Information Consumption and Social Response in a Segregated Environment:
the Case of Gab [74.5095691235917]
この研究は、COVID-19トピックに関するGab内のインタラクションパターンの特徴を提供する。
疑わしい、信頼できるコンテンツに対する社会的反応には、統計的に強い違いはない。
本研究は,協調した不正確な行動の理解と情報操作の早期警戒に関する知見を提供する。
論文 参考訳（メタデータ） (2020-06-03T11:34:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。