論文の概要: AppealMod: Shifting Effort from Moderators to Users Making Appeals
- arxiv url: http://arxiv.org/abs/2301.07163v1
- Date: Tue, 17 Jan 2023 20:15:20 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-19 13:39:41.646641
- Title: AppealMod: Shifting Effort from Moderators to Users Making Appeals
- Title(参考訳): appealmod: モデレーターからユーザへのアピールへの取り組み
- Authors: Shubham Atreja, Jane Im, Paul Resnick, Libby Hemphill
- Abstract要約: appealModは、人間のモデレーターによってアピールがレビューされる前に、ユーザーにアピールにより多くの努力を払わせるよう求めるシステムである。
Redditコミュニティでは,4ヶ月にわたって2900万人以上のユーザを対象に,フィールド実験を実施しました。
本システムは,モデレーター負荷の低減と有害物質への曝露の最小化に有効である。
- 参考スコア(独自算出の注目度): 7.594825535623027
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As content moderation becomes a central aspect of all social media platforms
and online communities, interest has grown in how to make moderation decisions
contestable. On social media platforms where individual communities moderate
their own activities, the responsibility to address user appeals falls on
volunteers from within the community. While there is a growing body of work
devoted to understanding and supporting the volunteer moderators' workload,
little is known about their practice of handling user appeals. Through a
collaborative and iterative design process with Reddit moderators, we found
that moderators spend considerable effort in investigating user ban appeals and
desired to directly engage with users and retain their agency over each
decision. To fulfill their needs, we designed and built AppealMod, a system
that asks users to put more effort in their appeals, by providing additional
information, before their appeals are reviewed by human moderators. In addition
to giving moderators more information, we expected the friction in the appeal
process would lead to a selection effect among users, with many insincere and
toxic appeals being abandoned before getting any attention from human
moderators. To evaluate our system, we conducted a field experiment in a Reddit
community of over 29 million users that lasted for four months. As a result of
the selection effect, moderators viewed only 30\% of initial appeals and less
than 10\% of the toxically worded appeals; yet they granted roughly the same
number of appeals. Overall, our system is effective at reducing moderator
workload and minimizing their exposure to toxic content while honoring their
preference for direct engagement and agency in appeals.
- Abstract(参考訳): コンテンツモデレーションがすべてのソーシャルメディアプラットフォームやオンラインコミュニティの中心となるにつれ、モデレーションの決定を逆らう方法への関心が高まっている。
個々のコミュニティが自身の活動を穏健化させるソーシャルメディアプラットフォームでは、ユーザアピールに対処する責任はコミュニティ内のボランティアに負う。
ボランティアモデレーターの作業の理解と支援を専門とする作業が増えているが、ユーザのアピールを扱うプラクティスについてはほとんど知られていない。
Redditモデレーターとの協調的かつ反復的なデザインプロセスを通じて、モデレーターはユーザー禁止の訴えの調査に多大な努力を払っており、各決定に対して直接ユーザーと関わり、エージェンシーを維持したいと願っていることがわかった。
ニーズを満たすために、私たちは、ユーザに対して、人間のモデレーターが訴求をレビューする前に、追加情報を提供することで、訴求により多くの努力をするよう求めるシステム、 appealmodを設計し、構築しました。
モデレーターにより多くの情報を与えるのに加えて、訴求プロセスにおける摩擦はユーザーの間で選択効果をもたらし、多くの不誠実で有毒な訴求は人間のモデレーターから注目を集める前に放棄されると予想した。
このシステムを評価するために、Redditコミュニティで4ヶ月にわたって2900万人以上のユーザーを対象にフィールド実験を行った。
選考効果の結果、モデレーターは最初の上訴の30-%、有毒な言葉による上訴の10-%未満しか見つからなかったが、ほぼ同じ数の上訴を認めた。
全体として,本システムはモデレーターの作業量を削減し,有害コンテンツへの曝露を最小限に抑えつつ,直接のエンゲージメントや代理店へのアピールを尊重する。
関連論文リスト
- Content Moderation Justice and Fairness on Social Media: Comparisons
Across Different Contexts and Platforms [23.735552021636245]
我々はRedditとTwitterの200人のアメリカのソーシャルメディアユーザーを対象にオンライン実験を行っている。
帰属的モデレーションは、違法な違反行為において、商業的に中途半端なプラットフォームに対して、より高い正義と公正をもたらすことが分かっています。
我々は、モデレーション・システム設計を改善するためのプラットフォーム・ポリシー作成の機会について論じる。
論文 参考訳(メタデータ) (2024-03-09T22:50:06Z) - Perceptions of Moderators as a Large-Scale Measure of Online Community
Governance [15.082590573614134]
コミュニティメンバが自身のモデレーターを公然と議論する方法を評価することにより、ガバナンスを評価する。
我々は18ヶ月に1億9900万のラベル付き投稿とコメントでモデレーターの知覚を定量化する。
我々は,モデレーターの肯定的な認識が,他の地域健康の指標と関連していることを示した。
論文 参考訳(メタデータ) (2024-01-29T22:43:12Z) - User Attitudes to Content Moderation in Web Search [49.1574468325115]
我々は、Web検索における誤解を招く可能性のあるコンテンツや攻撃的なコンテンツに適用される様々なモデレーションプラクティスに対するサポートレベルについて検討する。
最も支持されている実践は、誤解を招く可能性のあるコンテンツや不快なコンテンツについてユーザーに知らせることであり、最も支持されていないものは、検索結果を完全に削除することである。
より保守的なユーザーやウェブ検索結果に対する信頼度が低いユーザーは、ウェブ検索におけるコンテンツモデレーションに反する傾向にある。
論文 参考訳(メタデータ) (2023-10-05T10:57:15Z) - Analyzing Norm Violations in Live-Stream Chat [49.120561596550395]
本研究は,ライブストリーミングプラットフォーム上での会話における規範違反を検出することを目的とした,最初のNLP研究である。
ライブストリームチャットにおける標準違反カテゴリを定義し、Twitchから4,583のコメントを注釈付けします。
以上の結果から,適切なコンテキスト情報がモデレーション性能を35%向上させる可能性が示唆された。
論文 参考訳(メタデータ) (2023-05-18T05:58:27Z) - One of Many: Assessing User-level Effects of Moderation Interventions on
r/The_Donald [1.1041211464412573]
Reddit上でr/The_Donaldを標的としたモデレーション介入によるユーザレベル効果を評価する。
コミュニティレベルの影響が強い介入は、極端なユーザレベルの反応を引き起こすこともわかりました。
この結果から,プラットフォームとコミュニティレベルの影響は,必ずしも個人や小規模なユーザグループの基本的な行動を表すものではないことが示唆された。
論文 参考訳(メタデータ) (2022-09-19T07:46:18Z) - Governing for Free: Rule Process Effects on Reddit Moderator Motivations [0.0]
Reddit上の280万以上の"サブレディット"コミュニティは、数十万人のボランティアモデレーターによって管理されている。
モデレーターはしばしばコミュニティのメンテナンスに日々の時間を割き、ヘイトコメントや邪魔なコンテンツによる感情的な影響に対処するが、Redditはこの職に補償を与えていない。
本研究では,社会心理学的ニーズの会合を通じて,過度なモデレーターがコミュニティルールを生み出す過程がモデレーターのモチベーションを増大させるかを検討する。
論文 参考訳(メタデータ) (2022-06-11T23:23:38Z) - News consumption and social media regulations policy [70.31753171707005]
我々は、ニュース消費とコンテンツ規制の間の相互作用を評価するために、反対のモデレーション手法であるTwitterとGabを強制した2つのソーシャルメディアを分析した。
以上の結果から,Twitterが追求するモデレーションの存在は,疑わしいコンテンツを著しく減少させることがわかった。
Gabに対する明確な規制の欠如は、ユーザが両方のタイプのコンテンツを扱う傾向を生じさせ、ディスカウント/エンドレスメントの振る舞いを考慮に入れた疑わしいコンテンツに対してわずかに好みを示す。
論文 参考訳(メタデータ) (2021-06-07T19:26:32Z) - CASS: Towards Building a Social-Support Chatbot for Online Health
Community [67.45813419121603]
CASSアーキテクチャは高度なニューラルネットワークアルゴリズムに基づいている。
ユーザーからの新たな入力を処理し、さまざまなレスポンスを生成することができる。
フォローアップフィールド実験により、CASSは感情的支援を求める個々のメンバーを支援するのに有用であることが証明された。
論文 参考訳(メタデータ) (2021-01-04T05:52:03Z) - Improving Conversational Question Answering Systems after Deployment
using Feedback-Weighted Learning [69.42679922160684]
本稿では,二元的ユーザフィードバックを用いた初期教師付きシステムを改善するために,重要サンプリングに基づくフィードバック重み付き学習を提案する。
当社の作業は,実際のユーザとのインタラクションを活用し,デプロイ後の会話システムを改善する可能性を開くものだ。
論文 参考訳(メタデータ) (2020-11-01T19:50:34Z) - Do Platform Migrations Compromise Content Moderation? Evidence from
r/The_Donald and r/Incels [20.41491269475746]
本研究は,コミュニティレベルの緩和措置にともなうオンラインコミュニティの進展状況について,大規模な観察研究の結果を報告する。
以上の結果から, いずれの場合も, モデレーションは新プラットフォームにおけるポスト活動を大幅に減少させることが明らかとなった。
それにもかかわらず、研究コミュニティの1つの利用者は、毒性や過激化に関連するシグナルの増加を示した。
論文 参考訳(メタデータ) (2020-10-20T16:03:06Z) - An Iterative Approach for Identifying Complaint Based Tweets in Social
Media Platforms [76.9570531352697]
本稿では,トランスポートドメインに関連する苦情に基づく投稿を識別する反復的手法を提案する。
研究目的のための新しいデータセットのリリースとともに、包括的評価を行う。
論文 参考訳(メタデータ) (2020-01-24T22:23:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。