論文の概要: AppealMod: Inducing Friction to Reduce Moderator Workload of Handling User Appeals

• arxiv url: http://arxiv.org/abs/2301.07163v2
• Date: Tue, 9 Jan 2024 19:46:56 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-11 18:07:37.377431
• Title: AppealMod: Inducing Friction to Reduce Moderator Workload of Handling User Appeals
• Title（参考訳）: appealMod: ユーザアピール処理のモデレーター負荷軽減のためのフリクションの導入
• Authors: Shubham Atreja, Jane Im, Paul Resnick, Libby Hemphill
• Abstract要約: 我々は,ヒトのモデレーターが不服申立てをレビューする前に,ユーザに追加情報の提供を求めることによって,上訴プロセスの摩擦を誘発するシステムであるFiceModを設計・構築した。 Redditのコミュニティでは,4ヶ月にわたって2900万人以上のユーザを対象にランダムフィールド実験を実施しました。 本システムは,モデレーターの作業量を削減し,有害な内容への曝露を最小限に抑えつつ,直接のエンゲージメントや代理店へのアピールを尊重する上で有効である。
• 参考スコア（独自算出の注目度）: 7.898353262890439
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As content moderation becomes a central aspect of all social media platforms and online communities, interest has grown in how to make moderation decisions contestable. On social media platforms where individual communities moderate their own activities, the responsibility to address user appeals falls on volunteers from within the community. While there is a growing body of work devoted to understanding and supporting the volunteer moderators' workload, little is known about their practice of handling user appeals. Through a collaborative and iterative design process with Reddit moderators, we found that moderators spend considerable effort in investigating user ban appeals and desired to directly engage with users and retain their agency over each decision. To fulfill their needs, we designed and built AppealMod, a system that induces friction in the appeals process by asking users to provide additional information before their appeals are reviewed by human moderators. In addition to giving moderators more information, we expected the friction in the appeal process would lead to a selection effect among users, with many insincere and toxic appeals being abandoned before getting any attention from human moderators. To evaluate our system, we conducted a randomized field experiment in a Reddit community of over 29 million users that lasted for four months. As a result of the selection effect, moderators viewed only 30% of initial appeals and less than 10% of the toxically worded appeals; yet they granted roughly the same number of appeals when compared with the control group. Overall, our system is effective at reducing moderator workload and minimizing their exposure to toxic content while honoring their preference for direct engagement and agency in appeals.
• Abstract（参考訳）: コンテンツモデレーションがすべてのソーシャルメディアプラットフォームやオンラインコミュニティの中心となるにつれ、モデレーションの決定を逆らう方法への関心が高まっている。 個々のコミュニティが自身の活動を穏健化させるソーシャルメディアプラットフォームでは、ユーザアピールに対処する責任はコミュニティ内のボランティアに負う。 ボランティアモデレーターの作業の理解と支援を専門とする作業が増えているが、ユーザのアピールを扱うプラクティスについてはほとんど知られていない。 Redditモデレーターとの協調的かつ反復的なデザインプロセスを通じて、モデレーターはユーザー禁止の訴えの調査に多大な努力を払っており、各決定に対して直接ユーザーと関わり、エージェンシーを維持したいと願っていることがわかった。 これらのニーズを満たすために、我々は、ヒトのモデレーターが上訴をレビューする前に、ユーザーに追加情報を提供することによって、上訴プロセスの摩擦を誘発するシステムである、上訴モードを設計・構築した。 モデレーターにより多くの情報を与えるのに加えて、訴求プロセスにおける摩擦はユーザーの間で選択効果をもたらし、多くの不誠実で有毒な訴求は人間のモデレーターから注目を集める前に放棄されると予想した。 本システムを評価するため,Redditコミュニティで4ヶ月にわたって2900万人以上のユーザを対象にランダムフィールド実験を行った。 選択効果の結果、モデレーターは最初の上訴の30%に過ぎず、有毒な言葉による上訴の10%にも満たなかったが、対照群と比較するとほぼ同じ数の上訴を認めた。 全体として,本システムはモデレーターの作業量を削減し,有害コンテンツへの曝露を最小限に抑えつつ,直接のエンゲージメントや代理店へのアピールを尊重する。

関連論文リスト

• Venire: A Machine Learning-Guided Panel Review System for Community Content Moderation [17.673993032146527]
  我々は、Reddit上でパネルレビューを行うML支援システムであるVenireを開発した。 Venireは、ログデータに基づいてトレーニングされた機械学習モデルを使用して、モデレーターが最も不一致しやすいケースを特定する。 我々は、Venireが意思決定の一貫性を改善し、遅れた意見の相違を表面化できることを示します。
  論文  参考訳（メタデータ） (2024-10-30T20:39:34Z)
• Explainability and Hate Speech: Structured Explanations Make Social Media Moderators Faster [72.84926097773578]
  実世界のモデレーターの速度に及ぼす説明の影響について検討する。 我々の実験では、一般的な説明は速度に影響せず、しばしば無視されるが、構造化された説明はモデレーターの意思決定時間を7.4%減少させる。
  論文  参考訳（メタデータ） (2024-06-06T14:23:10Z)
• Content Moderation Justice and Fairness on Social Media: Comparisons Across Different Contexts and Platforms [23.735552021636245]
  我々はRedditとTwitterの200人のアメリカのソーシャルメディアユーザーを対象にオンライン実験を行っている。 帰属的モデレーションは、違法な違反行為において、商業的に中途半端なプラットフォームに対して、より高い正義と公正をもたらすことが分かっています。 我々は、モデレーション・システム設計を改善するためのプラットフォーム・ポリシー作成の機会について論じる。
  論文  参考訳（メタデータ） (2024-03-09T22:50:06Z)
• Perceptions of Moderators as a Large-Scale Measure of Online Community Governance [13.80648276848838]
  われわれは18ヶ月で1億9900万件の投稿とコメントをリツイートした。 モデレーターが特に肯定的かつ否定的に知覚されるコミュニティの種類を同定する。 厳格な規制執行は、ニュースコミュニティなど特定のトピックに特化しているコミュニティのモデレーターに対して、他のコミュニティよりも好意的な認識に結びついていることが示される。
  論文  参考訳（メタデータ） (2024-01-29T22:43:12Z)
• User Attitudes to Content Moderation in Web Search [49.1574468325115]
  我々は、Web検索における誤解を招く可能性のあるコンテンツや攻撃的なコンテンツに適用される様々なモデレーションプラクティスに対するサポートレベルについて検討する。 最も支持されている実践は、誤解を招く可能性のあるコンテンツや不快なコンテンツについてユーザーに知らせることであり、最も支持されていないものは、検索結果を完全に削除することである。 より保守的なユーザーやウェブ検索結果に対する信頼度が低いユーザーは、ウェブ検索におけるコンテンツモデレーションに反する傾向にある。
  論文  参考訳（メタデータ） (2023-10-05T10:57:15Z)
• Analyzing Norm Violations in Live-Stream Chat [49.120561596550395]
  本研究は,ライブストリーミングプラットフォーム上での会話における規範違反を検出することを目的とした,最初のNLP研究である。 ライブストリームチャットにおける標準違反カテゴリを定義し、Twitchから4,583のコメントを注釈付けします。 以上の結果から,適切なコンテキスト情報がモデレーション性能を35%向上させる可能性が示唆された。
  論文  参考訳（メタデータ） (2023-05-18T05:58:27Z)
• Governing for Free: Rule Process Effects on Reddit Moderator Motivations [0.0]
  Reddit上の280万以上の"サブレディット"コミュニティは、数十万人のボランティアモデレーターによって管理されている。 モデレーターはしばしばコミュニティのメンテナンスに日々の時間を割き、ヘイトコメントや邪魔なコンテンツによる感情的な影響に対処するが、Redditはこの職に補償を与えていない。 本研究では,社会心理学的ニーズの会合を通じて,過度なモデレーターがコミュニティルールを生み出す過程がモデレーターのモチベーションを増大させるかを検討する。
  論文  参考訳（メタデータ） (2022-06-11T23:23:38Z)
• News consumption and social media regulations policy [70.31753171707005]
  我々は、ニュース消費とコンテンツ規制の間の相互作用を評価するために、反対のモデレーション手法であるTwitterとGabを強制した2つのソーシャルメディアを分析した。 以上の結果から,Twitterが追求するモデレーションの存在は,疑わしいコンテンツを著しく減少させることがわかった。 Gabに対する明確な規制の欠如は、ユーザが両方のタイプのコンテンツを扱う傾向を生じさせ、ディスカウント/エンドレスメントの振る舞いを考慮に入れた疑わしいコンテンツに対してわずかに好みを示す。
  論文  参考訳（メタデータ） (2021-06-07T19:26:32Z)
• CASS: Towards Building a Social-Support Chatbot for Online Health Community [67.45813419121603]
  CASSアーキテクチャは高度なニューラルネットワークアルゴリズムに基づいている。 ユーザーからの新たな入力を処理し、さまざまなレスポンスを生成することができる。 フォローアップフィールド実験により、CASSは感情的支援を求める個々のメンバーを支援するのに有用であることが証明された。
  論文  参考訳（メタデータ） (2021-01-04T05:52:03Z)
• Do Platform Migrations Compromise Content Moderation? Evidence from r/The_Donald and r/Incels [20.41491269475746]
  本研究は,コミュニティレベルの緩和措置にともなうオンラインコミュニティの進展状況について,大規模な観察研究の結果を報告する。 以上の結果から, いずれの場合も, モデレーションは新プラットフォームにおけるポスト活動を大幅に減少させることが明らかとなった。 それにもかかわらず、研究コミュニティの1つの利用者は、毒性や過激化に関連するシグナルの増加を示した。
  論文  参考訳（メタデータ） (2020-10-20T16:03:06Z)
• An Iterative Approach for Identifying Complaint Based Tweets in Social Media Platforms [76.9570531352697]
  本稿では,トランスポートドメインに関連する苦情に基づく投稿を識別する反復的手法を提案する。 研究目的のための新しいデータセットのリリースとともに、包括的評価を行う。
  論文  参考訳（メタデータ） (2020-01-24T22:23:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。