論文の概要: Beyond Trial-and-Error: Predicting User Abandonment After a Moderation Intervention
- arxiv url: http://arxiv.org/abs/2404.14846v1
- Date: Tue, 23 Apr 2024 08:52:41 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-24 14:41:16.147373
- Title: Beyond Trial-and-Error: Predicting User Abandonment After a Moderation Intervention
- Title(参考訳): トライアル・アンド・エラーを超えて: モデレーション介入後のユーザ停止を予測する
- Authors: Benedetta Tessa, Lorenzo Cima, Amaury Trujillo, Marco Avvenuti, Stefano Cresci,
- Abstract要約: 現在のコンテンツモデレーションの実践は、テキストとエラーのアプローチに従っている。
本稿では,モデレーション介入の効果を予測する新しい課題を提案する。
Reddit上でのオンラインコミュニティの大規模な禁止に対する16,540人のユーザーの反応を調査した。
- 参考スコア(独自算出の注目度): 0.6918368994425961
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Current content moderation practices follow the \textit{trial-and-error} approach, meaning that moderators apply sequences of interventions until they obtain the desired outcome. However, being able to preemptively estimate the effects of an intervention would allow moderators the unprecedented opportunity to plan their actions ahead of application. As a first step towards this goal, here we propose and tackle the novel task of predicting the effect of a moderation intervention. We study the reactions of 16,540 users to a massive ban of online communities on Reddit, training a set of binary classifiers to identify those users who would abandon the platform after the intervention -- a problem of great practical relevance. We leverage a dataset of 13.8M posts to compute a large and diverse set of 142 features, which convey information about the activity, toxicity, relations, and writing style of the users. We obtain promising results, with the best-performing model achieving \textit{micro F1} $= 0.800$ and \textit{macro F1} $= 0.676$. Our model demonstrates robust generalizability when applied to users from previously unseen communities. Furthermore, we identify activity features as the most informative predictors, followed by relational and toxicity features, while writing style features exhibit limited utility. Our results demonstrate the feasibility of predicting the effects of a moderation intervention, paving the way for a new research direction in predictive content moderation aimed at empowering moderators with intelligent tools to plan ahead their actions.
- Abstract(参考訳): 現在のコンテンツモデレーションのプラクティスは、‘textit{trial-and-error}’アプローチに従っている。
しかし、介入の効果を事前に見積もることによって、モデレーターは適用前に自分の行動を計画する前例のない機会を得ることができる。
本研究は,この目標に向けた第一歩として,モデレーション介入の効果を予測する新しい課題を提案する。
Reddit上でのオンラインコミュニティの大規模な禁止に対する16,540人のユーザの反応を調査し、介入後にプラットフォームを放棄するユーザを特定するためにバイナリ分類器のセットをトレーニングします。
138万の投稿のデータセットを利用して、ユーザの活動、毒性、関係、書き込みスタイルに関する情報を伝達する、大規模で多様な142のフィーチャのセットを計算します。
我々は有望な結果を得ることができ、最良の性能モデルは \textit{micro F1} $= 0.800$ と \textit{macro F1} $= 0.676$ を達成する。
本モデルでは,これまで見つからなかったコミュニティのユーザに対して,ロバストな一般化性を示す。
さらに,アクティビティの特徴を最も情報に富む予測因子として認識し,それに続いてリレーショナルおよび毒性の特徴を呈し,書き込みスタイルの特徴は限られた有用性を示す。
本研究は,モデレーターの動作を計画するための知的ツールを用いたモデレーターの活用を目的とした,モデレーターによるコンテンツモデレーションにおける新たな研究方向の道を開くことによる,モデレーターの介入効果の予測の可能性を示すものである。
関連論文リスト
- Context-Aware Prediction of User Engagement on Online Social Platforms [16.476938924862147]
我々は、コンテキスト対応モデリングアプローチが、オンラインソーシャルプラットフォーム上でのユーザエンゲージメントの全体的かつ軽量な表現を提供する可能性を示唆するデータを提示する。
約8万人から1億以上のSnapchatセッションを分析しています。
本研究は,アクティベートおよびパッシブ使用の文脈一致型,習慣駆動型パターンの概念と一致している。
論文 参考訳(メタデータ) (2023-10-23T03:36:35Z) - Decoding the Silent Majority: Inducing Belief Augmented Social Graph
with Large Language Model for Response Forecasting [74.68371461260946]
SocialSenseは、既存のソーシャルネットワーク上に信念中心のグラフを誘導するフレームワークであり、グラフベースの伝播によって社会的ダイナミクスを捉える。
本手法は,ゼロショット設定と教師あり設定の両方に対する実験的な評価において,既存の最先端技術を超えている。
論文 参考訳(メタデータ) (2023-10-20T06:17:02Z) - Measuring the Effect of Influential Messages on Varying Personas [67.1149173905004]
我々は、ニュースメッセージを見る際にペルソナが持つ可能性のある応答を推定するために、ニュースメディア向けのペルソナに対するレスポンス予測という新しいタスクを提示する。
提案課題は,モデルにパーソナライズを導入するだけでなく,各応答の感情極性と強度も予測する。
これにより、ペルソナの精神状態に関するより正確で包括的な推測が可能になる。
論文 参考訳(メタデータ) (2023-05-25T21:01:00Z) - Thread With Caution: Proactively Helping Users Assess and Deescalate
Tension in Their Online Discussions [13.455968033357065]
オンラインディスカッションプラットフォームにとって、インキュビティは依然として大きな課題だ。
伝統的に、プラットフォームはモデレーターを -- アルゴリズムの支援の有無に関わらず -- 頼りにしており、コメントの削除やユーザー禁止といった修正措置を取っている。
本研究では,会話における既存の緊張感に対する意識を積極的に高め,ユーザに直接力を与える補完的パラダイムを提案する。
論文 参考訳(メタデータ) (2022-12-02T19:00:03Z) - Personalizing Intervened Network for Long-tailed Sequential User
Behavior Modeling [66.02953670238647]
タイルユーザーは、共同トレーニング後のヘッドユーザーよりも大幅に品質の低いレコメンデーションに悩まされる。
テールユーザーで個別に訓練されたモデルは、限られたデータのために依然として劣った結果が得られる。
本稿では,テールユーザの推薦性能を大幅に向上させる新しい手法を提案する。
論文 参考訳(メタデータ) (2022-08-19T02:50:19Z) - Meta-Wrapper: Differentiable Wrapping Operator for User Interest
Selection in CTR Prediction [97.99938802797377]
クリックスルー率(CTR)予測は、ユーザーが商品をクリックする確率を予測することを目的としており、リコメンデーションシステムにおいてますます重要になっている。
近年,ユーザの行動からユーザの興味を自動的に抽出する深層学習モデルが大きな成功を収めている。
そこで我々は,メタラッパー(Meta-Wrapper)と呼ばれるラッパー手法の枠組みに基づく新しい手法を提案する。
論文 参考訳(メタデータ) (2022-06-28T03:28:15Z) - What Should I Know? Using Meta-gradient Descent for Predictive Feature
Discovery in a Single Stream of Experience [63.75363908696257]
計算強化学習は、未来の感覚の予測を通じて、エージェントの世界の知覚を構築しようとする。
この一連の作業において、オープンな課題は、エージェントがどの予測が意思決定を最も支援できるかを、無限に多くの予測から決定することである。
本稿では,エージェントが何を予測するかを学習するメタ段階的な降下過程,(2)選択した予測の見積もり,3)将来の報酬を最大化するポリシーを生成する方法を紹介する。
論文 参考訳(メタデータ) (2022-06-13T21:31:06Z) - TEA: A Sequential Recommendation Framework via Temporally Evolving
Aggregations [12.626079984394766]
動的ユーザ・イテム不均質グラフに基づく新しいシーケンシャル・レコメンデーション・フレームワークを提案する。
条件付き乱数場を利用して不均一なグラフとユーザ動作を集約し,確率推定を行う。
提案したフレームワークのスケーラブルで柔軟な実装を提供しています。
論文 参考訳(メタデータ) (2021-11-14T15:54:23Z) - You Mostly Walk Alone: Analyzing Feature Attribution in Trajectory
Prediction [52.442129609979794]
軌道予測のための最近の深層学習手法は有望な性能を示す。
そのようなブラックボックスモデルが実際にどのモデルを予測するために使うのかは、まだ不明である。
本稿では,モデル性能に対する異なるキューの貢献度を定量化する手法を提案する。
論文 参考訳(メタデータ) (2021-10-11T14:24:15Z) - Opinion Prediction with User Fingerprinting [2.530230786851905]
本稿では,ユーザの閲覧履歴に条件付きコメントのコンテキスト埋め込みを利用する動的フィンガープリント手法を提案する。
その結果,マイクロF1スコアは従来に比べて最大13%向上した。
論文 参考訳(メタデータ) (2021-07-31T15:47:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。