論文の概要: Beyond Trial-and-Error: Predicting User Abandonment After a Moderation Intervention
- arxiv url: http://arxiv.org/abs/2404.14846v1
- Date: Tue, 23 Apr 2024 08:52:41 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-24 14:41:16.147373
- Title: Beyond Trial-and-Error: Predicting User Abandonment After a Moderation Intervention
- Title（参考訳）: トライアル・アンド・エラーを超えて: モデレーション介入後のユーザ停止を予測する
- Authors: Benedetta Tessa, Lorenzo Cima, Amaury Trujillo, Marco Avvenuti, Stefano Cresci,
- Abstract要約: 現在のコンテンツモデレーションの実践は、テキストとエラーのアプローチに従っている。
本稿では,モデレーション介入の効果を予測する新しい課題を提案する。
Reddit上でのオンラインコミュニティの大規模な禁止に対する16,540人のユーザーの反応を調査した。
- 参考スコア（独自算出の注目度）: 0.6918368994425961
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Current content moderation practices follow the \textit{trial-and-error} approach, meaning that moderators apply sequences of interventions until they obtain the desired outcome. However, being able to preemptively estimate the effects of an intervention would allow moderators the unprecedented opportunity to plan their actions ahead of application. As a first step towards this goal, here we propose and tackle the novel task of predicting the effect of a moderation intervention. We study the reactions of 16,540 users to a massive ban of online communities on Reddit, training a set of binary classifiers to identify those users who would abandon the platform after the intervention -- a problem of great practical relevance. We leverage a dataset of 13.8M posts to compute a large and diverse set of 142 features, which convey information about the activity, toxicity, relations, and writing style of the users. We obtain promising results, with the best-performing model achieving \textit{micro F1} $= 0.800$ and \textit{macro F1} $= 0.676$. Our model demonstrates robust generalizability when applied to users from previously unseen communities. Furthermore, we identify activity features as the most informative predictors, followed by relational and toxicity features, while writing style features exhibit limited utility. Our results demonstrate the feasibility of predicting the effects of a moderation intervention, paving the way for a new research direction in predictive content moderation aimed at empowering moderators with intelligent tools to plan ahead their actions.
- Abstract（参考訳）: 現在のコンテンツモデレーションのプラクティスは、‘textit{trial-and-error}’アプローチに従っている。
しかし、介入の効果を事前に見積もることによって、モデレーターは適用前に自分の行動を計画する前例のない機会を得ることができる。
本研究は,この目標に向けた第一歩として,モデレーション介入の効果を予測する新しい課題を提案する。
Reddit上でのオンラインコミュニティの大規模な禁止に対する16,540人のユーザの反応を調査し、介入後にプラットフォームを放棄するユーザを特定するためにバイナリ分類器のセットをトレーニングします。
138万の投稿のデータセットを利用して、ユーザの活動、毒性、関係、書き込みスタイルに関する情報を伝達する、大規模で多様な142のフィーチャのセットを計算します。
我々は有望な結果を得ることができ、最良の性能モデルは \textit{micro F1} $= 0.800$ と \textit{macro F1} $= 0.676$ を達成する。
本モデルでは,これまで見つからなかったコミュニティのユーザに対して,ロバストな一般化性を示す。
さらに,アクティビティの特徴を最も情報に富む予測因子として認識し,それに続いてリレーショナルおよび毒性の特徴を呈し,書き込みスタイルの特徴は限られた有用性を示す。
本研究は,モデレーターの動作を計画するための知的ツールを用いたモデレーターの活用を目的とした,モデレーターによるコンテンツモデレーションにおける新たな研究方向の道を開くことによる,モデレーターの介入効果の予測の可能性を示すものである。
関連論文リスト
- MisinfoEval: Generative AI in the Era of "Alternative Facts" [50.069577397751175]
本稿では,大規模言語モデル(LLM)に基づく誤情報介入の生成と評価を行うフレームワークを提案する。
本研究では,(1)誤情報介入の効果を測定するための模擬ソーシャルメディア環境の実験,(2)ユーザの人口動態や信念に合わせたパーソナライズされた説明を用いた第2の実験について述べる。
以上の結果から,LSMによる介入はユーザの行動の修正に極めて有効であることが確認された。
論文 参考訳（メタデータ） (2024-10-13T18:16:50Z) - New User Event Prediction Through the Lens of Causal Inference [20.676353189313737]
新規ユーザのための新しい離散イベント予測フレームワークを提案する。
提案手法は,カテゴリを知る必要のない新規ユーザに対して,バイアスのない予測を提供する。
数値シミュレーションと実世界の2つの応用を用いて,提案手法の優れた性能を実証する。
論文 参考訳（メタデータ） (2024-07-08T05:35:54Z) - Measuring Strategization in Recommendation: Users Adapt Their Behavior to Shape Future Content [66.71102704873185]
実験と調査を行うことで,ユーザストラテジゼーションの試行を行う。
参加者の居住時間や「いいね!」の使用など,結果指標間での戦略化の強い証拠を見出す。
この結果から,プラットフォームはアルゴリズムがユーザの行動に与える影響を無視できないことが示唆された。
論文 参考訳（メタデータ） (2024-05-09T07:36:08Z) - USE: Dynamic User Modeling with Stateful Sequence Models [26.74966828348815]
User Stateful Embedding (USE)は、徹底的な再処理を必要とせずに、ユーザ埋め込みを生成する。
我々は,次世代の予測の限界を超越するために,将来のW行動予測という新たな訓練目標を導入する。
静的(固定されたユーザ行動シーケンス)および動的(定期的に更新されたユーザ行動シーケンス)設定の両方で、Snapchatユーザーの行動ログを使用して、8つの下流タスクで実験を行う。
論文 参考訳（メタデータ） (2024-03-20T07:05:19Z) - Decoding the Silent Majority: Inducing Belief Augmented Social Graph
with Large Language Model for Response Forecasting [74.68371461260946]
SocialSenseは、既存のソーシャルネットワーク上に信念中心のグラフを誘導するフレームワークであり、グラフベースの伝播によって社会的ダイナミクスを捉える。
本手法は,ゼロショット設定と教師あり設定の両方に対する実験的な評価において,既存の最先端技術を超えている。
論文 参考訳（メタデータ） (2023-10-20T06:17:02Z) - Measuring the Effect of Influential Messages on Varying Personas [67.1149173905004]
我々は、ニュースメッセージを見る際にペルソナが持つ可能性のある応答を推定するために、ニュースメディア向けのペルソナに対するレスポンス予測という新しいタスクを提示する。
提案課題は,モデルにパーソナライズを導入するだけでなく,各応答の感情極性と強度も予測する。
これにより、ペルソナの精神状態に関するより正確で包括的な推測が可能になる。
論文 参考訳（メタデータ） (2023-05-25T21:01:00Z) - Meta-Wrapper: Differentiable Wrapping Operator for User Interest
Selection in CTR Prediction [97.99938802797377]
クリックスルー率(CTR)予測は、ユーザーが商品をクリックする確率を予測することを目的としており、リコメンデーションシステムにおいてますます重要になっている。
近年,ユーザの行動からユーザの興味を自動的に抽出する深層学習モデルが大きな成功を収めている。
そこで我々は,メタラッパー(Meta-Wrapper)と呼ばれるラッパー手法の枠組みに基づく新しい手法を提案する。
論文 参考訳（メタデータ） (2022-06-28T03:28:15Z) - What Should I Know? Using Meta-gradient Descent for Predictive Feature
Discovery in a Single Stream of Experience [63.75363908696257]
計算強化学習は、未来の感覚の予測を通じて、エージェントの世界の知覚を構築しようとする。
この一連の作業において、オープンな課題は、エージェントがどの予測が意思決定を最も支援できるかを、無限に多くの予測から決定することである。
本稿では,エージェントが何を予測するかを学習するメタ段階的な降下過程,(2)選択した予測の見積もり,3)将来の報酬を最大化するポリシーを生成する方法を紹介する。
論文 参考訳（メタデータ） (2022-06-13T21:31:06Z) - TEA: A Sequential Recommendation Framework via Temporally Evolving
Aggregations [12.626079984394766]
動的ユーザ・イテム不均質グラフに基づく新しいシーケンシャル・レコメンデーション・フレームワークを提案する。
条件付き乱数場を利用して不均一なグラフとユーザ動作を集約し,確率推定を行う。
提案したフレームワークのスケーラブルで柔軟な実装を提供しています。
論文 参考訳（メタデータ） (2021-11-14T15:54:23Z) - From Predictions to Decisions: Using Lookahead Regularization [28.709041337894107]
ユーザアクションを予測することで、予測モデルが結果を改善するアクションを誘発するように促すルックアヘッド正規化を導入する。
本稿では,本手法の有効性を示す実データおよび合成データに関する実験結果について報告する。
論文 参考訳（メタデータ） (2020-06-20T19:23:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。