論文の概要: Proactive Moderation of Online Discussions: Existing Practices and the Potential for Algorithmic Support

• arxiv url: http://arxiv.org/abs/2211.16525v1
• Date: Tue, 29 Nov 2022 19:00:02 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-01 16:04:55.557655
• Title: Proactive Moderation of Online Discussions: Existing Practices and the Potential for Algorithmic Support
• Title（参考訳）: オンライン討論の積極的なモデレーション:既存の実践とアルゴリズム支援の可能性
• Authors: Charlotte Schluger, Jonathan P. Chang, Cristian Danescu-Niculescu-Mizil, Karen Levy
• Abstract要約: 既にポストされている反社会的コンテンツに対して作用するリアクティブパラダイムは、現在最も一般的なモデレーション形式である。 私たちは、プロトタイプツールを構築することによって、この既存のアクティブなモデレーションワークフローをどのように支援できるかを探求します。
• 参考スコア（独自算出の注目度）: 12.515485963557426
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: To address the widespread problem of uncivil behavior, many online discussion platforms employ human moderators to take action against objectionable content, such as removing it or placing sanctions on its authors. This reactive paradigm of taking action against already-posted antisocial content is currently the most common form of moderation, and has accordingly underpinned many recent efforts at introducing automation into the moderation process. Comparatively less work has been done to understand other moderation paradigms -- such as proactively discouraging the emergence of antisocial behavior rather than reacting to it -- and the role algorithmic support can play in these paradigms. In this work, we investigate such a proactive framework for moderation in a case study of a collaborative setting: Wikipedia Talk Pages. We employ a mixed methods approach, combining qualitative and design components for a holistic analysis. Through interviews with moderators, we find that despite a lack of technical and social support, moderators already engage in a number of proactive moderation behaviors, such as preemptively intervening in conversations to keep them on track. Further, we explore how automation could assist with this existing proactive moderation workflow by building a prototype tool, presenting it to moderators, and examining how the assistance it provides might fit into their workflow. The resulting feedback uncovers both strengths and drawbacks of the prototype tool and suggests concrete steps towards further developing such assisting technology so it can most effectively support moderators in their existing proactive moderation workflow.
• Abstract（参考訳）: 非文明的行動の広範な問題に対処するために、多くのオンライン・ディスカッション・プラットフォームは、人間のモデレーターを使って不利なコンテンツに対して行動を起こす。 既に投稿されている反社会的コンテンツに対して行動を起こすこのリアクティブパラダイムは、モデレーションの最も一般的な形態であり、モデレーションプロセスにオートメーションを導入する最近の多くの取り組みの基盤となっている。 他のモデレーションパラダイム(反社会的行動の出現を積極的に損なうなど)を理解するための作業は比較的少なく、これらのパラダイムにおいてアルゴリズム的サポートの役割が果たすことができる。 本研究では,wikipedia talk pages を事例として,モデレーションのための積極的なフレームワークについて検討する。 総合分析のために質的および設計的要素を組み合わせた混合手法を採用する。 モデレーターとのインタビューを通じて、モデレーターは技術的・社会的支援の欠如にもかかわらず、事前に会話に介入して追跡を続けるなど、多くの積極的なモデレーション行動に従事していることがわかった。 さらに、プロトタイプツールを構築し、モデレーターに提示することで、自動化が既存のアクティブなモデレーションワークフローをどのように支援するか、ワークフローにどのように適合するかを検討する。 その結果得られたフィードバックは、プロトタイプツールの長所と短所の両方を明らかにし、そのようなアシスト技術をさらに発展させるための具体的なステップを提案する。

関連論文リスト

• Constraining Participation: Affordances of Feedback Features in Interfaces to Large Language Models [49.74265453289855]
  大規模言語モデル(LLM)は、コンピュータ、Webブラウザ、ブラウザベースのインターフェースによるインターネット接続を持つ人なら誰でも利用できるようになった。 本稿では,ChatGPTインタフェースにおける対話型フィードバック機能の可能性について検討し,ユーザ入力の形状やイテレーションへの参加について分析する。
  論文  参考訳（メタデータ） (2024-08-27T13:50:37Z)
• Sim-to-Real Causal Transfer: A Metric Learning Approach to Causally-Aware Interaction Representations [62.48505112245388]
  エージェント相互作用の現代的表現の因果認識を詳細に検討する。 近年の表現は、非因果剤の摂動に対して部分的に耐性があることが示されている。 因果アノテーションを用いた潜在表現を正規化するための計量学習手法を提案する。
  論文  参考訳（メタデータ） (2023-12-07T18:57:03Z)
• Combatting Human Trafficking in the Cyberspace: A Natural Language Processing-Based Methodology to Analyze the Language in Online Advertisements [55.2480439325792]
  このプロジェクトは、高度自然言語処理(NLP)技術により、オンラインC2Cマーケットプレースにおける人身売買の急激な問題に取り組む。 我々は、最小限の監督で擬似ラベル付きデータセットを生成する新しい手法を導入し、最先端のNLPモデルをトレーニングするための豊富なリソースとして機能する。 重要な貢献は、Integrated Gradientsを使った解釈可能性フレームワークの実装であり、法執行にとって重要な説明可能な洞察を提供する。
  論文  参考訳（メタデータ） (2023-11-22T02:45:01Z)
• Can Language Model Moderators Improve the Health of Online Discourse? [26.191337231826246]
  我々は,モデレーション文献に基づく会話モデレーションの有効性の体系的定義を確立する。 本研究では,人間の介入とは無関係にモデルのモデレーション能力を評価するための総合的な評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-11-16T11:14:22Z)
• Toxicity Detection is NOT all you Need: Measuring the Gaps to Supporting Volunteer Content Moderators [19.401873797111662]
  我々はHugging Faceでモデルレビューを行い、様々なモデレーションルールとガイドラインをカバーするモデルの有効性を明らかにする。 テストに最先端のLLMを配置し、これらのモデルが特定のフォーラムからプラットフォームルールに違反していると警告する上で、いかにうまく機能するかを評価します。 概して、未発達のモデルとLLMは、ルールのかなりの部分で中程度から低い性能を示すため、非自明なギャップを観察する。
  論文  参考訳（メタデータ） (2023-11-14T03:18:28Z)
• Nip it in the Bud: Moderation Strategies in Open Source Software Projects and the Role of Bots [17.02726827353919]
  本研究では,オープンソースソフトウェアプロジェクトにおけるコミュニティのモデレーションを支援する様々な構造と規範について検討する。 既存のモデレーションプラクティスと、自動化が支援を提供する方法を明らかにするために、14人の実践者氏にインタビューした。 私たちの主な貢献は、OSSプロジェクトにおける適度なコンテンツの評価、モデレーション技術、モデレーションタスクの自動化を改善するための認識とレコメンデーションなどです。
  論文  参考訳（メタデータ） (2023-08-14T19:42:51Z)
• Boosting Distress Support Dialogue Responses with Motivational Interviewing Strategy [4.264192013842096]
  いくつかの応答型が、より MI に固執した形式に書き換えられるかを示す。 We build several rephrasers by fine-tuning Blender and GPT3 to rephrasers MI non-adherent "Advise without permission" response to "Advise with permission"
  論文  参考訳（メタデータ） (2023-05-17T13:18:28Z)
• Thread With Caution: Proactively Helping Users Assess and Deescalate Tension in Their Online Discussions [13.455968033357065]
  オンラインディスカッションプラットフォームにとって、インキュビティは依然として大きな課題だ。 伝統的に、プラットフォームはモデレーターを -- アルゴリズムの支援の有無に関わらず -- 頼りにしており、コメントの削除やユーザー禁止といった修正措置を取っている。 本研究では,会話における既存の緊張感に対する意識を積極的に高め,ユーザに直接力を与える補完的パラダイムを提案する。
  論文  参考訳（メタデータ） (2022-12-02T19:00:03Z)
• Interacting with Non-Cooperative User: A New Paradigm for Proactive Dialogue Policy [83.61404191470126]
  インタラクティブな環境下でプロアクティブなポリシーを学習できるI-Proという新しいソリューションを提案する。 具体的には,4つの要因からなる学習目標重みを通じてトレードオフを学習する。 実験の結果,I-Proは,有効性と解釈性において,ベースラインを著しく上回っていることがわかった。
  論文  参考訳（メタデータ） (2022-04-07T14:11:31Z)
• Inverse Online Learning: Understanding Non-Stationary and Reactionary Policies [79.60322329952453]
  エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。 一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。 本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。 UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
  論文  参考訳（メタデータ） (2022-03-14T17:40:42Z)
• On the Social and Technical Challenges of Web Search Autosuggestion Moderation [118.47867428272878]
  自動提案は通常、検索ログと文書表現のコーパスに基づいてトレーニングされた機械学習(ML)システムによって生成される。 現在の検索エンジンは、このような問題のある提案を抑えるのに、ますます熟練している。 問題のある提案のいくつかの側面、パイプラインに沿った困難な問題、そしてWeb検索を超えたアプリケーションの増加になぜ私たちの議論が適用されるのかについて論じる。
  論文  参考訳（メタデータ） (2020-07-09T19:22:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。