論文の概要: Thread With Caution: Proactively Helping Users Assess and Deescalate Tension in Their Online Discussions

• arxiv url: http://arxiv.org/abs/2212.01401v1
• Date: Fri, 2 Dec 2022 19:00:03 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-06 15:45:58.325881
• Title: Thread With Caution: Proactively Helping Users Assess and Deescalate Tension in Their Online Discussions
• Title（参考訳）: Thread with Caution:オンラインディスカッションでユーザーの評価と緊張緩和を積極的に支援
• Authors: Jonathan P. Chang, Charlotte Schluger, Cristian Danescu-Niculescu-Mizil
• Abstract要約: オンラインディスカッションプラットフォームにとって、インキュビティは依然として大きな課題だ。 伝統的に、プラットフォームはモデレーターを -- アルゴリズムの支援の有無に関わらず -- 頼りにしており、コメントの削除やユーザー禁止といった修正措置を取っている。 本研究では,会話における既存の緊張感に対する意識を積極的に高め,ユーザに直接力を与える補完的パラダイムを提案する。
• 参考スコア（独自算出の注目度）: 13.455968033357065
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Incivility remains a major challenge for online discussion platforms, to such an extent that even conversations between well-intentioned users can often derail into uncivil behavior. Traditionally, platforms have relied on moderators to -- with or without algorithmic assistance -- take corrective actions such as removing comments or banning users. In this work we propose a complementary paradigm that directly empowers users by proactively enhancing their awareness about existing tension in the conversation they are engaging in and actively guides them as they are drafting their replies to avoid further escalation. As a proof of concept for this paradigm, we design an algorithmic tool that provides such proactive information directly to users, and conduct a user study in a popular discussion platform. Through a mixed methods approach combining surveys with a randomized controlled experiment, we uncover qualitative and quantitative insights regarding how the participants utilize and react to this information. Most participants report finding this proactive paradigm valuable, noting that it helps them to identify tension that they may have otherwise missed and prompts them to further reflect on their own replies and to revise them. These effects are corroborated by a comparison of how the participants draft their reply when our tool warns them that their conversation is at risk of derailing into uncivil behavior versus in a control condition where the tool is disabled. These preliminary findings highlight the potential of this user-centered paradigm and point to concrete directions for future implementations.
• Abstract（参考訳）: インキュビティはオンラインの議論プラットフォームにとって依然として大きな課題であり、意図に富んだユーザー同士の会話でさえ、しばしば非現実的な行動に陥る可能性がある。 従来、プラットフォームはモデレーターに依存して、アルゴリズムによる支援の有無に関わらず、コメントの削除やユーザの禁止といった修正措置を講じてきた。 本研究では,会話における既存の緊張感に対する意識を積極的に高め,さらにエスカレーションを避けるために回答の起草を積極的に行うことによって,ユーザを直接力づける補完的パラダイムを提案する。 このパラダイムの概念の実証として,このようなプロアクティブな情報をユーザに直接提供するアルゴリズムツールを設計し,一般的な議論プラットフォームでユーザ調査を行う。 調査とランダム化制御実験を組み合わせた混合手法を用いて, 被験者が情報をどのように活用し, 反応するかに関する質的, 定量的な知見を明らかにする。 ほとんどの参加者は、この積極的なパラダイムを見つけることは価値があると報告し、そうでなければ見逃したかもしれない緊張を特定するのに役立ち、彼ら自身の回答をさらに反映させ、修正するよう促す。 これらの効果は、ツールが無効になっている制御条件に対して、会話が非現実的な行動に脱線するリスクがあると警告すると、参加者がどのように回答をドラフトするかの比較によって裏付けられる。 これらの予備的な発見は、このユーザー中心のパラダイムの可能性を強調し、将来の実装の具体的な方向性を示している。

関連論文リスト

• MisinfoEval: Generative AI in the Era of "Alternative Facts" [50.069577397751175]
  本稿では,大規模言語モデル(LLM)に基づく誤情報介入の生成と評価を行うフレームワークを提案する。 本研究では,(1)誤情報介入の効果を測定するための模擬ソーシャルメディア環境の実験,(2)ユーザの人口動態や信念に合わせたパーソナライズされた説明を用いた第2の実験について述べる。 以上の結果から,LSMによる介入はユーザの行動の修正に極めて有効であることが確認された。
  論文  参考訳（メタデータ） (2024-10-13T18:16:50Z)
• Measuring Strategization in Recommendation: Users Adapt Their Behavior to Shape Future Content [66.71102704873185]
  実験と調査を行うことで,ユーザストラテジゼーションの試行を行う。 参加者の居住時間や「いいね!」の使用など,結果指標間での戦略化の強い証拠を見出す。 この結果から,プラットフォームはアルゴリズムがユーザの行動に与える影響を無視できないことが示唆された。
  論文  参考訳（メタデータ） (2024-05-09T07:36:08Z)
• User Strategization and Trustworthy Algorithms [81.82279667028423]
  ユーザストラテジゼーションがプラットフォームを短期間で支援できることが示されています。 そして、それがプラットフォームのデータを破壊し、最終的に反実的な決定を下す能力を損なうことを示します。
  論文  参考訳（メタデータ） (2023-12-29T16:09:42Z)
• Fostering User Engagement in the Critical Reflection of Arguments [3.26297440422721]
  本研究では,人間との対話を行うシステムを提案する。 ユーザが既存の意見に集中しすぎれば,システムに介入することが可能になる。 58名の被験者を対象に,本モデルと介入機構の効果について調査を行った。
  論文  参考訳（メタデータ） (2023-08-17T15:48:23Z)
• Silence Speaks Volumes: Re-weighting Techniques for Under-Represented Users in Fake News Detection [25.5495085102178]
  わずか1%のユーザーが、ソーシャルネットワークサイトのコンテンツの大半を生成している。 残りのユーザーは、さまざまな学位を取得できるが、コンテンツ制作にはあまり積極的でなく、ほとんど沈黙している傾向にある。 そこで本稿では,提案手法を応用してサイレント・マジョリティを耳にする手法を提案する。また,これらのユーザからの手がかりが,偽ニュース検出の下流タスクにおいて,現在のモデルの性能を向上させることができるかどうかを検討する。
  論文  参考訳（メタデータ） (2023-08-03T20:04:20Z)
• Analyzing Norm Violations in Live-Stream Chat [49.120561596550395]
  本研究は,ライブストリーミングプラットフォーム上での会話における規範違反を検出することを目的とした,最初のNLP研究である。 ライブストリームチャットにおける標準違反カテゴリを定義し、Twitchから4,583のコメントを注釈付けします。 以上の結果から,適切なコンテキスト情報がモデレーション性能を35%向上させる可能性が示唆された。
  論文  参考訳（メタデータ） (2023-05-18T05:58:27Z)
• User-Centered Security in Natural Language Processing [0.7106986689736825]
  自然言語処理(NLP)におけるユーザ中心のセキュリティの枠組みの提案 NLP内の2つのセキュリティドメインに重点を置いている。
  論文  参考訳（メタデータ） (2023-01-10T22:34:19Z)
• Proactive Moderation of Online Discussions: Existing Practices and the Potential for Algorithmic Support [12.515485963557426]
  既にポストされている反社会的コンテンツに対して作用するリアクティブパラダイムは、現在最も一般的なモデレーション形式である。 私たちは、プロトタイプツールを構築することによって、この既存のアクティブなモデレーションワークフローをどのように支援できるかを探求します。
  論文  参考訳（メタデータ） (2022-11-29T19:00:02Z)
• Interacting with Non-Cooperative User: A New Paradigm for Proactive Dialogue Policy [83.61404191470126]
  インタラクティブな環境下でプロアクティブなポリシーを学習できるI-Proという新しいソリューションを提案する。 具体的には,4つの要因からなる学習目標重みを通じてトレードオフを学習する。 実験の結果,I-Proは,有効性と解釈性において,ベースラインを著しく上回っていることがわかった。
  論文  参考訳（メタデータ） (2022-04-07T14:11:31Z)
• Linking the Dynamics of User Stance to the Structure of Online Discussions [6.853826783413853]
  議論対象に対するユーザのスタンスが,オンライン上での議論に影響を及ぼすかどうかを考察する。 機械学習モデルに基づいた一連の予測演習をセットアップしました。 その結果,最も情報に富む特徴は,ユーザが参加することを好む議論のスタンス・コンポジションに関係していることがわかった。
  論文  参考訳（メタデータ） (2021-01-25T02:08:54Z)
• Advances and Challenges in Conversational Recommender Systems: A Survey [133.93908165922804]
  現在の会話レコメンダーシステム(CRS)で使用されるテクニックの体系的なレビューを提供します。 CRS開発の主な課題を5つの方向にまとめます。 これらの研究の方向性は、情報検索(IR)、自然言語処理(NLP)、人間とコンピュータの相互作用(HCI)などの複数の研究分野を含みます。
  論文  参考訳（メタデータ） (2021-01-23T08:53:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。