論文の概要: The Hidden Language of Harm: Examining the Role of Emojis in Harmful Online Communication and Content Moderation

• arxiv url: http://arxiv.org/abs/2506.00583v1
• Date: Sat, 31 May 2025 14:39:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-04 21:47:33.272187
• Title: The Hidden Language of Harm: Examining the Role of Emojis in Harmful Online Communication and Content Moderation
• Title（参考訳）: ハームの隠れた言語: 有害なオンラインコミュニケーションとコンテンツモデレーションにおける絵文字の役割について
• Authors: Yuhang Zhou, Yimin Xiao, Wei Ai, Ge Gao,
• Abstract要約: エモジは孤立して攻撃的になることはめったにないが、象徴的連想、皮肉、文脈的誤用を通じて有害な意味を得ることができる。 ツイートの意味的意図を保ちながら有害な絵文字を置き換えるLLM方式のマルチステップモデレーションパイプラインを提案する。 分析の結果、オンラインコミュニケーションや絵文字のモデレーションに不均一な洞察を与え、悪質なタイプにまたがる異質な効果も明らかにした。
• 参考スコア（独自算出の注目度）: 13.409540662525995
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Social media platforms have become central to modern communication, yet they also harbor offensive content that challenges platform safety and inclusivity. While prior research has primarily focused on textual indicators of offense, the role of emojis, ubiquitous visual elements in online discourse, remains underexplored. Emojis, despite being rarely offensive in isolation, can acquire harmful meanings through symbolic associations, sarcasm, and contextual misuse. In this work, we systematically examine emoji contributions to offensive Twitter messages, analyzing their distribution across offense categories and how users exploit emoji ambiguity. To address this, we propose an LLM-powered, multi-step moderation pipeline that selectively replaces harmful emojis while preserving the tweet's semantic intent. Human evaluations confirm our approach effectively reduces perceived offensiveness without sacrificing meaning. Our analysis also reveals heterogeneous effects across offense types, offering nuanced insights for online communication and emoji moderation.
• Abstract（参考訳）: ソーシャルメディアプラットフォームは現代のコミュニケーションの中心となっているが、プラットフォーム安全性とインクリビティに挑戦する攻撃的なコンテンツも保存している。 これまでの研究は主にテキストによる犯罪の指標に焦点を当ててきたが、オンラインの談話において、ユビキタスな視覚的要素である絵文字の役割はいまだ解明されていない。 エモジは孤立して攻撃的になることはめったにないが、象徴的連想、皮肉、文脈的誤用を通じて有害な意味を得ることができる。 本研究では,攻撃的なTwitterメッセージに対する絵文字のコントリビューションを体系的に検討し,攻撃的カテゴリ間の分布を分析し,ユーザーが絵文字のあいまいさをどのように活用するかを明らかにする。 そこで本稿では,ツイートの意味的意図を保ちつつ,有害な絵文字を選択的に置き換えるLLM方式のマルチステップモデレーションパイプラインを提案する。 人間の評価は、我々のアプローチが意味を犠牲にすることなく、知覚的不快感を効果的に軽減することを確認する。 分析の結果、オンラインコミュニケーションや絵文字のモデレーションに不均一な洞察を与え、悪質なタイプにまたがる異質な効果も明らかにした。

関連論文リスト

• Irony in Emojis: A Comparative Study of Human and LLM Interpretation [53.66354612549173]
  本研究は,GPT-4oが絵文字の皮肉を解釈する能力について検討した。 GPT-4oは、ソーシャルメディア上での皮肉表現に使用される特定の絵文字の可能性を評価することによって、機械と人間の理解のギャップを埋めることを目指している。
  論文  参考訳（メタデータ） (2025-01-20T03:02:00Z)
• Semantics Preserving Emoji Recommendation with Large Language Models [47.94761630160614]
  既存の絵文字レコメンデーションメソッドは、ユーザーが元のテキストで選択した正確な絵文字にマッチする能力に基づいて、主に評価される。 本稿では,ユーザのテキストとのセマンティックな整合性を維持する絵文字を推薦するモデルの能力を計測する,絵文字推薦のための新しいセマンティックス保存フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-09-16T22:27:46Z)
• Emojis Decoded: Leveraging ChatGPT for Enhanced Understanding in Social Media Communications [14.742566483786778]
  絵文字は、ソーシャルネットワークのコミュニケーションで普及している。 研究者は、感情、使用意図、意味を理解するために、絵文字に注釈をつけるためにクラウドソーシングに頼る。 大型言語モデル(LLM)は様々なアノテーションタスクで大きな成功を収めた。 本研究は,ChatGPTが絵文字研究におけるヒトアノテータの代替として有効なものであるという仮説を検証することを目的とする。
  論文  参考訳（メタデータ） (2024-01-22T06:02:39Z)
• Beyond Plain Toxic: Detection of Inappropriate Statements on Flammable Topics for the Russian Language [76.58220021791955]
  本稿では,不合理性という二項的概念と,センシティブなトピックの多項的概念に基づいてラベル付けされた2つのテキストコレクションについて述べる。 不適切な概念を客観するために、クラウドソーシングではデータ駆動方式で定義する。
  論文  参考訳（メタデータ） (2022-03-04T15:59:06Z)
• Emoji-based Co-attention Network for Microblog Sentiment Analysis [10.135289472491655]
  マイクロブログ上でのテキストと絵文字間の相互感情的意味を学習する絵文字に基づくコアテンションネットワークを提案する。 本モデルは、テキストと絵文字を組み込んだ双方向の長期記憶に基づくコアテンション機構を採用し、畳み込みニューラルネットワークにシャープ・アンド・エキサイティングブロックを統合し、感情的な意味的特徴に対する感度を高める。
  論文  参考訳（メタデータ） (2021-10-27T07:23:18Z)
• Black or White but never neutral: How readers perceive identity from yellow or skin-toned emoji [90.14874935843544]
  近年の研究は、ソーシャルメディア上でのアイデンティティ表現と絵文字利用の関係を確立した。 この研究は、言語と同様に、読者がそのような自己表現の行為に敏感かどうかを問うもので、著者のアイデンティティを理解するために使用する。
  論文  参考訳（メタデータ） (2021-05-12T18:23:51Z)
• Semantic Journeys: Quantifying Change in Emoji Meaning from 2012-2018 [66.28665205489845]
  絵文字のセマンティクスが時間とともにどのように変化するかに関する最初の縦断的研究を行い、計算言語学から6年間のtwitterデータに適用した。 絵文字のセマンティックな発達において5つのパターンを識別し、抽象的な絵文字がより少ないほど意味的変化を起こす可能性が高くなることを示す。 絵文字とセマンティクスに関する今後の作業を支援するために、私たちは、絵文字のセマンティックな変化を調べるために誰でも使用できるウェブベースのインターフェイスとともに、データを公開します。
  論文  参考訳（メタデータ） (2021-05-03T13:35:10Z)
• Assessing Emoji Use in Modern Text Processing Tools [35.79765461713127]
  絵文字は視覚的魅力と人間の感情を鮮明に伝える能力から、デジタルコミュニケーションにおいてユビキタスになりつつある。 ソーシャルメディアや他のインスタントメッセージングにおける絵文字の普及は、絵文字を含むテキストを操作するシステムやツールの必要性も高まっている。 本研究では,絵文字を用いたツイートのテストセットを検討することで,このサポートを評価する。そこでは,著名なnlpおよびテキスト処理ツールが適切に処理できるかどうかについて,一連の実験を行う。
  論文  参考訳（メタデータ） (2021-01-02T11:38:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。