論文の概要: "bot lane noob" Towards Deployment of NLP-based Toxicity Detectors in Video Games

• arxiv url: http://arxiv.org/abs/2604.10175v1
• Date: Sat, 11 Apr 2026 12:06:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-14 20:13:15.890781
• Title: "bot lane noob" Towards Deployment of NLP-based Toxicity Detectors in Video Games
• Title（参考訳）: ボットレーンノブ」によるNLP型毒性検出装置のゲームへの展開
• Authors: Jonas Ave, Irdin Pekaric, Matthias Frohner, Giovanni Apruzzese,
• Abstract要約: この研究は、ビデオゲームにおける有害性とハラスメントの問題に対処するための基盤を提供する。 L2DTnHには1.4kの有害なメッセージと13.8kの非有害なメッセージが含まれています。 我々はL2DTnHを用いて、NLPに依存した汎用および最先端の毒性検出器の性能を実証的に示す検出器を開発した。
• 参考スコア（独自算出の注目度）: 2.003259149008956
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Toxicity and harassment are widespread in the video-gaming context. Especially in competitive online multiplayer scenarios, gamers oftentimes send harmful messages to other players (teammates or opponents) whose consequences span from mild annoyance to withdrawal and depression. Abundant prior work tackled these problems, e.g., pointing out the negative effects of toxic interactions. However, few works proposed countermeasures specifically developed and tested on textual messages sent during a match -- i.e., when the "harassment" actually occurs. We posit that such a scarcity stems from the lack of high-quality datasets that can be used to devise "automated" detectors based on natural-language processing (NLP) and machine learning (ML), and which can -- ideally -- mitigate the harm of toxic comments during a gaming session. This work provides a foundation for addressing the problem of toxicity and harassment in video games. First, through a systematic literature review (n=1,039), we provide evidence that only few works proposed ML/NLP-based detectors of toxicity/harassment during live matches. Then, we partner-up with 8 expert League of Legend (LoL) players and create a fine-grained labelled dataset, L2DTnH, containing 1.4k toxic and 13.8k non-toxic messages exchanged during LoL matches. We use L2DTnH to develop a detector that we then empirically show outperforms general-purpose and state-of-the-art toxicity detectors reliant on NLP. To further demonstrate the practicality of our resources, we test our detector on game-related data beyond that included in L2DTnH; and we develop a Web-browser extension that flags toxic content in Webpages -- without querying third-party servers owned by AI companies. We publicly release all of our resources. Our contributions pave the way for more applied research devoted to fighting the spread of toxicity and harassment in video games.
• Abstract（参考訳）: 暴力と嫌がらせは、ビデオゲームの文脈で広まっています。 特に競合するオンラインマルチプレイヤーのシナリオでは、ゲーマーは他のプレイヤー(チームメイトや対戦相手)に有害なメッセージを送ることが多い。 先行研究の欠如はこれらの問題に取り組み、例えば毒性相互作用の負の効果を指摘した。 しかし、試合中に送られたテキストメッセージ(つまり「嫌がらせ」が実際に発生したとき)を具体的に開発し、テストする案が提案された作品はほとんどない。 このような不足は、自然言語処理(NLP)と機械学習(ML)に基づいて"自動化"検出器を考案し、ゲームセッション中に有毒なコメントの害を軽減できる高品質なデータセットの欠如に起因していると仮定する。 この研究は、ビデオゲームにおける有害性とハラスメントの問題に対処するための基盤を提供する。 まず、体系的な文献レビュー(n=1,039)を通して、実戦での毒性・嫌がらせのML/NLPに基づく検出法を提案する研究はほとんどないことを示す。 次に、8人のプロ・リーグ・オブ・レジェンド(LoL)プレーヤーとパートナーシップを結び、L2DTnHという詳細なラベル付きデータセットを作成し、LoLの試合中に1.4kの有害メッセージと13.8kの非有害メッセージを含む。 我々はL2DTnHを用いて、NLPに依存した汎用および最先端の毒性検出器の性能を実証的に示す検出器を開発した。 リソースの実用性をさらに実証するため、私たちはL2DTnHに含まれる以上のゲーム関連データで検出器をテストし、AI企業が所有するサードパーティサーバーに問い合わせることなく、Webページの有害なコンテンツをフラグ付けするWebブラウザ拡張を開発しました。 すべてのリソースを公開しています。 弊社のコントリビューションは、ビデオゲームにおける毒性とハラスメントの拡散と戦うための、より応用された研究の道を開いた。

関連論文リスト

• Context-Aware Toxicity Detection in Multiplayer Games: Integrating Domain-Adaptive Pretraining and Match Metadata [0.9702021668898856]
  従来の毒性検知器は孤立したメッセージに焦点を合わせており、正確なモデレーションに必要なより広いコンテキストを欠いている。 これは、特殊スラング、略語、タイポスを含む対話が絡むビデオゲームにおいて特に問題となる。 我々はRoBERTa LLMをビデオゲームに適したモデレーションをサポートし、テキストコンテキストと非テキストコンテキストの両方を統合した。
  論文  参考訳（メタデータ） (2025-04-02T09:21:41Z)
• Toxic Subword Pruning for Dialogue Response Generation on Large Language Models [51.713448010799986]
  toxPrune (textbfToxic Subword textbfPruning) を提案する。 ToxPruneは、明らかに対話応答生成のタスクにおいて、有害言語モデルNSFW-3Bを同時に改善する。
  論文  参考訳（メタデータ） (2024-10-05T13:30:33Z)
• Uncovering the Viral Nature of Toxicity in Competitive Online Video Games [0.4681661603096334]
  フリー・ツー・プレイのアクションゲーム『Call of Duty: Warzone』のプロプライエタリなデータを分析した。 選手のチームメイトが有毒なスピーチを行う確率は、平均的な選手が有毒なスピーチを行う確率の26.1倍から30.3倍になる。
  論文  参考訳（メタデータ） (2024-10-01T18:07:06Z)
• Challenges for Real-Time Toxicity Detection in Online Games [1.2289361708127877]
  有害な行為や悪意のあるプレイヤーは経験を台無しにし、プレイヤーベースを減らし、ゲームやスタジオの成功を損なう可能性がある。 本稿では,テキスト,音声および画像処理問題,行動毒性の観点から,有害なコンテンツ検出に直面する課題について概説する。
  論文  参考訳（メタデータ） (2024-07-05T09:38:58Z)
• Unveiling the Implicit Toxicity in Large Language Models [77.90933074675543]
  大きな言語モデル(LLM)のオープンエンドネスと、その優れた機能を組み合わせることで、悪意のある使用のために悪用された場合、新たな安全性上の問題が発生する可能性がある。 LLMは、単純なゼロショットプロンプトによる検出が極めて困難である様々な暗黙的な有毒な出力を生成することができることを示す。 我々は,LLMの暗黙的毒性をさらに誘発する強化学習(RL)に基づく攻撃法を提案する。
  論文  参考訳（メタデータ） (2023-11-29T06:42:36Z)
• Comprehensive Assessment of Toxicity in ChatGPT [49.71090497696024]
  本研究は,ChatGPTの毒性を指導調整データセットを用いて評価する。 創作作業のプロンプトは 有害な反応を 引き起こす確率が 2倍になる 初期の研究で設計された、故意に有害なプロンプトは、もはや有害な反応を生じさせない。
  論文  参考訳（メタデータ） (2023-11-03T14:37:53Z)
• In-game Toxic Language Detection: Shared Task and Attention Residuals [10.670973882076797]
  ゲーム内での有害な言語は、ゲーム産業やコミュニティにおいてホットポテトとなっている。 ゲーム内チャットの性質が極めて短いため,毒性を検出することは依然として困難である。 本稿では,実際のゲーム内チャットデータを用いて,ゲーム内有害言語共有タスクの確立について述べる。
  論文  参考訳（メタデータ） (2022-11-11T04:33:45Z)
• Collusion Detection in Team-Based Multiplayer Games [57.153233321515984]
  チームベースのマルチプレイヤーゲームにおいて,協調動作を検出するシステムを提案する。 提案手法は,ゲーム内行動パターンと組み合わせたプレイヤーの社会的関係を解析する。 次に,非教師なし学習手法であるアイソレーションフォレストによる検出を自動化する。
  論文  参考訳（メタデータ） (2022-03-10T02:37:39Z)
• Annotators with Attitudes: How Annotator Beliefs And Identities Bias Toxic Language Detection [75.54119209776894]
  本研究では,アノテータのアイデンティティ(誰)と信念(なぜ)が有害な言語アノテーションに与える影響について検討する。 我々は、アンチブラック言語、アフリカ系アメリカ人の英語方言、俗語という3つの特徴を持つポストを考察する。 以上の結果から,アノテータのアイデンティティと信念と毒性評価の相関が強く示唆された。
  論文  参考訳（メタデータ） (2021-11-15T18:58:20Z)
• RealToxicityPrompts: Evaluating Neural Toxic Degeneration in Language Models [93.151822563361]
  事前訓練されたニューラルネットワークモデル(LM)は、安全なデプロイメントを妨げる人種差別的、性差別的、その他の有害な言語を生成する傾向にある。 本研究では, 予め訓練したLMが有害な言語を生成できる範囲と, 有害な変性を防止するための制御可能なテキスト生成アルゴリズムの有効性について検討する。
  論文  参考訳（メタデータ） (2020-09-24T03:17:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。