論文の概要: New Terms, New Toxicity: Consensus-based Chinese Neologism Toxicity Detection via Search-Augmented LLMs

• arxiv url: http://arxiv.org/abs/2608.12361v1
• Date: Sun, 05 Jul 2026 03:12:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.192565
• Title: New Terms, New Toxicity: Consensus-based Chinese Neologism Toxicity Detection via Search-Augmented LLMs
• Title（参考訳）: 新しい用語と新しい毒性:検索拡張LDMによるコンセンサスに基づく中国新生新生毒性検出
• Abstract要約: ネオロジズムを介して発現する暗黙の毒性を検出する方法について検討する。 毒性新生学の起源とコンセンサス検証基準を把握した分類法を提案する。 本稿では,静的な大規模言語モデルにリアルタイムなWebコンテキストを組み込むためのフレームワークであるSeToxを紹介する。
• 参考スコア（独自算出の注目度）: 61.05946028419921
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neologisms, emerging terms in meaning or form, can serve as new vehicles for toxic expression, like "country girl" as a stigmatizing label targeting feminism. Such toxic neologisms appear benign but have evolved into toxic usage in public consensus, posing challenges to moderation systems and remaining underexplored. In this paper, we investigate how to detect implicit toxicity expressed via neologisms. We first propose a taxonomy that captures the origins and consensus-verification criteria of toxic neologisms, followed by the construction of a lexicon spanning widely observed risk categories. To capture toxicity grounded in public consensus, we introduce SeTox, a search-augmented framework that enables static large language models (LLMs) to incorporate real-time web context for neologism toxicity detection. Experiments show that SeTox, even with 3B-scale models, outperforms recent large-scale models, demonstrating its scalability to incorporate real-world knowledge for toxic neologism detection. Disclaimer: this paper has offensive contents that may be disturbing to some readers.
• Abstract（参考訳）: ネオロジズム(ネオロジズム、英: Neologisms)は、フェミニズムをターゲットとする差別化ラベルとして「カントリーガール」のような、毒性のある表現のための新しい乗り物として機能する。 このような毒性のネオロジズムは良性に見えるが、公衆の合意によって有害な使用へと発展し、モデレーションシステムに挑戦し、未発見のままである。 本稿では,ネオロジズムを介して発現する暗黙の毒性を検出する方法について検討する。 まず,毒性新生学の起源とコンセンサス検証基準を把握した分類法を提案し,さらに広く観察されているリスクカテゴリにまたがるレキシコンの構築を行った。 一般のコンセンサスに根ざした毒性を捉えるために,静的な大規模言語モデル (LLM) がネオロジズム毒性の検出にリアルタイムなWebコンテキストを組み込むことを可能にする検索拡張フレームワークであるSeToxを紹介した。 実験によると、SeToxは3Bスケールモデルでも最近の大規模モデルより優れており、毒性ネオロジズム検出のための現実世界の知識を組み込むスケーラビリティを実証している。 Disclaimer: この論文には、一部の読者にとって邪魔になるかもしれない不快な内容があります。

関連論文リスト

• Unveiling Covert Toxicity in Multimodal Data via Toxicity Association Graphs: A Graph-Based Metric and Interpretable Detection Framework [58.01529356381494]
  Toxicity Association Graphs (TAG) に基づく新しい検出フレームワークを提案する。 隠れ毒性の定量化のための最初の指標であるMTC(Multimodal Toxicity Covertness)を紹介する。 本手法は,意思決定プロセスの完全解釈可能性を維持しつつ,隠蔽毒性の正確な同定を可能にする。
  論文  参考訳（メタデータ） (2026-02-03T08:54:25Z)
• Projecting Out the Malice: A Global Subspace Approach to LLM Detoxification [73.77171973106567]
  大規模言語モデル(LLM)は例外的な性能を示すが、有害なコンテンツを生成する固有のリスクを生じさせる。 従来の手法では、パラメータの根底にある有害領域を排除できず、敵の攻撃に弱いモデルを残している。 我々は,このグローバルな部分空間をFFNパラメータから識別・排除することで毒性を緩和する軽量な方法であるGLOSSを提案する。
  論文  参考訳（メタデータ） (2026-01-09T09:34:53Z)
• Concept-Based Interpretability for Toxicity Detection [3.66086430438787]
  ターゲットクラスに対する概念の不均等な帰属は、しばしば分類エラーを引き起こす。 本研究では,概念グラディエント(CG)法に基づく解釈可能性手法を提案する。 テキスト分類モデルにおける誤分類に寄与する有毒な単語のキュレーションを提案する。
  論文  参考訳（メタデータ） (2025-11-15T14:53:23Z)
• Toxicity in Online Platforms and AI Systems: A Survey of Needs, Challenges, Mitigations, and Future Directions [12.73085307172367]
  デジタル通信システムの進化とオンラインプラットフォームの設計は、必然的に有害な行動の潜在意識の伝播を促進してきた。 この調査は、様々な観点から毒性の包括的分類を創出しようと試みている。 人工知能時代において社会が直面する状況と環境を理解することによって、毒性を説明するための全体論的アプローチを示す。
  論文  参考訳（メタデータ） (2025-09-29T21:55:23Z)
• GloSS over Toxicity: Understanding and Mitigating Toxicity in LLMs via Global Toxic Subspace [62.68664365246247]
  本稿では,大規模言語モデル(LLM)の毒性発生機構について検討する。 GloSS(Global Toxic Subspace Suppression)は,FFNのパラメータからグローバルな毒性部分空間を同定・除去することにより毒性を緩和する軽量な4段階法である。
  論文  参考訳（メタデータ） (2025-05-20T08:29:11Z)
• ToViLaG: Your Visual-Language Generative Model is Also An Evildoer [36.60526586838288]
  近年の大規模ビジュアルランゲージ生成モデル(VLGM)は,マルチモーダル画像/テキスト生成において前例のない改善を実現している。 これらのモデルはまた、攻撃的なテキストやポルノ画像などの有害なコンテンツを生成し、重大な倫理的リスクを生じさせる可能性がある。 この研究は、様々なVLGMにまたがる毒性生成と毒性データへの感受性の妥当性を掘り下げるものである。
  論文  参考訳（メタデータ） (2023-12-13T08:25:07Z)
• Facilitating Fine-grained Detection of Chinese Toxic Language: Hierarchical Taxonomy, Resources, and Benchmarks [18.44630180661091]
  既存のデータセットには、有害な型や表現の詳細なアノテーションがない。 ポストの毒性を検出するために語彙的知識を導入することが重要である。 本稿では,中国語の有害な言語をきめ細かい検出を容易にする。
  論文  参考訳（メタデータ） (2023-05-08T03:50:38Z)
• Toxicity Detection with Generative Prompt-based Inference [3.9741109244650823]
  言語モデル(LM)は、望ましくない内容を含むコーパスで訓練され、バイアスや毒性を示す能力を持つことは、長年にわたって知られていたリスクである。 本研究では,ゼロショットプロンプトによる毒性検出の生成的変異について検討し,プロンプトエンジニアリングに関する総合的な試行を行った。
  論文  参考訳（メタデータ） (2022-05-24T22:44:43Z)
• Challenges in Automated Debiasing for Toxic Language Detection [81.04406231100323]
  バイアスド・アソシエーションは、有害な言語を検出するための分類器の開発において課題となっている。 我々は最近,有害な言語検出に適用されたテキスト分類データセットとモデルに対するデバイアス法について検討した。 我々の焦点は語彙(例えば、誓い言葉、スラー、アイデンティティの言及)と方言マーカー(特にアフリカ系アメリカ人の英語)である。
  論文  参考訳（メタデータ） (2021-01-29T22:03:17Z)
• RealToxicityPrompts: Evaluating Neural Toxic Degeneration in Language Models [93.151822563361]
  事前訓練されたニューラルネットワークモデル(LM)は、安全なデプロイメントを妨げる人種差別的、性差別的、その他の有害な言語を生成する傾向にある。 本研究では, 予め訓練したLMが有害な言語を生成できる範囲と, 有害な変性を防止するための制御可能なテキスト生成アルゴリズムの有効性について検討する。
  論文  参考訳（メタデータ） (2020-09-24T03:17:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。