論文の概要: ToxiTrace: Gradient-Aligned Training for Explainable Chinese Toxicity Detection
- arxiv url: http://arxiv.org/abs/2604.12321v1
- Date: Tue, 14 Apr 2026 05:54:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-15 19:11:32.269543
- Title: ToxiTrace: Gradient-Aligned Training for Explainable Chinese Toxicity Detection
- Title（参考訳）: ToxiTrace: 説明可能な中国の毒性検出のためのグラディエントアライズドトレーニング
- Authors: Boyang Li, Hongzhe Shou, Yuanyuan Liang, Jingbin Zhang, Fang Zhou,
- Abstract要約: ToxiTraceは、3つのコンポーネントを持つBERTスタイルエンコーダの説明可能性指向の方法である。
ToxiTraceは、効率的なエンコーダベースの推論を保持しながら、分類精度と有毒なスパン抽出を改善し、より一貫性のある人間可読な説明を生成する。
- 参考スコア（独自算出の注目度）: 9.769395444384012
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Existing Chinese toxic content detection methods mainly target sentence-level classification but often fail to provide readable and contiguous toxic evidence spans. We propose \textbf{ToxiTrace}, an explainability-oriented method for BERT-style encoders with three components: (1) \textbf{CuSA}, which refines encoder-derived saliency cues into fine-grained toxic spans with lightweight LLM guidance; (2) \textbf{GCLoss}, a gradient-constrained objective that concentrates token-level saliency on toxic evidence while suppressing irrelevant activations; and (3) \textbf{ARCL}, which constructs sample-specific contrastive reasoning pairs to sharpen the semantic boundary between toxic and non-toxic content. Experiments show that ToxiTrace improves classification accuracy and toxic span extraction while preserving efficient encoder-based inference and producing more coherent, human-readable explanations. We have released the model at https://huggingface.co/ArdLi/ToxiTrace.
- Abstract（参考訳）: 既存の中国有毒物検出法は主に文レベルの分類を対象としているが、可読かつ連続的な有毒物証拠の提供に失敗することが多い。
1) エンコーダ由来の塩分濃度を微粒な有毒スパンに精製し, 軽量なLCMガイダンスで目的を定め, トークンレベルの塩分濃度を無関係なアクティベーションを抑えながら有毒なエビデンスに集中させる, (3) 有毒なコンテンツと非有毒なコンテンツのセマンティック境界を鋭くするために, サンプル特異的コントラスト推論ペアを構築したBERT型エンコーダの説明可能性指向手法である。
実験により、ToxiTraceは、効率的なエンコーダベースの推論を保持しながら、分類精度と有毒なスパン抽出を改善し、より一貫性のある人間可読な説明を生成することが示された。
私たちはこのモデルをhttps://huggingface.co/ArdLi/ToxiTrace.comでリリースしました。
関連論文リスト
- Unveiling Covert Toxicity in Multimodal Data via Toxicity Association Graphs: A Graph-Based Metric and Interpretable Detection Framework [58.01529356381494]
Toxicity Association Graphs (TAG) に基づく新しい検出フレームワークを提案する。
隠れ毒性の定量化のための最初の指標であるMTC(Multimodal Toxicity Covertness)を紹介する。
本手法は,意思決定プロセスの完全解釈可能性を維持しつつ,隠蔽毒性の正確な同定を可能にする。
論文 参考訳（メタデータ） (2026-02-03T08:54:25Z) - Projecting Out the Malice: A Global Subspace Approach to LLM Detoxification [73.77171973106567]
大規模言語モデル(LLM)は例外的な性能を示すが、有害なコンテンツを生成する固有のリスクを生じさせる。
従来の手法では、パラメータの根底にある有害領域を排除できず、敵の攻撃に弱いモデルを残している。
我々は,このグローバルな部分空間をFFNパラメータから識別・排除することで毒性を緩和する軽量な方法であるGLOSSを提案する。
論文 参考訳（メタデータ） (2026-01-09T09:34:53Z) - Rethinking Toxicity Evaluation in Large Language Models: A Multi-Label Perspective [104.09817371557476]
大規模言語モデル(LLM)は、様々な自然言語処理タスクにおいて印象的な結果を得た。
有害なコンテンツを生み出す可能性には、深刻な安全上の懸念が浮かび上がっている。
毒性検出のための3つの新しいマルチラベルベンチマークを導入する。
論文 参考訳（メタデータ） (2025-10-16T06:50:33Z) - Detoxifying Large Language Models via Autoregressive Reward Guided Representation Editing [77.75609817898035]
大規模言語モデル(LLM)は、様々なタスクにわたって印象的なパフォーマンスを示してきたが、有害なコンテンツの生成には弱いままである。
textscAutoregressive textscReward textscGuided textscRe presentation textscEditing (ARGRE)を提案する。
ARGREは遅延表現空間内の毒性遷移を明示的にモデル化し、安定かつ正確な報酬誘導編集を可能にする。
論文 参考訳（メタデータ） (2025-09-24T03:40:32Z) - <think> So let's replace this phrase with insult... </think> Lessons learned from generation of toxic texts with LLMs [60.169913160819]
本稿では, 人為的データに代わる合成毒性データを用いた脱毒訓練モデルの可能性について検討する。
実験によると、合成データに微調整されたモデルは、人間のデータで訓練されたモデルよりも一貫してパフォーマンスが悪くなっている。
根本原因は、致命的な語彙の多様性のギャップとして認識される: LLMは、小さな反復的な侮辱の語彙を用いて、人間の毒性のニュアンスや多様性を捉えるのに失敗する有毒な内容を生成する。
論文 参考訳（メタデータ） (2025-09-10T07:48:24Z) - ToXCL: A Unified Framework for Toxic Speech Detection and Explanation [3.803993344850168]
ToXCLは暗黙の有毒音声の検出と説明のための統合されたフレームワークである。
ToXCLは、新しい最先端の有効性を実現し、ベースラインを大幅に上回る。
論文 参考訳（メタデータ） (2024-03-25T12:21:38Z) - Facilitating Fine-grained Detection of Chinese Toxic Language:
Hierarchical Taxonomy, Resources, and Benchmarks [18.44630180661091]
既存のデータセットには、有害な型や表現の詳細なアノテーションがない。
ポストの毒性を検出するために語彙的知識を導入することが重要である。
本稿では,中国語の有害な言語をきめ細かい検出を容易にする。
論文 参考訳（メタデータ） (2023-05-08T03:50:38Z) - Challenges in Automated Debiasing for Toxic Language Detection [81.04406231100323]
バイアスド・アソシエーションは、有害な言語を検出するための分類器の開発において課題となっている。
我々は最近,有害な言語検出に適用されたテキスト分類データセットとモデルに対するデバイアス法について検討した。
我々の焦点は語彙(例えば、誓い言葉、スラー、アイデンティティの言及)と方言マーカー(特にアフリカ系アメリカ人の英語)である。
論文 参考訳（メタデータ） (2021-01-29T22:03:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。