Fugu-MT 論文翻訳(概要): Conditional Reliability of Toxicity Signals for Multilingual and Code-Mixed Abuse Detection

論文の概要: Conditional Reliability of Toxicity Signals for Multilingual and Code-Mixed Abuse Detection

arxiv url: http://arxiv.org/abs/2607.15861v1
Date: Fri, 17 Jul 2026 11:21:29 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-20 17:56:52.83519
Title: Conditional Reliability of Toxicity Signals for Multilingual and Code-Mixed Abuse Detection
Title（参考訳）: 多言語・符号混合乱用検出のための毒性信号の条件的信頼性
Abstract要約: インドにおける多言語およびコード混在短文における毒性先行の条件的信頼性について検討した。予測状態に付加する前に,各補助信号をエンコーダ表現上に条件付ける信頼融合ヘッドであるToxGateを提案する。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Moderation systems increasingly rely on external toxicity tools, but those tools are unreliable under code-mixing, transliteration, slang, and language mismatch. We study the \emph{conditional reliability} of toxicity priors in Indian multilingual and code-mixed short text: English toxicity, Indic abuse, and rule-based severity cues can be useful evidence, but only in some linguistic and abuse-severity contexts. We propose ToxGate, a trust-fusion head that conditions each auxiliary signal on the encoder representation before adding it to the prediction state. Across three short-text abuse datasets, four transformer encoders, and five seeds per setting, ToxGate improves over matched plain encoders in 10 of 12 in-domain settings and 7 of 8 transfer settings. The largest and most interpretable gains occur in high-risk moderation slices, including explicit slurs, violent threats, and cross-dataset transfer. The broader lesson is that moderation systems should treat external toxicity tools and priors as conditional evidence rather than fixed features or ground truth, in focused ablations, source-specific gating gives the strongest results in transfer, severe-abuse slices, and high-risk triage.
Abstract（参考訳）: モデレーションシステムは、外部の毒性ツールにますます依存しているが、これらのツールは、コードミキシング、翻訳、スラング、言語ミスマッチの下では信頼性が低い。インドにおける多言語およびコード混合短文における毒性先行の「emph{ Conditional reliability}」について検討する。予測状態に付加する前に,各補助信号をエンコーダ表現上に条件付ける信頼融合ヘッドであるToxGateを提案する。 3つの短文の悪用データセット、4つのトランスフォーマーエンコーダ、5つのセッティングに対して、ToxGateはマッチしたプレーンエンコーダを12のドメイン設定の10と8の転送設定の7で改善する。最大かつ最も解釈可能な利得は、明示的なスラリー、暴力的な脅威、データセット間の転送を含む、リスクの高いモデレーションスライスで発生する。より広範な教訓は、モデレーションシステムは、固定された特徴や真実ではなく、条件付き証拠として外部毒性ツールや先行を扱い、ソース固有のゲーティングは、転送、厳しい使用スライス、リスクの高いトリアージにおいて最も強力な結果をもたらす、ということである。

関連論文リスト

Beyond Content: A Comprehensive Speech Toxicity Dataset and Detection Framework Incorporating Paralinguistic Cues [17.62673716826934]
ToxiAlert-Benchは7つの主要な毒性カテゴリと20のきめ細かい毒性ラベルを付加した大規模オーディオデータセットである。本稿では,有毒な音声検出に適した多段階トレーニング戦略を持つデュアルヘッドニューラルネットワークを提案する。実験結果から,パラ言語的特徴の活用は検出性能を著しく向上させることが示された。
論文参考訳（メタデータ） (2026-05-15T14:17:19Z)
MUTEX: Leveraging Multilingual Transformers and Conditional Random Fields for Enhanced Urdu Toxic Span Detection [0.41292255339309664]
MUTEXは、Urdu毒性スパン検出フレームワークの条件付きランダムフィールド(CRF)と組み合わせた多言語変換器である。 MUTEXは、Urdu毒性スパン検出のための最初の教師付きベースラインであるトークンレベルF1スコアの60%を達成している。
論文参考訳（メタデータ） (2026-03-05T11:11:50Z)
Unveiling Covert Toxicity in Multimodal Data via Toxicity Association Graphs: A Graph-Based Metric and Interpretable Detection Framework [58.01529356381494]
Toxicity Association Graphs (TAG) に基づく新しい検出フレームワークを提案する。隠れ毒性の定量化のための最初の指標であるMTC(Multimodal Toxicity Covertness)を紹介する。本手法は,意思決定プロセスの完全解釈可能性を維持しつつ,隠蔽毒性の正確な同定を可能にする。
論文参考訳（メタデータ） (2026-02-03T08:54:25Z)
Rethinking Toxicity Evaluation in Large Language Models: A Multi-Label Perspective [104.09817371557476]
大規模言語モデル(LLM)は、様々な自然言語処理タスクにおいて印象的な結果を得た。有害なコンテンツを生み出す可能性には、深刻な安全上の懸念が浮かび上がっている。毒性検出のための3つの新しいマルチラベルベンチマークを導入する。
論文参考訳（メタデータ） (2025-10-16T06:50:33Z)
SynCED-EnDe 2025: A Synthetic and Curated English - German Dataset for Critical Error Detection in Machine Translation [1.4517170578045737]
機械翻訳におけるクリティカルエラー検出は、翻訳が安全かどうかを判断することを目的とする。我々は,1000個のゴールドラベルと8,000個の銀ラベルの文対からなる新しい資源であるSynCED-EnDeを提案する。我々は、情報検索や会話アシスタントにおけるMTの安全な展開を促進するためのコミュニティリソースとして、SynCED-EnDeを構想する。
論文参考訳（メタデータ） (2025-10-01T22:38:56Z)
Toxicity-Aware Few-Shot Prompting for Low-Resource Singlish Translation [3.7678366606419345]
低リソースの言語ペア間の有害な内容の翻訳は、攻撃的な表現を衛生化するための並列データと安全フィルタの不足による課題を提起する。コードミキシングされたSinglishセーフティコーパス上で実証された毒性保存翻訳のための2段階のフレームワークを提案する。我々は,Singlishを包括的NLPテストベッドとして位置づけることにより,実世界の応用における社会言語的ニュアンスを維持することの重要性を強調した。
論文参考訳（メタデータ） (2025-07-16T06:58:02Z)
CRAT: A Multi-Agent Framework for Causality-Enhanced Reflective and Retrieval-Augmented Translation with Large Language Models [59.8529196670565]
CRATは、RAGと因果強化自己回帰を利用して翻訳課題に対処する、新しいマルチエージェント翻訳フレームワークである。以上の結果からCRATは翻訳精度を著しく向上させ,特に文脈に敏感な単語や語彙の出現に寄与することが示唆された。
論文参考訳（メタデータ） (2024-10-28T14:29:11Z)
Fine-Grained Detoxification via Instance-Level Prefixes for Large Language Models [26.474136481185724]
インスタンスレベルのプレフィックス(FGDILP)によるきめ細かいデトックス化は、有害なテキストを余分なコストで軽減する。 FGDILPは、正のプレフィックス予測プロンプトを用いて、注意空間における文脈化された表現と対比する。我々は、FGDILPが発話レベルと文脈レベルの両方において有害性に関して制御されたテキスト生成を可能にすることを検証した。
論文参考訳（メタデータ） (2024-02-23T09:04:48Z)
Toxicity in Multilingual Machine Translation at Scale [3.4620477930009472]
大規模評価データセット(HOLISTICBIAS, 472k以上の文)を英語から164言語に翻訳する際に, 付加毒性を評価し, 解析した。自動毒性評価は、言語間での毒性が0%から5%に変化することを示している。有害度が最も高い出力言語は低リソースの言語であり、最も高い毒性を持つ人口軸は性的指向、性別、性別、能力である。
論文参考訳（メタデータ） (2022-10-06T17:26:27Z)
Toxicity Detection can be Sensitive to the Conversational Context [64.28043776806213]
2種類の毒性ラベルを持つ1万のポストのデータセットを構築し、公開します。また,新たな課題である文脈感度推定を導入し,コンテキストも考慮された場合,毒性が変化すると認識された投稿を識別することを目的とした。
論文参考訳（メタデータ） (2021-11-19T13:57:26Z)
Challenges in Automated Debiasing for Toxic Language Detection [81.04406231100323]
バイアスド・アソシエーションは、有害な言語を検出するための分類器の開発において課題となっている。我々は最近,有害な言語検出に適用されたテキスト分類データセットとモデルに対するデバイアス法について検討した。我々の焦点は語彙(例えば、誓い言葉、スラー、アイデンティティの言及)と方言マーカー(特にアフリカ系アメリカ人の英語)である。
論文参考訳（メタデータ） (2021-01-29T22:03:17Z)
RealToxicityPrompts: Evaluating Neural Toxic Degeneration in Language Models [93.151822563361]
事前訓練されたニューラルネットワークモデル(LM)は、安全なデプロイメントを妨げる人種差別的、性差別的、その他の有害な言語を生成する傾向にある。本研究では, 予め訓練したLMが有害な言語を生成できる範囲と, 有害な変性を防止するための制御可能なテキスト生成アルゴリズムの有効性について検討する。
論文参考訳（メタデータ） (2020-09-24T03:17:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。