論文の概要: Harder to Defend: Towards Chinese Toxicity Attacks via Implicit Enhancement and Obfuscation Rewriting

• arxiv url: http://arxiv.org/abs/2605.22258v1
• Date: Thu, 21 May 2026 10:01:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-22 16:35:42.200766
• Title: Harder to Defend: Towards Chinese Toxicity Attacks via Implicit Enhancement and Obfuscation Rewriting
• Title（参考訳）: 感染拡大と難読化のリライトを通じて中国の毒性攻撃を狙う「防御の困難さ」
• Authors: Jingyi Kang, Junyu Lu, Bo Xu, Hongbo Wang, Linlin zong, Roy Ka-Wei Lee, Hongfei Lin,
• Abstract要約: 制御されたレッドチーム評価および防衛データ生成フレームワークである中国インプリシト毒性攻撃(CITA)を紹介する。 CITAは、有害な意図を保ち、暗黙性を高め、制御された表面の変種を追加するために、(i)有害なIntent Learning、(ii)Implicit Toxicity Enhancement、(iii)難解なVariant Rewritingという3つの段階を使用する。 CITAが生成した評価サンプルでは、試験された7つの検出器は重大なミス検出リスクを示し、平均的なASRは69.48%に達した。 下流防衛の応用として、我々は中国極端毒性防衛モデルを微調整する。
• 参考スコア（独自算出の注目度）: 40.61676645594745
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) require robust toxicity evaluation beyond explicit wording. This setting remains underexplored in Chinese, where toxicity may combine semantic indirectness with surface obfuscation. We introduce Chinese Implicit Toxicity Attack (CITA), a controlled red-team evaluation and defense-data generation framework, not a deployable evasion tool. CITA uses three stages: (i) Harmful Intent Learning, (ii) Implicit Toxicity Enhancement, and (iii) Obfuscation Variant Rewriting, to preserve harmful intent, increase implicitness, and add controlled surface variants. On CITA-generated evaluation samples, the seven tested detectors exhibit substantial missed-detection risks, reaching an average ASR of 69.48%; human evaluation further confirms preserved harmfulness and increased implicitness/evasiveness. As a downstream defense application, we fine-tune a Chinese Implicit Toxicity Defense model (CITD) with CITA-generated red-team data, showing that such data can improve robustness through additional training.
• Abstract（参考訳）: 大規模言語モデル (LLMs) は、明示的な語遣いを超えた堅牢な毒性評価を必要とする。 この設定は中国語では未解明のままであり、毒性は意味的間接性と表面の難読化を組み合わせうる。 我々は,中国インプリシト毒性攻撃(CITA)について紹介する。これは,デプロイ可能な回避ツールではなく,コントロールされたレッドチーム評価と防衛データ生成フレームワークである。 CITAは3つの段階を使用する。 (i)有害なインテントラーニング 二 有害毒性の増進、及び 三 難読変数書き換え、有害な意図を保ち、暗黙性を増し、制御面の変種を加えること。 CITAが生成した評価サンプルでは、試験された7つの検出器は、平均的なASR 69.48%に達し、保存された有害性と暗黙の回避性を高める。 ダウンストリームディフェンスアプリケーションとして,CITAが生成するレッドチームデータを用いて中国インプリシト毒性防衛モデル(CITD)を微調整し,追加トレーニングによりロバスト性を向上させることを示す。

関連論文リスト

• Measuring and Mitigating Toxicity in Large Language Models: A Comprehensive Replication Study [0.0]
  Webスケールコーパスでトレーニングされた大規模言語モデル(LLM)は、本質的にトレーニングデータから有害なパターンを吸収する。 復号時間エキスパート(Decoding-time Experts, DExperts)は、モデルの再訓練を必要とせずに生成を行う推論時間緩和手法である。 この研究は、明示的な毒性軽減と暗黙的な毒性軽減のギャップを強調することで、AI安全性に関する研究の活発化に寄与する。
  論文  参考訳（メタデータ） (2026-05-13T20:12:30Z)
• Secure Retrieval-Augmented Generation against Poisoning Attacks [10.964269668142151]
  大規模言語モデル (LLM) は自然言語処理 (NLP) を変換した。 RaGuardは、有毒テキストを特定するために設計された検出フレームワークである。 大規模データセットの実験は、毒殺攻撃を検出し緩和する効果を実証している。
  論文  参考訳（メタデータ） (2025-10-28T22:54:19Z)
• Rethinking Toxicity Evaluation in Large Language Models: A Multi-Label Perspective [104.09817371557476]
  大規模言語モデル(LLM)は、様々な自然言語処理タスクにおいて印象的な結果を得た。 有害なコンテンツを生み出す可能性には、深刻な安全上の懸念が浮かび上がっている。 毒性検出のための3つの新しいマルチラベルベンチマークを導入する。
  論文  参考訳（メタデータ） (2025-10-16T06:50:33Z)
• Detoxifying Large Language Models via Autoregressive Reward Guided Representation Editing [77.75609817898035]
  大規模言語モデル(LLM)は、様々なタスクにわたって印象的なパフォーマンスを示してきたが、有害なコンテンツの生成には弱いままである。 textscAutoregressive textscReward textscGuided textscRe presentation textscEditing (ARGRE)を提案する。 ARGREは遅延表現空間内の毒性遷移を明示的にモデル化し、安定かつ正確な報酬誘導編集を可能にする。
  論文  参考訳（メタデータ） (2025-09-24T03:40:32Z)
• Detecting Stealthy Data Poisoning Attacks in AI Code Generators [1.1371178703578924]
  本研究は,ステルスシー脅威モデルに基づく既存の中毒検出手法の有効性に関する系統的研究である。 我々は,3つのDLモデル (CodeBERT, CodeT5+, AST-T5) に対して標的毒処理を行い, スペクトルシグネチャ解析, アクティベーションクラスタリング, 静的解析を防御として評価した。 以上の結果から,全ての手法が無作為性中毒の検出に苦慮し,表現に基づくアプローチでは有毒なサンプルの分離が困難であり,静的解析では偽陽性と偽陰性がみられた。
  論文  参考訳（メタデータ） (2025-08-29T14:00:06Z)
• Unveiling the Implicit Toxicity in Large Language Models [77.90933074675543]
  大きな言語モデル(LLM)のオープンエンドネスと、その優れた機能を組み合わせることで、悪意のある使用のために悪用された場合、新たな安全性上の問題が発生する可能性がある。 LLMは、単純なゼロショットプロンプトによる検出が極めて困難である様々な暗黙的な有毒な出力を生成することができることを示す。 我々は,LLMの暗黙的毒性をさらに誘発する強化学習(RL)に基づく攻撃法を提案する。
  論文  参考訳（メタデータ） (2023-11-29T06:42:36Z)
• How Robust are Randomized Smoothing based Defenses to Data Poisoning? [66.80663779176979]
  我々は、トレーニングデータの品質の重要性を強調する堅牢な機械学習モデルに対して、これまで認識されていなかった脅威を提示します。 本稿では,二段階最適化に基づく新たなデータ中毒攻撃法を提案し,ロバストな分類器のロバスト性を保証する。 我々の攻撃は、被害者が最先端のロバストな訓練方法を用いて、ゼロからモデルを訓練しても効果的である。
  論文  参考訳（メタデータ） (2020-12-02T15:30:21Z)
• RealToxicityPrompts: Evaluating Neural Toxic Degeneration in Language Models [93.151822563361]
  事前訓練されたニューラルネットワークモデル(LM)は、安全なデプロイメントを妨げる人種差別的、性差別的、その他の有害な言語を生成する傾向にある。 本研究では, 予め訓練したLMが有害な言語を生成できる範囲と, 有害な変性を防止するための制御可能なテキスト生成アルゴリズムの有効性について検討する。
  論文  参考訳（メタデータ） (2020-09-24T03:17:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。