論文の概要: Whitewashing Hate, Smearing Harmless Content: Annotator-Style Rebuttal Attacks on LLM-Based Moderation

• arxiv url: http://arxiv.org/abs/2608.22230v1
• Date: Sun, 23 Aug 2026 05:59:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-25 13:29:43.657835
• Title: Whitewashing Hate, Smearing Harmless Content: Annotator-Style Rebuttal Attacks on LLM-Based Moderation
• Title（参考訳）: ホワイトウォッシングHate, Smearing Harmless Content: Annotator-Style Rebuttal Attacks on LLM-Based Moderation
• Abstract要約: 大規模言語モデル(LLM)は、ヘイトスピーチのモデレーションに、しばしば人間AI内で使われるようになった。 本研究は,アノテータ型属性に対する初期正解モデル判定の感受性について検討した。 我々は,決定境界の摂動と対角的理性との直接的な矛盾を延長するリジャッジプロトコルを導入する。
• 参考スコア（独自算出の注目度）: 46.54749884988069
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are increasingly used for hate speech moderation, often within human--AI workflows in which reviewers provide feedback before a final decision. Such feedback introduces two manipulation directions: whitewashing hateful content as normal and smearing normal content as hateful. This study examines the susceptibility of initially correct model judgments to annotator-style rebuttals and analyzes whether attack effectiveness differs across manipulation directions. We introduce a rejudge protocol that extends direct contradiction with decision-boundary perturbations and adversarial rationales. Experiments with multiple LLMs on two hate speech datasets show that annotator-style rebuttals substantially degrade moderation performance, with stronger effects in multi-turn settings. The results further reveal stable, model-specific asymmetries between whitewashing and smearing across attack configurations, indicating distinct directional vulnerability patterns. Explicit reasoning prompts and defensive instructions reduce these effects but do not eliminate them. These findings highlight the need for direction-aware safeguards and dedicated feedback-robustness evaluation in human--AI moderation workflows.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、最終決定の前にレビュアーがフィードバックを提供するヒューマンAIワークフローの中で、ヘイトスピーチのモデレーションにますます使用される。 このようなフィードバックは、ヘイトフルなコンテンツを通常のように白く洗い流し、通常のコンテンツをヘイトフルとして見せかけるという2つの操作の方向を導入します。 本研究は,アノテータ方式の反論に対する初期正解モデル判断の受容性について検討し,操作方向によって攻撃効果が異なるかどうかを解析した。 我々は,決定境界の摂動と対角的理性との直接的な矛盾を延長するリジャッジプロトコルを導入する。 2つのヘイトスピーチデータセット上での複数のLLM実験により、アノテータスタイルのリビュータは、マルチターン設定においてより強い影響で、モデレーション性能を著しく低下させることが示された。 結果はさらに、ホワイトウォッシングと攻撃構成間のスミアリングの間に安定したモデル固有の対称性を明らかにし、異なる方向の脆弱性パターンを示している。 明示的な推論のプロンプトと防御命令はこれらの効果を減少させるが、それらを排除しない。 これらの知見は、人間-AIモデレーションワークフローにおける方向認識型安全ガードの必要性と、専用のフィードバック・ロバストネス評価の必要性を強調している。

関連論文リスト

• Attribute-Based Diagnosis of LLM Alignment with Hate Speech Annotations [48.69228180369574]
  ヘイトスピーチアノテーションはコストが高く、主観的で、アノテータの意見の相違がちである。 大規模言語モデル(LLM)が人間の判断とどのように一致しているかを分析する。 本研究では, ヘイトスピーチコーパスから連続ヘイトスピーチスコアを再構成する。
  論文  参考訳（メタデータ） (2026-05-26T13:44:48Z)
• TokenSwap: Backdoor Attack on the Compositional Understanding of Large Vision-Language Models [57.32952956674526]
  大規模視覚言語モデル(LVLM)に対するより回避的でステルス的なバックドア攻撃であるTokenSwapを紹介する。 固定されたターゲットコンテンツを強制するのではなく、TokenSwapはテキスト内のオブジェクト関係の理解を微妙に妨害する。 TokenSwapは、優れた回避性とステルス性を維持しながら、高い攻撃成功率を達成する。
  論文  参考訳（メタデータ） (2025-09-29T10:19:22Z)
• Mitigating Multimodal Hallucinations via Gradient-based Self-Reflection [49.26064449816502]
  本研究では,テキスト・視覚バイアスと共起バイアスに対処するために,グラディエントベースのインフルエンス・アウェア制約付きデコーディング(GACD)手法を提案する。 GACDは幻覚を効果的に低減し、MLLM出力の視覚的接地を改善する。
  論文  参考訳（メタデータ） (2025-09-03T08:13:52Z)
• BURN: Backdoor Unlearning via Adversarial Boundary Analysis [73.14147934175604]
  Backdoor Unlearningは、モデル本来の機能を保持しながら、バックドア関連の情報を削除することを目的としている。 本稿では, 偽相関疎結合, プログレッシブデータリファインメント, モデル浄化を統合した新しい防御フレームワーク, BURNによるバックドア・アンラーニングを提案する。
  論文  参考訳（メタデータ） (2025-07-14T17:13:06Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• Fooling LLM graders into giving better grades through neural activity guided adversarial prompting [26.164839501935973]
  本稿では,AI評価システムにおけるそのようなバイアスを明らかにするための体系的手法を提案する。 我々のアプローチはまず、歪んだ決定結果を予測する隠れた神経活動パターンを特定する。 この組み合わせによって、大きな言語モデルグレーダーを効果的に騙して、人間よりもはるかに高いグレードを割り当てることができることを実証する。
  論文  参考訳（メタデータ） (2024-12-17T19:08:22Z)
• Reflective Instruction Tuning: Mitigating Hallucinations in Large Vision-Language Models [36.119299938503936]
  大規模視覚言語モデル(LVLM)は様々な視覚言語タスクにおいて有望な性能を示す。 幻覚に敏感であり、視覚内容や指示と不一致な出力を生成する。 本稿では,理科学習を視覚的指導調律に統合した反射的指導調律を提案する。
  論文  参考訳（メタデータ） (2024-07-16T06:32:45Z)
• Characterizing the adversarial vulnerability of speech self-supervised learning [95.03389072594243]
  我々は,ゼロ知識とリミテッド知識の両方の敵からの攻撃の下で,そのようなパラダイムの敵対的脆弱性を調査するための最初の試みを行う。 実験結果から, SUPERB が提案するパラダイムは, 限られた知識を持つ敵に対して脆弱であることが示唆された。
  論文  参考訳（メタデータ） (2021-11-08T08:44:04Z)
• Generating Counter Narratives against Online Hate Speech: Data and Strategies [21.098614110697184]
  本稿では,憎悪に対する回答を効果的に収集する方法について検討する。 銀データ生成には GPT-2 などの大規模教師なし言語モデルを用いる。 最高のアノテーション戦略/神経アーキテクチャは、専門家のバリデーション/ポスト編集の前にデータフィルタリングに使用できる。
  論文  参考訳（メタデータ） (2020-04-08T19:35:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。