論文の概要: Beyond Accuracy: A Qualitative Analysis of Vision-Language Models for Hate Speech Detection in Memes

• arxiv url: http://arxiv.org/abs/2608.26143v1
• Date: Sat, 27 Jun 2026 13:56:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.362134
• Title: Beyond Accuracy: A Qualitative Analysis of Vision-Language Models for Hate Speech Detection in Memes
• Title（参考訳）: ミームにおけるヘイトスピーチ検出のための視覚言語モデルの質的分析
• Abstract要約: 視覚言語モデル(VLM)は、ヘイトフルミームの識別において重要な役割を果たす文脈、皮肉、その他の微妙な手がかりを無視する傾向がある。 LLaVA-7B, Qwen-VL, GPT-4o mini, Claude 3 Haikuの4種類の最先端VLMの定性解析を行った。
• 参考スコア（独自算出の注目度）: 2.8988539381054905
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Memes have turned out to be a powerful tool through which individuals share their ideas concerning contemporary social and political problems. Their anonymity, as well as their ability to go viral, make them a powerful medium for spreading hate. It remains very difficult to identify such complex and context-dependent hate speech. Although they display excellent performance on multimodal tasks, vision-language models (VLMs) tend to ignore context, irony, and other subtle cues that play a key role in identifying hateful memes. In this work, we present a qualitative analysis of four state-of-the-art VLMs: LLaVA-7B, Qwen-VL, GPT-4o mini, and Claude 3 Haiku. We evaluate these models under zero-shot and few-shot prompting to examine how contextual framing influences their outputs. Our analysis goes beyond simple classification accuracy and focuses on a qualitative evaluation of the models' generated justifications, providing a more in-depth understanding of their thought processes and constraints when dealing with hateful memes.
• Abstract（参考訳）: ミームは、個人が現代の社会的・政治的問題に関する考えを共有する強力なツールであることが判明した。 彼らの匿名性とバイラル化能力は、憎悪を広める強力な媒体となる。 このような複雑で文脈に依存したヘイトスピーチを特定することは依然として困難である。 マルチモーダルなタスクでは優れたパフォーマンスを示すが、視覚言語モデル(VLM)は、憎しみのあるミームを識別する上で重要な役割を果たす文脈、皮肉、その他の微妙な手がかりを無視する傾向にある。 本研究では,LLaVA-7B,Qwen-VL,GPT-4o mini,Claude 3 Haikuの4つの最先端VLMの定性解析を行った。 我々はこれらのモデルをゼロショットと少数ショットで評価し、文脈的フレーミングが出力に与える影響を調べる。 我々の分析は、単純な分類精度を超えて、モデルが生成した正当化の質的な評価に焦点を当て、憎しみのあるミームを扱う際の思考過程や制約をより深く理解する。

関連論文リスト

• Can Thinking Models Think to Detect Hateful Memes? [7.77199523320035]
  思考に基づくマルチモーダル大言語モデル(MLLM)は近年、視覚言語による理解が進んでいる。 思考に基づくMLLMにおける推論を改善する強化学習に基づくポストトレーニングフレームワークを提案する。 提案手法は,最先端性能を実現し,精度とF1を約1%,説明品質を約3%向上させる。
  論文  参考訳（メタデータ） (2026-03-01T18:41:52Z)
• Mechanisms of Prompt-Induced Hallucination in Vision-Language Models [58.991412160253276]
  制御されたオブジェクトカウント設定において、プロンプトが画像中のオブジェクト数をオーバーステートする障害モードについて検討する。 刺激誘発幻覚 (PIH) を, 追加訓練を伴わずに40%以上減少させる小さなアテンションヘッドのセットを同定した。 本研究は, 刺激による幻覚を誘発する内的メカニズムについての知見を提示し, モデル特異的な行動の実施方法の違いを明らかにした。
  論文  参考訳（メタデータ） (2026-01-08T18:23:03Z)
• MemeReaCon: Probing Contextual Meme Understanding in Large Vision-Language Models [50.2355423914562]
  我々は,LVLM(Large Vision Language Models)がミームを本来の文脈でどのように理解するかを評価するために設計された,新しいベンチマークであるMemeReaConを紹介する。 私たちは5つのRedditコミュニティからミームを収集し、各ミームの画像、ポストテキスト、ユーザーコメントを一緒に保持しました。 モデルは文脈において重要な情報を解釈できないか、あるいはコミュニケーション目的を見越しながら視覚的詳細に過度に焦点を合わせるかのどちらかです。
  論文  参考訳（メタデータ） (2025-05-23T03:27:23Z)
• Detecting and Mitigating Hateful Content in Multimodal Memes with Vision-Language Models [12.929357709840975]
  マルチモーダルミームは、個人やグループに対してヘイトスピーチを広めるために悪用されることがある。 ヘイトフルなミームを検出するための定義誘導プロンプト手法と、UnHateMemeという名前のミームにおけるヘイトフルなコンテンツを緩和するための統一的なフレームワークを提案する。 我々のフレームワークはビジョン・ランゲージ・モデルと統合されており、ヘイトフル・ミームを非ヘイトフル・フォームに変換する強力な能力を示している。
  論文  参考訳（メタデータ） (2025-04-30T19:48:12Z)
• Vision-Language Models Do Not Understand Negation [50.27667000027403]
  NegBenchは18のタスクバリエーションと79ドルのサンプルに対する否定的理解を評価するために設計されたベンチマークである。 提案手法は, 否定的クエリに対するリコールが10%増加し, 否定的キャプションを用いた複数質問に対する精度が28%向上することを示す。
  論文  参考訳（メタデータ） (2025-01-16T09:55:42Z)
• Exploring the Limits of Zero Shot Vision Language Models for Hate Meme Detection: The Vulnerabilities and their Interpretations [9.970031080934003]
  本稿では,ハイトミーム検出などの複雑なタスクに対する現代の視覚言語モデル(VLM)の有効性について検討する。 我々は、様々なプロンプトタイプを用いて、徹底的なプロンプトエンジニアリングと最先端VLMのクエリを行い、ヘイトフル/ハームフルミームを検出する。
  論文  参考訳（メタデータ） (2024-02-19T15:03:04Z)
• Detecting and Correcting Hate Speech in Multimodal Memes with Large Visual Language Model [15.274323361535702]
  大規模言語モデル(LLM)は自然言語処理において注目されている。 LLaVA、Flamingo、GPT-4などの視覚言語モデル(VLM)は、様々な視覚言語タスクにおいて印象的なパフォーマンスを示している。
  論文  参考訳（メタデータ） (2023-11-12T05:20:20Z)
• How FaR Are Large Language Models From Agents with Theory-of-Mind? [69.41586417697732]
  大規模言語モデル(LLM)に対する新たな評価パラダイムを提案する。 T4Dは、他者の精神状態に関する推論を社会的シナリオにおける行動に結びつけるモデルを必要とする。 ゼロショットプロンプトフレームワークであるフォアシー・アンド・リフレクション(FaR)を導入し,LCMが今後の課題を予測できるように推論構造を提供する。
  論文  参考訳（メタデータ） (2023-10-04T06:47:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。