論文の概要: Innocent Panels, Hateful Stories: Evaluating and Detecting Hateful Intent in Multi-Turn Visual Story Generation

• arxiv url: http://arxiv.org/abs/2608.05210v1
• Date: Wed, 05 Aug 2026 08:56:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-07 17:43:06.631615
• Title: Innocent Panels, Hateful Stories: Evaluating and Detecting Hateful Intent in Multi-Turn Visual Story Generation
• Title（参考訳）: Innocent Panels, Hateful Stories:Evaluating and Detectioning Hateful Intent in Multi-Turn Visual Story Generation
• Abstract要約: textttHatefulStoryPromptsを導入し、2つの言語にまたがる55のヘイトフルストーリーと3つのビジュアルスタイルから330のマルチターン構成を構成した。 すべてのモデルが80%以上のストーリーを完了し、最強の99.0%に達した。 我々の研究は、画像生成が孤立出力からコヒーレントな視覚的物語へと進化するにつれて、安全はそれに従って進化する必要があることを示している。
• 参考スコア（独自算出の注目度）: 20.04710748655781
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Picture books and comics have long been used to disseminate hateful narratives because they are easily understood even by children, as exemplified by the notorious Nazi propaganda picture book \emph{Der Giftpilz}. Recently, frontier text-to-image (T2I) systems such as Gemini and GPT-Image have enabled conversational generation with consistent characters and scenes across turns, making hateful visual stories, namely ordered image groups that collectively convey hateful narratives, cheap and scalable to produce. Although prior work has studied hateful content generation by T2I systems, it focuses on individual images, leaving group-level hateful meaning largely unexplored. We aim to address the gap. Concretely, we introduce \texttt{HatefulStoryPrompts}, comprising 330 multi-turn configurations from 55 hateful stories across two languages and three visual styles, and evaluate five frontier models over 4,950 attempts. Every model completes over 80\% of the stories, with the strongest reaching 99.0\%. We further evaluate existing moderation systems on \texttt{HatefulVisualStory}, a human-labeled dataset of 969 hateful image sets and 990 benign controls, and find that they frequently miss group-level hateful meaning: dedicated safety models achieve at most 34.9\% recall, while a strong vision-language model reaches 67.5\%. Finally, we propose complementary proactive and post-generation defenses. An interaction-aware monitor achieves 97.3\% recall for prompt-only sessions and 92.6\% when the user supplies the first image, while post-generation methods jointly analyzing completed image groups reach 80.2\%. Our work shows that, as image generation evolves from isolated outputs to coherent visual narratives, safety must evolve accordingly, from per-image moderation to stateful reasoning over interactions and image relationships.
• Abstract（参考訳）: 絵本や漫画は、悪名高いナチのプロパガンダの絵本 \emph{Der Giftpilz} に例えられるように、子供でも容易に理解できるため、憎悪の物語を広めるために長い間使われてきた。 近年,Gemini や GPT-Image などのフロンティア・テキスト・ツー・イメージ (T2I) システムでは,一貫したキャラクターやシーンを交互に生成できるようになっている。 以前の研究はT2Iシステムによるヘイトフルコンテンツ生成を研究してきたが、個々の画像に焦点を当てており、グループレベルのヘイトフルな意味はほとんど探索されていない。 私たちはそのギャップに対処することを目指している。 具体的には、2つの言語と3つの視覚的スタイルで55のヘイトフルストーリーから330のマルチターン構成を構成し、4,950回の試行で5つのフロンティアモデルを評価する。 すべてのモデルが80\%以上のストーリーを完了し、最強の99.0\%を達成している。 従来のモデレーションシステムであるtexttt{HatefulVisualStory} は,969のヘイトフルイメージセットと990の良心的コントロールからなる人間ラベル付きデータセットであり,グループレベルのヘイトフルな意味を欠くことが多い。 最後に, 相補的積極的防衛とポストジェネレーション防衛を提案する。 対話対応モニタは、ユーザが最初の画像を供給すると、プロンプトのみのセッションに対する97.3\%のリコールと92.6\%のリコールを達成し、また、完了した画像群を共同解析するポストジェネレーション方法が80.2\%に達する。 我々の研究は、画像生成が孤立出力からコヒーレントな視覚的物語へと進化するにつれて、画像ごとのモデレーションから、相互作用や画像関係に対するステートフルな推論に至るまで、安全が進化する必要があることを示している。

関連論文リスト

• Investigating Social Bias in Narrative Image Generation [16.9170988145075]
  6つのテキスト・ツー・イメージ(T2I)モデルにおいて,写真,ストーリーボード,漫画生成のバイアス表現を比較した。 その結果、プロプライエタリなモデルでは、平均で25.9%のバイアスアウトプットが生成され、ストーリーボード生成では9.6pp、コミック生成では18.2ppのバイアスアウトプットが増加することがわかった。 これらの結果は、写真生成において見えにくいバイアスが、物語的な視覚形式に表れることを示している。
  論文  参考訳（メタデータ） (2026-08-03T06:56:26Z)
• KathaTrace: Diagnosing Semantic Trajectory Collapse in Generated Visual Narratives [3.797867929356259]
  ビジュアルな物語は、ストーリーボード、漫画、子供向けのメディア、映画の前向き化の中心である。 StoryDiffusionのような最近のジェネレータはコヒーレントシーケンスを生成するが、ビジュアルコヒーレンスによってソース-ストーリー遷移の意味が回復可能であることは保証されていない。 本稿では,意味的軌道崩壊を診断するためのジェネレータに依存しないプロトコルであるKathaTraceを紹介する。
  論文  参考訳（メタデータ） (2026-07-01T17:51:08Z)
• VII: Visual Instruction Injection for Jailbreaking Image-to-Video Generation Models [57.128876964730644]
  参照画像に映像生成を条件付けるI2V(Image-to-Video)生成モデルは、新たな視覚的指示追従能力を示す。 安全でないテキストプロンプトの悪意ある意図を、安全な参照画像の良心的な視覚的指示として偽装する、トレーニング不要で移動可能なジェイルブレイクフレームワークであるVisual Instruction Injection (VII)を提案する。 VIIは最大83.5%のアタック成功率を達成し、拒絶率をほぼゼロに抑え、既存のベースラインを大幅に上回っている。
  論文  参考訳（メタデータ） (2026-02-24T15:20:01Z)
• Entity Re-identification in Visual Storytelling via Contrastive Reinforcement Learning [0.2455468619225742]
  ビジュアルストーリーテリングシステムは、フレーム間のキャラクタとオブジェクトの同一性を維持するのに苦労する。 本研究では,コヒーレントな画像列と無関係な画像から物語を識別するモデルを訓練する,対照的な強化学習手法を提案する。
  論文  参考訳（メタデータ） (2025-07-09T23:52:10Z)
• ImageInWords: Unlocking Hyper-Detailed Image Descriptions [36.373619800014275]
  ImageInWords (IIW) はハイパー詳細画像記述をキュレートするためのヒューマン・イン・ザ・ループ・フレームワークである。 包括性、特異性、幻覚などの最近のデータセットと比較して大きな伸びを示している。 また、IIWデータによる微調整により、従来の作業でトレーニングされたモデルに対して、わずか9kのサンプルであっても、これらのメトリクスを+31%改善することを示す。
  論文  参考訳（メタデータ） (2024-05-05T02:15:11Z)
• MagicScroll: Nontypical Aspect-Ratio Image Generation for Visual Storytelling via Multi-Layered Semantic-Aware Denoising [42.20750912837316]
  MagicScrollはプログレッシブ拡散に基づく画像生成フレームワークであり、新しいセマンティック・アウェア・デノナイジング・プロセスを備えている。 オブジェクト、シーン、背景のレベルで生成された画像を、テキスト、画像、レイアウト条件できめ細かく制御できる。 物語のテキストの整合性、視覚的コヒーレンスの改善、オーディエンスへのエンゲージメントなど、有望な成果が紹介されている。
  論文  参考訳（メタデータ） (2023-12-18T03:09:05Z)
• Improved Visual Grounding through Self-Consistent Explanations [58.51131933246332]
  本稿では,大規模な言語モデルを用いて,既存のテキスト画像データセットをパラフレーズで拡張するための戦略を提案する。 SelfEQは、自己整合性を促進するパラフレーズの視覚的説明地図に関する弱教師付き戦略である。
  論文  参考訳（メタデータ） (2023-12-07T18:59:22Z)
• Paragraph-to-Image Generation with Information-Enriched Diffusion Model [62.81033771780328]
  パラディフュージョン(英: ParaDiffusion)は、パラディフュージョンモデルである。 これは、大きな言語モデルの広範囲な意味理解能力を画像生成のタスクに移すことを念頭に置いている。 コードとデータセットは、長文アライメントに関するコミュニティの研究を促進するためにリリースされます。
  論文  参考訳（メタデータ） (2023-11-24T05:17:01Z)
• Collaborative Group: Composed Image Retrieval via Consensus Learning from Noisy Annotations [67.92679668612858]
  我々は,集団が個人より優れているという心理的概念に触発されたコンセンサスネットワーク(Css-Net)を提案する。 Css-Netは,(1)コンセンサスモジュールと4つのコンセンサスモジュール,(2)コンセンサス間の相互作用の学習を促進するKulback-Leibler分散損失の2つのコアコンポーネントから構成される。 ベンチマークデータセット、特にFashionIQでは、Css-Netが大幅に改善されている。特に、R@10が2.77%、R@50が6.67%増加し、リコールが大幅に向上している。
  論文  参考訳（メタデータ） (2023-06-03T11:50:44Z)
• NewsStories: Illustrating articles with visual summaries [49.924916589209374]
  我々は,3300万記事,2200万画像,100万ビデオを含む大規模マルチモーダルデータセットを提案する。 現状の画像テキストアライメント手法は、複数の画像を持つ長い物語に対して堅牢ではないことを示す。 本稿では,GoodNewsデータセット上で,ゼロショット画像セット検索において,これらの手法を10%向上させる直感的なベースラインを提案する。
  論文  参考訳（メタデータ） (2022-07-26T17:34:11Z)
• On Advances in Text Generation from Images Beyond Captioning: A Case Study in Self-Rationalization [89.94078728495423]
  近年のモダリティ,CLIP画像表現,言語モデルの拡張は,マルチモーダル入力によるタスクのマルチモーダル自己調整を一貫して改善していないことを示す。 画像キャプションを超えて画像やテキストからテキストを生成するために構築可能なバックボーンモデリング手法が提案されている。
  論文  参考訳（メタデータ） (2022-05-24T00:52:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。