論文の概要: FVH-Bench: Evaluating Image Generator Safety Beyond Overtly Harmful Imagery

• arxiv url: http://arxiv.org/abs/2610.37722v1
• Date: Tue, 27 Oct 2026 10:35:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-01 01:32:09.891724
• Title: FVH-Bench: Evaluating Image Generator Safety Beyond Overtly Harmful Imagery
• Title（参考訳）: FVH-Bench:画像生成装置の安全性の評価
• Abstract要約: このような画像によって引き起こされるリスクは、機能的視覚障害(FVH)だけでなく、そのような画像によってもたらされるリスクと呼ばれる。 既存の安全ベンチマークは、ポルノやグラフィック暴力のような過度に有害なコンテンツに焦点を当てている。 FVH-Benchは5つの有害視覚機能と10のリスクドメインにまたがる669のプロンプトから構成される。
• 参考スコア（独自算出の注目度）: 77.50613524471554
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Modern image generators can produce complex visual artifacts, including diagrams, interfaces, and records that combine text, graphics, and layout to convey detailed information. They may refuse requests for overtly harmful imagery yet still generate artifacts that guide dangerous actions or support deception. We call the risk arising from what such images enable, rather than only what they depict, functional visual harm (FVH). Existing safety benchmarks focus largely on overtly harmful content, such as pornography and graphic violence, leaving image generators' safety alignment against FVH insufficiently evaluated. To address this gap, we introduce FVH-Bench, comprising 669 prompts across five harmful visual functions and ten risk domains. The 11 evaluated image generators rarely refuse these requests and frequently generate artifacts that fulfill the targeted harmful functions. High scores for target harm realization and harmful artifact usability further indicate that these outputs can support the intended harmful purposes. A further analysis finds that existing safety detectors also provide limited coverage of FVH, indicating gaps in their ability to recognize harmful visual functions. Together, these findings show that evaluating image-generator safety alignment requires considering not only what images depict, but also what they may enable.
• Abstract（参考訳）: 現代のイメージジェネレータは、図、インターフェイス、そして詳細な情報を伝えるためにテキスト、グラフィック、レイアウトを組み合わせたレコードを含む複雑なビジュアルアーティファクトを生成することができる。 彼らは過度に有害な画像の要求を拒否するかもしれないが、それでも危険な行為を導いたり、詐欺を支持する人工物を生成する。 このような画像によって引き起こされるリスクは、機能的視覚障害(FVH)だけでなく、そのような画像によってもたらされるリスクと呼ばれる。 既存の安全ベンチマークは主にポルノやグラフィック暴力のような過度に有害なコンテンツに焦点を当てており、画像生成者のFVHに対する安全アライメントは不十分である。 このギャップに対処するために、FVH-Benchを導入し、5つの有害な視覚機能と10のリスクドメインにわたる669のプロンプトを含む。 評価された画像生成装置11は、これらの要求をほとんど拒否せず、標的となる有害な機能を満たすアーティファクトを頻繁に生成する。 標的となる有害な実現と有害なアーティファクトのユーザビリティに対する高いスコアは、これらのアウトプットが意図された有害な目的をサポートすることをさらに示している。 さらに分析した結果、既存の安全検出器はFVHの限られた範囲を提供しており、有害な視覚機能を認識する能力のギャップを示していることがわかった。 これらの結果から,画像生成者の安全アライメントを評価するには,画像の描写だけでなく,その実現可能性も考慮する必要があることが示唆された。

関連論文リスト

• Harmful Content Generation in Text-to-Image Models: Capabilities and Moderation Limitations [10.365236620864197]
  5つのオープンテキスト・ツー・イメージ・モデルにおいて,有害なコンテンツ生成の体系的評価を行う。 私たちは、合法的なニュースキャプションを、性的に明示的なコンテンツ、暴力/ゴア、有害なステレオタイプ、自傷行為、ヘイトスピーチをターゲットにした、安全でないプロンプトに変換する自動パイプラインを使用します。 1500枚の画像の人間による評価は、有害なコンテンツ生成率が高いことを示している。
  論文  参考訳（メタデータ） (2026-10-05T15:22:19Z)
• VII: Visual Instruction Injection for Jailbreaking Image-to-Video Generation Models [57.128876964730644]
  参照画像に映像生成を条件付けるI2V(Image-to-Video)生成モデルは、新たな視覚的指示追従能力を示す。 安全でないテキストプロンプトの悪意ある意図を、安全な参照画像の良心的な視覚的指示として偽装する、トレーニング不要で移動可能なジェイルブレイクフレームワークであるVisual Instruction Injection (VII)を提案する。 VIIは最大83.5%のアタック成功率を達成し、拒絶率をほぼゼロに抑え、既存のベースラインを大幅に上回っている。
  論文  参考訳（メタデータ） (2026-02-24T15:20:01Z)
• SafeGuider: Robust and Practical Content Safety Control for Text-to-Image Models [74.11062256255387]
  テキスト・ツー・イメージのモデルは、安全対策を回避し、有害なコンテンツを生成できる敵のプロンプトに対して非常に脆弱である。 SafeGuiderは, 生成品質を損なうことなく, 堅牢な安全制御を実現するための2段階のフレームワークである。 SafeGuiderは攻撃成功率の最小化において例外的な効果を示し、様々な攻撃シナリオで最大速度は5.48%である。
  論文  参考訳（メタデータ） (2025-10-05T10:24:48Z)
• SafeCFG: Controlling Harmful Features with Dynamic Safe Guidance for Safe Generation [125.0706666755989]
  拡散モデル (DM) はテキストから画像へのタスクにおいて例外的な性能を示した。 CFGを介して画像生成プロセスを悪意的に導くことにより、より有害な画像を生成するために使用できる。 動的安全誘導を用いて有害な特徴を適応的に制御するSafeCFGを提案する。
  論文  参考訳（メタデータ） (2024-12-20T16:40:11Z)
• UnsafeBench: Benchmarking Image Safety Classifiers on Real-World and AI-Generated Images [24.447395464275942]
  画像安全分類器の有効性とロバスト性を評価するベンチマークフレームワークUnsafeBenchを提案する。 まず、安全または安全でないと注釈付けされた10Kの現実世界とAI生成画像の大規模なデータセットをキュレートする。 次に,5つの画像安全分類器と汎用視覚言語モデルを用いた3つの分類器の有効性とロバスト性を評価する。
  論文  参考訳（メタデータ） (2024-05-06T13:57:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。