論文の概要: Old Tricks, New Models: How Simple Image Transformations Break Modern AI-based Content Moderation

• arxiv url: http://arxiv.org/abs/2607.28187v1
• Date: Thu, 30 Jul 2026 13:25:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-31 21:37:00.576979
• Title: Old Tricks, New Models: How Simple Image Transformations Break Modern AI-based Content Moderation
• Title（参考訳）: 古いトリック、新しいモデル:最新のAIベースのコンテンツモデレーションをいかに簡単に変換するか
• Abstract要約: 近年,商用マルチモーダルモデレーションAPIが導入され,より広範かつ有能な安全フィルタの提供が約束されている。 本研究では、このシフトがより堅牢な画像モデレーションをもたらすかどうかを解析する。 確立した3つの商用画像モデレーションサービスに対して大規模なブラックボックス評価を行い、その堅牢性を比較する。
• 参考スコア（独自算出の注目度）: 11.251639742180215
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While automated content-moderation systems have become essential for screening harmful content at scale, conventional task-specific classifiers often provide limited policy cov- erage and contextual understanding. Recently, commercial multimodal moderation APIs built on large foundation models have been introduced with the promise of providing broader and more capable safety filters. In this work, we analyze whether this shift also yields more robust image moderation. We conduct a large-scale black-box evaluation on three established commercial image-moderation services and compare their robustness. By evaluating seven simple, model-agnostic image transformations across multiple providers, datasets, harm categories, perceptual-similarity constraints, and transformation intensities, we find that: (1) all three commercial services can be bypassed using inexpensive image transformations that require no gradients, surrogate models, or knowledge of the target system; (2) even fixed transformations such as color inversion and grayscale conversion induce unsafe-to-safe decision changes while preserving content that remains recognizable to humans; (3) their robustness varies substantially across datasets and harm categories, with multimodal content and self-harm exhibiting pronounced vulnerabilities. This yields the conclusion that replacing conventional moderation classifiers with foundation-model-based APIs does not, by itself, provide a reliable security boundary. Such systems must be evaluated under realistic transformations and deployed as one component of a layered moderation pipeline rather than as standalone safety filters.
• Abstract（参考訳）: 自動コンテンツモデレーションシステムは有害コンテンツを大規模にスクリーニングする上で欠かせないものとなっているが、従来のタスク固有の分類器は、制限されたポリシーコブの消去と文脈的理解を提供することが多い。 近年,大規模な基盤モデル上に構築された商用マルチモーダルモデレーションAPIが,より広範かつ有能な安全フィルタを提供することを約束して導入されている。 本研究では、このシフトがより堅牢な画像モデレーションをもたらすかどうかを解析する。 確立した3つの商用画像モデレーションサービスに対して大規模なブラックボックス評価を行い、その堅牢性を比較する。 複数の提供者、データセット、ハーフカテゴリ、知覚相似性制約、変換強度の7つの単純でモデルに依存しない画像変換を評価することで、(1)3つの商用サービスは、勾配やサロゲートモデル、あるいはターゲットシステムの知識を必要としない安価な画像変換によってバイパス可能であること、(2)カラーインバージョンやグレースケール変換のような固定された変換でさえ、人間に認識可能なコンテンツを保持しながら、安全でない意思決定変化を誘発すること、(3)その堅牢性はデータセットやハーフカテゴリ間で大きく異なり、マルチモーダルコンテンツや自己ハームは顕著な脆弱性を示す。 これにより、従来のモデレーション分類器を基盤モデルベースのAPIに置き換えることは、それ自体が信頼性の高いセキュリティ境界を提供しない、という結論が導かれる。 このようなシステムは、現実的な変換の下で評価され、スタンドアロンの安全フィルタとしてではなく、階層化されたモデレーションパイプラインの1つのコンポーネントとしてデプロイされなければならない。

関連論文リスト

• A Multi-View and Confusion-Guided Ensemble Framework for Robust Synthetic Image Attribution [0.6768558752130311]
  ICANN 2026 の DLMMDD Workshop における合成画像属性チャレンジのための多視点・混乱誘導アンサンブルフレームワークを提案する。 提案手法は,FFT-ConvNeXt,DINOv2,CLIP,Xceptionなど複数の補完アーキテクチャを統合し,周波数・意味・法医学的視点から多種多様な帰属手がかりを抽出する。 本研究では,アンサンブルモデルの混乱パターンを解析し,安定拡散3と安定拡散3.5の厳密なあいまいさを観察する。
  論文  参考訳（メタデータ） (2026-09-10T07:54:25Z)
• SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models [67.84174763413178]
  我々はSafeRedirを紹介した。SafeRedirは、迅速な埋め込みリダイレクトによる堅牢なアンラーニングのための軽量な推論時フレームワークである。 SafeRedirは,効果的な非学習能力,意味的・知覚的保存能力,堅牢な画像品質,対人攻撃に対する耐性の向上を実現している。
  論文  参考訳（メタデータ） (2026-01-13T15:01:38Z)
• Referring Change Detection in Remote Sensing Imagery [49.841833753558575]
  本稿では、自然言語のプロンプトを利用してリモートセンシング画像の変化の特定のクラスを検出するReferring Change Detection (RCD)を紹介する。 我々は, (I) textbfRCDNet, (II) textbfRCDGen, (II) 拡散型合成データ生成パイプラインからなる2段階のフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-12-12T16:57:12Z)
• UniSER: A Foundation Model for Unified Soft Effects Removal [72.60782767314713]
  一つのフレームワーク内でのソフトエフェクトによる多様な劣化に対処できるUniSERを導入する。 我々の方法論は、堅牢性と一般化を保証するために、巨大な3.8Mペアデータセットのキュレーションに重点を置いている。 このシナジスティックなアプローチにより、UniSERはスペシャリストモデルとジェネラリストモデルの両方を大きく上回る。
  論文  参考訳（メタデータ） (2025-11-18T06:39:39Z)
• CGCE: Classifier-Guided Concept Erasure in Generative Models [53.7410000675294]
  概念消去は、事前訓練されたモデルから望ましくない概念を取り除くために開発された。 既存の方法は、削除されたコンテンツを再生できる敵攻撃に弱いままである。 多様な生成モデルに対して堅牢な概念消去を提供する効率的なプラグアンドプレイフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-11-08T05:38:18Z)
• SafetyPairs: Isolating Safety Critical Image Features with Counterfactual Image Generation [5.313750874857107]
  安全ポリシーに関連する機能にのみ異なる、対物的な画像を生成するためのフレームワークであるSafetyPairsを紹介する。 SafetyPairsを使って、評価データの強力なソースとなる新しい安全ベンチマークを構築します。 我々は,9つの安全カテゴリーの分類学にまたがる3,020以上のSafetyPair画像を含むベンチマークを公表した。
  論文  参考訳（メタデータ） (2025-10-24T03:19:48Z)
• SMILENet: Unleashing Extra-Large Capacity Image Steganography via a Synergistic Mosaic InvertibLE Hiding Network [71.11351750072936]
  本稿では,3つの重要なイノベーションを通じて25個の画像隠蔽を実現する新しい相乗的枠組みを提案する。 ネットワークアーキテクチャは、可逆操作と非可逆操作をコーディネートし、シークレット画像とカバー画像の両方における情報冗長性を効率的に活用する。 相補的なモジュールをコーディネートして、視覚的品質の優れた既存のメソッドよりも3.0倍高いキャパシティを実現する統一的なトレーニング戦略。
  論文  参考訳（メタデータ） (2025-03-07T03:31:47Z)
• Safety Without Semantic Disruptions: Editing-free Safe Image Generation via Context-preserving Dual Latent Reconstruction [88.18235230849554]
  大規模で未処理のデータセットでマルチモーダル生成モデルをトレーニングすることで、ユーザは有害で安全でない、議論の余地のない、文化的に不適切なアウトプットにさらされる可能性がある。 我々は、安全な埋め込みと、より安全な画像を生成するために、潜伏空間の重み付け可能な総和による修正拡散プロセスを活用する。 安全と検閲のトレードオフを特定し、倫理的AIモデルの開発に必要な視点を提示します。
  論文  参考訳（メタデータ） (2024-11-21T09:47:13Z)
• TSS: Transformation-Specific Smoothing for Robustness Certification [37.87602431929278]
  動機付けられた敵は、セマンティックトランスフォーメーションを使用してテストデータを摂動することで、機械学習システムを誤解させる可能性がある。 TSS -- 汎用の敵対的セマンティックトランスフォーメーションに対して、MLの堅牢性を証明するための統一的なフレームワークを提供する。 TSSは大規模なImageNetデータセット上で、非自明な証明された堅牢性を実現する最初のアプローチであることを示す。
  論文  参考訳（メタデータ） (2020-02-27T19:19:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。