論文の概要: The Deployment Gap in AI Media Detection: Platform-Aware and Visually Constrained Adversarial Evaluation

• arxiv url: http://arxiv.org/abs/2604.09706v1
• Date: Tue, 07 Apr 2026 19:26:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-14 20:13:15.615734
• Title: The Deployment Gap in AI Media Detection: Platform-Aware and Visually Constrained Adversarial Evaluation
• Title（参考訳）: AIメディア検出における展開ギャップ:プラットフォーム認識と視覚的制約付き対向評価
• Authors: Aishwarya Budhkar, Trishita Dhara, Siddhesh Sheth,
• Abstract要約: 最近のAIメディア検出器は、クリーンな実験室評価下でのほぼ完璧な性能を報告している。 実験室の堅牢性と現実の信頼性の間には,デプロイメントのギャップが生じている,と私たちは主張する。 本稿では,AIメディア検出のためのプラットフォーム対応逆評価フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent AI media detectors report near-perfect performance under clean laboratory evaluation, yet their robustness under realistic deployment conditions remains underexplored. In practice, AI-generated images are resized, compressed, re-encoded, and visually modified before being shared on online platforms. We argue that this creates a deployment gap between laboratory robustness and real-world reliability. In this work, we introduce a platform-aware adversarial evaluation framework for AI media detection that explicitly models deployment transforms (e.g., resizing, compression, screenshot-style distortions) and constrains perturbations to visually plausible meme-style bands rather than full-image noise. Under this threat model, detectors achieving AUC $\approx$ 0{.}99 in clean settings experience substantial degradation. Per-image platform-aware attacks reduce AUC to significantly lower levels and achieve high fake-to-real misclassification rates, despite strict visual constraints. We further demonstrate that universal perturbations exist even under localized band constraints, revealing shared vulnerability directions across inputs. Beyond accuracy degradation, we observe pronounced calibration collapse under attack, where detectors become confidently incorrect. Our findings highlight that robustness measured under clean conditions substantially overestimates deployment robustness. We advocate for platform-aware evaluation as a necessary component of future AI media security benchmarks and release our evaluation framework to facilitate standardized robustness assessment.
• Abstract（参考訳）: 最近のAIメディア検出器は、クリーンな実験室評価の下でほぼ完璧な性能を報告しているが、現実的な展開条件下での堅牢性はまだ未調査である。 実際には、AI生成されたイメージは、オンラインプラットフォームで共有する前に、再サイズ、圧縮、再エンコード、および視覚的に修正される。 実験室の堅牢性と現実の信頼性の間には,デプロイメントのギャップが生じている,と私たちは主張する。 本研究では,AIメディア検出のためのプラットフォーム対応対向評価フレームワークを提案する。これは,展開変換(例えば,リサイズ,圧縮,スクリーンショットスタイルの歪み)を明示的にモデル化し,フルイメージノイズではなく,視覚的に可視なミームスタイルのバンドに対する摂動を制約する。 この脅威モデルの下で、検出器は AUC $\approx$ 0{ を達成する。 クリーンな設定ではかなり劣化した。 画像ごとのプラットフォームアウェア攻撃は、厳密な視覚的制約にもかかわらず、AUCを著しく低いレベルに減らし、偽物から実際の誤分類率の高いものを達成する。 さらに、局所的な帯域制約の下でも普遍的な摂動が存在することを示し、入力間での共通脆弱性方向を明らかにする。 精度劣化の他に、攻撃下でのキャリブレーション崩壊が顕著であり、検出器が確実に誤っているのを観察する。 その結果, クリーン条件下で測定されたロバスト性は, 展開ロバスト性を大幅に過大評価していることがわかった。 我々は、将来のAIメディアセキュリティベンチマークに必要なコンポーネントとしてプラットフォーム対応評価を提唱し、標準化された堅牢性評価を促進するための評価フレームワークをリリースする。

関連論文リスト

• CAAP: Capture-Aware Adversarial Patch Attacks on Palmprint Recognition Models [72.58453081100429]
  Palmprint認識は、アクセス制御やPalmベースの支払いを含む、セキュリティクリティカルなアプリケーションにデプロイされる。 既存の研究ではパームプリント認識のテクスチャに支配的な性質を十分に考慮していない。 本稿では,パームプリント認識のためのキャプチャ対応逆パッチフレームワークであるCAAPを提案する。
  論文  参考訳（メタデータ） (2026-04-08T12:03:14Z)
• Dynamic analysis enhances issue resolution [53.50448142467294]
  DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。 テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。 Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
  論文  参考訳（メタデータ） (2026-03-23T14:48:54Z)
• Self-Aware Object Detection via Degradation Manifolds [3.8265249634979734]
  安全クリティカルな設定では、入力が検出器の名目上の操作状態内にあるかどうかを判断することなく予測を行うことはできない。 劣化多様体に基づく自己認識フレームワークを提案する。 本手法は,コントラスト学習により訓練された軽量な埋め込みヘッドを用いて,標準的な検出バックボーンを増強する。
  論文  参考訳（メタデータ） (2026-02-20T17:58:46Z)
• Attack-Aware Deepfake Detection under Counter-Forensic Manipulations [0.30586855806896035]
  本研究は, 現実的な展開条件下でのロバスト性, 良好な校正可能性, 透明なエビデンスのために設計された, 攻撃対応のディープフェイクおよび画像解析検出器を提案する。 この方法は、2ストリームアーキテクチャにおけるレッドチームトレーニングとランダム化されたテストタイムディフェンスを組み合わせる。 その結果,アタック間のほぼ完全なランク付け,キャリブレーション誤差の低減,禁忌リスクの最小化,リグライン下でのタンパーの制御が示された。
  論文  参考訳（メタデータ） (2025-12-26T04:05:52Z)
• Detection of Misreporting Attacks on Software-Defined Immersive Environments [0.0]
  Software-Defined Networking (SDN)は没入型環境のような新興アプリケーションに最適である。 スイッチミスレポートのような新たな脆弱性は、負荷の不均衡を招き、そのような没入環境を深刻な品質劣化に対して脆弱にする。 我々は、このようなステルスな誤レポートを識別するハイブリッド機械学習(ML)ベースのネットワーク異常検出フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-22T17:14:40Z)
• Automated Defect Identification and Categorization in NDE 4.0 with the Application of Artificial Intelligence [2.1458230584719247]
  放射線検査における欠陥検出と組織化のための自動フレームワークの構築を試みる。 基本情報源として、航空機溶接部の223枚のCR写真を編集・分類する技術である。 欠陥の強い相違を示す小型のa90/95特性は, 提案手法が欠陥検出において例外的な認識を達成していることを示す。
  論文  参考訳（メタデータ） (2025-06-26T06:25:36Z)
• Improving Adversarial Robustness of Masked Autoencoders via Test-time Frequency-domain Prompting [133.55037976429088]
  BERTプリトレーニング(BEiT, MAE)を備えた視覚変換器の対向ロバスト性について検討する。 意外な観察は、MAEが他のBERT事前訓練法よりも敵の頑健さが著しく悪いことである。 我々は,MAEの対角的堅牢性を高めるための,シンプルで効果的な方法を提案する。
  論文  参考訳（メタデータ） (2023-08-20T16:27:17Z)
• On the Robustness of Quality Measures for GANs [136.18799984346248]
  本研究は、インセプションスコア(IS)やFr'echet Inception Distance(FID)のような生成モデルの品質測定の堅牢性を評価する。 このような測度は、加算画素摂動によっても操作可能であることを示す。
  論文  参考訳（メタデータ） (2022-01-31T06:43:09Z)
• RobustBench: a standardized adversarial robustness benchmark [84.50044645539305]
  ロバストネスのベンチマークにおける主な課題は、その評価がしばしばエラーを起こし、ロバストネス過大評価につながることである。 我々は,白箱攻撃と黒箱攻撃のアンサンブルであるAutoAttackを用いて,敵対的ロバスト性を評価する。 分散シフト,キャリブレーション,アウト・オブ・ディストリビューション検出,フェアネス,プライバシリーク,スムースネス,転送性に対するロバスト性の影響を解析した。
  論文  参考訳（メタデータ） (2020-10-19T17:06:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。