論文の概要: Certification of Real Images through Calibrated Content Authentication

• arxiv url: http://arxiv.org/abs/2610.05870v2
• Date: Tue, 06 Oct 2026 20:04:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.446335
• Title: Certification of Real Images through Calibrated Content Authentication
• Title（参考訳）: 校正コンテンツ認証による実画像の認証
• Abstract要約: 生成モデルは、既に大規模に誤用されている高品質な非正統なマルチメディアコンテンツを合成することができる。 我々は過去4年間に放出された10個の発電機に対して20個のディープフェイク検出器を評価し、その精度は99.5%から76%に低下した。 本稿では,信頼度が確実に識別可能かどうかを校正した予測を出力する検出パラダイムを提案し,評価する。
• 参考スコア（独自算出の注目度）: 7.133668785479441
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generative models can synthesize high-quality inauthentic multimedia content that is already being misused at scale. We evaluate twenty deepfake detectors against ten generators released in the last four years and find accuracy decreasing over time, from near-perfect 99.5% to 76%. Adversarial perturbations further reduce every baseline detector to below 2% accuracy, effectively inverting the detector's assigned label. We argue that this unreliability reflects a fundamental ambiguity: generators can reproduce authentic content exactly (e.g., through memorization), so content alone cannot reveal the true provenance label. For this reason, content produced by a generator must admit a faithful reconstruction by that same generator, and finding such a reconstruction makes synthetic provenance plausible and authenticity plausibly deniable. We therefore propose and evaluate a detection paradigm that outputs a calibrated prediction of whether authenticity is plausibly deniable: a faithful reconstruction by any known generator establishes plausible deniability, while calibration bounds how often content from known generators fails to be reproduced. Our evaluation shows that (i) our detector can be calibrated so that at most 1% of generated content is wrongly certified, an operating point at which most baseline detectors reach near-zero recall, including the strongest with 93% accuracy; (ii) calibrating a stricter security threshold on attacked samples preserves this bound against adaptive adversaries within the evaluated bounded-perturbation attack space, whose perturbations break every baseline, but does not cover arbitrary adversarial transformations; and (iii) post-hoc verifiability is eroding, as 1,116 of 3,000 Reddit images resist reproduction by a 2022 generator, but only 55 to 79 resist reproduction by 2024 generators.
• Abstract（参考訳）: 生成モデルは、既に大規模に誤用されている高品質な非正統なマルチメディアコンテンツを合成することができる。 我々は過去4年間に放出された10個の発電機に対して20個のディープフェイク検出器を評価し、その精度は99.5%から76%に低下した。 逆方向の摂動により、全てのベースライン検出器の精度は2%以下に低下し、検出器の割り当てられたラベルを効果的に反転させる。 我々は、この信頼性の欠如が基本的な曖昧さを反映していると主張する: ジェネレータは、正確なコンテンツ(例えば、記憶を通じて)を正確に再現できるので、コンテンツだけでは真の証明ラベルを公開できない。 このため、発電機が生成した内容は同じ発電機による忠実な再構築を認めなければならない。 そこで本研究では, 既知の発電機による忠実な再構築により, 既知発電機からのコンテンツの再生頻度を基準として, 信頼性が確実に低下するか否かを, 校正した予測を出力する検出パラダイムを提案し, 評価する。 私たちの評価は (i)我々の検出器を校正することで、生成したコンテンツの少なくとも1%が不正に認証され、ほとんどのベースライン検出器がほぼゼロに近いリコールに達する操作点が93%の精度で最強となるようにすることができる。 2 被攻撃試料に対する厳格なセキュリティ閾値の校正は、任意の対向変換をカバーせず、その摂動が全ての基準線を破る評価された有界摂動攻撃空間内の適応敵に対する境界を保っていること。 Reddit画像3000枚のうち1,116枚は2022年生成装置による再生に抵抗するが、2024年生成装置による再生には55～79枚しか抵抗しない。

関連論文リスト

• Watermarking: from Impossibility to Auditable Compliance [78.87513208320995]
  EU人工知能法第50条(2)は、合成出力を機械可読かつ検出可能にするために、生成システムの提供者を要求する。 自由形式のテキストにとって、重要な実装の1つは、生成的な透かし処理の実装である。 本稿は、強い透かしに代わる聴覚的な代替品を開発する。
  論文  参考訳（メタデータ） (2026-10-05T13:32:41Z)
• Watermarks Without Verification: AI Text Watermarking After the EU AI Act [49.51124343181601]
  EU AI法第50条では、生成可能なAIプロバイダに対して、システムが生成したコンテンツをマークし、AI生成として検出することを要求している。 Anthropicは、その日後にリリースされたすべてのClaudeモデルが、すべての生成されたテキストにSynthID-Textに基づく透かしを埋め込んでいることを公表した。 我々は、現在、異議や保証は確認できないし、この不信は、それ自体を透かしではなく、実質的なガバナンスの失敗であると論じている。
  論文  参考訳（メタデータ） (2026-09-09T01:56:17Z)
• Can We Defend Against AI-Generated Video Attacks on Real-World Crisis Events? A Systematic Evaluation of Detectors, Generators and Social Dissemination [81.00778788481266]
  RA-Benchは、Real Videoをアンカーとして使用するAI生成ビデオ検出のベンチマークである。 RA-Benchには17,886本のビデオがあり、10のソーシャルリスクカテゴリーで1,830本のビデオアンカーがある。 3つの検出器ファミリーはいずれもRA-ベンチインスタンス全体にわたって一貫して一般化しない。
  論文  参考訳（メタデータ） (2026-08-14T15:32:56Z)
• AI-generated Images Challenge Visual Trust in High-risk Scenarios [79.40239296310791]
  SafeIMGは、GPT Image 2.0を用いて生成された12のパブリックおよび個人安全シナリオにまたがる安全指向のベンチマークである。 SafeIMGは、検出器が合成画像を認識するかどうかを評価するだけでなく、それらの決定が人間の識別された異常を反映しているかどうかも評価する。 我々は,特殊合成画像検出器と視覚言語モデル(VLM)を評価し,どちらも信頼性のある検出を提供していないことを発見した。
  論文  参考訳（メタデータ） (2026-07-23T06:56:49Z)
• PRISM: Generation-Time Detection and Mitigation of Secret Leakage in Multi-Agent LLM Pipelines [19.04544141221272]
  PRISMは,情報漏洩を発生時の逐次的リスク蓄積問題として扱うリアルタイムディフェンスである。 各復号ステップにおいて、PRISMは語彙的、構造的、情報理論的、行動的、文脈的特徴にまたがる16の信号を校正リスクスコアに結合する。 PRISMは精度が1.000、リコールが0.712でF1 = 0.832を達成する。
  論文  参考訳（メタデータ） (2026-05-11T14:11:41Z)
• Are we still able to recognize pearls? Machine-driven peer review and the risk to creativity: An explainable RAG-XAI detection framework with markers extraction [7.723181091241251]
  本稿では、レビュー品質を評価し、自動パターンを検出するための説明可能なフレームワーク(RAG-XAI)を提案する。 XGBoost、Random Forest、LightGBMは99.61%、AUC-ROCは0.999以上、F1スコアは0.9925である。
  論文  参考訳（メタデータ） (2026-04-09T08:25:49Z)
• Rethinking Cross-Generator Image Forgery Detection through DINOv3 [62.80415066351157]
  クロスジェネレータ検出は、新しい挑戦フォージェネレータモデルとして登場した。 凍結した視覚基盤モデル、特にDINOv3は、既に強力なクロスジェネレータ検出能力を持っていることを示す。 トレーニング不要なトークンランク戦略を導入し、続いて軽量な線形プローブを用いて、認証関連トークンの小さなサブセットを選択する。
  論文  参考訳（メタデータ） (2025-11-27T14:01:50Z)
• Is It Certainly a Deepfake? Reliability Analysis in Detection & Generation Ecosystem [3.997629738288533]
  ディープフェイク検出器の包括的不確実性解析を行った。 生成アーティファクトが予測信頼性に与える影響について検討する。 我々の観測に基づいて、不確実性多様体は、深い震源検出のために不確実性を利用するのに十分な一貫性のある情報を保持する。
  論文  参考訳（メタデータ） (2025-09-22T09:09:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。