論文の概要: Can We Defend Against AI-Generated Video Attacks on Real-World Crisis Events? A Systematic Evaluation of Detectors, Generators and Social Dissemination
- arxiv url: http://arxiv.org/abs/2608.14391v2
- Date: Mon, 17 Aug 2026 01:05:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 13:30:43.600769
- Title: Can We Defend Against AI-Generated Video Attacks on Real-World Crisis Events? A Systematic Evaluation of Detectors, Generators and Social Dissemination
- Title（参考訳）: 実世界の危機イベントにおけるAI生成ビデオ攻撃を擁護できるか? 検出器, 発電機, 社会的拡散のシステム的評価
- Abstract要約: RA-Benchは、Real Videoをアンカーとして使用するAI生成ビデオ検出のベンチマークである。
RA-Benchには17,886本のビデオがあり、10のソーシャルリスクカテゴリーで1,830本のビデオアンカーがある。
3つの検出器ファミリーはいずれもRA-ベンチインスタンス全体にわたって一貫して一般化しない。
- 参考スコア（独自算出の注目度）: 81.00778788481266
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent video generators can fabricate realistic depictions of wars, disasters, public emergencies, and other real-world crises, creating substantial risks of misinformation. Existing benchmarks, however, provide limited evidence on detector and generator behavior in such settings, including how detectability varies with generation conditions, how people perceive generated videos, and whether detectors remain reliable during social dissemination. To address this gap, we introduce RA-Bench, a benchmark for AI-generated video detection that uses Real videos as Anchors. RA-Bench contains 17,886 videos, comprising 1,830 real-video anchors across 10 social-risk categories and 16,056 generated clips from four open-source and five closed-source generators. Based on RA-Bench, we organize our evaluation along three dimensions. We first assess detector generalization across seven traditional detectors, ten zero-shot multimodal models under three review settings, and two MLLMs specifically fine-tuned on AI-generated video detection. Across these methods, none of the three detector families generalizes consistently across RA-Bench instances. We then examine how detectability varies with generation quality, conditioning information, and sampling seeds. These analyses show that generation properties affect detector families differently, while source-level detection patterns remain stable across seeds. Finally, we study human authenticity judgments and detector reliability during social dissemination. We find that videos that mislead people are also difficult for current detectors, and that social dissemination makes detection harder. Together, these findings show that current methods struggle to detect realistic AI-generated videos, highlighting the need for detectors robust to evolving video generators.
- Abstract（参考訳）: 最近のビデオジェネレータは、戦争、災害、公衆の緊急事態、その他の現実世界の危機を現実的に描写し、誤報の重大なリスクを生み出すことができる。
しかし、既存のベンチマークでは、検出可能性が生成条件によってどのように変化するか、人々が生成したビデオをどのように知覚するか、検出器が社会的な拡散の間に信頼できるままであるかどうかなど、そのような環境での検知とジェネレータの挙動に関する限られた証拠を提供している。
このギャップに対処するために、AnchorsとしてReal Videoを使用するAI生成ビデオ検出のベンチマークであるRA-Benchを紹介する。
RA-Benchには17,886本のビデオが収録されており、10つのソーシャルリスクカテゴリにまたがる1,830本のリアルビデオアンカーと、4つのオープンソースと5つのクローズドソースジェネレータから生成された16,056本のクリップで構成されている。
RA-Benchに基づいて3次元で評価を整理する。
まず,7つの従来型検出器,10つのゼロショットマルチモーダルモデル,AI生成ビデオ検出に特化して2つのMLLMを解析した。
これらの方法では、3つの検出器群はいずれもRA-ベンチのインスタンスに一貫した一般化はしない。
次に, 生成品質, 条件情報, 種子の採取によって検出可能性がどのように変化するかを検討する。
これらの分析により, 発生特性が検出遺伝子族に異なる影響を示す一方で, 発生源レベルの検出パターンは種子間で安定であることがわかった。
最後に,社会普及過程における人間の正当性判定と検出信頼性について検討した。
人々の誤解を招くビデオは、現在の検知器では困難であり、社会的拡散によって検出が困難になる。
これらの結果は、現在の手法が現実的なAI生成ビデオを検出するのに苦労していることを示し、ビデオジェネレータの進化に堅牢な検出器の必要性を強調している。
関連論文リスト
- CoCoVideo: The High-Quality Commercial-Model-Based Contrastive Benchmark for AI-Generated Video Detection [12.128022166557754]
CoCoVideo-26Kは、13の主流の商用ジェネレータをカバーする、対照的な商用モデルベースのAIGCビデオデータセットである。
このデータセットに基づいて,コントラスト学習とMLLM推論を統合したフレームワークであるCoDetectを提案する。
論文 参考訳（メタデータ） (2026-05-26T03:18:44Z) - Where Detectors Fail: Probing Generative Space for Generalizable AI-Generated Image Detection [69.6123714120735]
AI生成画像(AIGI)の検出は、検出器が見えないジェネレータに一般化できないことが多いため、依然として難しい。
本稿では, 生成過程の挑戦領域を積極的に探究することで, 検出器の一般化を改善するフレームワーク PROBE を提案する。
論文 参考訳（メタデータ） (2026-05-24T07:15:06Z) - Skyra: AI-Generated Video Detection via Grounded Artifact Reasoning [66.51617619673587]
AI生成ビデオにおける人間の知覚可能な視覚的アーティファクトを識別する,特殊な大規模言語モデル(MLLM)であるSkyraを紹介する。
この目的を達成するために、我々は、人間のアノテーションを微粒化した最初の大規模AI生成ビデオデータセットである、Supervised Fine-Tuning (SFT)のためのViF-CoT-4Kを構築した。
次に,モデルの時間的知覚,説明能力,検出精度を体系的に向上する2段階のトレーニング戦略を開発する。
論文 参考訳（メタデータ） (2025-12-17T18:48:26Z) - Benchmarking Fake Voice Detection in the Fake Voice Generation Arms Race [5.051497895059242]
既存のベンチマークでは、さまざまな偽音声サンプルを単一のデータセットに集約して評価する。
このプラクティスは、メソッド固有のアーティファクトをマスクし、異なる世代パラダイムに対する検出器のさまざまなパフォーマンスを隠蔽する。
我々は,新しい1対1評価プロトコルによって17の最先端の偽音声生成装置と8つの先行検知器の相互作用を体系的に評価する,最初のエコシステムレベルのベンチマークを導入する。
論文 参考訳（メタデータ） (2025-10-08T00:52:06Z) - BusterX: MLLM-Powered AI-Generated Video Forgery Detection and Explanation [77.55074597806035]
GenBuster-200Kは、200Kの高解像度ビデオクリップを備えた、大規模で高品質なAI生成ビデオデータセットである。
BusterXは、マルチモーダル大言語モデル(MLLM)と強化学習を活用した、AI生成のビデオ検出および説明フレームワークである。
論文 参考訳（メタデータ） (2025-05-19T02:06:43Z) - GenVidBench: A Challenging Benchmark for Detecting AI-Generated Video [35.05198100139731]
GenVidBenchは、AIが生成するビデオ検出データセットで、いくつかの重要な利点がある。
データセットには8つの最先端AIビデオジェネレータのビデオが含まれている。
複数の次元から分析され、その内容に基づいて様々な意味カテゴリーに分類される。
論文 参考訳（メタデータ） (2025-01-20T08:58:56Z) - Turns Out I'm Not Real: Towards Robust Detection of AI-Generated Videos [16.34393937800271]
高品質なビデオを作成するための生成モデルは、デジタル整合性とプライバシーの脆弱性に関する懸念を提起している。
ディープフェイクスのビデオと戦うための最近の研究は、ガン生成サンプルを正確に識別する検出器を開発した。
本稿では,複数の最先端(SOTA)生成モデルから合成された映像を検出するための新しいフレームワークを提案する。
論文 参考訳（メタデータ） (2024-06-13T21:52:49Z) - DeMamba: AI-Generated Video Detection on Million-Scale GenVideo Benchmark [38.604684882464944]
我々は,AIが生成した最初のビデオ検出データセットであるGenVideoを紹介する。
大量のビデオがあり、その中にはAIが生成し、実際のビデオが100万本以上含まれている。
我々はデテール・マンバ(Detail Mamba)というプラグイン・アンド・プレイ・モジュールを導入し、AI生成ビデオを特定して検出器を強化する。
論文 参考訳（メタデータ） (2024-05-30T05:36:12Z) - Assaying on the Robustness of Zero-Shot Machine-Generated Text Detectors [57.7003399760813]
先進的なLarge Language Models (LLMs) とその特殊な変種を探索し、いくつかの方法でこの分野に寄与する。
トピックと検出性能の間に有意な相関関係が発見された。
これらの調査は、様々なトピックにまたがるこれらの検出手法の適応性と堅牢性に光を当てた。
論文 参考訳（メタデータ） (2023-12-20T10:53:53Z) - VideoForensicsHQ: Detecting High-quality Manipulated Face Videos [77.60295082172098]
偽造検知器の性能は、人間の目で見られる人工物の存在にどのように依存するかを示す。
前例のない品質の顔ビデオ偽造検出のための新しいベンチマークデータセットを導入する。
論文 参考訳（メタデータ） (2020-05-20T21:17:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。