論文の概要: Robustness in AI-Generated Detection: Enhancing Resistance to Adversarial Attacks

• arxiv url: http://arxiv.org/abs/2505.03435v1
• Date: Tue, 06 May 2025 11:19:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-07 18:50:11.35029
• Title: Robustness in AI-Generated Detection: Enhancing Resistance to Adversarial Attacks
• Title（参考訳）: AI生成検出におけるロバスト性:敵攻撃に対する抵抗性を高める
• Authors: Sun Haoxuan, Hong Yan, Zhan Jiahui, Chen Haoxing, Lan Jun, Zhu Huijia, Wang Weiqiang, Zhang Liqing, Zhang Jianfu,
• Abstract要約: 本稿では,現在のAI生成顔検出システムの脆弱性について検討する。 本稿では, 対人訓練を統合し, 対人訓練の効果を緩和するアプローチを提案する。 我々はまた、AI生成コンテンツの本質的な特徴に関する洞察を提供する、敵対的および良心的な事例の詳細な分析も提供する。
• 参考スコア（独自算出の注目度）: 4.179092469766417
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The rapid advancement of generative image technology has introduced significant security concerns, particularly in the domain of face generation detection. This paper investigates the vulnerabilities of current AI-generated face detection systems. Our study reveals that while existing detection methods often achieve high accuracy under standard conditions, they exhibit limited robustness against adversarial attacks. To address these challenges, we propose an approach that integrates adversarial training to mitigate the impact of adversarial examples. Furthermore, we utilize diffusion inversion and reconstruction to further enhance detection robustness. Experimental results demonstrate that minor adversarial perturbations can easily bypass existing detection systems, but our method significantly improves the robustness of these systems. Additionally, we provide an in-depth analysis of adversarial and benign examples, offering insights into the intrinsic characteristics of AI-generated content. All associated code will be made publicly available in a dedicated repository to facilitate further research and verification.
• Abstract（参考訳）: 生成画像技術の急速な進歩は、特に顔生成検出の領域において、重大なセキュリティ上の懸念をもたらしている。 本稿では,現在のAI生成顔検出システムの脆弱性について検討する。 本研究により,既存の検出手法は,標準条件下では高い精度で検出されることが多いが,敵攻撃に対する堅牢性は限られていることが明らかとなった。 これらの課題に対処するために、敵の訓練を統合して、敵の例の影響を軽減するアプローチを提案する。 さらに,拡散インバージョンと再構成を利用して検出ロバスト性をさらに向上する。 実験により, 従来の検出システムを簡単に回避できることが示されているが, 本手法はこれらのシステムのロバスト性を大幅に改善する。 さらに,AI生成コンテンツの本質的な特徴を考察し,敵対的・良心的な事例を詳細に分析する。 すべての関連コードは、さらなる調査と検証を容易にするために、専用のリポジトリで公開されます。

関連論文リスト

• Unleashing the Power of Pre-trained Encoders for Universal Adversarial Attack Detection [21.03032944637112]
  アドリアック攻撃は、現実世界のAIシステムにとって重要なセキュリティ脅威となる。 本稿では,大規模事前学習型視覚言語モデルCLIPに基づく,軽量な逆検出フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-04-01T05:21:45Z)
• A Survey and Evaluation of Adversarial Attacks for Object Detection [11.48212060875543]
  深層学習モデルは、信頼できるが誤った予測をすることを欺くような敵対的な例に対して脆弱である。 この脆弱性は、自動運転車、セキュリティ監視、安全クリティカルな検査システムなどの高リスクなアプリケーションに重大なリスクをもたらす。 本稿では,対象検出アーキテクチャに特有の敵攻撃を分類するための新しい分類枠組みを提案する。
  論文  参考訳（メタデータ） (2024-08-04T05:22:08Z)
• Humanizing Machine-Generated Content: Evading AI-Text Detection through Adversarial Attack [24.954755569786396]
  そこで本研究では,機械生成コンテンツの小さな摂動を回避して検出を回避すべく,より広いレベルの敵攻撃のためのフレームワークを提案する。 我々は、ホワイトボックスとブラックボックスの2つの攻撃設定を検討し、現在の検出モデルのロバスト性を高める可能性を評価するために、動的シナリオにおける逆学習を採用する。 実験の結果、現在の検出モデルは10秒で妥協でき、機械が生成したテキストを人間の書き起こしコンテンツとして誤分類する結果となった。
  論文  参考訳（メタデータ） (2024-04-02T12:49:22Z)
• FaultGuard: A Generative Approach to Resilient Fault Prediction in Smart Electrical Grids [53.2306792009435]
  FaultGuardは、障害タイプとゾーン分類のための最初のフレームワークであり、敵攻撃に耐性がある。 本稿では,ロバスト性を高めるために,低複雑性故障予測モデルとオンライン逆行訓練手法を提案する。 本モデルでは,耐故障予測ベンチマークの最先端を最大0.958の精度で上回っている。
  論文  参考訳（メタデータ） (2024-03-26T08:51:23Z)
• Spatial-Frequency Discriminability for Revealing Adversarial Perturbations [53.279716307171604]
  敵の摂動に対するディープニューラルネットワークの脆弱性は、コンピュータビジョンコミュニティで広く認識されている。 現在のアルゴリズムは、通常、自然および敵対的なデータの識別的分解を通じて、敵のパターンを検出する。 空間周波数Krawtchouk分解に基づく識別検出器を提案する。
  論文  参考訳（メタデータ） (2023-05-18T10:18:59Z)
• Adversarially-Aware Robust Object Detector [85.10894272034135]
  本稿では,ロバスト検出器 (RobustDet) を提案する。 本モデルは, クリーン画像の検出能力を維持しながら, 傾きを効果的に解き, 検出堅牢性を著しく向上させる。
  論文  参考訳（メタデータ） (2022-07-13T13:59:59Z)
• Increasing the Confidence of Deep Neural Networks by Coverage Analysis [71.57324258813674]
  本稿では、異なる安全でない入力に対してモデルを強化するために、カバレッジパラダイムに基づく軽量な監視アーキテクチャを提案する。 実験結果から,提案手法は強力な対向例とアウト・オブ・ディストリビューション・インプットの両方を検出するのに有効であることが示唆された。
  論文  参考訳（メタデータ） (2021-01-28T16:38:26Z)
• Adversarial vs behavioural-based defensive AI with joint, continual and active learning: automated evaluation of robustness to deception, poisoning and concept drift [62.997667081978825]
  人工知能(AI)の最近の進歩は、サイバーセキュリティのための行動分析(UEBA)に新たな能力をもたらした。 本稿では、検出プロセスを改善し、人間の専門知識を効果的に活用することにより、この攻撃を効果的に軽減するソリューションを提案する。
  論文  参考訳（メタデータ） (2020-01-13T13:54:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。