論文の概要: DeepfakeArt Challenge: A Benchmark Dataset for Generative AI Art Forgery
and Data Poisoning Detection
- arxiv url: http://arxiv.org/abs/2306.01272v2
- Date: Sun, 11 Jun 2023 03:08:24 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-13 23:26:02.176472
- Title: DeepfakeArt Challenge: A Benchmark Dataset for Generative AI Art Forgery
and Data Poisoning Detection
- Title(参考訳): DeepfakeArt Challenge: 生成AIアート偽造とデータ中毒検出のためのベンチマークデータセット
- Authors: Hossein Aboutalebi, Dayou Mao, Carol Xu, Alexander Wong
- Abstract要約: 悪意ある目的のために生成的AIを使用することについて懸念が高まっている。
DeepfakeArt Challengeは、生成AIアート偽造とデータ中毒検出のための機械学習アルゴリズムの構築を支援するために設計されたベンチマークデータセットである。
- 参考スコア(独自算出の注目度): 79.06544706290568
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The tremendous recent advances in generative artificial intelligence
techniques have led to significant successes and promise in a wide range of
different applications ranging from conversational agents and textual content
generation to voice and visual synthesis. Amid the rise in generative AI and
its increasing widespread adoption, there has been significant growing concern
over the use of generative AI for malicious purposes. In the realm of visual
content synthesis using generative AI, key areas of significant concern has
been image forgery (e.g., generation of images containing or derived from
copyright content), and data poisoning (i.e., generation of adversarially
contaminated images). Motivated to address these key concerns to encourage
responsible generative AI, we introduce the DeepfakeArt Challenge, a
large-scale challenge benchmark dataset designed specifically to aid in the
building of machine learning algorithms for generative AI art forgery and data
poisoning detection. Comprising of over 32,000 records across a variety of
generative forgery and data poisoning techniques, each entry consists of a pair
of images that are either forgeries / adversarially contaminated or not. Each
of the generated images in the DeepfakeArt Challenge benchmark dataset has been
quality checked in a comprehensive manner. The DeepfakeArt Challenge is a core
part of GenAI4Good, a global open source initiative for accelerating machine
learning for promoting responsible creation and deployment of generative AI for
good.
- Abstract(参考訳): 最近の生成型人工知能技術の飛躍的な進歩は、会話エージェントからテキストコンテンツ生成、音声合成、視覚合成まで幅広い応用において、大きな成功と期待をもたらした。
生成AIの台頭と広く採用されている中、悪意のある目的のために生成AIを使用することに対する懸念が高まっている。
生成AIを用いた視覚コンテンツ合成の領域において、重要な関心事は画像偽造(著作権コンテンツを含む画像の生成など)とデータ中毒(敵に汚染された画像の生成)である。
DeepfakeArt Challengeは、生成AIアートの偽造とデータ中毒検出のための機械学習アルゴリズムの構築を支援するために設計された、大規模なチャレンジベンチマークデータセットである。
様々な生成的偽造およびデータ中毒技術にわたる32,000以上の記録からなり、それぞれのエントリは偽造または逆汚染のどちらかのイメージから成り立っている。
deepfakeart challengeベンチマークデータセットで生成された各イメージは、総合的に品質チェックされている。
deepfakeart challengeは、genai4goodの中核部分であり、機械学習を加速し、生成aiの責任ある作成と展開を促進する、グローバルなオープンソースイニシアチブである。
関連論文リスト
- Advancements in Generative AI: A Comprehensive Review of GANs, GPT,
Autoencoders, Diffusion Model, and Transformers [2.0971479389679337]
ChatGPTは、AI分野における新しい研究とイノベーションの波に火をつけた。
Bard、Stable Diffusion、DALL-E、Make-A-Video、Runway ML、Jukeboxといった最先端のツールが優れた機能を示している。
本稿では,これらの最先端モデル,それらが達成できる課題の多様さ,それらがもたらす課題,そして生成人工知能の将来について考察する。
論文 参考訳(メタデータ) (2023-11-17T00:08:19Z) - AI-Generated Images as Data Source: The Dawn of Synthetic Era [61.879821573066216]
生成AIは、現実世界の写真によく似た合成画像を作成する可能性を解き放った。
本稿では、これらのAI生成画像を新しいデータソースとして活用するという革新的な概念を探求する。
実際のデータとは対照的に、AI生成データには、未整合のアブリダンスやスケーラビリティなど、大きなメリットがある。
論文 参考訳(メタデータ) (2023-10-03T06:55:19Z) - BAGM: A Backdoor Attack for Manipulating Text-to-Image Generative Models [54.19289900203071]
テキストから画像への生成人工知能の普及は、大衆の関心を集めている。
ユーザを微妙に操作するコンテンツを生成するために,この技術を攻撃できることを実証する。
テキストから画像生成モデル(BAGM)に対するバックドアアタックを提案する。
我々の攻撃は、生成過程の3段階にわたる3つの一般的なテキスト・画像生成モデルをターゲットにした最初の攻撃である。
論文 参考訳(メタデータ) (2023-07-31T08:34:24Z) - The Cultivated Practices of Text-to-Image Generation [6.903929927172919]
人間は誰でも生成人工知能(AI)を使ってデジタル情報を合成できる新しい創造的時代に入った
特にテキスト・ツー・イメージ・ジェネレーションは非常に人気があり、何百万人もの実践者がAI生成画像やAIアートをオンラインで制作している。
この章ではまず、健全な共同創造型オンラインエコシステムが急速に出現する上で重要な展開の概要を紹介します。
AIアートコミュニティによって受け入れられた創造的なプラクティスである、プロンプトエンジニアリングに特に焦点が当てられている。
論文 参考訳(メタデータ) (2023-06-20T08:59:51Z) - The Age of Synthetic Realities: Challenges and Opportunities [85.058932103181]
我々は、有害な合成生成を識別し、それらを現実と区別することのできる法医学的手法の開発における重要な必要性を強調した。
我々の焦点は、画像、ビデオ、オーディオ、テキストなどの様々なメディアの形式にまで及んでいる。
この研究は、AI生成技術の急速な進歩と、法科学の基本原理に対する影響により、最も重要である。
論文 参考訳(メタデータ) (2023-06-09T15:55:10Z) - AI Imagery and the Overton Window [0.0]
本稿は、今日のAI開発者とユーザの両方が直面する懸念を調査する文献レビューである。
合法化の課題と倫理的懸念について論じ、AI生成モデルがいかに非常に有用であるかを結論付けている。
論文 参考訳(メタデータ) (2023-05-31T18:01:04Z) - A Comprehensive Survey of AI-Generated Content (AIGC): A History of
Generative AI from GAN to ChatGPT [63.58711128819828]
ChatGPTおよびその他の生成AI(GAI)技術は、人工知能生成コンテンツ(AIGC)のカテゴリに属している。
AIGCの目標は、コンテンツ作成プロセスをより効率的かつアクセスしやすくし、高品質なコンテンツをより高速に生産できるようにすることである。
論文 参考訳(メタデータ) (2023-03-07T20:36:13Z) - Artificial Fingerprinting for Generative Models: Rooting Deepfake
Attribution in Training Data [64.65952078807086]
光現実性画像生成は、GAN(Generative Adversarial Network)のブレークスルーにより、新たな品質レベルに達した。
しかし、このようなディープフェイクのダークサイド、すなわち生成されたメディアの悪意ある使用は、視覚的誤報に関する懸念を提起する。
我々は,モデルに人工指紋を導入することによって,深度検出の積極的な,持続可能なソリューションを模索する。
論文 参考訳(メタデータ) (2020-07-16T16:49:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。