論文の概要: Exploring the Use of Abusive Generative AI Models on Civitai
- arxiv url: http://arxiv.org/abs/2407.12876v2
- Date: Sat, 20 Jul 2024 19:59:42 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-23 22:03:21.667422
- Title: Exploring the Use of Abusive Generative AI Models on Civitai
- Title（参考訳）: Civitaiにおける乱用生成AIモデルの利用を探る
- Authors: Yiluo Wei, Yiming Zhu, Pan Hui, Gareth Tyson,
- Abstract要約: 本稿では,AIGCソーシャルプラットフォームとして最大規模のCivitaiを用いて,乱用コンテンツの生成について検討する。
87Kモデルと2M画像を含む包括的データセットを構築した。
これらのプラットフォームをよりよく管理するためのモデレーション戦略について議論する。
- 参考スコア（独自算出の注目度）: 22.509955105958625
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: The rise of generative AI is transforming the landscape of digital imagery, and exerting a significant influence on online creative communities. This has led to the emergence of AI-Generated Content (AIGC) social platforms, such as Civitai. These distinctive social platforms allow users to build and share their own generative AI models, thereby enhancing the potential for more diverse artistic expression. Designed in the vein of social networks, they also provide artists with the means to showcase their creations (generated from the models), engage in discussions, and obtain feedback, thus nurturing a sense of community. Yet, this openness also raises concerns about the abuse of such platforms, e.g., using models to disseminate deceptive deepfakes or infringe upon copyrights. To explore this, we conduct the first comprehensive empirical study of an AIGC social platform, focusing on its use for generating abusive content. As an exemplar, we construct a comprehensive dataset covering Civitai, the largest available AIGC social platform. Based on this dataset of 87K models and 2M images, we explore the characteristics of content and discuss strategies for moderation to better govern these platforms.
- Abstract（参考訳）: 生成AIの台頭はデジタル画像の風景を変え、オンラインクリエイティブコミュニティに大きな影響を与えている。
これにより、CivitaiのようなAIGC(AI-Generated Content)ソーシャルプラットフォームが誕生した。
これらのユニークなソーシャルプラットフォームにより、ユーザーは独自の生成AIモデルを構築し、共有することができ、それによってより多様な芸術的表現の可能性を高めることができる。
ソーシャルネットワークの中でデザインされた彼らは、アーチストたちに自分たちの創造(モデルから生成される)を披露する手段を提供し、議論を行い、フィードバックを得て、コミュニティの感覚を育む。
しかし、このオープン性は、例えば、偽りのディープフェイクを広めたり、著作権を侵害したりするモデルの使用など、そのようなプラットフォームの悪用に対する懸念も引き起こす。
これを探るため,我々はAIGCソーシャルプラットフォームに関する総合的な実証的研究を行い,乱用コンテンツの生成に利用することに焦点を当てた。
例として、利用可能なAIGCソーシャルプラットフォームとして最大であるCivitaiをカバーする包括的データセットを構築した。
この87Kモデルと2M画像のデータセットに基づいて、コンテンツの特徴を調査し、これらのプラットフォームをよりよく管理するためのモデレーション戦略について議論する。
関連論文リスト
- Social Reward: Evaluating and Enhancing Generative AI through
Million-User Feedback from an Online Creative Community [63.949893724058846]
コミュニティ認識の一形態としての社会的報酬は、オンラインプラットフォームのユーザーがコンテンツに関わり、貢献する動機の強い源泉となる。
この作業はパラダイムシフトの先駆者であり、革新的な報酬モデリングフレームワークであるSocial Rewardを発表した。
私たちは、オンラインビジュアル作成と編集プラットフォームであるPicsartから、データセットのキュレーションと洗練の広範な旅に乗り出した。
論文 参考訳（メタデータ） (2024-02-15T10:56:31Z) - State of the Art on Diffusion Models for Visual Computing [191.6168813012954]
本稿では,拡散モデルの基本数学的概念,実装の詳細,および一般的な安定拡散モデルの設計選択を紹介する。
また,拡散に基づく生成と編集に関する文献の急速な発展を概観する。
利用可能なデータセット、メトリクス、オープンな課題、社会的意味について議論する。
論文 参考訳（メタデータ） (2023-10-11T05:32:29Z) - AI-Generated Images as Data Source: The Dawn of Synthetic Era [61.879821573066216]
生成AIは、現実世界の写真によく似た合成画像を作成する可能性を解き放った。
本稿では、これらのAI生成画像を新しいデータソースとして活用するという革新的な概念を探求する。
実際のデータとは対照的に、AI生成データには、未整合のアブリダンスやスケーラビリティなど、大きなメリットがある。
論文 参考訳（メタデータ） (2023-10-03T06:55:19Z) - Understanding Place Identity with Generative AI [2.1441748927508506]
生成可能なAIモデルは、それらを識別可能な都市全体のイメージをキャプチャする可能性がある。
この研究は、構築された環境の人間の知覚を理解するために、生成的AIの能力を探求する最初の試みの一つである。
論文 参考訳（メタデータ） (2023-06-07T02:32:45Z) - AI Imagery and the Overton Window [0.0]
本稿は、今日のAI開発者とユーザの両方が直面する懸念を調査する文献レビューである。
合法化の課題と倫理的懸念について論じ、AI生成モデルがいかに非常に有用であるかを結論付けている。
論文 参考訳（メタデータ） (2023-05-31T18:01:04Z) - Guiding AI-Generated Digital Content with Wireless Perception [69.51950037942518]
本稿では,AIGC(AIGC)と無線認識を統合し,デジタルコンテンツ制作の質を向上させる。
このフレームワークは、単語の正確な記述が難しいユーザの姿勢を読み取るために、新しいマルチスケール認識技術を採用し、それをスケルトン画像としてAIGCモデルに送信する。
生産プロセスはAIGCモデルの制約としてユーザの姿勢を強制するため、生成されたコンテンツはユーザの要求に適合する。
論文 参考訳（メタデータ） (2023-03-26T04:39:03Z) - A Comprehensive Survey of AI-Generated Content (AIGC): A History of
Generative AI from GAN to ChatGPT [63.58711128819828]
ChatGPTおよびその他の生成AI(GAI)技術は、人工知能生成コンテンツ(AIGC)のカテゴリに属している。
AIGCの目標は、コンテンツ作成プロセスをより効率的かつアクセスしやすくし、高品質なコンテンツをより高速に生産できるようにすることである。
論文 参考訳（メタデータ） (2023-03-07T20:36:13Z) - SoMin.ai: Personality-Driven Content Generation Platform [60.49416044866648]
世界初のパーソナリティ駆動型マーケティングコンテンツ生成プラットフォームであるSoMin.aiを紹介します。
このプラットフォームは、ディープ・マルチビュー・パーソナリティ・プロファイリング・フレームワークと、スタイル・ジェネレーティブ・敵ネットワークを組み合わせている。
ソーシャルネットワーキングのユーザエクスペリエンスの向上や、コンテンツマーケティングのルーチンに使用できる。
論文 参考訳（メタデータ） (2020-11-30T08:33:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。