論文の概要: Evaluating and Mitigating IP Infringement in Visual Generative AI

• arxiv url: http://arxiv.org/abs/2406.04662v1
• Date: Fri, 7 Jun 2024 06:14:18 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-10 15:19:38.520383
• Title: Evaluating and Mitigating IP Infringement in Visual Generative AI
• Title（参考訳）: 視覚生成AIにおけるIP侵害の評価と軽減
• Authors: Zhenting Wang, Chen Chen, Vikash Sehwag, Minzhou Pan, Lingjuan Lyu,
• Abstract要約: 最先端のビジュアル生成モデルは、知的財産権によって保護されたキャラクターと著しく類似したコンテンツを生成することができる。 これは、入力プロンプトが文字の名前を含む場合や、その特性に関する記述的な詳細を含む場合に発生する。 我々は、潜在的に侵害される可能性のあるコンテンツを特定し、IP侵害を防止するための修正された生成パラダイムを開発する。
• 参考スコア（独自算出の注目度）: 54.24196167576133
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The popularity of visual generative AI models like DALL-E 3, Stable Diffusion XL, Stable Video Diffusion, and Sora has been increasing. Through extensive evaluation, we discovered that the state-of-the-art visual generative models can generate content that bears a striking resemblance to characters protected by intellectual property rights held by major entertainment companies (such as Sony, Marvel, and Nintendo), which raises potential legal concerns. This happens when the input prompt contains the character's name or even just descriptive details about their characteristics. To mitigate such IP infringement problems, we also propose a defense method against it. In detail, we develop a revised generation paradigm that can identify potentially infringing generated content and prevent IP infringement by utilizing guidance techniques during the diffusion process. It has the capability to recognize generated content that may be infringing on intellectual property rights, and mitigate such infringement by employing guidance methods throughout the diffusion process without retrain or fine-tune the pretrained models. Experiments on well-known character IPs like Spider-Man, Iron Man, and Superman demonstrate the effectiveness of the proposed defense method. Our data and code can be found at https://github.com/ZhentingWang/GAI_IP_Infringement.
• Abstract（参考訳）: DALL-E 3やStable Diffusion XL、Stable Video Diffusion、Soraといったビジュアル生成AIモデルの人気が高まっている。 幅広い評価により、最先端のビジュアル生成モデルは、主要なエンターテイメント企業(Sony、Marvel、Nintendoなど)が保有する知的財産権によって保護されるキャラクターに、著しく類似したコンテンツを生成することができることが判明した。 これは、入力プロンプトが文字の名前を含む場合や、その特性に関する記述的な詳細を含む場合に発生する。 このような知的財産権侵害の問題を緩和するために、我々はそれに対する防御方法を提案する。 本稿では,拡散過程における誘導手法を利用して,潜在的に侵害される可能性のあるコンテンツを特定し,IP侵害を防止するための新たな生成パラダイムを開発する。 知的財産権に侵害される可能性のある生成されたコンテンツを認識でき、事前訓練されたモデルを再訓練したり微調整したりすることなく、拡散プロセス全体を通してガイダンス手法を用いることで、そのような侵害を軽減することができる。 スパイダーマン、アイアンマン、スーパーマンといった有名なキャラクターIPの実験は、提案した防御方法の有効性を実証している。 我々のデータとコードはhttps://github.com/ZhentingWang/GAI_IP_Infringement.orgにある。

関連論文リスト

• Fantastic Copyrighted Beasts and How (Not) to Generate Them [83.77348858322523]
  著作権のある文字は、画像生成サービスにとって難しい課題となる。 少なくとも1つの訴訟は、これらのキャラクターの世代に基づいて損害を受けた。
  論文  参考訳（メタデータ） (2024-06-20T17:38:16Z)
• Copyright Protection in Generative AI: A Technical Perspective [58.84343394349887]
  ジェネレーティブAIは近年急速に進歩し、テキスト、画像、オーディオ、コードなどの合成コンテンツを作成する能力を拡大している。 これらのディープ・ジェネレーティブ・モデル(DGM)が生成したコンテンツの忠実さと信頼性が、著作権の重大な懸念を引き起こしている。 この研究は、技術的観点から著作権保護の包括的概要を提供することで、この問題を深く掘り下げている。
  論文  参考訳（メタデータ） (2024-02-04T04:00:33Z)
• The Stronger the Diffusion Model, the Easier the Backdoor: Data Poisoning to Induce Copyright Breaches Without Adjusting Finetuning Pipeline [30.80691226540351]
  我々は、生成AIモデルに対する著作権侵害攻撃を形式化し、SilentBadDiffusionというバックドア攻撃手法を提案した。 本手法は, 著作権情報とテキスト参照の接続を有毒データに戦略的に埋め込む方法である。 本実験は, 汚染データの盗みと有効性を示すものである。
  論文  参考訳（メタデータ） (2024-01-07T08:37:29Z)
• A Dataset and Benchmark for Copyright Infringement Unlearning from Text-to-Image Diffusion Models [52.49582606341111]
  著作権法は、クリエイティブ作品を再生、配布、収益化する排他的権利をクリエイターに与えている。 テキスト・ツー・イメージ・ジェネレーションの最近の進歩は、著作権の執行に重大な課題をもたらしている。 CLIP、ChatGPT、拡散モデルを調和させてデータセットをキュレートする新しいパイプラインを導入する。
  論文  参考訳（メタデータ） (2024-01-04T11:14:01Z)
• CopyScope: Model-level Copyright Infringement Quantification in the Diffusion Workflow [6.6282087165087304]
  著作権侵害の定量化は、AIが生成した画像著作権トレーサビリティへの第一かつ挑戦的なステップである。 モデルレベルからAI生成画像の侵害を定量化する新しいフレームワークであるCopyScopeを提案する。
  論文  参考訳（メタデータ） (2023-10-13T13:08:09Z)
• Warfare:Breaking the Watermark Protection of AI-Generated Content [33.997373647895095]
  この目標を達成するための有望な解決策は透かしであり、サービス検証と帰属のためのコンテンツにユニークで受け入れがたい透かしを追加します。 敵が容易にこれらの透かし機構を破ることができることを示す。 両攻撃を包括的に達成するための統一的な方法論であるウォーフェアを提案する。
  論文  参考訳（メタデータ） (2023-09-27T06:32:00Z)
• Towards Robust Model Watermark via Reducing Parametric Vulnerability [57.66709830576457]
  バックドアベースのオーナシップ検証が最近人気となり,モデルオーナがモデルをウォーターマークすることが可能になった。 本研究では,これらの透かし除去モデルを発見し,それらの透かし挙動を復元するミニマックス定式化を提案する。 本手法は,パラメトリックな変化と多数のウォーターマーク除去攻撃に対するモデル透かしの堅牢性を向上させる。
  論文  参考訳（メタデータ） (2023-09-09T12:46:08Z)
• BAGM: A Backdoor Attack for Manipulating Text-to-Image Generative Models [54.19289900203071]
  テキストから画像への生成人工知能の普及は、大衆の関心を集めている。 ユーザを微妙に操作するコンテンツを生成するために,この技術を攻撃できることを実証する。 テキストから画像生成モデル(BAGM)に対するバックドアアタックを提案する。 我々の攻撃は、生成過程の3段階にわたる3つの一般的なテキスト・画像生成モデルをターゲットにした最初の攻撃である。
  論文  参考訳（メタデータ） (2023-07-31T08:34:24Z)
• Can Copyright be Reduced to Privacy? [23.639303165101385]
  アルゴリズムの安定性は、コピーを検出する実用的なツールとして認識されるかもしれないが、そのようなコピーは必ずしも著作権侵害を構成するものではない、と我々は主張する。 著作権侵害の確立の基準として採択された場合、アルゴリズム的安定性は著作権法の意図された目的を損なう可能性がある。
  論文  参考訳（メタデータ） (2023-05-24T07:22:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。