論文の概要: IMPRESS: Evaluating the Resilience of Imperceptible Perturbations Against Unauthorized Data Usage in Diffusion-Based Generative AI

• arxiv url: http://arxiv.org/abs/2310.19248v1
• Date: Mon, 30 Oct 2023 03:33:41 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-01 22:04:50.950527
• Title: IMPRESS: Evaluating the Resilience of Imperceptible Perturbations Against Unauthorized Data Usage in Diffusion-Based Generative AI
• Title（参考訳）: impress:拡散型生成aiにおける無許可データ使用に対する知覚不能摂動のレジリエンス評価
• Authors: Bochuan Cao, Changjiang Li, Ting Wang, Jinyuan Jia, Bo Li, Jinghui Chen
• Abstract要約: 拡散ベースの画像生成モデルは、アーティストのスタイルを模倣するアートイメージを作成したり、偽のコンテンツのためにオリジナルの画像を悪意を持って編集することができる。 知覚不能な摂動を追加することによって、元のイメージをそのような不正なデータ使用から保護する試みがいくつかなされている。 本研究では, IMPRESS という浄化摂動プラットフォームを導入し, 非受容性摂動の有効性を保護策として評価する。
• 参考スコア（独自算出の注目度）: 52.90082445349903
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion-based image generation models, such as Stable Diffusion or DALL-E 2, are able to learn from given images and generate high-quality samples following the guidance from prompts. For instance, they can be used to create artistic images that mimic the style of an artist based on his/her original artworks or to maliciously edit the original images for fake content. However, such ability also brings serious ethical issues without proper authorization from the owner of the original images. In response, several attempts have been made to protect the original images from such unauthorized data usage by adding imperceptible perturbations, which are designed to mislead the diffusion model and make it unable to properly generate new samples. In this work, we introduce a perturbation purification platform, named IMPRESS, to evaluate the effectiveness of imperceptible perturbations as a protective measure. IMPRESS is based on the key observation that imperceptible perturbations could lead to a perceptible inconsistency between the original image and the diffusion-reconstructed image, which can be used to devise a new optimization strategy for purifying the image, which may weaken the protection of the original image from unauthorized data usage (e.g., style mimicking, malicious editing). The proposed IMPRESS platform offers a comprehensive evaluation of several contemporary protection methods, and can be used as an evaluation platform for future protection methods.
• Abstract（参考訳）: 安定拡散やDALL-E 2のような拡散に基づく画像生成モデルは、与えられた画像から学習し、プロンプトからのガイダンスに従って高品質なサンプルを生成することができる。 例えば、オリジナルのアートワークに基づいてアーティストのスタイルを模倣したアートなイメージを制作したり、偽のコンテンツのためにオリジナル画像を悪意を持って編集したりすることができる。 しかし、そのような能力は、元の画像の所有者から適切な許可を得ることなく、重大な倫理的な問題を引き起こす。 これに対し、拡散モデルを誤解し、新しいサンプルを適切に生成できないように設計された、知覚不能な摂動を追加することで、そのような不正なデータ使用から元の画像を保護するいくつかの試みがなされている。 本研究では, IMPRESSと呼ばれる摂動浄化プラットフォームを導入し, 非受容性摂動の有効性を保護策として評価する。 IMPRESSは、知覚不能な摂動は、元の画像と拡散再構成された画像の間に認識不能な不整合をもたらす可能性があり、これは、画像の浄化のための新しい最適化戦略を考案するために使用することができ、これは、原画像の不正なデータ使用(例えば、スタイル模倣、悪意ある編集)から保護を弱める可能性がある。 提案するIMPRESSプラットフォームは,現代の保護手法を包括的に評価し,将来の保護手法の評価プラットフォームとして利用することができる。

関連論文リスト

• EnTruth: Enhancing the Traceability of Unauthorized Dataset Usage in Text-to-image Diffusion Models with Minimal and Robust Alterations [73.94175015918059]
  本稿では、未承認のデータセット使用のトレーサビリティを高める新しいアプローチであるEnTruthを紹介する。 テンプレートの暗記を戦略的に取り入れることで、EnTruthは不正なモデルの特定の振る舞いを侵害の証拠として引き起こすことができる。 本手法は, 暗記の正当性を調査し, 著作権保護に利用し, 呪いを祝福する最初の方法である。
  論文  参考訳（メタデータ） (2024-06-20T02:02:44Z)
• Regeneration Based Training-free Attribution of Fake Images Generated by Text-to-Image Generative Models [39.33821502730661]
  そこで本研究では,テキスト・ツー・イメージ・モデルによって生成された偽画像をソース・モデルに属性付けするためのトレーニング不要な手法を提案する。 テスト画像と候補画像の類似性を計算し、ランキングすることにより、画像のソースを決定することができる。
  論文  参考訳（メタデータ） (2024-03-03T11:55:49Z)
• Adv-Diffusion: Imperceptible Adversarial Face Identity Attack via Latent Diffusion Model [61.53213964333474]
  本稿では,生の画素空間ではなく,潜在空間における非知覚的対角的アイデンティティ摂動を生成できる統一的なフレームワークAdv-Diffusionを提案する。 具体的には,周囲のセマンティックな摂動を生成するために,個人性に敏感な条件付き拡散生成モデルを提案する。 設計された適応強度に基づく対向摂動アルゴリズムは、攻撃の伝達性とステルス性の両方を確保することができる。
  論文  参考訳（メタデータ） (2023-12-18T15:25:23Z)
• Can Protective Perturbation Safeguard Personal Data from Being Exploited by Stable Diffusion? [21.75921532822961]
  元の画像構造を保ちながら保護された摂動を除去できる浄化方法を提案する。 実験により、安定拡散は、すべての保護方法において、精製された画像から効果的に学習できることが判明した。
  論文  参考訳（メタデータ） (2023-11-30T07:17:43Z)
• FT-Shield: A Watermark Against Unauthorized Fine-tuning in Text-to-Image Diffusion Models [64.89896692649589]
  テキスト・画像拡散モデルの微調整に適した透かしシステムであるFT-Shieldを提案する。 FT-Shieldは新しい透かしの生成と検出戦略を設計することで著作権保護の課題に対処する。
  論文  参考訳（メタデータ） (2023-10-03T19:50:08Z)
• DIAGNOSIS: Detecting Unauthorized Data Usages in Text-to-image Diffusion Models [79.71665540122498]
  保護されたデータセットにインジェクトされたコンテンツを配置することで、不正なデータ利用を検出する手法を提案する。 具体的には、ステルス画像ワープ機能を用いて、これらの画像にユニークな内容を追加することにより、保護された画像を修正する。 このモデルが注入されたコンテンツを記憶したかどうかを解析することにより、不正に不正に使用したモデルを検出することができる。
  論文  参考訳（メタデータ） (2023-07-06T16:27:39Z)
• Unlearnable Examples for Diffusion Models: Protect Data from Unauthorized Exploitation [25.55296442023984]
  本研究では,不正な利用から画像を保護するために,Unlearnable Diffusion Perturbationを提案する。 この成果は、AI生成コンテンツに対するプライバシーと著作権の保護に寄与するため、現実世界のシナリオにおいて重要な意味を持つ。
  論文  参考訳（メタデータ） (2023-06-02T20:19:19Z)
• JPEG Compressed Images Can Bypass Protections Against AI Editing [48.340067730457584]
  悪意ある編集から画像を保護する手段として、知覚不能な摂動が提案されている。 上記の摂動はJPEG圧縮に対して堅牢ではないことがわかった。
  論文  参考訳（メタデータ） (2023-04-05T05:30:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。