論文の概要: Adversarial Perturbations Cannot Reliably Protect Artists From Generative AI

• arxiv url: http://arxiv.org/abs/2406.12027v1
• Date: Mon, 17 Jun 2024 18:51:45 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-20 00:07:11.078473
• Title: Adversarial Perturbations Cannot Reliably Protect Artists From Generative AI
• Title（参考訳）: 敵の摂動は、アーティストを生成AIから確実に保護できない
• Authors: Robert Hönig, Javier Rando, Nicholas Carlini, Florian Tramèr,
• Abstract要約: オンラインで公開されたアートワークに小さな敵対的摂動を取り入れた、スタイルの模倣に対する保護ツールがいくつか開発されている。 画像アップスケーリングのような低努力と「オフ・ザ・シェルフ」技術は、既存の保護を著しく劣化させる堅牢な模倣手法を作成するのに十分であることがわかった。 我々は,敵対的摂動に基づくツールが,生成AIの誤用からアーティストを確実に保護できないことを警告する。
• 参考スコア（独自算出の注目度）: 61.35083814817094
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Artists are increasingly concerned about advancements in image generation models that can closely replicate their unique artistic styles. In response, several protection tools against style mimicry have been developed that incorporate small adversarial perturbations into artworks published online. In this work, we evaluate the effectiveness of popular protections -- with millions of downloads -- and show they only provide a false sense of security. We find that low-effort and "off-the-shelf" techniques, such as image upscaling, are sufficient to create robust mimicry methods that significantly degrade existing protections. Through a user study, we demonstrate that all existing protections can be easily bypassed, leaving artists vulnerable to style mimicry. We caution that tools based on adversarial perturbations cannot reliably protect artists from the misuse of generative AI, and urge the development of alternative non-technological solutions.
• Abstract（参考訳）: アーティストたちは、独自の芸術スタイルを忠実に再現できる画像生成モデルの進歩をますます懸念している。 これに対し、オンラインで公開されたアートワークに小さな敵の摂動を組み込んだ、スタイルの模倣に対する保護ツールがいくつか開発されている。 本研究では,一般的な保護 – 数百万ダウンロード – の有効性を評価し,セキュリティに関する誤った感覚のみを提供することを示す。 画像アップスケーリングのような低努力と「オフ・ザ・シェルフ」技術は、既存の保護を著しく劣化させる堅牢な模倣手法を作成するのに十分であることがわかった。 ユーザスタディを通じて、既存の保護は簡単にバイパスでき、アーティストはスタイルの模倣に弱いままであることを示す。 我々は、敵対的摂動に基づくツールが、生成的AIの誤用からアーティストを確実に保護できないことを警告し、代替技術以外のソリューションの開発を促す。

関連論文リスト

• CopyrightMeter: Revisiting Copyright Protection in Text-to-image Models [30.618794027527695]
  我々は17の最先端保護と16の代表的な攻撃を組み込んだ統合評価フレームワークであるPiciceMeterを開発した。 分析の結果, (i) 大部分の保護(16/17) は攻撃に対する耐性がない, (ii) ベスト保護は目標の優先度によって異なる, (iii) より高度な攻撃は保護のアップグレードを著しく促進する,という結論が得られた。
  論文  参考訳（メタデータ） (2024-11-20T09:19:10Z)
• DiffusionGuard: A Robust Defense Against Malicious Diffusion-based Image Editing [93.45507533317405]
  DiffusionGuardは、拡散ベースの画像編集モデルによる不正な編集に対する堅牢で効果的な防御方法である。 拡散過程の初期段階をターゲットとした対向雑音を発生させる新しい目的を提案する。 また,テスト期間中の各種マスクに対するロバスト性を高めるマスク強化手法も導入した。
  論文  参考訳（メタデータ） (2024-10-08T05:19:19Z)
• Protect-Your-IP: Scalable Source-Tracing and Attribution against Personalized Generation [19.250673262185767]
  画像著作権のソーストレーシングと属性の統一的なアプローチを提案する。 本稿では,プロアクティブ戦略とパッシブ戦略を融合した革新的な透かし属性法を提案する。 オンラインで公開されている様々なセレブの肖像画シリーズを用いて実験を行った。
  論文  参考訳（メタデータ） (2024-05-26T15:14:54Z)
• ModelShield: Adaptive and Robust Watermark against Model Extraction Attack [58.46326901858431]
  大規模言語モデル(LLM)は、さまざまな機械学習タスクにまたがる汎用インテリジェンスを示す。 敵はモデル抽出攻撃を利用して モデル生成で符号化された モデルインテリジェンスを盗むことができる ウォーターマーキング技術は、モデル生成コンテンツにユニークな識別子を埋め込むことによって、このような攻撃を防御する有望なソリューションを提供する。
  論文  参考訳（メタデータ） (2024-05-03T06:41:48Z)
• Imperceptible Protection against Style Imitation from Diffusion Models [9.548195579003897]
  保護機能を保ちながら視覚的に改善された保護方法を提案する。 我々は,人間の目に敏感な領域に注目する知覚マップを考案した。 また,アートワークがどれだけの強度を保護・動的に調整することが難しいかを予測し,難易度に配慮した保護も導入した。
  論文  参考訳（メタデータ） (2024-03-28T09:21:00Z)
• Organic or Diffused: Can We Distinguish Human Art from AI-generated Images? [24.417027069545117]
  AIが生成した画像を人間のアートから取り除くことは、難しい問題だ。 この問題に対処できないため、悪いアクターは、AIイメージを禁止したポリシーを掲げる人間芸術や企業に対してプレミアムを支払う個人を欺くことができる。 7つのスタイルにまたがって実際の人間のアートをキュレートし、5つの生成モデルからマッチング画像を生成し、8つの検出器を適用します。
  論文  参考訳（メタデータ） (2024-02-05T17:25:04Z)
• Copyright Protection in Generative AI: A Technical Perspective [58.84343394349887]
  ジェネレーティブAIは近年急速に進歩し、テキスト、画像、オーディオ、コードなどの合成コンテンツを作成する能力を拡大している。 これらのディープ・ジェネレーティブ・モデル(DGM)が生成したコンテンツの忠実さと信頼性が、著作権の重大な懸念を引き起こしている。 この研究は、技術的観点から著作権保護の包括的概要を提供することで、この問題を深く掘り下げている。
  論文  参考訳（メタデータ） (2024-02-04T04:00:33Z)
• PRIME: Protect Your Videos From Malicious Editing [21.38790858842751]
  生成モデルによって、写真やビデオの操作や編集が驚くほど簡単になった。 我々は,保護方法PRIMEを導入し,時間コストを大幅に削減し,保護性能を向上させる。 評価の結果,PRIMEのコストは従来の最先端手法のコストの8.3%に過ぎなかった。
  論文  参考訳（メタデータ） (2024-02-02T09:07:00Z)
• IMPRESS: Evaluating the Resilience of Imperceptible Perturbations Against Unauthorized Data Usage in Diffusion-Based Generative AI [52.90082445349903]
  拡散ベースの画像生成モデルは、アーティストのスタイルを模倣するアートイメージを作成したり、偽のコンテンツのためにオリジナルの画像を悪意を持って編集することができる。 知覚不能な摂動を追加することによって、元のイメージをそのような不正なデータ使用から保護する試みがいくつかなされている。 本研究では, IMPRESS という浄化摂動プラットフォームを導入し, 非受容性摂動の有効性を保護策として評価する。
  論文  参考訳（メタデータ） (2023-10-30T03:33:41Z)
• Art Creation with Multi-Conditional StyleGANs [81.72047414190482]
  人間のアーティストは、独特のスキル、理解、そして深い感情や感情を引き起こすアートワークを作る真の意図の組み合わせが必要です。 本研究では,多条件生成支援ネットワーク(GAN)アプローチを導入し,人間の芸術を模倣する現実的な絵画を合成する。
  論文  参考訳（メタデータ） (2022-02-23T20:45:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。