Fugu-MT 論文翻訳(概要): Raising the Cost of Malicious AI-Powered Image Editing

論文の概要: Raising the Cost of Malicious AI-Powered Image Editing

arxiv url: http://arxiv.org/abs/2302.06588v1
Date: Mon, 13 Feb 2023 18:38:42 GMT
ステータス: 処理完了
システム内更新日: 2023-02-14 14:27:53.788095
Title: Raising the Cost of Malicious AI-Powered Image Editing
Title（参考訳）: 悪意あるAIによる画像編集のコスト向上
Authors: Hadi Salman, Alaa Khaddaj, Guillaume Leclerc, Andrew Ilyas, Aleksander Madry
Abstract要約: 本研究では,大規模な拡散モデルによる悪意ある画像編集のリスクを軽減するためのアプローチを提案する。鍵となるアイデアは、イメージを免疫して、これらのモデルによる操作に抵抗するようにすることだ。
参考スコア（独自算出の注目度）: 82.71990330465115
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We present an approach to mitigating the risks of malicious image editing posed by large diffusion models. The key idea is to immunize images so as to make them resistant to manipulation by these models. This immunization relies on injection of imperceptible adversarial perturbations designed to disrupt the operation of the targeted diffusion models, forcing them to generate unrealistic images. We provide two methods for crafting such perturbations, and then demonstrate their efficacy. Finally, we discuss a policy component necessary to make our approach fully effective and practical -- one that involves the organizations developing diffusion models, rather than individual users, to implement (and support) the immunization process.
Abstract（参考訳）: 本稿では,大規模拡散モデルによる悪意のある画像編集のリスクを軽減する手法を提案する。重要なアイデアは、これらのモデルによる操作に耐性を持たせるために画像に免疫を付与することだ。この免疫は、ターゲットの拡散モデルの操作を阻害するように設計された非受容的な逆向性摂動を注入し、非現実的な画像を生成することに依存している。このような摂動を創る2つの方法を提供し、その効果を実証する。最後に、我々のアプローチを完全に効果的かつ実用的なものにするために必要となる政策コンポーネントについて論じる。それは、組織が個別のユーザではなく拡散モデルを開発し、免疫プロセスを実装し(そして支援する)ことを含む。

関連論文リスト

DiffusionGuard: A Robust Defense Against Malicious Diffusion-based Image Editing [93.45507533317405]
DiffusionGuardは、拡散ベースの画像編集モデルによる不正な編集に対する堅牢で効果的な防御方法である。拡散過程の初期段階をターゲットとした対向雑音を発生させる新しい目的を提案する。また,テスト期間中の各種マスクに対するロバスト性を高めるマスク強化手法も導入した。
論文参考訳（メタデータ） (2024-10-08T05:19:19Z)
Pixel Is Not A Barrier: An Effective Evasion Attack for Pixel-Domain Diffusion Models [9.905296922309157]
拡散モデルは高品質な画像合成のための強力な生成モデルとして登場し、それに基づく画像編集技術も数多くある。従来の研究は、知覚不能な摂動を加えることで、画像の拡散に基づく編集を防ごうとしてきた。本研究は,UNETの脆弱性を悪用した特徴表現攻撃損失と,保護された画像の自然性を高めるための潜在最適化戦略を備えた,新たな攻撃フレームワークを提案する。
論文参考訳（メタデータ） (2024-08-21T17:56:34Z)
Six-CD: Benchmarking Concept Removals for Benign Text-to-image Diffusion Models [58.74606272936636]
テキスト・ツー・イメージ(T2I)拡散モデルは、テキスト・プロンプトと密接に対応した画像を生成する際、例外的な機能を示す。モデルは、暴力やヌードの画像を生成したり、不適切な文脈で公共の人物の無許可の肖像画を作成するなど、悪意ある目的のために利用することができる。悪質な概念や望ましくない概念の発生を防ぐために拡散モデルを変更する概念除去法が提案されている。
論文参考訳（メタデータ） (2024-06-21T03:58:44Z)
Perturbing Attention Gives You More Bang for the Buck: Subtle Imaging Perturbations That Efficiently Fool Customized Diffusion Models [11.91784429717735]
疑似潜伏拡散モデル(LDM)に対する汎用的で効率的なアプローチであるCAATを提案する。画像上の微妙な勾配が相互注意層に大きく影響し,テキストと画像のマッピングが変化することを示す。実験により、CAATは多様な拡散モデルと互換性があり、ベースライン攻撃法より優れていることが示された。
論文参考訳（メタデータ） (2024-04-23T14:31:15Z)
Revealing Vulnerabilities in Stable Diffusion via Targeted Attacks [41.531913152661296]
本稿では,安定拡散に対する標的対向攻撃の問題を定式化し,対向的プロンプトを生成するための枠組みを提案する。具体的には、安定した拡散を誘導し、特定の画像を生成するための信頼性の高い逆プロンプトを構築するために、勾配に基づく埋め込み最適化を設計する。逆方向のプロンプトを成功させた後、モデルの脆弱性を引き起こすメカニズムを明らかにする。
論文参考訳（メタデータ） (2024-01-16T12:15:39Z)
Adversarial Examples are Misaligned in Diffusion Model Manifolds [7.979892202477701]
本研究は,拡散モデルのレンズによる敵攻撃の研究に焦点をあてる。我々の焦点は、拡散モデルを利用して、画像に対するこれらの攻撃によって引き起こされる異常を検出し、分析することにある。その結果、良性画像と攻撃画像とを効果的に識別できる顕著な能力が示された。
論文参考訳（メタデータ） (2024-01-12T15:29:21Z)
Adv-Diffusion: Imperceptible Adversarial Face Identity Attack via Latent Diffusion Model [61.53213964333474]
本稿では,生の画素空間ではなく,潜在空間における非知覚的対角的アイデンティティ摂動を生成できる統一的なフレームワークAdv-Diffusionを提案する。具体的には,周囲のセマンティックな摂動を生成するために,個人性に敏感な条件付き拡散生成モデルを提案する。設計された適応強度に基づく対向摂動アルゴリズムは、攻撃の伝達性とステルス性の両方を確保することができる。
論文参考訳（メタデータ） (2023-12-18T15:25:23Z)
EditShield: Protecting Unauthorized Image Editing by Instruction-guided Diffusion Models [26.846110318670934]
本稿では,テキスト・画像拡散モデルからの不正な修正に対するEditShieldの保護手法を提案する。具体的には、EditShieldは拡散プロセスで使われる潜伏表現をシフトできる知覚不能な摂動を追加することで機能する。本実験は,合成および実世界のデータセット間のEditShieldの有効性を示す。
論文参考訳（メタデータ） (2023-11-19T06:00:56Z)
Training Diffusion Models with Reinforcement Learning [82.29328477109826]
拡散モデルは、ログのような目的に近似して訓練される。本稿では,下流目的のための拡散モデルを直接最適化するための強化学習手法について検討する。本稿では,多段階決定問題としてデノベーションを行うことによって,ポリシー勾配アルゴリズムのクラスを実現する方法について述べる。
論文参考訳（メタデータ） (2023-05-22T17:57:41Z)
Data Forensics in Diffusion Models: A Systematic Analysis of Membership Privacy [62.16582309504159]
本研究では,拡散モデルに対するメンバシップ推論攻撃の系統的解析を開発し,各攻撃シナリオに適した新しい攻撃手法を提案する。提案手法は容易に入手可能な量を利用して,現実的なシナリオにおいてほぼ完全な攻撃性能 (>0.9 AUCROC) を達成することができる。
論文参考訳（メタデータ） (2023-02-15T17:37:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。