論文の概要: An Inversion-based Measure of Memorization for Diffusion Models

• arxiv url: http://arxiv.org/abs/2405.05846v2
• Date: Sun, 01 Dec 2024 05:03:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-03 16:55:29.717230
• Title: An Inversion-based Measure of Memorization for Diffusion Models
• Title（参考訳）: インバージョンに基づく拡散モデルのための記憶量の測定
• Authors: Zhe Ma, Qingming Li, Xuhong Zhang, Tianyu Du, Ruixiao Lin, Zonghui Wang, Shouling Ji, Wenzhi Chen,
• Abstract要約: Inversion-based measure of memorization, InvMM, which search for a sensitive latent noise distribution account on the replication of a image。 非条件拡散モデルとテキスト誘導拡散モデルの両方で実施された包括的実験は、InvMMが重記憶された画像を検出することを実証している。
• 参考スコア（独自算出の注目度）: 37.9715620828388
• License:
• Abstract: The past few years have witnessed substantial advances in image generation powered by diffusion models. However, it was shown that diffusion models are vulnerable to training data memorization, raising concerns regarding copyright infringement and privacy invasion. This study delves into a rigorous analysis of memorization in diffusion models. We introduce an inversion-based measure of memorization, InvMM, which searches for a sensitive latent noise distribution accounting for the replication of an image. For accurate estimation of the memorization score, we propose an adaptive algorithm that balances the normality and sensitivity of the inverted distribution. Comprehensive experiments, conducted on both unconditional and text-guided diffusion models, demonstrate that InvMM is capable of detecting heavily memorized images and elucidating the effect of various factors on memorization. Additionally, we discuss how memorization differs from membership. In practice, InvMM serves as a useful tool for model developers to reliably assess the risk of memorization, thereby contributing to the enhancement of trustworthiness and privacy-preserving capabilities of diffusion models.
• Abstract（参考訳）: 過去数年間、拡散モデルによる画像生成の大幅な進歩が見られた。 しかし、拡散モデルはデータ記憶の訓練に弱いことが示され、著作権侵害やプライバシー侵害に関する懸念が持ち上がった。 本研究では,拡散モデルにおける記憶の厳密な解析を行う。 Inversion-based measure of memorization, InvMM, which search for a sensitive latent noise distribution account on the replication of a image。 メモリ化スコアを正確に推定するために,逆分布の正規性と感度のバランスをとる適応アルゴリズムを提案する。 非条件拡散モデルとテキスト誘導拡散モデルの両方で実施された包括的実験は、InvMMが重く記憶された画像を検出し、様々な要因が記憶に与える影響を解明できることを示した。 また,記憶と記憶の相違についても論じる。 実際には、InvMMはモデル開発者が記憶のリスクを確実に評価する上で有用なツールであり、それによって拡散モデルの信頼性とプライバシー保護能力の向上に寄与する。

関連論文リスト

• Detecting, Explaining, and Mitigating Memorization in Diffusion Models [49.438362005962375]
  そこで本研究では,テキスト条件予測の大きさを検査することで,暗黙のプロンプトを検出する方法を提案する。 提案手法はサンプリングアルゴリズムを中断することなくシームレスに統合し,第1世代でも高い精度を実現する。 検出戦略に基づいて,個々の単語やトークンの記憶への寄与を示す説明可能なアプローチを提示する。
  論文  参考訳（メタデータ） (2024-07-31T16:13:29Z)
• MemBench: Memorized Image Trigger Prompt Dataset for Diffusion Models [28.64962324938148]
  本稿では,画像記憶の緩和手法を評価するための最初のベンチマークであるMemBenchを紹介する。 本稿では,トリガープロンプトと一般プロンプトの両方で評価された指標について述べる。
  論文  参考訳（メタデータ） (2024-07-24T08:46:58Z)
• Unveiling Structural Memorization: Structural Membership Inference Attack for Text-to-Image Diffusion Models [17.946671657675022]
  メンバー推論攻撃(MIA)は、プライバシ保護のためのツールとして機能するよう提案されている。 テキストから画像への拡散モデルに適した,シンプルで効果的なMIA手法を提案する。 我々の手法は、最先端の性能を達成するだけでなく、様々な歪みに対して顕著な堅牢性を示す。
  論文  参考訳（メタデータ） (2024-07-18T08:07:28Z)
• Memorized Images in Diffusion Models share a Subspace that can be Located and Deleted [15.162296378581853]
  大規模テキスト・画像拡散モデルはテキスト入力から高品質な画像を生成するのに優れている。 研究は、トレーニングデータを記憶し複製する傾向を示すため、懸念が生じる。 データ重複、複製されたキャプション、トークンのトリガーなどの原因を探る。
  論文  参考訳（メタデータ） (2024-06-01T15:47:13Z)
• Unveiling and Mitigating Memorization in Text-to-image Diffusion Models through Cross Attention [62.671435607043875]
  研究は、テキストから画像への拡散モデルがトレーニングデータから画像を複製し、著作権侵害やプライバシーのリスクに対する大きな懸念を引き起こすことを示唆している。 暗記中、クロスアテンションは特定のトークンの埋め込みに不均等に集中する傾向にあることが明らかとなった。 拡散モデルにおける記憶の検出と緩和のための革新的なアプローチを導入する。
  論文  参考訳（メタデータ） (2024-03-17T01:27:00Z)
• DIAGNOSIS: Detecting Unauthorized Data Usages in Text-to-image Diffusion Models [79.71665540122498]
  保護されたデータセットにインジェクトされたコンテンツを配置することで、不正なデータ利用を検出する手法を提案する。 具体的には、ステルス画像ワープ機能を用いて、これらの画像にユニークな内容を追加することにより、保護された画像を修正する。 このモデルが注入されたコンテンツを記憶したかどうかを解析することにより、不正に不正に使用したモデルを検出することができる。
  論文  参考訳（メタデータ） (2023-07-06T16:27:39Z)
• Understanding and Mitigating Copying in Diffusion Models [53.03978584040557]
  安定拡散のような拡散モデルによって生成される画像は、ますます広まっている。 最近の研究や訴訟でも、これらのモデルがトレーニングデータを複製する傾向にあることが示されている。
  論文  参考訳（メタデータ） (2023-05-31T17:58:02Z)
• Discffusion: Discriminative Diffusion Models as Few-shot Vision and Language Learners [88.07317175639226]
  本稿では,事前学習したテキストと画像の拡散モデルを数ショットの識別学習者に変換する新しい手法,DSDを提案する。 本手法は, 安定拡散モデルにおいて, 視覚情報とテキスト情報の相互影響を捉えるために, クロスアテンションスコアを用いている。
  論文  参考訳（メタデータ） (2023-05-18T05:41:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。