論文の概要: Embedding Space Selection for Detecting Memorization and Fingerprinting in Generative Models

• arxiv url: http://arxiv.org/abs/2407.21159v1
• Date: Tue, 30 Jul 2024 19:52:49 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-01 19:24:51.160646
• Title: Embedding Space Selection for Detecting Memorization and Fingerprinting in Generative Models
• Title（参考訳）: 生成モデルにおける記憶と指紋検出のための埋め込み空間選択
• Authors: Jack He, Jianxing Zhao, Andrew Bai, Cho-Jui Hsieh,
• Abstract要約: GAN(Generative Adversarial Networks)と拡散モデル(Diffusion Models)は画期的な技術となり、芸術創造から医療まで様々な分野のイノベーションを推進してきた。 それらの可能性にもかかわらず、これらのモデルはデータ記憶の重大な課題に直面し、プライバシと生成されたコンテンツの完全性にリスクをもたらす。 エンコーダ層埋め込みから算出した暗記スコアについて検討し, 埋め込み空間内の試料間距離を計測する。
• 参考スコア（独自算出の注目度）: 45.83830252441126
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In the rapidly evolving landscape of artificial intelligence, generative models such as Generative Adversarial Networks (GANs) and Diffusion Models have become cornerstone technologies, driving innovation in diverse fields from art creation to healthcare. Despite their potential, these models face the significant challenge of data memorization, which poses risks to privacy and the integrity of generated content. Among various metrics of memorization detection, our study delves into the memorization scores calculated from encoder layer embeddings, which involves measuring distances between samples in the embedding spaces. Particularly, we find that the memorization scores calculated from layer embeddings of Vision Transformers (ViTs) show an notable trend - the latter (deeper) the layer, the less the memorization measured. It has been found that the memorization scores from the early layers' embeddings are more sensitive to low-level memorization (e.g. colors and simple patterns for an image), while those from the latter layers are more sensitive to high-level memorization (e.g. semantic meaning of an image). We also observe that, for a specific model architecture, its degree of memorization on different levels of information is unique. It can be viewed as an inherent property of the architecture. Building upon this insight, we introduce a unique fingerprinting methodology. This method capitalizes on the unique distributions of the memorization score across different layers of ViTs, providing a novel approach to identifying models involved in generating deepfakes and malicious content. Our approach demonstrates a marked 30% enhancement in identification accuracy over existing baseline methods, offering a more effective tool for combating digital misinformation.
• Abstract（参考訳）: 人工知能の急速な発展の中で、ジェネレーティブ・アドバイサル・ネットワーク(GAN)やディフュージョン・モデル(Diffusion Models)のようなジェネレーティブ・モデルが画期的な技術となり、芸術創造から医療まで様々な分野のイノベーションを推進してきた。 それらの可能性にもかかわらず、これらのモデルはデータ記憶の重大な課題に直面し、プライバシと生成されたコンテンツの完全性にリスクをもたらす。 メモリ化検出の指標として,エンコーダ層埋め込みから算出したメモリ化スコアについて検討した。 特に,視覚変換器(ViT)の層埋め込みから算出した記憶スコアが顕著な傾向を示した。 初期層からの記憶スコアは、低レベルの記憶(例えば、画像の色や単純なパターン)に対してより敏感であるのに対し、後者層からの記憶スコアは高レベルの記憶(例えば、画像の意味)に対してより敏感であることが判明した。 また、特定のモデルアーキテクチャでは、異なるレベルの情報に対する記憶の度合いがユニークであることも観察する。 それはアーキテクチャの本質的な特性と見なすことができる。 この知見に基づいて,ユニークな指紋認証手法を導入する。 この方法は、ViTの異なる層にまたがる暗記スコアのユニークな分布を活かし、ディープフェイクや悪意のあるコンテンツを生成するモデルを特定するための新しいアプローチを提供する。 提案手法は,既存のベースライン手法よりも30%の精度で識別精度が向上し,デジタル誤報と戦うための効果的なツールを提供する。

関連論文リスト

• A Geometric Framework for Understanding Memorization in Generative Models [11.263296715798374]
  近年の研究では、深層生成モデルにより、デプロイ時にトレーニングデータポイントを記憶・再生することが可能であることが示されている。 これらの知見は、特に暗記によって引き起こされる法的およびプライバシー上のリスクを考慮して、生成モデルのユーザビリティを疑問視する。 本稿では, 多様体の暗記仮説(MMH)を, 暗記を推論する明快な言語として活用する幾何学的枠組みを提案する。
  論文  参考訳（メタデータ） (2024-10-31T18:09:01Z)
• Detecting, Explaining, and Mitigating Memorization in Diffusion Models [49.438362005962375]
  そこで本研究では,テキスト条件予測の大きさを検査することで,暗黙のプロンプトを検出する方法を提案する。 提案手法はサンプリングアルゴリズムを中断することなくシームレスに統合し,第1世代でも高い精度を実現する。 検出戦略に基づいて,個々の単語やトークンの記憶への寄与を示す説明可能なアプローチを提示する。
  論文  参考訳（メタデータ） (2024-07-31T16:13:29Z)
• Memorized Images in Diffusion Models share a Subspace that can be Located and Deleted [15.162296378581853]
  大規模テキスト・画像拡散モデルはテキスト入力から高品質な画像を生成するのに優れている。 研究は、トレーニングデータを記憶し複製する傾向を示すため、懸念が生じる。 データ重複、複製されたキャプション、トークンのトリガーなどの原因を探る。
  論文  参考訳（メタデータ） (2024-06-01T15:47:13Z)
• Unveiling and Mitigating Memorization in Text-to-image Diffusion Models through Cross Attention [62.671435607043875]
  研究は、テキストから画像への拡散モデルがトレーニングデータから画像を複製し、著作権侵害やプライバシーのリスクに対する大きな懸念を引き起こすことを示唆している。 暗記中、クロスアテンションは特定のトークンの埋め込みに不均等に集中する傾向にあることが明らかとなった。 拡散モデルにおける記憶の検出と緩和のための革新的なアプローチを導入する。
  論文  参考訳（メタデータ） (2024-03-17T01:27:00Z)
• The Curious Case of Benign Memorization [19.74244993871716]
  データ拡張を含むトレーニングプロトコルの下で、ニューラルネットワークは、完全にランダムなラベルを良心的に記憶することを学ぶ。 深層モデルでは,暗記作業と特徴学習を異なる層に分散することで,信号からノイズを分離する驚くべき能力があることを実証する。
  論文  参考訳（メタデータ） (2022-10-25T13:41:31Z)
• Measures of Information Reflect Memorization Patterns [53.71420125627608]
  異なるニューロンの活性化パターンの多様性は、モデル一般化と記憶の反映であることを示す。 重要なことは、情報組織が記憶の2つの形態を指していることである。
  論文  参考訳（メタデータ） (2022-10-17T20:15:24Z)
• Self-Supervised Graph Representation Learning for Neuronal Morphologies [75.38832711445421]
  ラベルのないデータセットから3次元神経形態の低次元表現を学習するためのデータ駆動型アプローチであるGraphDINOを提案する。 2つの異なる種と複数の脳領域において、この方法では、専門家による手動の特徴に基づく分類と同程度に形態学的細胞型クラスタリングが得られることを示す。 提案手法は,大規模データセットにおける新しい形態的特徴や細胞型の発見を可能にする可能性がある。
  論文  参考訳（メタデータ） (2021-12-23T12:17:47Z)
• On Memorization in Probabilistic Deep Generative Models [4.987581730476023]
  深層生成モデルの最近の進歩は、様々なアプリケーション領域において印象的な結果をもたらしている。 深層学習モデルが入力データの一部を記憶する可能性に触発されたため、記憶の仕組みを理解するための努力が増加している。
  論文  参考訳（メタデータ） (2021-06-06T19:33:04Z)
• Robust Data Hiding Using Inverse Gradient Attention [82.73143630466629]
  データ隠蔽タスクでは、異なる耐久性を有するため、カバー画像の各ピクセルを別々に扱う必要がある。 Inverse Gradient Attention (IGA) を用いた新しい深層データ隠蔽方式を提案する。 実証的な実験により、提案モデルが2つの先行するデータセット上で最先端の手法より優れていることが示された。
  論文  参考訳（メタデータ） (2020-11-21T19:08:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。