論文の概要: FPAN: Mitigating Replication in Diffusion Models through the Fine-Grained Probabilistic Addition of Noise to Token Embeddings

• arxiv url: http://arxiv.org/abs/2505.21848v1
• Date: Wed, 28 May 2025 00:29:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-29 17:35:50.340481
• Title: FPAN: Mitigating Replication in Diffusion Models through the Fine-Grained Probabilistic Addition of Noise to Token Embeddings
• Title（参考訳）: FPAN:Token Embeddingへのノイズの微粒化確率付加による拡散モデルの再現
• Authors: Jingqi Xu, Chenghao Li, Yuke Zhang, Peter A. Beerel,
• Abstract要約: 本稿では,トークン埋め込みに大量のノイズを確率的に付加する,きめ細かいノイズ注入手法を提案する。 提案したFPANは,ベースライン拡散モデルと比較して平均28.78%のレプリケーションを低減できる。 他の既存の緩和手法と組み合わせることで、FPANの手法により、画像の品質が改善されていなくても16.82%までレプリケーションを削減できます。
• 参考スコア（独自算出の注目度）: 7.127540541409018
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion models have demonstrated remarkable potential in generating high-quality images. However, their tendency to replicate training data raises serious privacy concerns, particularly when the training datasets contain sensitive or private information. Existing mitigation strategies primarily focus on reducing image duplication, modifying the cross-attention mechanism, and altering the denoising backbone architecture of diffusion models. Moreover, recent work has shown that adding a consistent small amount of noise to text embeddings can reduce replication to some degree. In this work, we begin by analyzing the impact of adding varying amounts of noise. Based on our analysis, we propose a fine-grained noise injection technique that probabilistically adds a larger amount of noise to token embeddings. We refer to our method as Fine-grained Probabilistic Addition of Noise (FPAN). Through our extensive experiments, we show that our proposed FPAN can reduce replication by an average of 28.78% compared to the baseline diffusion model without significantly impacting image quality, and outperforms the prior consistent-magnitude-noise-addition approach by 26.51%. Moreover, when combined with other existing mitigation methods, our FPAN approach can further reduce replication by up to 16.82% with similar, if not improved, image quality.
• Abstract（参考訳）: 拡散モデルは高品質な画像を生成するのに顕著な可能性を示している。 しかしながら、トレーニングデータを複製する傾向は、特にトレーニングデータセットが機密情報やプライベート情報を含む場合、深刻なプライバシー上の懸念を引き起こす。 既存の緩和戦略は、主に画像重複の低減、クロスアテンション機構の変更、拡散モデルの低調なバックボーンアーキテクチャの変更に焦点を当てている。 さらに、最近の研究では、テキスト埋め込みに少量のノイズを加えることで、ある程度のレプリケーションを削減できることが示されている。 本研究は, 各種ノイズの付加による影響を解析することから始める。 そこで本研究では,トークン埋め込みに大量のノイズを確率的に付加する,きめ細かいノイズ注入手法を提案する。 本手法は,FPAN(Funific-fine Probabilistic Addition of Noise)と呼ぶ。 今回提案したFPANは,画像品質に大きな影響を与えないベースライン拡散モデルと比較して平均28.78%の再現率を実現し,従来の一貫した磁気雑音付加法を26.51%上回る性能を示した。 さらに、他の既存の緩和手法と組み合わせることで、FPANのアプローチにより、画像の品質が改善されていなくても、レプリケーションを最大16.82%削減することができる。

関連論文リスト

• Explainable Synthetic Image Detection through Diffusion Timestep Ensembling [30.298198387824275]
  近年の拡散モデルの発展により、知覚的な実画像の作成が可能になった。 拡散モデルの最近の進歩により、知覚的にリアルな画像の作成が可能となり、誤用された場合に重大なセキュリティリスクが生じる。
  論文  参考訳（メタデータ） (2025-03-08T13:04:20Z)
• Gradient-Guided Conditional Diffusion Models for Private Image Reconstruction: Analyzing Adversarial Impacts of Differential Privacy and Denoising [21.30726250408398]
  現在の勾配に基づく再構成手法は、計算複雑性と事前知識の要求により、高解像度画像に苦慮している。 本稿では,拡散モデルの生成過程に最小限の変更を必要とする2つの新しい手法を提案し,事前知識の必要性を排除した。 我々は,差分プライバシーノイズが再構成画像の品質に与える影響を総合的に理論的に分析し,雑音の大きさ,攻撃モデルのアーキテクチャ,攻撃者の復元能力との関係を明らかにする。
  論文  参考訳（メタデータ） (2024-11-05T12:39:21Z)
• Lossy Image Compression with Foundation Diffusion Models [10.407650300093923]
  本研究は,拡散を用いた量子化誤差の除去をデノナイジングタスクとして定式化し,送信された遅延画像の損失情報を復元する。 当社のアプローチでは,完全な拡散生成プロセスの10%未満の実行が可能であり,拡散モデルにアーキテクチャ的な変更は不要である。
  論文  参考訳（メタデータ） (2024-04-12T16:23:42Z)
• Consistent Diffusion Meets Tweedie: Training Exact Ambient Diffusion Models with Noisy Data [74.2507346810066]
  アンビエント拡散(アンビエント拡散、アンビエント拡散、アンビエント拡散、アンビエント拡散、アンビエント拡散、アンビエント拡散、アンビエント拡散、アンビエント拡散、アンビエント拡散、アンビエント拡散、アンビエント拡散、アンビエント拡散、アンビエント拡散、アンビエント拡散 本稿では,ノイズの多い学習データのみを考慮し,故障のない分布から確実にサンプルを採取する拡散モデルのトレーニングのための最初のフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-03-20T14:22:12Z)
• Diffusion Posterior Proximal Sampling for Image Restoration [27.35952624032734]
  我々は拡散に基づく画像復元のための洗練されたパラダイムを提案する。 具体的には,各生成段階における測定値と一致したサンプルを選択する。 選択に使用する候補サンプルの数は、タイムステップの信号対雑音比に基づいて適応的に決定される。
  論文  参考訳（メタデータ） (2024-02-25T04:24:28Z)
• Blue noise for diffusion models [50.99852321110366]
  本稿では,画像内および画像間の相関雑音を考慮した拡散モデルを提案する。 我々のフレームワークは、勾配流を改善するために、1つのミニバッチ内に画像間の相関を導入することができる。 本手法を用いて,各種データセットの質的,定量的な評価を行う。
  論文  参考訳（メタデータ） (2024-02-07T14:59:25Z)
• Low-Light Image Enhancement with Wavelet-based Diffusion Models [50.632343822790006]
  拡散モデルは画像復元作業において有望な結果を得たが、時間を要する、過剰な計算資源消費、不安定な復元に悩まされている。 本稿では,DiffLLと呼ばれる高能率かつ高能率な拡散型低光画像強調手法を提案する。
  論文  参考訳（メタデータ） (2023-06-01T03:08:28Z)
• VideoFusion: Decomposed Diffusion Models for High-Quality Video Generation [88.49030739715701]
  本研究は, フレームごとのノイズを, 全フレーム間で共有されるベースノイズ, 時間軸に沿って変化する残雑音に分解することで, 拡散過程を分解する。 様々なデータセットの実験により,ビデオフュージョンと呼ばれる我々の手法が,高品質なビデオ生成において,GANベースと拡散ベースの両方の選択肢を上回ることが確認された。
  論文  参考訳（メタデータ） (2023-03-15T02:16:39Z)
• SAR Despeckling using a Denoising Diffusion Probabilistic Model [52.25981472415249]
  スペックルの存在は画像品質を劣化させ、SAR画像理解アプリケーションの性能に悪影響を及ぼす。 本稿では,SAR脱種のための拡散確率モデルであるSAR-DDPMを紹介する。 提案手法は, 最先端の切り離し法と比較して, 定量化と定性化の両面で有意な改善を実現している。
  論文  参考訳（メタデータ） (2022-06-09T14:00:26Z)
• Guided Diffusion Model for Adversarial Purification [103.4596751105955]
  敵攻撃は、様々なアルゴリズムやフレームワークでディープニューラルネットワーク(DNN)を妨害する。 本稿では,GDMP ( Guided diffusion model for purification) と呼ばれる新しい精製法を提案する。 様々なデータセットにわたる包括的実験において,提案したGDMPは,敵対的攻撃によって引き起こされた摂動を浅い範囲に減少させることを示した。
  論文  参考訳（メタデータ） (2022-05-30T10:11:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。