Fugu-MT 論文翻訳(概要): Consistency Purification: Effective and Efficient Diffusion Purification towards Certified Robustness

論文の概要: Consistency Purification: Effective and Efficient Diffusion Purification towards Certified Robustness

arxiv url: http://arxiv.org/abs/2407.00623v1
Date: Sun, 30 Jun 2024 08:34:35 GMT
ステータス: 処理完了
システム内更新日: 2024-07-04 02:17:05.199235
Title: Consistency Purification: Effective and Efficient Diffusion Purification towards Certified Robustness
Title（参考訳）: 整合性浄化:認証ロバスト性に対する有効かつ効率的な拡散浄化
Authors: Yiquan Li, Zhongzhu Chen, Kun Jin, Jiongxiao Wang, Bo Li, Chaowei Xiao,
Abstract要約: 本報告では, 従来よりも効率効率の良い優れた浄化器である一貫性浄化について紹介する。整合性モデルはPF-ODEから抽出した一段階生成モデルであり、単一のネットワーク評価で1次元の純化画像を生成することができる。総合的な実験により,我々の整合性浄化フレームワークは,ベースライン法と比較して,最先端の信頼性の高いロバスト性と効率性を実現していることが示された。
参考スコア（独自算出の注目度）: 28.09748997491938
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Diffusion Purification, purifying noised images with diffusion models, has been widely used for enhancing certified robustness via randomized smoothing. However, existing frameworks often grapple with the balance between efficiency and effectiveness. While the Denoising Diffusion Probabilistic Model (DDPM) offers an efficient single-step purification, it falls short in ensuring purified images reside on the data manifold. Conversely, the Stochastic Diffusion Model effectively places purified images on the data manifold but demands solving cumbersome stochastic differential equations, while its derivative, the Probability Flow Ordinary Differential Equation (PF-ODE), though solving simpler ordinary differential equations, still requires multiple computational steps. In this work, we demonstrated that an ideal purification pipeline should generate the purified images on the data manifold that are as much semantically aligned to the original images for effectiveness in one step for efficiency. Therefore, we introduced Consistency Purification, an efficiency-effectiveness Pareto superior purifier compared to the previous work. Consistency Purification employs the consistency model, a one-step generative model distilled from PF-ODE, thus can generate on-manifold purified images with a single network evaluation. However, the consistency model is designed not for purification thus it does not inherently ensure semantic alignment between purified and original images. To resolve this issue, we further refine it through Consistency Fine-tuning with LPIPS loss, which enables more aligned semantic meaning while keeping the purified images on data manifold. Our comprehensive experiments demonstrate that our Consistency Purification framework achieves state-of the-art certified robustness and efficiency compared to baseline methods.
Abstract（参考訳）: 拡散浄化, 拡散モデルによるノイズ画像の浄化は, ランダム化平滑化による認証ロバスト性向上に広く利用されている。しかし、既存のフレームワークは効率性と効率性のバランスを保っていることが多い。 Denoising Diffusion Probabilistic Model (DDPM)は、効率的な単一ステップの浄化を提供するが、精製された画像がデータ多様体に存在することを保証するには不十分である。逆に、確率拡散モデル(Stochastic Diffusion Model)は、データ多様体上の純像を効果的に配置するが、煩雑な確率微分方程式を解くことを要求する一方で、その微分である確率フロー正規微分方程式(PF-ODE)は、単純な常微分方程式を解くが、それでも複数の計算ステップを必要とする。本研究では, 理想的な浄化パイプラインが, 1段階の効率向上のために, 元の画像と同等にセマンティックに整合したデータ多様体上で, 精製画像を生成することを実証した。そこで本研究では, 従来よりも効率効率の良いパレート優良浄化器である一貫性浄化について紹介した。整合性浄化はPF-ODEから蒸留した一段階生成モデルである整合性モデルを用いており、単一のネットワーク評価で1次元の純化画像を生成することができる。しかし、一貫性モデルは浄化のためではなく、精製画像と原画像のセマンティックアライメントを本質的に保証しないように設計されている。この問題を解決するために、LPIPS損失を伴う一貫性ファインタニングによりさらに洗練し、データ多様体上に精製された画像を保持しながら、より整合的な意味合いを実現する。総合的な実験により,我々の整合性浄化フレームワークは,ベースライン法と比較して,最先端の信頼性の高いロバスト性と効率性を実現していることが示された。

関連論文リスト

DeblurDiff: Real-World Image Deblurring with Generative Diffusion Models [45.61456777098267]
The Latent Kernel Prediction Network (LKPN) is proposed to achieve robust real-world image deblurring。 LKPNは空間的に変化するカーネルを学習し、潜伏空間におけるシャープな画像の復元を誘導する。提案手法は, ベンチマークおよび実世界の画像において, 最先端の画像デブロアリング法より優れる。
論文参考訳（メタデータ） (2025-02-06T06:43:32Z)
Efficiency Meets Fidelity: A Novel Quantization Framework for Stable Diffusion [9.8078769718432]
安定拡散モデルのための効率的な量子化フレームワークを提案する。本手法では,キャリブレーションと推論の両プロセスの整合性に対処するシリアル-パラレルキャリブレーションパイプラインを特徴とする。 W4A8量子化設定では、分布類似性と視覚類似性の両方を45%-60%向上させる。
論文参考訳（メタデータ） (2024-12-09T17:00:20Z)
Tuning Timestep-Distilled Diffusion Model Using Pairwise Sample Optimization [97.35427957922714]
任意の時間ステップ蒸留拡散モデルを直接微調整できるPSOアルゴリズムを提案する。 PSOは、現在の時間ステップ蒸留モデルからサンプリングされた追加の参照画像を導入し、トレーニング画像と参照画像との相対的な近縁率を増大させる。 PSOは、オフラインとオンラインのペアワイズ画像データの両方を用いて、蒸留モデルを直接人間の好ましくない世代に適応させることができることを示す。
論文参考訳（メタデータ） (2024-10-04T07:05:16Z)
Instant Adversarial Purification with Adversarial Consistency Distillation [1.224954637705144]
拡散モデルにおける1つのニューラル評価(NFE)における逆画像の浄化が可能な拡散に基づく浄化モデルであるOne Step Control Purification (OSCP)を提案する。 ImageNetの防衛成功率は74.19%で、精製ごとに0.1秒しか必要としない。
論文参考訳（メタデータ） (2024-08-30T07:49:35Z)
Integrating Amortized Inference with Diffusion Models for Learning Clean Distribution from Corrupted Images [19.957503854446735]
拡散モデル(DM)は、逆問題を解決するための強力な生成モデルとして登場した。 FlowDiffは条件付き正規化フローモデルを利用して、破損したデータソース上で拡散モデルのトレーニングを容易にする共同トレーニングパラダイムである。実験の結果,FlowDiffは広範囲の破損したデータソースにわたるクリーンな分布を効果的に学習できることがわかった。
論文参考訳（メタデータ） (2024-07-15T18:33:20Z)
Guided Score identity Distillation for Data-Free One-Step Text-to-Image Generation [62.30570286073223]
拡散に基づくテキスト・画像生成モデルは、テキスト記述と整合した画像を生成する能力を実証している。本研究では, 実データにアクセスすることなく, 事前学習した拡散モデルの効率的な蒸留を可能にする, データフリーガイド蒸留法を提案する。データフリー蒸留法は, 1ステップ生成装置で生成した合成画像のみをトレーニングすることにより, FIDとCLIPのスコアを急速に向上させ, 競争力のあるCLIPスコアを維持しつつ, 最先端のFID性能を実現する。
論文参考訳（メタデータ） (2024-06-03T17:44:11Z)
EM Distillation for One-step Diffusion Models [65.57766773137068]
最小品質の損失を最小限に抑えた1ステップ生成モデルに拡散モデルを蒸留する最大可能性に基づく手法を提案する。本研究では, 蒸留プロセスの安定化を図るため, 再パラメータ化サンプリング手法とノイズキャンセリング手法を開発した。
論文参考訳（メタデータ） (2024-05-27T05:55:22Z)
Distilling Diffusion Models into Conditional GANs [90.76040478677609]
複雑な多段階拡散モデルを1段階条件付きGAN学生モデルに蒸留する。 E-LatentLPIPSは,拡散モデルの潜在空間で直接動作する知覚的損失である。我々は, 最先端の1ステップ拡散蒸留モデルよりも優れた1ステップ発生器を実証した。
論文参考訳（メタデータ） (2024-05-09T17:59:40Z)
Trajectory Consistency Distillation: Improved Latent Consistency Distillation by Semi-Linear Consistency Function with Trajectory Mapping [75.72212215739746]
軌道整合性蒸留(TCD)は、軌道整合性と戦略的サンプリングを含む。 TCDは低NFEで画像品質を著しく向上させるが、教師モデルと比較してより詳細な結果が得られる。
論文参考訳（メタデータ） (2024-02-29T13:44:14Z)
Hierarchical Integration Diffusion Model for Realistic Image Deblurring [71.76410266003917]
拡散モデル (DM) は画像劣化に導入され, 有望な性能を示した。本稿では,階層型統合拡散モデル(HI-Diff)を提案する。人工的および実世界のぼかしデータセットの実験は、HI-Diffが最先端の手法より優れていることを示した。
論文参考訳（メタデータ） (2023-05-22T12:18:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。