論文の概要: Certifying Concept Unlearning in Text-to-Image Diffusion Models
- arxiv url: http://arxiv.org/abs/2609.12163v1
- Date: Thu, 10 Sep 2026 19:51:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-15 07:38:31.532762
- Title: Certifying Concept Unlearning in Text-to-Image Diffusion Models
- Title（参考訳）: テキスト・画像拡散モデルにおける未学習の証明
- Abstract要約: 本稿では,T2I 概念のアンラーニングのための新しい認証フレームワークを提案する。
我々は,NSFWコンテンツ,芸術スタイル,有名人のアイデンティティ,最先端の未学習手法の3つの主要な概念カテゴリにまたがる枠組みを評価した。
- 参考スコア（独自算出の注目度）: 5.260028875696629
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Existing evaluations of concept unlearning in text-to-image (T2I) diffusion models primarily rely on attack success rates obtained through automated adversarial prompt search. However, these metrics provide only empirical evidence over a finite set of queries and leave residual leakage over the broader prompt space largely unquantified. This limitation can lead to overestimating unlearning effectiveness and underestimating safety risks. To address this gap, we introduce a novel certification framework for T2I concept unlearning that provides high-confidence guarantees with bounded error on residual concept leakage. Our approach combines statistical certification with worst-case analysis along concept-relevant embedding directions to derive explicit upper bounds on leakage probability under user-specified confidence levels. We evaluate our framework across three major concept categories namely NSFW content, artistic styles, and celebrity identities, and six state-of-the-art unlearning methods. Certified leakage bounds consistently exceed standard attack success rates by 16.2%, uncovering substantial residual risks missed by existing evaluation protocols. Crucially, our results demonstrate that empirical attack-based evaluations can significantly underestimate residual leakage and establish certification as a necessary complement for reliable auditing of concept unlearning in T2I diffusion models.
- Abstract（参考訳）: テキスト・ツー・イメージ(T2I)拡散モデルにおける既存の概念未学習の評価は、主に自動対向プロンプトサーチによって得られる攻撃成功率に依存している。
しかし、これらの指標は、有限個のクエリに対して経験的な証拠しか提供せず、より広いプロンプト空間に残余なリークを残している。
この制限は、未学習の有効性を過大評価し、安全性のリスクを過小評価させる可能性がある。
このギャップに対処するために,残余概念リークに対する有界誤差を伴う高信頼度保証を提供する,T2I概念アンラーニングのための新しい認証フレームワークを導入する。
提案手法は, 統計的認証と, 概念関連埋め込み方向の最悪のケース解析を組み合わせることで, ユーザ特定信頼度下での漏洩確率の明示的な上限を導出する。
我々は,NSFWコンテンツ,芸術スタイル,有名人のアイデンティティ,最先端の未学習手法の3つの主要な概念カテゴリにまたがる枠組みを評価した。
認証された漏洩境界は、標準的な攻撃成功率を16.2%以上越え、既存の評価プロトコルに欠落したかなりのリスクが明らかになった。
本研究の結果は,T2I拡散モデルにおける概念未学習の信頼性監査に必要となる,残留漏洩を著しく過小評価し,認証を確立できることを示唆するものである。
関連論文リスト
- Robustness Meets Uncertainty: Evidential Adversarial Training for Robust Selective Classification [26.819297652576967]
敵対的トレーニングは、ディープニューラルネットワークの堅牢性を改善するために広く採用されている防御である。
堅牢性-不確実性トレードオフのための統一されたベンチマークを導入する。
Evidential Adversarial Training (EV-AT) は、ディリクレ分布を介して不確実性をモデル化し、(i) 証拠に基づく損失を、(ii) 確実な証拠調整損失と、(ii) 確実な証拠調整損失を、クリーンかつ敵対的な予測と組み合わせてモデル化する。
論文 参考訳（メタデータ） (2026-07-03T08:10:21Z) - Robustness Certificates for Neural Networks against Adversarial Attacks [9.365069861121944]
本稿では,勾配に基づく学習を離散時間力学系としてモデル化する形式的頑健性認定フレームワークを提案する。
当社のフレームワークはテスト時の攻撃に対する認証にも拡張されており、トレーニングとテスト時の攻撃設定の両方で正式な保証を提供する最初の統一されたフレームワークです。
論文 参考訳（メタデータ） (2025-12-24T00:49:47Z) - Open-World Deepfake Attribution via Confidence-Aware Asymmetric Learning [78.92934995292113]
本稿では,既知の偽造と新規な偽造の信頼のバランスをとる,信頼を意識した非対称学習(CAL)フレームワークを提案する。
CALは従来手法を一貫して上回り、既知の偽造と新しい偽造の両方で最先端のパフォーマンスを達成する。
論文 参考訳（メタデータ） (2025-12-14T12:31:28Z) - Learning from Similarity-Confidence and Confidence-Difference [0.07646713951724009]
複数の視点から補完的な弱監督信号を利用する新しい弱監視学習(WSL)フレームワークを提案する。
具体的には,2種類の弱いラベルを統合する手法であるSconfConfDiff Classificationを紹介する。
両推定器が推定誤差境界に対して最適収束率を達成することを証明した。
論文 参考訳（メタデータ） (2025-08-07T07:42:59Z) - Advancing Neural Network Verification through Hierarchical Safety Abstract Interpretation [52.626086874715284]
我々は、安全でない出力の階層構造を検証する抽象的DNN検証と呼ばれる新しい問題定式化を導入する。
出力到達可能な集合に関する抽象的解釈と推論を活用することにより,形式的検証プロセスにおいて,複数の安全性レベルを評価することができる。
我々の貢献には、新しい抽象的安全性の定式化と既存のアプローチとの関係を理論的に探求することが含まれる。
論文 参考訳（メタデータ） (2025-05-08T13:29:46Z) - Six-CD: Benchmarking Concept Removals for Benign Text-to-image Diffusion Models [58.74606272936636]
テキスト・ツー・イメージ(T2I)拡散モデルは、テキスト・プロンプトと密接に対応した画像を生成する際、例外的な機能を示す。
モデルは、暴力やヌードの画像を生成したり、不適切な文脈で公共の人物の無許可の肖像画を作成するなど、悪意ある目的のために利用することができる。
悪質な概念や望ましくない概念の発生を防ぐために拡散モデルを変更する概念除去法が提案されている。
論文 参考訳（メタデータ） (2024-06-21T03:58:44Z) - The Pitfalls and Promise of Conformal Inference Under Adversarial Attacks [90.52808174102157]
医療画像や自律運転などの安全クリティカルな応用においては、高い敵の堅牢性を維持し、潜在的敵の攻撃から保護することが不可欠である。
敵対的に訓練されたモデルに固有の不確実性に関して、注目すべき知識ギャップが残っている。
本研究では,共形予測(CP)の性能を標準対向攻撃の文脈で検証することにより,ディープラーニングモデルの不確実性について検討する。
論文 参考訳（メタデータ） (2024-05-14T18:05:19Z) - VALID: a Validated Algorithm for Learning in Decentralized Networks with Possible Adversarial Presence [13.612214163974459]
不均一なデータを持つ非方向性ネットワークに対して、検証された分散学習のパラダイムを導入する。
VALIDプロトコルは、検証された学習保証を達成した最初のプロトコルである。
興味深いことに、VALIDは敵のない環境での最適なパフォーマンス指標を維持している。
論文 参考訳（メタデータ） (2024-05-12T15:55:43Z) - Ring-A-Bell! How Reliable are Concept Removal Methods for Diffusion Models? [52.238883592674696]
Ring-A-Bellは、T2I拡散モデルのためのモデルに依存しないレッドチームツールである。
これは、不適切なコンテンツの生成に対応する拡散モデルに対する問題的プロンプトを特定する。
この結果から,安全プロンプトベンチマークの操作により,既存の安全メカニズムを回避できると考えられるプロンプトを変換できることが示唆された。
論文 参考訳（メタデータ） (2023-10-16T02:11:20Z) - Trust but Verify: Assigning Prediction Credibility by Counterfactual
Constrained Learning [123.3472310767721]
予測信頼性尺度は統計学と機械学習において基本的なものである。
これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。
この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
論文 参考訳（メタデータ） (2020-11-24T19:52:38Z) - Certified Distributional Robustness on Smoothed Classifiers [27.006844966157317]
本稿では,ロバスト性証明として,入力分布に対する最悪の逆損失を提案する。
双対性と滑らか性を利用して、証明書のサロゲートとして容易に計算できる上限を与える。
論文 参考訳（メタデータ） (2020-10-21T13:22:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。