論文の概要: PROBE: Diagnosing Residual Concept Capacity in Erased Text-to-Video Diffusion Models

• arxiv url: http://arxiv.org/abs/2603.21547v1
• Date: Mon, 23 Mar 2026 04:01:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-24 19:11:39.476315
• Title: PROBE: Diagnosing Residual Concept Capacity in Erased Text-to-Video Diffusion Models
• Title（参考訳）: PROBE: 消去されたテキスト・ビデオ拡散モデルにおける残留概念容量の診断
• Authors: Yiwei Xie, Zheng Zhang, Ping Liu,
• Abstract要約: テキスト・ツー・ビデオ(T2V)拡散モデルの概念技術は、センシティブなコンテンツの相当な抑制を報告している。 本稿では,T2Vモデルにおけるテクストの潜在的な消去概念を定量化する診断プロトコル PROBE を紹介する。
• 参考スコア（独自算出の注目度）: 9.957850061310054
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Concept erasure techniques for text-to-video (T2V) diffusion models report substantial suppression of sensitive content, yet current evaluation is limited to checking whether the target concept is absent from generated frames, treating output-level suppression as evidence of representational removal. We introduce PROBE, a diagnostic protocol that quantifies the \textit{reactivation potential} of erased concepts in T2V models. With all model parameters frozen, PROBE optimizes a lightweight pseudo-token embedding through a denoising reconstruction objective combined with a novel latent alignment constraint that anchors recovery to the spatiotemporal structure of the original concept. We make three contributions: (1) a multi-level evaluation framework spanning classifier-based detection, semantic similarity, temporal reactivation analysis, and human validation; (2) systematic experiments across three T2V architectures, three concept categories, and three erasure strategies revealing that all tested methods leave measurable residual capacity whose robustness correlates with intervention depth; and (3) the identification of temporal re-emergence, a video-specific failure mode where suppressed concepts progressively resurface across frames, invisible to frame-level metrics. These findings suggest that current erasure methods achieve output-level suppression rather than representational removal. We release our protocol to support reproducible safety auditing. Our code is available at https://github.com/YiweiXie/PRObingBasedEvaluation.
• Abstract（参考訳）: テキスト・ツー・ビデオ(T2V)拡散モデルにおける概念消去技術は, センシティブなコンテンツの相当な抑制を報告しているが, 現在の評価は, 対象概念が生成されたフレームから欠落しているかどうかを確認し, 出力レベルの抑制を表現的除去の証拠として扱うことに限定されている。 本稿では,T2V モデルにおける消去概念の \textit{reactivation potential} を定量化する診断プロトコル PROBE を紹介する。 全てのモデルパラメータを凍結させることで、PRBEはデノナイズドリコンストラクションの目的を通した軽量な擬似トーケン埋め込みと、オリジナルの概念の時空間構造に回復を固定する新しい遅延アライメント制約を組み合わせて最適化する。 1)分類器に基づく検出,意味的類似性,時間的再活性化分析,人的検証を対象とする多段階評価フレームワーク,(2)3つのT2Vアーキテクチャ,3つの概念カテゴリ,および3つの消去戦略の体系的実験により,試験方法のすべてが,介入深度に相関するロバスト性を有する測定可能な残留能力を残していること,(3)フレームレベルメトリクスに不可避な概念を段階的に再浮上するビデオ固有の障害モードである時間的再帰の識別,の3つの貢献を行う。 これらの結果は,現在の消去手法が表現的除去よりも出力レベルの抑制を実現することを示唆している。 再現可能な安全監査をサポートするためのプロトコルをリリースする。 私たちのコードはhttps://github.com/YiweiXie/PRObingBasedEvaluation.comで公開されています。

関連論文リスト

• M-ErasureBench: A Comprehensive Multimodal Evaluation Benchmark for Concept Erasure in Diffusion Models [13.885985776728559]
  M-ErasureBenchは、3つの入力モードで概念消去メソッドをベンチマークする新しいフレームワークである。 IRECEはプラグイン・アンド・プレイのモジュールで、クロスアテンションを通じてターゲットのコンセプトをローカライズし、ノイズ発生時に関連する潜伏者を摂動させる。
  論文  参考訳（メタデータ） (2025-12-28T10:58:36Z)
• Enhancing Dual Network Based Semi-Supervised Medical Image Segmentation with Uncertainty-Guided Pseudo-Labeling [5.1962665598872135]
  本稿では,デュアルネットワークアーキテクチャに基づく新しい半教師付き3次元医用画像分割フレームワークを提案する。 具体的には,クロス・擬似とエントロピーフィルタの両方を用いたクロス・コンシステンシー・エンハンスメント・モジュールについて検討し,ノイズの多い擬似ラベルを減らす。 さらに、教師付きコントラスト学習機構を用いて、不確実なボクセル特徴を信頼性の高いクラスプロトタイプと整合させる。
  論文  参考訳（メタデータ） (2025-09-16T13:40:20Z)
• Erased or Dormant? Rethinking Concept Erasure Through Reversibility [6.895055915600732]
  我々は、統一概念編集と消去安定拡散という2つの代表的な概念消去手法を評価する。 消去された概念は、最小限の適応の後、しばしばかなりの視覚的忠実度で再帰することを示す。 本研究は,既存の概念消去アプローチにおける限界を明らかにするものである。
  論文  参考訳（メタデータ） (2025-05-22T03:26:46Z)
• T2VShield: Model-Agnostic Jailbreak Defense for Text-to-Video Models [88.63040835652902]
  テキストからビデオモデルへの攻撃はジェイルブレイク攻撃に弱いため、特別な方法で安全メカニズムをバイパスし、有害または安全でないコンテンツの生成につながる。 我々は、ジェイルブレイクの脅威からテキストからビデオモデルを守るために設計された包括的でモデルに依存しない防衛フレームワークであるT2VShieldを提案する。 本手法は,既存の防御の限界を特定するために,入力,モデル,出力の段階を体系的に解析する。
  論文  参考訳（メタデータ） (2025-04-22T01:18:42Z)
• Reliable and Efficient Concept Erasure of Text-to-Image Diffusion Models [76.39651111467832]
  本稿では,Reliable and Efficient Concept Erasure (RECE)を提案する。 派生した埋め込みによって表現される不適切なコンテンツを緩和するために、RECEはそれらをクロスアテンション層における無害な概念と整合させる。 新たな表現埋め込みの導出と消去を反復的に行い、不適切な概念の徹底的な消去を実現する。
  論文  参考訳（メタデータ） (2024-07-17T08:04:28Z)
• Six-CD: Benchmarking Concept Removals for Benign Text-to-image Diffusion Models [58.74606272936636]
  テキスト・ツー・イメージ(T2I)拡散モデルは、テキスト・プロンプトと密接に対応した画像を生成する際、例外的な機能を示す。 モデルは、暴力やヌードの画像を生成したり、不適切な文脈で公共の人物の無許可の肖像画を作成するなど、悪意ある目的のために利用することができる。 悪質な概念や望ましくない概念の発生を防ぐために拡散モデルを変更する概念除去法が提案されている。
  論文  参考訳（メタデータ） (2024-06-21T03:58:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。