論文の概要: Keep It CALM: Analyzing the Limits of Global Unsafety in Text-to-Image Generation

• arxiv url: http://arxiv.org/abs/2610.02300v1
• Date: Thu, 01 Oct 2026 17:55:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.032191
• Title: Keep It CALM: Analyzing the Limits of Global Unsafety in Text-to-Image Generation
• Title（参考訳）: CALMを維持して: テキスト・画像生成におけるグローバル・アンセーフティの限界を分析する
• Abstract要約: 本研究では,グローバルな一様除去を即時対応補正に置き換える訓練不要な安全対策であるCALMを提案する。 一致した安全でないバニオンアンカーを使用して、CALMは各プロンプトをアクティブな安全でないカテゴリにルーティングし、安全な側にトークン表現を違反するだけを最小限に編集し、正に整列された安全でない残留成分を抑制する。
• 参考スコア（独自算出の注目度）: 27.52425583692163
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Training-free safeguards for text-to-image generation often rely on a reusable safety signal, such as an unsafe direction or global toxic subspace, applied broadly across prompts. We provide a controlled geometric analysis of this global-unsafety assumption and reveal a consistent coverage-selectivity trade-off: compact unsafe subspaces fail to cover heterogeneous unsafe semantics, whereas broader aggregation increasingly distorts safety-adjacent benign prompts. Motivated by this finding, we propose CALM (Counterfactual Adaptive Local Modulation), a training-free safeguard that replaces uniform global removal with prompt-local counterfactual correction. Using matched unsafe-benign anchors, CALM routes each prompt to active unsafe categories, minimally edits only violating token representations toward the safe side, and suppresses positively aligned unsafe residual components. Across broad evaluation, CALM significantly improves unsafe content suppression while preserving benign utility, demonstrating that local counterfactual correction provides a more selective alternative to global unsafe signal removal.
• Abstract（参考訳）: テキスト・ツー・イメージ生成のためのトレーニング不要のセーフガードは、しばしば安全でない方向や大域的な有害な部分空間といった再利用可能な安全信号に依存し、プロンプトにわたって広く適用される。 コンパクトな安全でない部分空間は不均一な安全でないセマンティクスをカバーできないが、より広範な集約は安全に付随する良性のプロンプトをゆがめる。 そこで本研究では,グローバルな一様除去を即時対応補正に置き換えるトレーニングフリーの安全ガードであるCALM(Counterfactual Adaptive Local Modulation)を提案する。 一致した安全でないバニオンアンカーを使用して、CALMは各プロンプトをアクティブな安全でないカテゴリにルーティングし、安全な側にトークン表現を違反するだけを最小限に編集し、正に整列された安全でない残留成分を抑制する。 広範評価において,CALMは良質な効用を保ちながら,安全でないコンテンツの抑制を著しく改善し,局所的な偽善補正がグローバルな安全でない信号の除去に対してより選択的な代替手段を提供することを示した。

関連論文リスト

• Dialectics of Alignment: Harnessing Unsafe Knowledge for Dynamic Safety Routing [27.31688887825119]
  この作業は、安全でないデータが破棄されなければならないという正統性に挑戦する。 セーフモエ(SafeMoE)は、安全でない知識をドメイン固有のLowRank Adapters(LoRAの専門家)に分離するフレームワークである。 真の安全性は、安全でない知識のマスキングではなく、制御された統合のシフトを必要とする。
  論文  参考訳（メタデータ） (2026-05-30T11:49:42Z)
• SafeCtrl: Region-Aware Safety Control for Text-to-Image Diffusion via Detect-Then-Suppress [13.834468340496414]
  本研究では,検出-Then-Suppressパラダイム上で動作する地域意識型安全制御フレームワークであるSafeCtrlを提案する。 グローバルな安全介入とは異なり、SafeCtrlはまず、特定のリスク領域を正確にローカライズするために注意誘導検出モジュールを使用する。 SafeCtrlは,最先端の手法に比べて安全性と忠実さのトレードオフが優れていることを示す。
  論文  参考訳（メタデータ） (2026-04-05T03:06:17Z)
• Attributing and Exploiting Safety Vectors through Global Optimization in Large Language Models [50.91504059485288]
  本報告では,全頭部のグローバルな最適化により,安全クリティカルな注意点を同時に識別するフレームワークを提案する。 我々は,アクティベーション・リマッチによって同定された安全ベクトルを利用する,新しい推論時ホワイトボックス・ジェイルブレイク法を開発した。
  論文  参考訳（メタデータ） (2026-01-22T09:32:43Z)
• SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models [67.84174763413178]
  我々はSafeRedirを紹介した。SafeRedirは、迅速な埋め込みリダイレクトによる堅牢なアンラーニングのための軽量な推論時フレームワークである。 SafeRedirは,効果的な非学習能力,意味的・知覚的保存能力,堅牢な画像品質,対人攻撃に対する耐性の向上を実現している。
  論文  参考訳（メタデータ） (2026-01-13T15:01:38Z)
• SafeCtrl: Region-Based Safety Control for Text-to-Image Diffusion via Detect-Then-Suppress [48.20360860166279]
  SafeCtrlは軽量で非侵襲的なプラグインで、まず安全でないコンテンツを正確にローカライズします。 強硬なA-to-B置換を行う代わりに、SafeCtrlは有害なセマンティクスを抑える。
  論文  参考訳（メタデータ） (2025-08-16T04:28:52Z)
• Shape it Up! Restoring LLM Safety during Finetuning [65.75757313781104]
  大型言語モデル(LLM)の微調整は、ユーザ固有のカスタマイズを可能にするが、重大な安全性リスクをもたらす。 動的安全整形(DSS)は,不安全コンテンツを抑えつつ,応答の安全な部分からの学習を強化するための,きめ細かい安全信号を用いたフレームワークである。 STARスコアによって導かれるSTAR-DSSは、微調整リスクを堅牢に軽減し、多様な脅威、データセット、モデルファミリーにまたがる大幅な安全性の向上を提供する。
  論文  参考訳（メタデータ） (2025-05-22T18:05:16Z)
• Towards Comprehensive Post Safety Alignment of Large Language Models via Safety Patching [74.62818936088065]
  textscSafePatchingは包括的なPSAのための新しいフレームワークである。 textscSafePatchingはベースラインメソッドよりも包括的なPSAを実現する。 textscSafePatchingは、連続的なPSAシナリオにおいて、その優位性を示している。
  論文  参考訳（メタデータ） (2024-05-22T16:51:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。