論文の概要: Decoupled Safety Control: A Safety-Control Algorithm for Training-Free Safety Guidance

• arxiv url: http://arxiv.org/abs/2610.21569v1
• Date: Thu, 15 Oct 2026 09:24:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:16.304337
• Title: Decoupled Safety Control: A Safety-Control Algorithm for Training-Free Safety Guidance
• Title（参考訳）: 脱結合型安全制御:無訓練安全誘導のための安全制御アルゴリズム
• Abstract要約: 拡散モデルはテキスト・画像生成において高い性能を達成するが、それでも安全でないコンテンツを生成することができる。 トレーニングフリーの安全ガイダンスは、モデルウェイトを変更することなくサンプリング中に介入する実用的な推論時代替手段を提供する。 Decoupled Safety Control (DSC) は、訓練不要の安全誘導のためのプラグイン型安全制御アルゴリズムである。
• 参考スコア（独自算出の注目度）: 20.689287858248022
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion models achieve strong performance in text-to-image generation, but they can still produce unsafe content. Training-free safety guidance offers a practical inference-time alternative that intervenes during sampling without modifying model weights. However, many existing safeguards still rely on a coupled safety-control chain. In this chain, the same unsafe condition simultaneously specifies what should be avoided, indicates the current unsafe signal, constructs the intervention, and determines when that intervention remains active. This coupling can work when unsafe factors are explicit, but becomes less reliable once harmful and benign semantics are entangled in the current generation state, often leaving residual unsafe content or unnecessarily degrading benign-generation quality or prompt fidelity. We address this problem with Decoupled Safety Control (DSC), a plug-in safety-control algorithm for training-free safety guidance. DSC reformulates training-free safety guidance as an explicit state-dependent control process, so the executed intervention is determined from the current generation state rather than inherited directly from a single unsafe condition. Experiments on standard safety benchmarks show that DSC improves representative latent- and text-space safeguards, achieving stronger unsafe-content suppression while preserving benign-generation quality and maintaining efficient inference.
• Abstract（参考訳）: 拡散モデルはテキスト・画像生成において高い性能を達成するが、それでも安全でないコンテンツを生成することができる。 トレーニングフリーの安全ガイダンスは、モデルウェイトを変更することなくサンプリング中に介入する実用的な推論時代替手段を提供する。 しかし、多くの既存の安全装置は依然として安全制御チェーンに頼っている。 この連鎖では、同じ安全でない条件が避けるべきことを同時に特定し、現在の安全でない信号を示し、介入を構築し、その介入がアクティブなままであるかどうかを決定する。 この結合は、安全でない因子が明示されたときに機能するが、有害な場合に信頼性が低下し、良質なセマンティクスが現在の世代で絡み合わされ、しばしば残余の安全でない内容を残したり、良質な世代品質を低下させたり、素早い忠実さを早めたりする。 トレーニング不要な安全誘導のためのプラグイン型安全制御アルゴリズムであるDecoupled Safety Control (DSC) を用いてこの問題に対処する。 DSCは、トレーニングフリーの安全ガイダンスを明示的な状態依存制御プロセスとして再構成するので、実行された介入は、単一の安全でない状態から直接継承するのではなく、現在の生成状態から決定される。 標準安全ベンチマークの実験では、DSCは代表的な潜時およびテキスト空間の安全ガードを改善し、良質な世代品質を維持し、効率的な推論を維持しながら、より強力な非安全コンテンツ抑制を実現している。

関連論文リスト

• Safety-Critical Control under Uncertainty via Adaptive Conformal Quantile Prediction Intervals [24.910141691777408]
  本稿では,適応的不確実性定量化を伴う新しい安全制御フレームワークを提案する。 高確率安全性を保証するために、校正と状態依存の予測間隔を構築する。 結果として生じる不確実性セットを確率論的制御バリア関数の定式化に統合し、保守性を低下させて堅牢な安全性を強制する。
  論文  参考訳（メタデータ） (2026-09-20T01:27:52Z)
• Robust and Generalizable Safety Steering for Text-to-Image Diffusion Transformers [28.791649151495008]
  安全なステアリングフレームワークであるSafeDIGを提案する。 FLUX.1 DevとStable Diffusion 3.5 Largeの実験は、SafeDIGが一貫してターゲットドメインと全体的な安全でない生成率を減らすことを示している。
  論文  参考訳（メタデータ） (2026-05-28T15:00:18Z)
• Selective Safety Steering via Value-Filtered Decoding [54.87935112120107]
  大型言語モデル(LLM)は人間の価値観に合わせるように訓練されているが、その世代は安全上の制約に反する可能性がある。 既存のデコード時のステアリング手法は、しばしば不要に介入し、ベースモデルの下で安全であった世代を変更する。 安全でない応答の安全性を向上しつつ、そのような不要な介入を減らすための新しいテストタイムステアリング手法を提案する。
  論文  参考訳（メタデータ） (2026-05-14T12:13:08Z)
• CAPSULE: Control-Theoretic Action Perturbations for Safe Uncertainty-Aware Reinforcement Learning [2.28224729577679]
  オフライン環境で確率論的制御-アフィンダイナミクスモデルを学習する安全な強化学習フレームワークを提案する。 提案手法は,既存のベースラインに匹敵するリターンを達成すると同時に,安全性違反を著しく低減する。
  論文  参考訳（メタデータ） (2026-04-26T07:31:30Z)
• PoSafeNet: Safe Learning with Poset-Structured Neural Nets [49.854863600271614]
  既存のアプローチは、しばしば複数の安全制約を均一に、または固定された優先命令によって強制し、実現不可能と不安定な振る舞いを引き起こす。 我々は、この設定を擬似構造的安全性として定式化し、安全制約を部分的に順序づけられた集合としてモデル化し、安全構成を政策クラスの構造的特性として扱う。 この定式化に基づいて、逐次クローズドフォームプロジェクションを介して安全性を強制する、識別可能な神経安全層であるPoSafeNetを提案する。
  論文  参考訳（メタデータ） (2026-01-29T22:03:32Z)
• SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models [67.84174763413178]
  我々はSafeRedirを紹介した。SafeRedirは、迅速な埋め込みリダイレクトによる堅牢なアンラーニングのための軽量な推論時フレームワークである。 SafeRedirは,効果的な非学習能力,意味的・知覚的保存能力,堅牢な画像品質,対人攻撃に対する耐性の向上を実現している。
  論文  参考訳（メタデータ） (2026-01-13T15:01:38Z)
• UpSafe$^\circ$C: Upcycling for Controllable Safety in Large Language Models [67.91151588917396]
  大規模言語モデル(LLM)は、幅広いタスクで顕著な進歩を遂げているが、有害なコンテンツ生成やジェイルブレイク攻撃といった安全リスクに弱いままである。 安全に配慮したリサイクルによるLCMの安全性向上のための統合フレームワークであるUpSafe$circ$Cを提案する。 この結果から, 静的アライメントから動的, モジュール, 推論対応制御への移行という, LLMの安全性の新たな方向性が明らかになった。
  論文  参考訳（メタデータ） (2025-10-02T16:43:33Z)
• Shape it Up! Restoring LLM Safety during Finetuning [65.75757313781104]
  大型言語モデル(LLM)の微調整は、ユーザ固有のカスタマイズを可能にするが、重大な安全性リスクをもたらす。 動的安全整形(DSS)は,不安全コンテンツを抑えつつ,応答の安全な部分からの学習を強化するための,きめ細かい安全信号を用いたフレームワークである。 STARスコアによって導かれるSTAR-DSSは、微調整リスクを堅牢に軽減し、多様な脅威、データセット、モデルファミリーにまたがる大幅な安全性の向上を提供する。
  論文  参考訳（メタデータ） (2025-05-22T18:05:16Z)
• Safe Online Dynamics Learning with Initially Unknown Models and Infeasible Safety Certificates [45.72598064481916]
  本稿では、制御バリア関数(CBF)2次コーンプログラムに基づく、堅牢な安全証明書を備えた学習ベースの設定について考察する。 制御バリア関数証明書が実現可能ならば,その安全性を確保するため,本手法では,データ収集と制御バリア関数制約の実現可能性の回復のために,システムダイナミクスを探索する。
  論文  参考訳（メタデータ） (2023-11-03T14:23:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。