論文の概要: SaTPO: Text-to-Image Safety Alignment via Transition Preference Optimization

• arxiv url: http://arxiv.org/abs/2610.19563v1
• Date: Wed, 14 Oct 2026 04:21:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.959103
• Title: SaTPO: Text-to-Image Safety Alignment via Transition Preference Optimization
• Title（参考訳）: SaTPO: 遷移選好最適化によるテキスト間安全アライメント
• Abstract要約: テキストと画像の拡散モデルの安全性は、有用な生成能力を損なうことなく有害なコンテンツを抑えることを目的としている。 本稿では,デノナイズ時に段階的にアライメントを行う安全遷移選好最適化(SaTPO)を提案する。
• 参考スコア（独自算出の注目度）: 81.8045246762617
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Safety alignment of text-to-image diffusion models aims to suppress harmful content without compromising useful generation capabilities. However, preferences over completed images compress multidimensional generation factors into a coarse signal, potentially driving changes beyond those required for safety. To address this, we propose Safety Transition Preference Optimization (SaTPO), which enforces step-wise alignment during denoising. SaTPO leverages the insight that an unsafe prompt and its safe rewrite naturally form a tightly coupled preference pair when conditioned on a shared parent state and noise realization. By anchoring optimization on identical parent states, SaTPO eliminates historical trajectory divergence, confining safety adaptation to an incremental alignment while preserving task-relevant semantics. Multi-scale drift constraints and benign replay further limit behavioral deviation and preserve ordinary generation. We additionally construct CoProPV, a refined dataset ensuring visually verified contrasts. Experiments on Stable Diffusion v1.5 and SDXL demonstrate improved safety-quality trade-offs. Compared with AlignGuard, PerspectiveVision unsafe-detection rates on Inappropriate Image Prompts decrease from 12.70% to 6.00% and from 15.04% to 9.30%, respectively, while FID improves from 32.28 to 25.95 and from 36.50 to 27.51. Warning: this paper includes potentially offensive content.
• Abstract（参考訳）: テキストと画像の拡散モデルの安全性は、有用な生成能力を損なうことなく有害なコンテンツを抑えることを目的としている。 しかし、完成した画像よりも好みが多次元生成因子を粗い信号に圧縮し、安全に必要なもの以上の変化を引き起こす可能性がある。 そこで本研究では,デノナイズ時に段階的にアライメントを行う安全遷移選好最適化(SaTPO)を提案する。 SaTPOは、安全でないプロンプトとその安全な書き直しが、共有親状態とノイズ実現に条件付けされたときに、自然に密結合された選好ペアを形成するという洞察を利用する。 同一の親状態に最適化を固定することにより、SaTPOは、タスク関連セマンティクスを保ちながら、インクリメンタルアライメントへの安全性適応を補うことによって、過去の軌道のばらつきを解消する。 マルチスケールドリフト制約と良性リプレイは、行動偏差をさらに制限し、通常の生成を保存する。 さらに、視覚的に検証されたコントラストを保証する洗練されたデータセットであるCoProPVを構築します。 安定拡散v1.5とSDXLの実験では、安全品質のトレードオフが改善された。 アリンガードと比較すると、不適切な画像のアンセーフ検出率は12.70%から6.00%に減少し、15.04%から9.30%に減少し、FIDは32.28から25.95、36.50から27.51に改善した。 警告: この論文には、潜在的に攻撃的な内容が含まれている。

関連論文リスト

• Introspective Attention Modulation for Safe Text-to-Image Generation [37.67434449197168]
  State-of-the-the-art flow based text-to-image (T2I)モデルは、優れた生成能力を示すが、安全でないコンテンツを生成するには弱い。 本稿では,推論時イントロスペクションによるモデル注意力の制御により,安全性を実現するユニークなアプローチを提案する。
  論文  参考訳（メタデータ） (2026-07-16T12:53:45Z)
• Bypassing Copyright Protection in Diffusion-based Customization via Two-Stage Latent Feature Optimization [51.33055188976282]
  敵対的攻撃は 個人化された画像生成において 悪意のあるコンテンツの偽造を防ぐ 防衛戦略として浮上した 本稿では,2段階遅延特徴最適化 (TS-LFO) を導入する。 広範な実験により、TS-LFOは、最先端のSOTA著作権防衛を一貫して回避し、DiffPure、GrIDPure、IMPRESSなどのSOTA著作権攻撃より優れていることが示されている。
  論文  参考訳（メタデータ） (2026-06-06T07:59:08Z)
• Unified Safe In-context Image Generation in Multimodal Diffusion Transformers via Restricting Unsafe Information Flows [20.386952794426833]
  Unified Visual Safety Regulator (UVR)は、トレーニング不要の安全生成フレームワークで、生成した画像の安全でないセマンティクスを規制する。 UVRは、統一された注意調整と有害な情報の流れの明示的な制限を通じて、安全でない生成を緩和する。 UVRは画像合成および編集作業において91%と77%の消去率を達成することにより、最先端の安全性能を達成する。
  論文  参考訳（メタデータ） (2026-06-05T03:43:04Z)
• Inference-Only Prompt Projection for Safe Text-to-Image Generation with TV Guarantees [14.642850335491817]
  テキスト・トゥ・イメージ(T2I)拡散モデルは高品質なオープン・エンド・シンセサイザーを可能にするが、実際の展開では、良質な即時アライメントを低下させることなく、安全でない世代を抑えるセーフガードが必要である。 基準条件分布が固定されると、安全でない世代における非自明な減少は、基準からテレビの偏差を必然的に引き起こす。 本稿では,高リスクプロンプトに選択的に介入する推論専用プロンプトプロジェクションフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-01-31T09:09:48Z)
• A Guardrail for Safety Preservation: When Safety-Sensitive Subspace Meets Harmful-Resistant Null-Space [91.99501941169831]
  GuardSpaceは、微調整全体を通して安全アライメントを維持するためのガードレールフレームワークである。 GSM8Kで微調整されたLlama-2-7B-Chatでは、ガードスペースは最先端のAsFTよりも優れている。
  論文  参考訳（メタデータ） (2025-10-16T04:57:53Z)
• Rethinking Safety in LLM Fine-tuning: An Optimization Perspective [56.31306558218838]
  我々は、本質的にトレードオフではなく、最適化の貧弱な選択が、しばしば安全上の問題を引き起こすことを示し、敵のプロンプトに対する有害な応答として測定する。 安全性能を保ったパラメータ空間における簡易指数移動平均(EMA)運動量法を提案する。 複数のデータセットにまたがるLlamaファミリーに関する実験は、安全性の問題が特別な介入なしに回避できることを実証している。
  論文  参考訳（メタデータ） (2025-08-17T23:46:36Z)
• AsFT: Anchoring Safety During LLM Fine-Tuning Within Narrow Safety Basin [38.577959886489076]
  大規模言語モデル(LLM)は、微調整中に安全性のリスクに対して脆弱である。 AsFT(Anchoring Safety in Fine-Tuning)と呼ばれる安全微調整手法を提案する。
  論文  参考訳（メタデータ） (2025-06-10T05:59:48Z)
• Over-the-Air Federated Learning with Privacy Protection via Correlated Additive Perturbations [57.20885629270732]
  我々は、複数のユーザ/エージェントからエッジサーバへの勾配更新をOtA(Over-the-Air)で送信することで、無線フェデレーション学習のプライバシー面を考察する。 従来の摂動に基づく手法は、トレーニングの精度を犠牲にしてプライバシー保護を提供する。 本研究では,エッジサーバにおけるプライバシリークの最小化とモデル精度の低下を目標とする。
  論文  参考訳（メタデータ） (2022-10-05T13:13:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。