論文の概要: MOSAIC: Composable Safety Alignment with Modular Control Tokens

• arxiv url: http://arxiv.org/abs/2603.16210v1
• Date: Tue, 17 Mar 2026 07:40:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-18 17:42:07.154448
• Title: MOSAIC: Composable Safety Alignment with Modular Control Tokens
• Title（参考訳）: MOSAIC: モジュール制御トークンによる構成可能な安全アライメント
• Abstract要約: 現実世界のデプロイメントは、ユーザ、リージョン、アプリケーションによって異なるコンテキスト依存の安全ルールを必要とすることが多い。 冷凍バックボーンモデル上に最適化された学習可能な制御トークンによる構成安全アライメントを実現するモジュールフレームワークMOSAICを提案する。 実験により,MOSAICはモデルユーティリティを保ちながら,オーバーリフレクションを大幅に低減し,強力な防御性能を発揮することが示された。
• 参考スコア（独自算出の注目度）: 22.486612919976977
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Safety alignment in large language models (LLMs) is commonly implemented as a single static policy embedded in model parameters. However, real-world deployments often require context-dependent safety rules that vary across users, regions, and applications. Existing approaches struggle to provide such conditional control: parameter-level alignment entangles safety behaviors with general capabilities, while prompt-based methods rely on natural language instructions that provide weak enforcement. We propose MOSAIC, a modular framework that enables compositional safety alignment through learnable control tokens optimized over a frozen backbone model. Each token represents a safety constraint and can be flexibly activated and composed at inference time. To train compositional tokens efficiently, we introduce order-based task sampling and a distribution-level alignment objective that mitigates over-refusal. Experiments show that MOSAIC achieves strong defense performance with substantially lower over-refusal while preserving model utility.
• Abstract（参考訳）: 大規模言語モデル(LLM)の安全性アライメントは、モデルパラメータに埋め込まれた単一の静的ポリシーとして一般的に実装されている。 しかし、現実世界のデプロイメントでは、ユーザ、リージョン、アプリケーションによって異なるコンテキスト依存の安全ルールが要求されることが多い。 パラメータレベルのアライメントは、安全行動と一般的な能力とを結びつける一方で、プロンプトベースの手法は、弱い強制力を提供する自然言語命令に依存している。 冷凍バックボーンモデル上に最適化された学習可能な制御トークンによる構成安全アライメントを実現するモジュールフレームワークMOSAICを提案する。 各トークンは安全制約を表し、フレキシブルにアクティベートされ、推論時に構成される。 構成トークンを効率的に訓練するために,オーバリフレクションを緩和する順序に基づくタスクサンプリングと分布レベルのアライメントの目的を導入する。 実験により,MOSAICはモデルユーティリティを保ちながら,オーバーリフレクションを大幅に低減し,強力な防御性能を発揮することが示された。

関連論文リスト

• Palette: A Modular, Controllable, and Efficient Framework for On-demand Authorized Safety Alignment Relaxation in LLMs [39.416807881947875]
  基礎モデルの現在の安全アライメントは、主に音の大きさに適合する全てのパラダイムに従っている。 我々は,認証対象ドメインに対する拒否動作を選択的に緩和する,モジュール型かつ制御可能で効率的なフレームワークであるtextscPalette を提案する。 提案手法は,多目的探索による拒絶方向の同定と,軽量適応によるモデルへの内在化を行う。
  論文  参考訳（メタデータ） (2026-05-22T19:22:17Z)
• Selective Safety Steering via Value-Filtered Decoding [54.87935112120107]
  大型言語モデル(LLM)は人間の価値観に合わせるように訓練されているが、その世代は安全上の制約に反する可能性がある。 既存のデコード時のステアリング手法は、しばしば不要に介入し、ベースモデルの下で安全であった世代を変更する。 安全でない応答の安全性を向上しつつ、そのような不要な介入を減らすための新しいテストタイムステアリング手法を提案する。
  論文  参考訳（メタデータ） (2026-05-14T12:13:08Z)
• Guardrails in Logit Space: Safety Token Regularization for LLM Alignment [9.180430520680611]
  新しいドメイン上の細調整のよく整合した大きな言語モデル(LLM)は、安全アライメントを低下させることが多い。 既存の安全アライメント技術は主に事前訓練に焦点を当てており、微調整されたモデルは行動シフトに弱いままである。 我々は、微調整時に安全性を維持するための軽量な方法である安全トークン規則化(STR)を導入する。
  論文  参考訳（メタデータ） (2026-04-19T02:41:04Z)
• Robust Multimodal Safety via Conditional Decoding [52.92816441364308]
  マルチモーダル大規模言語モデル(MLLM)は、有害なクエリが相互モーダル相互作用を悪用した場合、しばしば安全性の低下を経験する。 本稿では,MLLMの内部表現を利用して応答生成前の二項安全トークンを予測する,シンプルな条件付きデコード戦略であるCASAを提案する。
  論文  参考訳（メタデータ） (2026-03-31T23:19:50Z)
• Few Tokens, Big Leverage: Preserving Safety Alignment by Constraining Safety Tokens during Fine-tuning [4.839980912290382]
  大規模言語モデル(LLM)は、ダウンストリームタスクでうまく機能するために細調整(FT)を必要とすることが多い。 FTは、トレーニングデータセットが良性データのみを含む場合でも、安全アライメントドリフトを誘導することができる。 本稿では,安全トークンに対するモデルの信頼性を安定化させる,制約付きトークンによる安全アライメントの保存(PACT)という微調整フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-08T03:42:55Z)
• BarrierSteer: LLM Safety via Learning Barrier Steering [83.12893815611052]
  BarrierSteerは、学習した非線形安全性制約を直接モデルの潜在表現空間に埋め込むことで、安全性を形式化する新しいフレームワークである。 BarrierSteerは、敵の成功率を大幅に低下させ、安全でない世代を減少させ、既存の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2026-02-23T18:19:46Z)
• PoSafeNet: Safe Learning with Poset-Structured Neural Nets [49.854863600271614]
  既存のアプローチは、しばしば複数の安全制約を均一に、または固定された優先命令によって強制し、実現不可能と不安定な振る舞いを引き起こす。 我々は、この設定を擬似構造的安全性として定式化し、安全制約を部分的に順序づけられた集合としてモデル化し、安全構成を政策クラスの構造的特性として扱う。 この定式化に基づいて、逐次クローズドフォームプロジェクションを介して安全性を強制する、識別可能な神経安全層であるPoSafeNetを提案する。
  論文  参考訳（メタデータ） (2026-01-29T22:03:32Z)
• Taxonomy-Adaptive Moderation Model with Robust Guardrails for Large Language Models [3.710103086278309]
  大規模言語モデル(LLM)は通常、トレーニング後の段階で安全のために整列される。 ユーザに対してリスクをもたらす可能性のある,不適切なアウトプットを生成することも可能だ。 この課題は、モデル入力と出力の両方にわたって動作する堅牢なセーフガードの必要性を浮き彫りにする。
  論文  参考訳（メタデータ） (2025-12-05T00:43:55Z)
• Efficient Switchable Safety Control in LLMs via Magic-Token-Guided Co-Training [1.5349686675266894]
  LLM(Large Language Models)におけるコンテンツ安全性の現在の手法は、マルチステージトレーニングパイプラインに依存している。 複数の安全性挙動を効率的に統合する統合協調学習フレームワークを提案する。 我々は,SFT+DPOの安全アライメント品質に一致し,安全性能においてDeepSeek-R1 (671B) を上回る8Bモデルを示した。
  論文  参考訳（メタデータ） (2025-08-12T02:39:33Z)
• Shape it Up! Restoring LLM Safety during Finetuning [65.75757313781104]
  大型言語モデル(LLM)の微調整は、ユーザ固有のカスタマイズを可能にするが、重大な安全性リスクをもたらす。 動的安全整形(DSS)は,不安全コンテンツを抑えつつ,応答の安全な部分からの学習を強化するための,きめ細かい安全信号を用いたフレームワークである。 STARスコアによって導かれるSTAR-DSSは、微調整リスクを堅牢に軽減し、多様な脅威、データセット、モデルファミリーにまたがる大幅な安全性の向上を提供する。
  論文  参考訳（メタデータ） (2025-05-22T18:05:16Z)
• Controllable Safety Alignment: Inference-Time Adaptation to Diverse Safety Requirements [46.79887158348167]
  大規模言語モデル(LLM)の安全性アライメントに関する現在のパラダイムは、一大のアプローチに従っている。 我々は,モデルの再トレーニングを伴わず,多様な安全要件に適応するフレームワークとして,制御可能な安全アライメント(CoSA)を提案する。
  論文  参考訳（メタデータ） (2024-10-11T16:38:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。