論文の概要: HiRoute: Hierarchical Routed Prompt Tuning for Safety Alignment of Large Language Models

• arxiv url: http://arxiv.org/abs/2608.12821v1
• Date: Thu, 13 Aug 2026 04:49:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-14 18:29:38.399392
• Title: HiRoute: Hierarchical Routed Prompt Tuning for Safety Alignment of Large Language Models
• Title（参考訳）: HiRoute:大規模言語モデルの安全アライメントのための階層的ルーティングプロンプトチューニング
• Abstract要約: HiRouteは、大規模言語モデルのための入力適応型階層型プロンプトチューニングフレームワークである。 カテゴリー別安全制御とカテゴリー別応答誘導を分離する。 実験によると、HiRouteは複数の安全ベンチマークで高い安全性を達成する。
• 参考スコア（独自算出の注目度）: 28.315229912829253
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) remain vulnerable to harmful requests and jailbreak attacks. Parameter-efficient safety alignment methods based on prompt tuning typically rely on a single global prompt or externally selected prompt modules. Such static designs struggle to maintain a cross-category safety boundary while generating constructive responses tailored to specific risks and avoiding over-refusal of benign inputs. To address these limitations, we propose HiRoute, an input-adaptive hierarchical prompt-tuning framework that separates category-agnostic safety control from category-specific response guidance. HiRoute first trains a lightweight hierarchical router on representations extracted from a frozen LLM to jointly detect harmful intent and predict multi-label risk scores. It then freezes both the backbone model and the router and uses preference optimization with alternating gradient updates to learn a shared coarse-grained prompt and a set of fine-grained prompt experts as continuous embeddings. At inference time, benign inputs bypass the safety branch, whereas risky inputs are processed using the shared prompt together with a router-weighted mixture of risk-specific prompt experts. Experiments across three instruction-tuned models show that HiRoute achieves high safety rates across multiple safety benchmarks while preserving safe-response helpfulness, reducing over-refusal, and maintaining competitive performance on general-purpose tasks.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、有害な要求や脱獄攻撃に対して脆弱なままである。 プロンプトチューニングに基づくパラメータ効率の高い安全アライメント手法は、通常、単一のグローバルプロンプトまたは外部選択されたプロンプトモジュールに依存する。 このような静的な設計は、特定のリスクに合わせた建設的な応答を生成し、良心的な入力の過剰な拒絶を回避しながら、カテゴリ間の安全境界を維持するのに苦労する。 これらの制約に対処するために,カテゴリに依存しない安全制御とカテゴリ固有の応答ガイダンスを分離する,入力適応型階層型プロンプトチューニングフレームワークであるHiRouteを提案する。 HiRouteは、凍結したLCMから抽出した表現に軽量な階層型ルータをトレーニングし、有害な意図を共同検出し、複数ラベルのリスクスコアを予測する。 その後、バックボーンモデルとルータの両方を凍結し、漸次的な勾配更新による好みの最適化を使用して、共有された粗いプロンプトと、連続的な埋め込みとしてきめ細かいプロンプトのセットを学習する。 推論時に、良性入力は安全分岐をバイパスし、一方危険性の高い入力は、ルータ重み付けされた危険特異的なプロンプト専門家の混合と共に共有プロンプトを使用して処理される。 3つのインストラクションチューニングモデルによる実験により、HiRouteは安全応答性を維持し、過剰な拒絶を低減し、汎用タスクにおける競争性能を維持しながら、複数の安全ベンチマークで高い安全率を達成することが示された。

関連論文リスト

• SAFETY SENTRY: Context-Aware Human Intervention via EXECUTE-ASK-REFUSE Routing [21.334890816629237]
  LLMエージェントは、ツールコールを通じて現実世界の環境に作用する。 標準セーフガードは、提案された各アクションをセーフまたはアンセーフとラベル付けするガードモデルであるが、このバイナリビューは2つの異なる決定を混同している。 問題をEXECUTE, ASK, REFUSE に対してインスタンスごとの3方向ルーティング決定として再設定し,Safety Sentry でインスタンス化する。
  論文  参考訳（メタデータ） (2026-07-15T08:38:16Z)
• Understanding Safety-Sensitive Expert Behavior in Mixture-of-Experts LLMs [21.519746366998646]
  一般的な直観では、安全行動は、異なる拒絶指向の専門家に有害な要求をルーティングすることで制御される。 専門家の小さなサブセットにローカライズされた安全対策を調査するフレームワークである**RASET*を提示する。 結果は、専門家が認識するアライメントメカニズムの必要性を浮き彫りにした、明確なMoE安全性リスクを明らかにした。
  論文  参考訳（メタデータ） (2026-05-28T10:09:51Z)
• Misrouter: Exploiting Routing Mechanisms for Input-Only Attacks on Mixture-of-Experts LLMs [26.925535006021402]
  Mixture-of-Experts (MoE)アーキテクチャは、疎結合なルーティングベースの計算によって、大規模言語モデルをスケールするための主要なパラダイムとして登場した。 MoEルーティングは、入力のみの攻撃によって、現実世界のサービスにおいてより強力な安全でない振る舞いを引き起こすことができる。 そこで我々はMisrouterを提案する。Misrouterは入力のみの攻撃フレームワークで、ルーティング動作とエキスパート機能の共同ターゲットである。
  論文  参考訳（メタデータ） (2026-05-06T03:21:38Z)
• Robust Multimodal Safety via Conditional Decoding [52.92816441364308]
  マルチモーダル大規模言語モデル(MLLM)は、有害なクエリが相互モーダル相互作用を悪用した場合、しばしば安全性の低下を経験する。 本稿では,MLLMの内部表現を利用して応答生成前の二項安全トークンを予測する,シンプルな条件付きデコード戦略であるCASAを提案する。
  論文  参考訳（メタデータ） (2026-03-31T23:19:50Z)
• RASA: Routing-Aware Safety Alignment for Mixture-of-Experts Models [10.741523413040559]
  ルーティング対応の専門家レベルのアライメントフレームワークであるRASAを提案する。 RASAは、ジェイルブレイクの成功によって不当にアクティベートされた専門家を特定し、固定されたルーティングの下でこれらの専門家だけを選択的に微調整する。 この結果から,グローバルなパラメータ更新よりも,目標とする専門家の修復により,ロバストなMoEの安全性が向上することが示唆された。
  論文  参考訳（メタデータ） (2026-02-04T11:19:15Z)
• SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models [67.84174763413178]
  我々はSafeRedirを紹介した。SafeRedirは、迅速な埋め込みリダイレクトによる堅牢なアンラーニングのための軽量な推論時フレームワークである。 SafeRedirは,効果的な非学習能力,意味的・知覚的保存能力,堅牢な画像品質,対人攻撃に対する耐性の向上を実現している。
  論文  参考訳（メタデータ） (2026-01-13T15:01:38Z)
• RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
  視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。 しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。 提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
  論文  参考訳（メタデータ） (2025-12-24T15:01:26Z)
• Building a Foundational Guardrail for General Agentic Systems via Synthetic Data [76.18834864749606]
  LLMエージェントは、計画段階で介入するマルチステップタスクを計画できる。 既存のガードレールは主にポスト・エグゼクティブ(英語版)を運用しており、スケーリングが困難であり、計画レベルで制御可能な監督を行う余地がほとんどない。 我々は、良性軌道を合成し、カテゴリーラベル付きリスクを困難に注入し、自動報酬モデルを介して出力をフィルタリングする制御可能なエンジンであるAuraGenを紹介する。
  論文  参考訳（メタデータ） (2025-10-10T18:42:32Z)
• Shape it Up! Restoring LLM Safety during Finetuning [65.75757313781104]
  大型言語モデル(LLM)の微調整は、ユーザ固有のカスタマイズを可能にするが、重大な安全性リスクをもたらす。 動的安全整形(DSS)は,不安全コンテンツを抑えつつ,応答の安全な部分からの学習を強化するための,きめ細かい安全信号を用いたフレームワークである。 STARスコアによって導かれるSTAR-DSSは、微調整リスクを堅牢に軽減し、多様な脅威、データセット、モデルファミリーにまたがる大幅な安全性の向上を提供する。
  論文  参考訳（メタデータ） (2025-05-22T18:05:16Z)
• How Robust Are Router-LLMs? Analysis of the Fragility of LLM Routing Capabilities [62.474732677086855]
  大規模言語モデル(LLM)ルーティングは,計算コストと性能のバランスをとる上で重要な戦略である。 DSCベンチマークを提案する: Diverse, Simple, and Categorizedは、幅広いクエリタイプでルータのパフォーマンスを分類する評価フレームワークである。
  論文  参考訳（メタデータ） (2025-03-20T19:52:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。