論文の概要: HE-Guardrail: A Homomorphic Guardrail Against Jailbreak Attacks for Encrypted Large Language Model Inference

• arxiv url: http://arxiv.org/abs/2609.21484v1
• Date: Fri, 18 Sep 2026 08:36:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 18:40:16.934035
• Title: HE-Guardrail: A Homomorphic Guardrail Against Jailbreak Attacks for Encrypted Large Language Model Inference
• Title（参考訳）: HE-Guardrail: 暗号化された大規模言語モデル推論のための脱獄攻撃に対する同型ガードレール
• Abstract要約: プライバシー保護機械学習(PPML)への有望なアプローチとして、同型暗号化(HE)が登場した。 我々は、完全に暗号化されたデータ上でガードレール機構を評価するフレームワークであるHE-Guardrailを提案する。 この結果から,HE-Guardrailは暗号化ドメイン内の対応するガードレールの決定を密接に再現することがわかった。
• 参考スコア（独自算出の注目度）: 7.100558481995621
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Homomorphic encryption (HE) has emerged as a promising approach to privacy-preserving machine learning (PPML), enabling computation directly over encrypted data. In HE-based PPML, a client submits an encrypted input to the server, which evaluates models such as large language models (LLMs) without access to the underlying plaintext. However, we identify a critical security vulnerability in this setting: HE-LLM inference is vulnerable to malicious clients that submit adversarial prompts, such as jailbreak attacks. The same confidentiality that protects benign clients also prevents the server from inspecting incoming prompts or generated responses, making adversarial attempts difficult to detect or block and potentially allowing successful attacks to remain entirely invisible to the server. To address this vulnerability, we propose HE-Guardrail, a framework that evaluates guardrail mechanisms entirely over encrypted data and homomorphically controls whether the target-model response is returned to the client. We instantiate HE-Guardrail with three representative guardrails - Llama Guard, JBShield, and GradSafe. Our results show that HE-Guardrail closely reproduces the decisions of the corresponding plaintext guardrails in the encrypted domain, with distinct security-efficiency-utility trade-offs.
• Abstract（参考訳）: ホモモルフィック暗号化(HE)は、プライバシー保護機械学習(PPML)に対する有望なアプローチとして登場し、暗号化データを直接計算することができる。 HEベースのPPMLでは、クライアントが暗号化された入力をサーバに送信し、基盤となる平文にアクセスすることなく、大きな言語モデル(LLM)のようなモデルを評価する。 HE-LLM推論は、ジェイルブレイク攻撃のような敵のプロンプトを送信する悪意のあるクライアントに対して脆弱である。 良質なクライアントを保護するのと同じ機密性は、サーバが受信したプロンプトや生成されたレスポンスを検査することを防ぐ。 この脆弱性に対処するために, HE-Guardrailを提案する。これは, 完全に暗号化されたデータ上でガードレール機構を評価し, ターゲットモデル応答がクライアントに返されるかどうかを同型に制御するフレームワークである。 Llama Guard、JBShield、GradSafeの3つの代表的なガードレールでHE-Guardrailをインスタンス化する。 以上の結果から,HE-Guardrailは,暗号化されたドメイン内のプレーンテキストガードレールの決定を,異なるセキュリティ効率・ユーティリティトレードオフで密接に再現することを示す。

関連論文リスト

• Stealing Reasoning Traces from Proprietary LLM APIs [84.58379404903394]
  我々は、暗号化された推論トレースのためのスケーラブルな復号化ジェイルブレイクを開発する。 抗蒸留機構を回避し、敵がプロプライエタリなモデルの推論を抽出できるようにする。 それは必然的に、推論プロセス内に隠された有害な情報を明らかにします。
  論文  参考訳（メタデータ） (2026-08-10T17:24:50Z)
• Bag of Tricks for Subverting Reasoning-based Safety Guardrails [62.139297207938036]
  推論に基づくガードレールを覆い隠すジェイルブレイク手法の袋を提示する。 攻撃対象は白、グレー、ブラックボックスの設定で、無駄なテンプレート操作から完全に自動化された最適化までさまざまです。
  論文  参考訳（メタデータ） (2025-10-13T16:16:44Z)
• BlindGuard: Safeguarding LLM-based Multi-Agent Systems under Unknown Attacks [58.959622170433725]
  BlindGuardは、攻撃固有のラベルや悪意のある振る舞いに関する事前の知識を必要とせずに学習する、教師なしの防御方法である。 BlindGuardはマルチエージェントシステムにまたがる多様な攻撃タイプ(即時注入、メモリ中毒、ツール攻撃)を効果的に検出する。
  論文  参考訳（メタデータ） (2025-08-11T16:04:47Z)
• VFEFL: Privacy-Preserving Federated Learning against Malicious Clients via Verifiable Functional Encryption [3.329039715890632]
  フェデレートラーニング(Federated Learning)は、ローカルクライアントデータを公開せずに協調的なモデルトレーニングを可能にする、有望な分散学習パラダイムである。 フェデレーション学習の分散した性質は、悪意のあるクライアントによる攻撃に対して特に脆弱である。 本稿では,検証可能な機能暗号化に基づくプライバシ保護型フェデレーション学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-15T13:38:40Z)
• LLM Safeguard is a Double-Edged Sword: Exploiting False Positives for Denial-of-Service Attacks [7.013820690538764]
  本研究は,セーフガード手法のエンファルス陰性を利用した攻撃について検討する。 悪意のある攻撃者は、セキュリティ保護の偽陽性を悪用する可能性もあり、ユーザーに影響を与えるDoS(DoS)が否定された。
  論文  参考訳（メタデータ） (2024-10-03T19:07:53Z)
• EmInspector: Combating Backdoor Attacks in Federated Self-Supervised Learning Through Embedding Inspection [53.25863925815954]
  フェデレートされた自己教師付き学習(FSSL)は、クライアントの膨大な量の未ラベルデータの利用を可能にする、有望なパラダイムとして登場した。 FSSLはアドバンテージを提供するが、バックドア攻撃に対する感受性は調査されていない。 ローカルモデルの埋め込み空間を検査し,悪意のあるクライアントを検知する埋め込み検査器(EmInspector)を提案する。
  論文  参考訳（メタデータ） (2024-05-21T06:14:49Z)
• CodeChameleon: Personalized Encryption Framework for Jailbreaking Large Language Models [49.60006012946767]
  パーソナライズされた暗号化手法に基づく新しいジェイルブレイクフレームワークであるCodeChameleonを提案する。 我々は、7つの大規模言語モデルに関する広範な実験を行い、最先端の平均アタック成功率(ASR)を達成する。 GPT-4-1106上で86.6%のASRを実現する。
  論文  参考訳（メタデータ） (2024-02-26T16:35:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。