論文の概要: Similarity Is Not Validity: Defending LLM Semantic Caches Against Poisoning

• arxiv url: http://arxiv.org/abs/2609.35908v1
• Date: Mon, 28 Sep 2026 06:52:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:46.885858
• Title: Similarity Is Not Validity: Defending LLM Semantic Caches Against Poisoning
• Title（参考訳）: 類似性は有効ではない: LLMセマンティックキャッシュを毒殺から守る
• Abstract要約: キャッシュ中毒攻撃は、検索の類似性と回答の妥当性のギャップを悪用する。 本稿では,キャッシュキーの原文から必要な情報を復元する新しいディフェンスを提案する。 3つの攻撃クラスにまたがって、当社の防衛ブロックは82.0%から98.2%の毒物が5%の偽陽性率で供給され、オーバーヘッドは無視できる。
• 参考スコア（独自算出の注目度）: 29.92486382456497
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Semantic caches reduce LLM serving costs by reusing previously generated answers for semantically similar queries. However, retrieval is based solely on embedding similarity between the incoming query and cached queries. This design enables cache poisoning: an attacker can cache a malicious response under a query with high cosine similarity to benign requests. The vulnerability stems from a gap between retrieval similarity and answer validity. From an information-bottleneck perspective, query embeddings can lose information needed to distinguish valid from invalid cache hits, which limits any matching algorithm that uses only these embeddings. We propose a novel defense that recovers this necessary information from the raw text of the cache key. Across poisoning attacks, adversarial queries share a rewrite-residual structure: they pair a rewrite of the target query with residual content. The rewrite maintains high similarity, while the residual elicits the malicious response. Deleting the residual makes the remaining rewrite more similar to the incoming query. We exploit this structure using Deletion Gain to search shortened variants of the cached query for similarity gains, and an Answer Check to test whether the removed text contributes to the stored answer. We prove that Deletion Gain stays positive when a deletion leaves text close enough to the rewrite, and we search for such deletions with a sliding window. Across three poisoning attack classes, our defense blocks 82.0% to 98.2% of poisoned entries at a 5% false-positive rate, with negligible serving overhead.
• Abstract（参考訳）: セマンティックキャッシュは、セマンティックに類似したクエリに対して以前に生成された回答を再利用することで、LCMのサービスコストを低減する。 しかし、検索は、入ってくるクエリとキャッシュされたクエリの埋め込み類似性のみに基づいている。 攻撃者は、良質な要求とコサインの類似度が高いクエリの下で悪意のあるレスポンスをキャッシュすることができる。 この脆弱性は、検索の類似性と回答の妥当性のギャップに起因している。 インフォメーション・ブートネックの観点からは、クエリの埋め込みは、無効なキャッシュヒットとを区別するために必要な情報を失う可能性がある。 本稿では,キャッシュキーの原文から必要な情報を復元する新しい防衛手法を提案する。 毒殺攻撃全体にわたって、敵クエリはリライト-残留構造を共有し、ターゲットクエリのリライトと残量とのペアリングを行う。 書き直しは高い類似性を維持し、残余は悪意のある応答を誘発する。 残余を削除することで、残りの書き直しは、より入ってくるクエリに似ています。 Deletion Gain を用いてキャッシュされたクエリの短縮変種を類似性ゲインとして検索し、Answer Check を用いて削除したテキストが格納された回答に寄与するかどうかを検証する。 削除が書き直しに十分近いテキストを残した場合、削除ゲインが肯定的であることを証明し、スライドウィンドウでそのような削除を検索する。 3つの攻撃クラスにまたがって、当社の防衛ブロックは82.0%から98.2%の毒物が5%の偽陽性率で供給され、オーバーヘッドは無視できる。

関連論文リスト

• LaCache: Robust Semantic Caching for LLM Serving [10.741523413040559]
  キャッシュ・コリジョン・アタックに対処する新しいセマンティック・キャッシュ・スキームであるLaCacheを紹介する。 LaCacheはクエリのキャッシュヒットのみをチェックするのではなく、最初のkデコードされたトークンのキャッシュヒットをチェックする。 悪質な応答を同時に引き起こし、良質なクエリと衝突する敵クエリを作成できないことを実証する。
  論文  参考訳（メタデータ） (2026-08-03T05:31:24Z)
• Clarify-Then-Search: A Clarification Benchmark for Deep Search with End-to-End Nugget Restoration [66.89521868638815]
  我々は,LLM生成の解明質問が下流の深層探索ユーティリティを改善するかどうかを評価するベンチマークであるClarify-Then-Searchを紹介する。 Baidu検索エンジンの実際のクエリデータに基づいて構築されたこのベンチマークには、518のキュレートされたインスタンスが含まれている。 静的な金に対して部分的にクレジットされた重み付きナゲット・リコールスコアであるrepure_score_100を用いて、エンドツーエンドのユーティリティをスコアする。
  論文  参考訳（メタデータ） (2026-06-17T13:16:31Z)
• Semantic Caching for Low-Cost LLM Serving: From Offline Learning to Online Adaptation [54.61034867177997]
  キャッシング推論応答は、大きな言語モデルに他の前方を通さずに、それらを検索することができる。 従来の正確なキャッシュは、クエリ間のセマンティックな類似性を見落とし、不要な再計算をもたらす。 本稿では,未知のクエリおよびコスト分布下でのセマンティックキャッシュ消去のための,原則的,学習ベースのフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-08-11T06:53:27Z)
• vCache: Verified Semantic Prompt Caching [95.16654660556975]
  本稿では,ユーザ定義エラー率保証を備えた最初の検証済みセマンティックキャッシュであるvCacheを提案する。 オンライン学習アルゴリズムを使用して、キャッシュされたプロンプト毎に最適な閾値を推定し、追加のトレーニングなしで信頼性の高いキャッシュ応答を可能にする。 我々の実験によると、vCacheは特定のエラー境界を一貫して満たし、最先端の静的な閾値と微調整された埋め込みベースラインより優れています。
  論文  参考訳（メタデータ） (2025-02-06T04:16:20Z)
• MeanCache: User-Centric Semantic Caching for LLM Web Services [8.350378532274405]
  キャッシングは、繰り返しクエリの推論コストを削減するための自然なソリューションである。 本稿では,LLMベースのサービスのためのユーザ中心セマンティックキャッシュであるMeanCacheを紹介する。 MeanCacheは、セマンティックに類似したクエリを特定して、キャッシュヒットやミスを判定する。
  論文  参考訳（メタデータ） (2024-03-05T06:23:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。