論文の概要: When Keywords Drop but Classifiers Hold: Soft Refusals under KV Cache Compression

• arxiv url: http://arxiv.org/abs/2609.31678v1
• Date: Wed, 16 Sep 2026 08:51:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 13:55:20.278503
• Title: When Keywords Drop but Classifiers Hold: Soft Refusals under KV Cache Compression
• Title（参考訳）: KVキャッシュ圧縮によるソフトな拒絶
• Abstract要約: タスク精度を保った圧縮が、軽量な語彙モニタとより強力な拒絶分類器との一致を保っているかどうかは不明だ。 我々は,n=200の有害なプロンプトに対して,長いフィラーコンテキストを持つペアプロトコルを用いてこれを研究する。 Q2.5-3Bでは、キーワードの拒絶は98.0%から80.5%(McNemar p1e-8)に減少し、分類器の拒絶は天井付近(99.0%-99.5%)に留まり、MMLUの精度は変化しない(50.0%)。
• 参考スコア（独自算出の注目度）: 29.50645557182689
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: KV cache compression is widely used for long context LLM inference under memory constraints, while deployed systems typically score refusals after generation with keyword filters or learned classifiers. Such monitors are intended to indicate whether a model declined a harmful request under the serving regime actually used. However, it remains unclear whether matched compression that preserves task accuracy also preserves agreement between lightweight lexical monitors and stronger refusal classifiers. We study this with a paired protocol on n=200 harmful prompts with a long filler context: each prompt is answered once under full retention and once under matched eviction after a shared prefill, and the same replies are scored by keyword heuristics, the HarmBench Llama-2-13B classifier, an auxiliary LLM judge, and humans on disagreements. On Qwen2.5-3B, keyword refusal falls from 98.0% to 80.5% (McNemar p~1e-8) while classifier refusal stays near ceiling (99.0%-99.5%) and MMLU accuracy is unchanged (50.0%); human labels predominantly follow the classifier, consistent with soft refusals. The gap is not universal and weakens under short fillers and paired SnapKV, so safety auditing under compression should rely on several judges matched to the serving context rather than on keyword rates alone.
• Abstract（参考訳）: KVキャッシュ圧縮は、メモリ制約下でのLLM推論に広く使われているが、デプロイされたシステムは通常、キーワードフィルタや学習した分類器で生成後の拒絶をスコアする。 このようなモニターは、実際に使用されているサービス体制の下で、モデルが有害な要求を辞退したかどうかを示すものである。 しかし,タスク精度を保った圧縮が,軽量な語彙モニタと強い拒否分類器との一致を保っているかどうかは不明だ。 我々は,n=200の有害なプロンプトのペアプロトコルを用いてこれを研究し,各プロンプトは完全保持下で1回,共有事前充填後に1回,一致した終了時に1回,同じ応答はキーワードヒューリスティックス,HarmBench Llama-2-13B分類器,補助LCM判定器,および人間による不一致によって得られた。 Qwen2.5-3Bでは、キーワードの拒絶は98.0%から80.5%(McNemar p~1e-8)に減少し、分類器の拒絶は天井付近(99.0%-99.5%)に留まり、MMLUの精度は変化しない(50.0%)。 このギャップは、短いフィラーとペアのSnapKVの下では普遍的ではなく弱まり、圧縮下での安全監査は、キーワードレートのみではなく、サーブコンテキストにマッチする複数の裁判官に依存するべきである。

関連論文リスト

• Measuring Collapse and Correction in Homogeneous-Panel LLM Debate [51.03982042769297]
  マルチエージェント大言語モデル(LLM)の議論は、最終回答が改善するかどうかによってしばしば評価されるが、運動は必ずしも改善されない。 標準的な最終精度評価は、これらの反対のメカニズムを詳述する。 複数選択質問(MCQ)に関する同質な議論のための監査可能なプロトコルを導入し、各実行を、崩壊、修正、オンセット、署名された介入ユーティリティよりも、遷移台帳として記録する。
  論文  参考訳（メタデータ） (2026-09-28T14:31:19Z)
• MWE-ECL: Recoverable Long-Range Context Does Not Always Override Local Lexical Priors [10.145570155173756]
  長期コンテキスト評価は、モデルが遠い証拠を回収できるかどうかをしばしば検証するが、回復性は行動の影響を保証しない。 遠方ディコースアンカーが明示的に回復可能でありながら、慣れ親しんだマルチワード表現の読み方を変えることができないという予測を検証した。 両言語診断法であるMWE-ECL(Multiword Expression Effective Context Length)を導入する。
  論文  参考訳（メタデータ） (2026-09-23T09:09:04Z)
• Reversibility-Verified De-identification for Cloud-Local LLM Inference: A Locally Certified Dehydrate-Rehydrate Loop with Layered Assurance (DR-SL) [1.802678437602184]
  DR-SL (Dehydrate-Rehydrate with Self-Learning loop) は、脱同定完全性を2つの測定可能な条件として定式化する。 完全局所二分岐検証器は、終了が保証されたレキソグラフィゲートの下で脱水を繰り返す。 ファノ型の低い境界、フグの目撃者、そしてレート・プライバシ・フィージビリティの基準を証明し、その範囲を明確化します。
  論文  参考訳（メタデータ） (2026-09-14T01:04:58Z)
• Sparse Attention for Dense Open-Vocabulary Prediction in CLIP [54.45759517856271]
  最終視覚的自己注意層における行方向のソフトマックスの推測時間置換について検討した。 entmaxは低得点を正確に0にマッピングするデータ依存しきい値を適用するため、暗黙のデノイザとして機能する。 オープン語彙タスクセンスセマンティックセマンティックセグメンテーション (Pascal VOC, Pascal Context, ADE20K) ときめ細かい検索 (FG-OVD) について検討する。
  論文  参考訳（メタデータ） (2026-07-08T08:30:48Z)
• AGORA: Adapter-Grounded Observation-Action Retention for Inference-Free Prompt Compression in LLM Agents [3.9004035576487817]
  トークンレベルの抽出圧縮機はLLM剤には構造的に不適切であることを示す。 本稿では,構造的プロンプトを組み込んだ推論不要なステップレベル圧縮機であるAGORAについて紹介する。
  論文  参考訳（メタデータ） (2026-05-26T06:29:44Z)
• Make Each Token Count: Towards Improving Long-Context Performance with KV Cache Eviction [65.710271475739]
  我々は,各トークンの将来のユーティリティを統一メモリ予算の下で学習する,グローバルな保持に基づくKV消去手法を提案する。 提案手法は,フルキャッシュ推論に適合したり,超えたりしながら,KVメモリを大幅に削減することを示す。 これらの結果から,世界規模で校正されたKV消去は圧縮技術であるだけでなく,長文推論を改善するメカニズムでもあることが示唆された。
  論文  参考訳（メタデータ） (2026-05-10T16:47:50Z)
• Verifier-Bound Communication for LLM Agents: Certified Bounds on Covert Signaling [0.0]
  言語モデルエージェントを結合することで、ポリシーに準拠したメッセージの調整を表面レベルで隠蔽することができる。 生成と受け入れを分離するプロトコルであるCLBCを提案する。 このプロトコルは、遅延リークと明示的な残留チャネルの観点から、転写リークの上限をいかに高めるかを示す。
  論文  参考訳（メタデータ） (2026-02-27T23:42:37Z)
• Separating Constraint Compliance from Semantic Accuracy: A Novel Benchmark for Evaluating Instruction-Following Under Compression [0.0]
  大規模言語モデル(LLM)は、即時圧縮の下で劣化した性能を示す。 制約コンプライアンス(CC)と意味精度(SA)を測定するベンチマークであるCompressionDecay Test(CDCT)を導入する。 制約コンプライアンス(97.2%の有病率)における普遍的なU曲線パターンを観察する。
  論文  参考訳（メタデータ） (2025-12-02T13:25:48Z)
• vCache: Verified Semantic Prompt Caching [95.16654660556975]
  本稿では,ユーザ定義エラー率保証を備えた最初の検証済みセマンティックキャッシュであるvCacheを提案する。 オンライン学習アルゴリズムを使用して、キャッシュされたプロンプト毎に最適な閾値を推定し、追加のトレーニングなしで信頼性の高いキャッシュ応答を可能にする。 我々の実験によると、vCacheは特定のエラー境界を一貫して満たし、最先端の静的な閾値と微調整された埋め込みベースラインより優れています。
  論文  参考訳（メタデータ） (2025-02-06T04:16:20Z)
• Mitigating Word Bias in Zero-shot Prompt-based Classifiers [55.60306377044225]
  一致したクラス先行は、オラクルの上界性能と強く相関していることを示す。 また,NLPタスクに対するプロンプト設定において,一貫したパフォーマンス向上を示す。
  論文  参考訳（メタデータ） (2023-09-10T10:57:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。