論文の概要: Does Accuracy Equal Evidence? Reasoning Faithfulness under KV Cache Compression

• arxiv url: http://arxiv.org/abs/2608.01631v1
• Date: Mon, 03 Aug 2026 03:03:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-04 15:07:25.308253
• Title: Does Accuracy Equal Evidence? Reasoning Faithfulness under KV Cache Compression
• Title（参考訳）: 正確さは証拠に等しいか?-KVキャッシュ圧縮下での誠実さの推論
• Abstract要約: KVキャッシュ圧縮は、一般に最終回答精度によって評価され、答えを保存することもそれをサポートする推論を保存することを暗黙的に仮定する。 我々は、この仮定を大きな推論モデルで検証し、失敗する可能性があることを示す。 数理的推論,科学的QA,臨床計算,長文検索の3つのモデルに対して,10個のトークン消去KV圧縮法と1つの量子化法を評価した。
• 参考スコア（独自算出の注目度）: 42.94199567901975
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: KV cache compression is commonly evaluated by final-answer accuracy, implicitly assuming that preserving the answer also preserves the reasoning that supports it. We test this assumption for large reasoning models and show that it can fail: under compression, correct answers and the validity of their visible supporting rationales can be preserved at different rates. We study this failure with a controlled fixed-trace replay protocol, which holds reasoning content fixed and isolates whether compression preserves usable information from an already available trace. We evaluate ten token-eviction KV compression methods and one quantization method on three models across mathematical reasoning, scientific QA, clinical calculation, and long-context retrieval. We measure final accuracy, answer-chain consistency, and perturbation faithfulness. Across tasks, token-eviction methods can preserve competitive final-answer accuracy while substantially degrading chain support or perturbation faithfulness. We call this the answer-evidence gap. A coverage-preserving quantization control is substantially less affected, suggesting that the failure is tied less to KV memory reduction itself than to losing access to parts of the reasoning trace. Code is available at https://github.com/famous-blue-raincoat/Safe_KV_Compress.
• Abstract（参考訳）: KVキャッシュ圧縮は、一般に最終回答精度によって評価され、答えを保存することもそれをサポートする推論を保存することを暗黙的に仮定する。 我々は、この仮定を大きな推論モデルで検証し、その仮定が失敗する可能性があることを示す: 圧縮、正解、そしてそれらの可視的支持論理の妥当性は、異なる速度で保存できる。 我々は、この障害を制御された固定トレースリプレイプロトコルを用いて研究し、このプロトコルは、コンテンツが固定され、圧縮が既に利用可能なトレースから利用可能な情報を保存しているかどうかを判断する。 数理的推論,科学的QA,臨床計算,長文検索の3つのモデルに対して,10個のトークン消去KV圧縮法と1つの量子化法を評価した。 最終精度、応答チェーンの整合性、摂動忠実度を測定します。 タスク全体にわたって、トークン消去法は、チェーンサポートや摂動忠実性を著しく低下させながら、競合する最終回答精度を維持することができる。 これを回答と証拠のギャップと呼んでいます。 カバレッジ保存量子化制御は、その障害が推論トレースの一部へのアクセスを失うことよりも、KVメモリの削減そのものに結びついていることが示唆される。 コードはhttps://github.com/famous-blue-raincoat/Safe_KV_Compressで公開されている。

関連論文リスト

• A Probabilistic Interpretation of KV Cache Eviction [52.196873305708955]
  キャッシュ消去は、KVキャッシュからいくつかのエントリを削除することで、より高いスループットを達成することができる。 本稿では,確率論的推論のレンズによるKV放出問題の定式化を行う。 この確率的バージョンのKV消去と復号時間補正は、異なるタスクに対してより堅牢であることを示す。
  論文  参考訳（メタデータ） (2026-08-28T12:57:07Z)
• Valid $\ne$ Necessary: Diagnosing Latent Inefficiency in Chain-of-Thought [13.898770874357446]
  チェーン・オブ・ソート(Chain-of-Thought)は、過剰な推論によってかなりの計算コストを発生させる。 情報理論に基づく学習自由度尺度であるCAIDを提案する。
  論文  参考訳（メタデータ） (2026-07-13T08:50:26Z)
• CopT: Contrastive On-Policy Thinking with Continuous Spaces for General and Agentic Reasoning [22.944748148277146]
  CopTは、通常の思考と回答の順序を逆転する、改訂された推論パイプラインである。 CopTは、ドラフト回答を付与し、その後、独自のドラフト回答で条件付きで、後続のオンライン思考を起動する。 CopTはピーク精度を最大23%改善し、トークン使用量を最大57%削減する。
  論文  参考訳（メタデータ） (2026-05-19T16:28:53Z)
• Make Each Token Count: Towards Improving Long-Context Performance with KV Cache Eviction [65.710271475739]
  我々は,各トークンの将来のユーティリティを統一メモリ予算の下で学習する,グローバルな保持に基づくKV消去手法を提案する。 提案手法は,フルキャッシュ推論に適合したり,超えたりしながら,KVメモリを大幅に削減することを示す。 これらの結果から,世界規模で校正されたKV消去は圧縮技術であるだけでなく,長文推論を改善するメカニズムでもあることが示唆された。
  論文  参考訳（メタデータ） (2026-05-10T16:47:50Z)
• When Hidden States Drift: Can KV Caches Rescue Long-Range Speculative Decoding? [19.77569541429818]
  投機的復号化はLLM推論を加速させるが、SOTAの隠れ状態に基づく起草者は長距離減衰に悩まされる。 我々はコンテキスト情報保存の観点から長距離減衰を再考する。 KVShotは3つの再利用パラダイムを比較する診断フレームワークである。
  論文  参考訳（メタデータ） (2026-04-29T08:25:01Z)
• Shorter, but Still Trustworthy? An Empirical Study of Chain-of-Thought Compression [19.669117846064562]
  ロングチェーン・オブ・ソート推論モデル(Long-CoT)は、推論コストを減らすために推論トレースを圧縮する取り組みの活発化を動機付けている。 我々は,CoT圧縮がモデル信頼性に与える影響について,最初の系統的研究を行った。 CoT圧縮は信頼度レグレッションを頻繁に導入し、異なる手法が寸法によって著しく異なる劣化プロファイルを示すことがわかった。
  論文  参考訳（メタデータ） (2026-04-05T13:43:12Z)
• Reasoning as Compression: Unifying Budget Forcing via the Conditional Information Bottleneck [12.360124156284305]
  既存の「予算強制」手法は、本質的な推論と冗長なフィラーの両方を抑える。 Information Bottleneck (IB) の原理により, 効率的な推論を損失のある圧縮問題として再放送する。 単純トークンカウントに基づくアプローチとは対照的に,先行する言語モデルの下でトークンコストを代入的に測定するセマンティック・プリミティブを導入する。
  論文  参考訳（メタデータ） (2026-03-09T14:56:57Z)
• ReCalKV: Low-Rank KV Cache Compression via Head Reordering and Offline Calibration [69.57122277845293]
  ReCalKVは,キーと値の調整を施した低ランクKVキャッシュ圧縮手法である。 キーズでは、構造的に類似した頭部をグループにクラスタリングし、より正確な低ランク近似を可能にするSimisity aware Recontext (HSR)を提案する。 本稿では,オフラインヘッドワイド値(OVC)を提案する。これはトレーニングなしでキャリブレーションデータを用いて,効率的に値予測行列を校正する。
  論文  参考訳（メタデータ） (2025-05-30T08:49:27Z)
• ChunkKV: Semantic-Preserving KV Cache Compression for Efficient Long-Context LLM Inference [61.412894960600205]
  大きな言語モデル(LLM)は、長いテキストを処理する際に大きなGPUメモリを必要とする。 ChunkKVは、セマンティックチャンクを基本的な圧縮単位として扱うことで、KVキャッシュ圧縮を再定義する。 結果: ChunkKVは最先端の手法を最大8.7%精度で上回る。
  論文  参考訳（メタデータ） (2025-02-01T03:49:47Z)
• UNComp: Can Matrix Entropy Uncover Sparsity? -- A Compressor Design from an Uncertainty-Aware Perspective [85.08718140718707]
  UNCompは不確実性を認識したフレームワークで、適応圧縮に使用できる空間パターンを明らかにする。 スパーシティパターンを詳細に分析する不確実性に注目して、UNCompはKVキャッシュサイズを4.74%に削減し、6%のプリフィルスピードアップを実現し、スループットを6.4倍改善した。
  論文  参考訳（メタデータ） (2024-10-04T02:32:36Z)
• Towards Evading the Limits of Randomized Smoothing: A Theoretical Analysis [74.85187027051879]
  決定境界を複数の雑音分布で探索することにより,任意の精度で最適な証明を近似できることを示す。 この結果は、分類器固有の認証に関するさらなる研究を後押しし、ランダム化された平滑化が依然として調査に値することを示す。
  論文  参考訳（メタデータ） (2022-06-03T17:48:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。