論文の概要: Compress the Context, Keep the Commitments: A Formal Framework for Verifiable LLM Context Compression
- arxiv url: http://arxiv.org/abs/2605.17304v1
- Date: Sun, 17 May 2026 07:42:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-19 17:57:47.890607
- Title: Compress the Context, Keep the Commitments: A Formal Framework for Verifiable LLM Context Compression
- Title(参考訳): コンテクストを圧縮し, コミットを維持する: 検証可能なLLMコンテクスト圧縮のための形式的フレームワーク
- Authors: Natalia Trukhina, Vadim Vashkelis,
- Abstract要約: 本稿では,プロンプトやチャット履歴を圧縮するためのコミットメントレベルフレームワークであるContext Codecを提案する。
Context Codecは、対話状態を、標準的アイデンティティ、等価性、衝突、信頼、リスク、エビデンスを備えた、型付けされた、ソース基底のセマンティックな原子として表現する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLM context is not just tokens; it is a set of commitments. Long-running conversations accumulate goals, constraints, decisions, preferences, tool results, retrieved evidence, artifacts, and safety boundaries that future responses must preserve. Existing context-management methods reduce length through truncation, retrieval, summarization, memory systems, or token-level prompt compression, but they rarely specify which semantic commitments must survive compression or how their preservation should be measured. We propose Context Codec, a commitment-level framework for compressing prompts and chat histories. Context Codec represents dialogue state as typed, source-grounded semantic atoms with canonical identity, equivalence, conflict, confidence, risk, and evidence spans. It separates five concerns - extraction, normalization, representation, rendering, and verification - and introduces metrics for Critical Atom Recall, Weighted Atom Recall, Commitment Density, and round-trip recoverability. It also defines a taxonomy of semantic compression errors, a concrete normalization procedure, conservative fallback rules for low-confidence and safety-critical atoms, and Context Compression Language (CCL), an ASCII-first compact rendering of canonical JSON atoms. In a small diagnostic study, CCL-Core occupies a useful middle ground between structured prose and JSON: more explicit and auditable than prose, usually more compact than JSON, and less risky than heavily minified notation. The result is not a claim that shorthand solves compression, but a framework for making context compression verifiable: compress the conversation, keep the commitments.
- Abstract(参考訳): LLMコンテキストは単なるトークンではなく、コミットメントのセットです。
長期にわたる会話は、目標、制約、決定、優先事項、ツール結果、回収された証拠、アーティファクト、そして将来の応答が保持しなければならない安全境界を蓄積する。
既存のコンテキスト管理手法は、トランケーション、検索、要約、メモリシステム、トークンレベルのプロンプト圧縮を通じて長さを削減するが、どのセマンティックコミットメントが圧縮を生き残るか、どのように保存されるかは、ほとんど規定しない。
本稿では,プロンプトやチャット履歴を圧縮するためのコミットメントレベルフレームワークであるContext Codecを提案する。
Context Codecは、対話状態を、標準的アイデンティティ、等価性、衝突、信頼、リスク、エビデンスを備えた、型付けされた、ソース基底のセマンティックな原子として表現する。
抽出、正規化、表現、レンダリング、検証の5つの関心事項を分離し、Critical Atom Recall、Weighted Atom Recall、Commitment Density、ラウンドトリップリカバリのメトリクスを導入している。
また、セマンティック圧縮エラーの分類法、具体的な正規化手順、低信頼度および安全クリティカルな原子に対する保守的なフォールバックルール、およびASCII初の標準JSON原子のコンパクトレンダリングであるContext Compression Language (CCL)も定義している。
CCL-Coreは、小さな診断研究において、構造化された散文とJSONの間の有用な中核を占有している。
その結果は、簡潔に圧縮を解決するという主張ではなく、コンテキスト圧縮を検証可能にするためのフレームワークである: 会話を圧縮し、コミットメントを維持する。
関連論文リスト
- On the Effectiveness of Context Compression for Repository-Level Tasks: An Empirical Investigation [22.803236151303846]
リポジトリレベルのコードインテリジェンスタスクは、長い複数ファイルコンテキストを処理するために大きな言語モデルを必要とする。
コンテキスト圧縮は、入力を凝縮することでこれらのリスクを軽減する。
本稿では,リポジトリレベルのコードインテリジェンスのためのコンテキスト圧縮に関する最初の体系的実証的研究について述べる。
論文 参考訳(メタデータ) (2026-04-15T11:00:17Z) - Latent Context Compilation: Distilling Long Context into Compact Portable Memory [13.768393657432027]
本稿では,コンテキスト処理を適応からコンパイルへシフトするフレームワークであるLatent Context Compilationを提案する。
使い捨てのLoRAモジュールをコンパイラとして利用することにより、長いコンテキストをコンパクトなバッファトークンに抽出する。
Llama-3.1-8Bによる実験では、遅延コンテキストコンパイルは詳細な詳細と推論能力を保持する。
論文 参考訳(メタデータ) (2026-01-31T08:38:07Z) - Autoencoding-Free Context Compression for LLMs via Contextual Semantic Anchors [43.02557489472655]
現在の文脈圧縮法は、文脈に依存しない圧縮トークンを訓練し、文脈意味論を圧縮する自動符号化タスクに依存している。
本稿では,自動符号化タスクベース圧縮から,この圧縮機能を備えたアーキテクチャへ移行する新しい手法であるSemantic-Anchor Compression (SAC)を提案する。
SACは、様々な圧縮比で既存の文脈圧縮手法より一貫して優れている。
論文 参考訳(メタデータ) (2025-10-10T01:42:14Z) - CompLLM: Compression for Long Context Q&A [47.90063873976842]
そこで本研究では,実用的デプロイメント用に設計されたソフト圧縮技術であるCompLLMを紹介する。
CompLLMはコンテキストを水平に処理する代わりにセグメントに分割し、それぞれを独立して圧縮する。
実験の結果,2倍圧縮速度でコンテクスト長のCompLLMでは,TTFT(Time To First Token)を最大4倍高速化し,KVキャッシュサイズを50%削減できることがわかった。
論文 参考訳(メタデータ) (2025-09-23T16:49:43Z) - UniGist: Towards General and Hardware-aligned Sequence-level Long Context Compression [86.33995240043936]
UniGistは、大規模言語モデルのためのシーケンスレベルのロングコンテキスト圧縮フレームワークである。
生のトークンを特別な圧縮トークン(gist)に微粒な方法で置き換えることで、コンテキスト情報を効率的に保存する。
提案手法は,圧縮トークンの実際の除去を可能にすることで,フレキシブルな推論もサポートしている。
論文 参考訳(メタデータ) (2025-09-19T08:47:37Z) - SCOPE: A Generative Approach for LLM Prompt Compression [7.813705327778312]
本稿では,新しい生成的即時圧縮法を提案する。
既存のトークン除去方法とは異なり,本手法はチャンキング・アンド・サマー化機構に重点を置いている。
提案手法は, 圧縮品質が向上し, 最新技術よりも安定性が向上する。
論文 参考訳(メタデータ) (2025-08-16T01:41:53Z) - ChunkKV: Semantic-Preserving KV Cache Compression for Efficient Long-Context LLM Inference [61.412894960600205]
大きな言語モデル(LLM)は、長いテキストを処理する際に大きなGPUメモリを必要とする。
ChunkKVは、セマンティックチャンクを基本的な圧縮単位として扱うことで、KVキャッシュ圧縮を再定義する。
結果: ChunkKVは最先端の手法を最大8.7%精度で上回る。
論文 参考訳(メタデータ) (2025-02-01T03:49:47Z) - UNComp: Can Matrix Entropy Uncover Sparsity? -- A Compressor Design from an Uncertainty-Aware Perspective [85.08718140718707]
UNCompは不確実性を認識したフレームワークで、適応圧縮に使用できる空間パターンを明らかにする。
スパーシティパターンを詳細に分析する不確実性に注目して、UNCompはKVキャッシュサイズを4.74%に削減し、6%のプリフィルスピードアップを実現し、スループットを6.4倍改善した。
論文 参考訳(メタデータ) (2024-10-04T02:32:36Z) - Concise and Precise Context Compression for Tool-Using Language Models [60.606281074373136]
ツールを用いた言語モデルにおいて,ツール文書を簡潔かつ高精度な要約シーケンスに圧縮する2つの手法を提案する。
API-BankとAPIBenchの結果,最大16倍の圧縮率で上行ベースラインに匹敵する性能を示した。
論文 参考訳(メタデータ) (2024-07-02T08:17:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。