論文の概要: Compile the Table: Query-Calibrated Operator Compression for Tabular In-Context Learning

• arxiv url: http://arxiv.org/abs/2610.11784v1
• Date: Thu, 08 Oct 2026 12:00:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.998539
• Title: Compile the Table: Query-Calibrated Operator Compression for Tabular In-Context Learning
• Title（参考訳）: テーブルをコンパイルする: タブラルインコンテキスト学習のためのクエリキャリブレーション演算子圧縮
• Abstract要約: タブラル・イン・コンテクスト・ラーニング(ICL)は、予測のためのトレーニングフリーで正確なパラダイムとして登場した。 本稿では,QCOC(Query-Calibrated Operator Compression)を提案する。 我々は,QCOCが完全コンテキストに近い精度を維持しつつ,クエリ間のコンパクトメモリ再利用推論と効率的な推論を可能にすることを示す。
• 参考スコア（独自算出の注目度）: 22.62308707138756
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Tabular in-context learning (ICL) has emerged as a training-free and accurate paradigm for tabular prediction, but current approaches to compressing its in-context examples face an accuracy-throughput tradeoff: fixed subsets can sacrifice accuracy, while query-specific retrieval limits cache reuse and batching across queries, reducing throughput. We propose QCOC (Query-Calibrated Operator Compression), which exploits the exchangeability and repeated use of in-context examples by compiling their full KV cache once into compact memory shared across subsequent queries. Instead of retaining raw examples, QCOC clusters their states into joint-KV prototypes, preserves per-cluster multiplicities and the original example count, and calibrates prototype values against attention query vectors produced by the in-context examples through an anchored closed-form solution. Prototype compression drives the speedup, while value fitting helps preserve accuracy. On 64 held-out OpenML-CC18 datasets, QCOC achieves the highest mean accuracy among the compared compression and retrieval methods at both retained counts. Across 12 configurations on seven long tables, it ranks first among compressed methods in ten and averages 0.23 percentage points below full context. Compressing 8,192 in-context examples to 512 memory slots yields a 10.5x cache compression ratio; excluding one-time compilation, in a single-core CPU online-serving comparison over 1,000 queries, QCOC is up to 508x faster than dynamic retrieval baselines and 1.98x faster than full-context inference. These results show that QCOC enables compact-memory reuse and efficient inference across queries while retaining accuracy close to full context.
• Abstract（参考訳）: タブラル・イン・コンテキスト・ラーニング(ICL)は、表形式の予測のためのトレーニングフリーで正確なパラダイムとして登場したが、そのイン・コンテキストの例を圧縮するための現在のアプローチは、精度とスループットのトレードオフに直面している: 固定サブセットは、正確性を犠牲にし、クエリ固有の検索は、キャッシュの再利用とクエリ間のバッチ化を制限し、スループットを削減している。 そこで我々は,QCOC(Query-Calibrated Operator Compression)を提案する。これは,完全なKVキャッシュを後続クエリ間で共有されるコンパクトメモリにコンパイルすることで,コンテキスト内サンプルの交換可能性と繰り返し使用性を利用する。 生のサンプルを保持する代わりに、QCOCは、状態を共同KVプロトタイプにクラスタリングし、クラスタごとの多重度と元のサンプル数を保持し、アンカードクローズドフォームソリューションを通じてコンテキスト内サンプルによって生成される注目クエリベクトルに対してプロトタイプ値を校正する。 プロトタイプ圧縮はスピードアップを駆動し、バリューフィッティングは精度を維持するのに役立つ。 保持された64のOpenML-CC18データセット上で、QCOCは、比較された圧縮および検索方法の中で、保持された2つのカウントで最も高い平均精度を達成する。 7つの長いテーブル上の12の構成で、圧縮されたメソッドのうち10で1位、フルコンテキストより平均0.23ポイント低い。 8,192個のインコンテキストの例を512個のメモリスロットに圧縮すると、10.5倍のキャッシュ圧縮比が得られるが、1回のコンパイルを除くと、1000以上のクエリに対してシングルコアのCPUをオンラインに保存する比較では、QCOCは動的検索ベースラインより最大508倍、フルコンテキスト推論より1.98倍高速である。 これらの結果から,QCOCは完全コンテキストに近い精度を維持しつつ,クエリ間でのコンパクトメモリ再利用と効率的な推論を可能にした。

関連論文リスト

• MetaKV: Adaptive KV Cache Compression for Constrained LLM Inference [0.868052960805382]
  キー値(KV)キャッシュ圧縮は、大きな言語モデル(LLM)推論のメモリオーバーヘッドを低減する効果的な方法である。 既存の圧縮手法では、精度、推論遅延、ピークKVキャッシュメモリ利用のトレードオフが異なる。 ユーザが指定したレイテンシとピークメモリの予算に基づいて,各入力プロンプトに対してKVキャッシュ圧縮構成を選択する適応型フレームワークであるMetaKVを紹介する。
  論文  参考訳（メタデータ） (2026-09-07T20:44:23Z)
• FreqDepthKV: Frequency-Guided Depth Sharing for Robust KV Cache Compression in Long-Context LLM Inference [0.0]
  FreqDepthKVは、隣接層KV状態を共有低周波深さ成分とスパース高周波残差に分解する推論時キャッシュ圧縮法である。 軽量なオンラインプローブは、リコンストラクションに敏感なアテンションログへの貢献に応じて、アテンションヘッドを共有深度、残留深度、または正確なキャッシュモードに割り当てる。 FreqDepthKVは、長いコンテキストの質問応答、針の検索、要約、コード生成ベンチマークを通じて、かなり小さなキャッシュ予算の下でタスクの正確性を保持する。
  論文  参考訳（メタデータ） (2026-07-07T17:26:28Z)
• CompLLM: Compression for Long Context Q&A [47.90063873976842]
  そこで本研究では,実用的デプロイメント用に設計されたソフト圧縮技術であるCompLLMを紹介する。 CompLLMはコンテキストを水平に処理する代わりにセグメントに分割し、それぞれを独立して圧縮する。 実験の結果,2倍圧縮速度でコンテクスト長のCompLLMでは,TTFT(Time To First Token)を最大4倍高速化し,KVキャッシュサイズを50%削減できることがわかった。
  論文  参考訳（メタデータ） (2025-09-23T16:49:43Z)
• Compactor: Calibrated Query-Agnostic KV Cache Compression with Approximate Leverage Scores [37.41699761967978]
  KVキャッシュは、しばしば現実世界のデプロイメントにおいて、主要なリソースボトルネックである。 パラメータフリーでクエリに依存しないKV圧縮戦略であるCompactorを提案する。 本研究では,コンパクタがLongbench上でのフルKV性能を実現するとともに,KVメモリの負荷を平均63%低減することを示す。
  論文  参考訳（メタデータ） (2025-07-10T20:03:35Z)
• R1-Compress: Long Chain-of-Thought Compression via Chunk Compression and Search [61.4807238517108]
  CoT(Chain-of-Thought)推論は、ステップバイステップの問題解決を可能にすることで、大きな言語モデル(LLM)を強化する。 CoTのLong-CoTへの拡張はトークン長の増加による計算オーバーヘッドを大幅に増加させる。 ローカル情報とコヒーレンスの両方を保存する2段階のチャンクレベル圧縮フレームワークであるR1-Compressを提案する。
  論文  参考訳（メタデータ） (2025-05-22T16:06:59Z)
• Cocktail: Chunk-Adaptive Mixed-Precision Quantization for Long-Context LLM Inference [24.184349246524587]
  CocktailはKVキャッシュを最適化するためにチャンク適応型混合精度量子化を採用している。 チャンクレベルの量子化探索は、KVキャッシュチャンクの最適ビット幅構成を決定する。 Cocktailは、さまざまなモデルやデータセット上で、最先端のKVキャッシュ量子化手法より優れている。
  論文  参考訳（メタデータ） (2025-03-30T03:20:34Z)
• SCBench: A KV Cache-Centric Analysis of Long-Context Methods [61.025422435235456]
  KVキャッシュ中心の視点から長文の手法を評価するベンチマークであるSCBenchを紹介する。 我々は、Gated Linear RNNsやMamba-Attention Hybridsを含む8つのカテゴリの長期コンテキストソリューションについて、広範なKVキャッシュ中心の分析を行う。 本研究は,O(n)メモリとサブO(n2)プリフィルによるスパース符号化が堅牢に動作する一方で,サブO(n)メモリ手法がマルチターンシナリオに悩まされていることを示す。
  論文  参考訳（メタデータ） (2024-12-13T17:59:52Z)
• LoCoCo: Dropping In Convolutions for Long Context Compression [77.26610232994508]
  本稿では,Long Context Compression(LoCoCo)のための新しいアプローチであるDropping In Convolutionsを提案する。 LoCoCoは、固定サイズキーバリュー(KV)キャッシュのみを使用し、推論と微調整の両方のステージで効率を向上させることができる。
  論文  参考訳（メタデータ） (2024-06-08T01:35:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。