論文の概要: Kernel Token Contradiction: a Fast and Principled Approach for LLM Claim Uncertainty Quantification

• arxiv url: http://arxiv.org/abs/2608.22506v1
• Date: Sun, 23 Aug 2026 16:55:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-25 13:29:43.780393
• Title: Kernel Token Contradiction: a Fast and Principled Approach for LLM Claim Uncertainty Quantification
• Title（参考訳）: Kernel Token Contradiction: LLMクラッド不確実性定量のための高速かつ原理的なアプローチ
• Abstract要約: クラミムレベルの不確実性定量化(UQ)は、大規模言語モデル(LLM)の信頼性の欠如を軽減することを目的としている。 現実的なホワイトボックス条件下でクレームレベルUQを計算するための軽量なアプローチであるKernel Token Contradiction(KTC)を紹介する。 CPUのみのアプローチでは,最先端のGPUアクセラレーション手法と比較して8.2倍の高速化を実現している。
• 参考スコア（独自算出の注目度）: 1.6916040234975798
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Claim-level Uncertainty Quantification (UQ) aims to mitigate the lack of reliability of Large Language Models (LLMs) by evaluating the factuality of each claim in their outputs. We introduce Kernel Token Contradiction (KTC), a lightweight approach to compute claim-level UQ under realistic white-box conditions. KTC represents the candidate tokens involved in LLM generation as a positive semi-definite kernel that integrates both the LLM's conditional distribution and a token contradiction score. We then use the Von Neumann entropy to quantify the uncertainty of this kernel. To estimate token contradiction, we develop a new approach based on frequency statistics from the Wikipedia corpus. Although CPU-only, our approach achieves over an 8.2x speedup compared to state-of-the-art GPU-accelerated methods based on cross-encoders, and over a 65x speedup compared to CPU-only methods with comparable performance. Our evaluation spans two benchmarks across four European languages and 16 different models. KTC not only matches the average performance of existing methods but also outperforms them in high-precision regimes. This combination of computational efficiency and accuracy makes real-time monitoring of LLM outputs practical in production.
• Abstract（参考訳）: クレームレベルの不確実性定量化(UQ)は、それぞれのクレームのアウトプットにおける事実性を評価することによって、大規模言語モデル(LLM)の信頼性の欠如を軽減することを目的としている。 現実的なホワイトボックス条件下でクレームレベルUQを計算するための軽量なアプローチであるKernel Token Contradiction(KTC)を紹介する。 KTCは、LLM生成に関わる候補トークンを、LLMの条件分布とトークン矛盾スコアの両方を統合する正の半定値カーネルとして表現する。 次に、フォン・ノイマンエントロピーを用いて、この核の不確かさを定量化する。 トークンの矛盾を推定するために,ウィキペディアコーパスの周波数統計に基づく新しい手法を開発した。 CPUのみのアプローチでは、クロスエンコーダに基づく最先端のGPU高速化手法と比較して8.2倍の高速化を実現し、同等のパフォーマンスを持つCPUのみの手法に比べて65倍の高速化を実現している。 評価は4つのヨーロッパ言語と16の異なるモデルにまたがる2つのベンチマークにまたがる。 KTCは既存の手法の平均性能と一致しただけでなく、高精度なシステムでも性能に優れる。 この計算効率と精度の組み合わせにより、LLM出力のリアルタイムモニタリングが実用化されている。

関連論文リスト

• CauTion: Knowing When to Trust LLMs for Ensemble Causal Discovery [51.07538881798502]
  大規模言語モデル(LLM)は、統計的推論を補完する将来的なドメイン知識の源を提供する。 我々は、LLMドメイン知識を統計的因果探索アルゴリズムのアンサンブルに確実に統合するフレームワークであるCauTionを提案する。 CauTionは、データ中心とLLM拡張ベースラインの両方を一貫して上回る。
  論文  参考訳（メタデータ） (2026-06-02T13:07:43Z)
• Fast-dLLM++: Fréchet Profile Decoding for Faster Diffusion LLM Inference [45.385819280687514]
  textbfFast-dLLM++は、emphFréchetプロファイルのデコードを導入し、トレーニング不要な拡張である。 Fast-dLLM++はモデル、拡散プロセス、キャッシュの実装を完全に変更していない。 LLaDA-8Bモデルを用いたGSM8K, MATH, HumanEval, MBPP実験により, 理論的改善が直接経験的利得に変換されることが示された。
  論文  参考訳（メタデータ） (2026-06-01T23:18:59Z)
• OScaR: The Occam's Razor for Extreme KV Cache Quantization in LLMs and Beyond [50.440302567029654]
  マルチモーダルインテリジェンスにより、Key-Valueキャッシュは効率的なデプロイメントのための主要なメモリボトルネックとなった。 本研究では、チャネルごとの量子化パラダイムの本質的な限界を再考する。 X-LLMのための高精度かつ軽量なKVキャッシュ圧縮フレームワークOScaRを提案する。
  論文  参考訳（メタデータ） (2026-05-19T10:53:03Z)
• A Queueing-Theoretic Framework for Stability Analysis of LLM Inference with KV Cache Memory Constraints [4.636275494777427]
  計算とGPUメモリの制約を明示的に組み込んだ最初の待ち行列理論フレームワークを紹介した。 我々は,LLM推論サービスが待ち行列の成長を伴わずに着信需要を維持できるかどうかを判断する厳密な安定性と不安定性条件を導出する。 以上の結果から, 予測安定性条件は精度が高く, 偏差が10%以内であることが示唆された。
  論文  参考訳（メタデータ） (2026-05-06T07:42:26Z)
• Prism: Efficient Test-Time Scaling via Hierarchical Search and Self-Verification for Discrete Diffusion Language Models [96.0074341403456]
  LLM推論を改善するための実用的な方法として、推論時計算が再導入されている。 テスト時間スケーリング(TTS)アルゴリズムの多くは、自動回帰デコーディングに依存している。 そこで我々は,dLLM のための効率的な TTS フレームワーク Prism を提案する。
  論文  参考訳（メタデータ） (2026-02-02T09:14:51Z)
• Residual Context Diffusion Language Models [90.07635240595926]
  Residual Context Diffusion (RCD) は、捨てられたトークン表現をコンテキスト残留に変換し、次のデノイングステップでそれらを注入するモジュールである。 RCDは、最小限の計算オーバーヘッドで、5-10ポイントの精度でフロンティアdLLMを一貫して改善する。
  論文  参考訳（メタデータ） (2026-01-30T13:16:32Z)
• Counting Without Running: Evaluating LLMs' Reasoning About Code Complexity [2.7389338551082605]
  性能ボトルネックを予測するため,LLM(Large Language Models)のベンチマークを開発した。 FLOPBenchは577カーネルの単精度と倍精度のFLOP数を予測する。 われわれはFLOPBenchをLLMツールの開発に焦点をあてたテストベッドとして位置づけた。
  論文  参考訳（メタデータ） (2025-12-04T01:03:20Z)
• MUCH: A Multilingual Claim Hallucination Benchmark [5.6001617185032595]
  その多くは、将来の手法の公平かつ再現可能な評価のために設計された最初のクレームレベルのUQベンチマークである。 4つのヨーロッパ言語(英語、フランス語、スペイン語、ドイツ語)にまたがる4,873のサンプルと、4つの命令で調整されたオープンウェイトLLMが含まれている。
  論文  参考訳（メタデータ） (2025-11-21T09:37:16Z)
• Fast Controlled Generation from Language Models with Adaptive Weighted Rejection Sampling [90.86991492288487]
  トークンの制約を評価するのは 違法にコストがかかる LCDは文字列上のグローバル分布を歪め、ローカル情報のみに基づいてトークンをサンプリングすることができる。 我々のアプローチは最先端のベースラインよりも優れていることを示す。
  論文  参考訳（メタデータ） (2025-04-07T18:30:18Z)
• Provable Scaling Laws for the Test-Time Compute of Large Language Models [84.00141420901038]
  本研究では,大規模言語モデルのテスト時間計算において,証明可能なスケーリング法則を享受する2つのアルゴリズムを提案する。 1つは2段階ノックアウト方式のアルゴリズムで、各候補は複数の相手に対して平均勝利率で評価される。 もう1つは2段階のリーグ方式のアルゴリズムで、各候補は複数の相手に対して平均勝利率で評価される。
  論文  参考訳（メタデータ） (2024-11-29T05:29:47Z)
• Supervised Kernel Thinning [6.6157730528755065]
  Dwivedi & Mackey (2024) のカーネルスライニングアルゴリズムは、一般的な点集合のより優れた圧縮を提供する。 我々はKTアルゴリズムを一般化し、カーネルメソッドを含む教師付き学習問題を高速化する。
  論文  参考訳（メタデータ） (2024-10-17T16:48:51Z)
• Benchmarking Uncertainty Quantification Methods for Large Language Models with LM-Polygraph [83.90988015005934]
  不確実性定量化は機械学習アプリケーションにおいて重要な要素である。 最新のUQベースラインの集合を実装した新しいベンチマークを導入する。 我々は、11タスクにわたるUQと正規化技術に関する大規模な実証的研究を行い、最も効果的なアプローチを特定した。
  論文  参考訳（メタデータ） (2024-06-21T20:06:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。