論文の概要: Testing Processor Contracts in Speculative Decoding Engines
- arxiv url: http://arxiv.org/abs/2611.04042v1
- Date: Mon, 02 Nov 2026 22:36:35 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-04 17:32:15.856478
- Title: Testing Processor Contracts in Speculative Decoding Engines
- Title(参考訳): 投機的デコードエンジンにおけるプロセッサ契約のテスト
- Abstract要約: 投機的サンプリングは、ターゲット分布を変更することなくデコードを促進することができる。
我々は、このプロセッサ契約を形式化し、BADC (branch-aware differential conformance testing) を提示する。
BadCは、小さなランダムモデルの参照、プロセッサ入力と状態のチェック、出力イベント確率の同時信頼境界を組み合わせたものだ。
- 参考スコア(独自算出の注目度): 18.667355202832802
- License:
- Abstract: Speculative sampling can accelerate decoding without changing the target distribution. Its standard guarantee assumes that logits processors, which enforce constraints or modify token scores, receive the appropriate token prefix and state at each verification position. We formalize this processor-prefix contract and present BADC (branch-aware differential conformance testing). BADC combines enumerated references on tiny random models, checks of processor inputs and state, and simultaneous confidence bounds on output-event probabilities. Preregistered, source-informed experiments on selected Transformers and llama-cpp-python releases confirm two causes: processors read unverified drafts or advance state without rollback. For one pilot-selected prompt on a trained checkpoint, fresh samples give a 60.26-percentage-point lower bound on the difference in the probability of a predefined first-token event between ordinary and prompt-lookup decoding, with nominal simultaneous 95% coverage under within-arm i.i.d. sampling. Controlled comparisons establish no cause-recovery advantage of directed selection over random selection, while permutation testing detects each tested family at least as often as BADC. These findings connect processor-interface failures to observable decoding differences without establishing diagnostic superiority or workload prevalence.
- Abstract(参考訳): 投機的サンプリングは、ターゲット分布を変更することなくデコードを促進することができる。
その標準保証は、制約を強制するかトークンスコアを変更するロジットプロセッサが、検証位置ごとに適切なトークンプレフィックスと状態を受け取ることを前提としている。
本稿では,このプロセッサ-プリフィックス契約を定式化し,BADC(branch-aware differential conformance testing)を提案する。
BADCは、小さなランダムモデルの列挙された参照、プロセッサ入力と状態のチェック、出力イベント確率の同時信頼境界を組み合わせたものである。
選択したTransformerとllama-cpp-pythonリリースに関する事前登録されたソースインフォームされた実験は、2つの原因を裏付けている。
訓練されたチェックポイント上の1つのパイロット選択プロンプトに対して、新鮮なサンプルは、通常と即時的なデコードの間の事前定義されたファーストトークンイベントの確率の差に基づいて60.26パーセントの低い値を与える。
制御された比較は、ランダム選択よりも直接選択の因数回復的優位性を確立しない一方、置換テストは、少なくともBADCと同じくらいの頻度で、各テストされたファミリーを検出する。
これらの結果は、診断上の優位性やワークロードの頻度を確立することなく、プロセッサとインタフェースの障害を観測可能な復号性の違いに結びつける。
関連論文リスト
- BenchChecker: Assessing the Credibility of Bug-Fixing Benchmarks for LLMs [18.847120581765868]
BenchCheckerは、オープンソースモデルとクローズドソースモデルの両方と互換性のあるフレームワークである。
法医学に基づく2段階検出プロセスを採用し、テキストモデル出力のみを用いている。
6つのベンチマークで約0.9の2-16スコアで堅牢な検出を実現している。
論文 参考訳(メタデータ) (2026-10-14T02:34:48Z) - Functionally Equivalent or Not? Graph-Grounded Differential Surrogate Execution for Code Equivalence [10.45005458481016]
FEAgentは、型付きプログラムグラフエビデンスと差分代理実行を組み合わせた選択等価評価エージェントである。
そのオラクルに対する不一致はすべて、直接実行によって判断され、ベンチマークラベルと単体テストのみのスコアで見逃された振る舞いの相違が明らかになる。
EquiBenchでは、1200個の評価済みペアのうち216個(18.0%)、SWE-bench Verifiedでは331個のテストパスエージェントパッチ(28.4%)が参照パッチから分岐している。
論文 参考訳(メタデータ) (2026-10-03T08:19:45Z) - Controlled Decoding Attacks on Black-Box LLMs [68.46062477706256]
Methodは、繰り返しサンプリングとアシスタント-継続を可能にする、テキストのみの継続インターフェイスを通じてジェイルブレイクを行うためのフレームワークである。
Risk-Gated Residual Controlは、進化する応答プレフィックスを使用して、配布の再構築と修正をいつ行うかを決定する。
Speculative Multi-Token Executionは、介入を必要としないドラフトプレフィックスの検証と受け入れによって、さらにターゲットコールを償却する。
論文 参考訳(メタデータ) (2026-09-29T07:58:49Z) - Probabilistic Model Checking of Autoregressive Neural Sequence Models [4.570003973862485]
自己回帰型ニューラルシークエンスモデルをデプロイする上で問題となる2つの問題に対して、テストセットの精度は静かである。
テスト対象のシステムの質量は、サンプリング時に到達可能な制約違反の代替品にどの程度の確率があるか。
確率論的モデル検査で両方答える。
論文 参考訳(メタデータ) (2026-09-01T07:37:55Z) - Repetition-code-based readout error detection and correction across hardware platforms and generations [0.0]
読み出し誤差は、現在の量子プロセッサにおいて主要なノイズ源の1つである。
本稿では,繰り返しコード読み出し誤りの検出と修正について実験的に評価する。
エラー検出と修正の両方で,テスト対象のデバイスおよび生成装置の読み出し精度が向上することがわかった。
論文 参考訳(メタデータ) (2026-06-29T17:43:32Z) - Correction and Corruption: A Two-Rate View of Error Flow in LLM Protocols [51.56484100374058]
そこで本研究では,単一プロトコルステップを正確なマッチングタスクで監査するためのペアアウトカム計測インタフェースを提案する。
各インスタンスについて、インターフェースはベースラインの正当性ビットと後ステップの正当性ビットを記録する。
これらのレートは精度の変化を予測し、種、混合物、パイプライン間でテスト可能な再利用可能な経験的インターフェースを定義する。
論文 参考訳(メタデータ) (2026-04-20T13:25:40Z) - Towards Verifiable AI with Lightweight Cryptographic Proofs of Inference [3.3323431541048385]
完全証明を軽量なサンプリングベースアプローチで置き換える検証フレームワークとプロトコルを提案する。
我々は,機能的に異なるモデル間のトレース分離を活用可能な条件を定式化し,検証可能な推論プロトコルの安全性について議論する。
我々の手法は、最先端の暗号証明システムと比較して、証明時間を桁違いに削減する。
論文 参考訳(メタデータ) (2026-03-19T15:24:27Z) - Scaling Agentic Verifier for Competitive Coding [66.11758166379092]
大規模言語モデル(LLM)は強力なコーディング能力を示しているが、1回の試行で競合するプログラミング問題を正しく解くのに苦戦している。
実行ベースの再ランク付けは、有望なテスト時間スケーリング戦略を提供するが、既存のメソッドは、難しいテストケースの生成または非効率的なランダム入力サンプリングによって制約される。
本稿では,プログラムの動作を積極的に推論し,高い差別性のあるテスト入力を検索するエージェント検証手法を提案する。
論文 参考訳(メタデータ) (2026-02-04T06:30:40Z) - Sequential Kernelized Independence Testing [77.237958592189]
我々は、カーネル化依存度にインスパイアされたシーケンシャルなカーネル化独立試験を設計する。
シミュレーションデータと実データの両方にアプローチのパワーを実証する。
論文 参考訳(メタデータ) (2022-12-14T18:08:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。