論文の概要: Beyond atol and rtol: Sound Test Oracles for Low-Precision GPU Kernels
- arxiv url: http://arxiv.org/abs/2610.38983v1
- Date: Wed, 28 Oct 2026 22:08:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-03 08:06:13.989764
- Title: Beyond atol and rtol: Sound Test Oracles for Low-Precision GPU Kernels
- Title(参考訳): atolとrtolを超えて - 低精度GPUカーネルのための健全なテストオラクル
- Abstract要約: numoracleは、共有ラウンドエラー、証明順序付き製品、ブロックスケールの量子化器、数学ライブラリエラーを追跡する。
メインのキャンペーンでは、33,960の修正 — Kernelと振る舞い保存 — GPU当たりの変動実行 — に対して、誤警報は発生しない。
- 参考スコア(独自算出の注目度): 1.3416250383686865
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Low-precision GPU kernels are commonly tested against a reference using hand-picked absolute and relative tolerances. Legitimate numerical error varies with the input, format and precision plan, so a fixed tolerance trades false alarms for missed faults. We present numoracle, which derives per-element acceptance regions from precision-annotated reference programs. Its calculus tracks shared rounding errors, provenance-ordered products, block-scaled quantizers and calibrated math-library errors. A rounding-interval check detects faulty stores that symmetric bounds can admit. Soundness is conditional on explicit rounding, hardware, domain and implementation assumptions; a fixed-input mode removes the zero-mean rounding assumption. We evaluate 13 Triton operators from Liger-Kernel, Unsloth and vLLM on two GPU generations. The main campaigns produce no false alarm on 33,960 correct-kernel and behavior-preserving-variant runs per GPU. Under input shift, the GPU campaigns record no false alarm while tuned tolerances flag up to 30% of correct runs; final-version reference checks identify inputs without complete finite-range certificates. On the RTX PRO 6000, numoracle kills 116 of 124 effective mutants, versus 59-83 for four fixed baselines. Among 400 tuned tolerance configurations, requiring at most 1% false alarms in every evaluated Liger input group permits at most 31 of 53 main-mutant kills, versus numoracle's 50. Historical replays expose accuracy faults in eight change pairs without rejecting their matched corrected controls; a ninth change concerns rounding parity.
- Abstract(参考訳): 低精度GPUカーネルは、手書きの絶対耐性と相対耐性を使って参照に対して一般的にテストされる。
正確な数値誤差は入力、フォーマット、精度プランによって異なり、固定許容度は故障した故障に対して誤報を交換する。
本稿では,要素単位の受容領域を精度アノテートした参照プログラムから導出する数値を提示する。
その計算は、ラウンドエラーの共有、出典順の製品、ブロックスケールの量子化器、キャリブレーションされた数学ライブラリエラーを追跡している。
ラウンドリング・インターバルチェックは、対称境界が許容できる欠陥のあるストアを検出する。
音質は明示的な丸め、ハードウェア、ドメイン、実装の仮定で条件づけられており、固定入力モードはゼロ平均丸めの仮定を除去する。
Liger-Kernel、Unsloth、vLLMの13のTriton演算子を2つのGPU世代で評価した。
メインのキャンペーンでは、33,960の修正カーネルと、GPU当たりの動作保存バリアントに対して、誤警報は発生しない。
入力シフトでは、GPUキャンペーンは偽のアラームを記録せず、チューニングされたトレランスは正しい実行の30%までフラグを立てる。
RTX PRO 6000では、ヌノラクルは124の有効変異体のうち116を殺し、4つの固定基線に対して59-83を殺している。
400個のチューニングされた耐性構成のうち、評価されたLiger入力グループ毎に1%以上の誤報を要求され、53個のメインミュータントキルのうち31個が許可される。
過去のリプレイでは、一致したコントロールを拒否することなく、8つの変更ペアで精度の欠陥を露呈している。
関連論文リスト
- Measured or Real? When Model-Derived Measurements Can Be Corrected or Compared [1.322809310467892]
ノイズは相関を縮小し、教科書の補正は2つの推定された信頼度の平方根によって分割される。
相関関係と信頼度が別個の種を用いる場合であっても,平均二乗誤差は無限であることを示す。
私たちのルールは、両方の信頼度が重要なテストに合格した場合にのみ修正され、その後、上位の信頼境界によって分割される。
論文 参考訳(メタデータ) (2026-10-27T22:12:59Z) - Measuring Collapse and Correction in Homogeneous-Panel LLM Debate [51.03982042769297]
マルチエージェント大言語モデル(LLM)の議論は、最終回答が改善するかどうかによってしばしば評価されるが、運動は必ずしも改善されない。
標準的な最終精度評価は、これらの反対のメカニズムを詳述する。
複数選択質問(MCQ)に関する同質な議論のための監査可能なプロトコルを導入し、各実行を、崩壊、修正、オンセット、署名された介入ユーティリティよりも、遷移台帳として記録する。
論文 参考訳(メタデータ) (2026-09-28T14:31:19Z) - Where the Numbers Come From: Auditing Evaluation in Provenance-Based Intrusion Detection [42.49426058823369]
証明に基づく侵入検知器のスコアを再現しても、そのアラームの出力やエンコーダが使用する情報についてそのスコアが何を言っているかは定かでない。
我々は、リリースした9つの実装を監査し、独自のコードを使用して4つの検出器を実行し、3つの測定効果を分離する。
論文 参考訳(メタデータ) (2026-09-27T13:01:02Z) - Measuring the Checker: Mutation Analysis for GPU-Kernel Benchmark Oracles [86.41218924166775]
LLM生成のGPUカーネルのベンチマークは、ランダムな入力とゆるやかな浮動小数点耐性で正確性を決定する。
最近の研究は、これらのチェッカーは弱く、手動でパッチを当てることに同意している。
本稿では,カーネルベンチマークの精度指標として突然変異解析を導入する。
論文 参考訳(メタデータ) (2026-09-02T10:30:05Z) - A Contract-Grade Verifier for LLM-Generated GPU Kernels, and a Native Blackwell Backward for the Gated-Linear-Recurrence Family [0.9740025522928777]
言語モデルでGPUカーネルを生成するシステムは、高い正確性率を報告している。
カーネルをいくつかのランダムな入力で1つの固定された形で実行し、出力が参照に近ければ受け入れる。
我々は12個の逆ゲートからなるコントラクトグレードの検証器を構築し、それぞれが正しいカーネルが満たさなければならないプロパティであり、そのいくつかはトレランスフリーである。
論文 参考訳(メタデータ) (2026-08-13T01:25:56Z) - The Correctness Illusion in LLM-Generated GPU Kernels [0.0]
LLM生成GPUカーネルのベンチマークは、固定形で小さなオールクローススタイルのチェックによって正確性を評価する。
我々は24のトリトンとCPUのスタンドインカーネルの制御コーパスを構築した。
同じプロトコルを5つのGPUクラスで再実行します。
論文 参考訳(メタデータ) (2026-06-18T11:52:46Z) - Catching One in Five: LLM-as-Judge Blind Spots in Production Multi-Turn Transaction Agents [45.148328075418156]
デプロイされた多ターン食品・飲料注文エージェントについて検討し,実際の品質問題の数を測定した。
私たちの盲点分類は、失敗はランダムではなく構造化されていることを示している。
プロダクションマルチターンエージェントでは、自動判断はリグレッションフロアであり、人間のレビューの代わりにはならない。
論文 参考訳(メタデータ) (2026-06-09T02:11:01Z) - Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。
個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。
構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
論文 参考訳(メタデータ) (2026-05-15T17:08:27Z) - Understanding and Mitigating Numerical Sources of Nondeterminism in LLM Inference [31.2331188304598]
評価バッチサイズ、GPUカウント、GPUバージョンなどのシステム構成の変更は、生成されたレスポンスに大きな違いをもたらす可能性がある。
この変数の根本原因は、限定的な数値精度で浮動小数点算術の非連想性に遡る。
そこで我々は16ビットの精度で重みを格納するが、FP32では全ての計算を実行する軽量な推論パイプラインLayerCastを開発した。
論文 参考訳(メタデータ) (2025-06-11T08:23:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。