論文の概要: Hawkeye: Reproducing GPU-Level Non-Determinism

• arxiv url: http://arxiv.org/abs/2603.20421v1
• Date: Fri, 20 Mar 2026 18:41:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-24 19:11:38.901986
• Title: Hawkeye: Reproducing GPU-Level Non-Determinism
• Title（参考訳）: Hawkeye: GPUレベル非決定論の再現
• Authors: Erez Badash, Dan Boneh, Ilan Komargodski, Megha Srivastava,
• Abstract要約: 本稿では,GPUレベルの演算を解析・再生するシステムであるHawkeyeを紹介する。 私たちのフレームワークを使って、誰でも、機械学習モデルのトレーニングや推論ワークフローの裏にある正確な行列乗算操作をCPU上で再実行できます。 これは、検証可能な機械学習に対する以前のアプローチとは対照的であり、元のモデル所有者にかなりのオーバーヘッドをもたらすか、非破壊性と品質劣化に悩まされる。
• 参考スコア（独自算出の注目度）: 26.747509491147785
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We present Hawkeye, a system for analyzing and reproducing GPU-level arithmetic operations. Using our framework, anyone can re-execute on a CPU the exact matrix multiplication operations underlying a machine learning model training or inference workflow that was executed on an NVIDIA GPU, without any precision loss. This is in stark contrast to prior approaches to verifiable machine learning, which either introduce significant computation overhead to the original model owner, or suffer from non-robustness and quality degradation. The main technical contribution of Hawkeye is a systematic sequence of carefully crafted tests that study rounding direction, subnormal number handling, and order of (non-associative) accumulation during matrix multiplication on NVIDIA's Tensor Cores. We test and evaluate our framework on multiple NVIDIA GPU architectures ( Ampere, Hopper, and Lovelace) and precision types (FP16, BFP16, FP8). In all test cases, Hawkeye enables perfect reproduction of matrix multiplication on a CPU, paving the way for efficient and trustworthy third-party auditing of ML model training and inference.
• Abstract（参考訳）: 本稿では,GPUレベルの演算を解析・再生するシステムであるHawkeyeを紹介する。 当社のフレームワークを使用して、誰でも、NVIDIA GPU上で実行された機械学習モデルトレーニングや推論ワークフローの裏にある、正確な行列乗算操作をCPU上で再実行できます。 これは、検証可能な機械学習に対する以前のアプローチとは対照的で、元のモデル所有者にかなりの計算オーバーヘッドをもたらすか、非破壊性や品質劣化に悩まされる。 Hawkeyeの主な技術的貢献は、NVIDIAのTensor Cores上の行列乗算中の(非連想的な)累積のラウンドリング方向、サブノーマル数ハンドリング、および(非連想的な)累積の順序を研究する、慎重に構築されたテストの体系的なシーケンスである。 我々は、複数のNVIDIA GPUアーキテクチャ(Ampere、Hopper、Lovelace)と精度タイプ(FP16、BFP16、FP8)でフレームワークをテストし、評価する。 すべてのテストケースにおいて、HawkeyeはCPU上の行列乗法を完璧に再現することができ、MLモデルのトレーニングと推論の効率的で信頼できる第三者監査の道を開いた。

関連論文リスト

• Robustness of deep learning classification to adversarial input on GPUs: asynchronous parallel accumulation is a source of vulnerability [4.054484966653432]
  機械学習(ML)分類モデルの安全性と信頼性の重要な尺度は、小さな、ターゲットとする入力摂動に抵抗する能力である。 浮動小数点非連想性がGPU上での非同期並列プログラミングと結合し,誤分類を生じさせることを示す。 また, 機械レベルの詳細を考慮しない場合, 標準対向ロバスト性は4.6まで過大評価されることが示唆された。
  論文  参考訳（メタデータ） (2025-03-21T14:19:45Z)
• EVEREST: Efficient Masked Video Autoencoder by Removing Redundant Spatiotemporal Tokens [57.354304637367555]
  ビデオ表現学習のための驚くほど効率的なMVAアプローチであるEVERESTを提案する。 リッチなモーション特徴を含むトークンを発見し、事前トレーニングと微調整の両方の間、非形式的なトークンを破棄する。 提案手法は,MVAの計算とメモリ要求を大幅に低減する。
  論文  参考訳（メタデータ） (2022-11-19T09:57:01Z)
• Batch-efficient EigenDecomposition for Small and Medium Matrices [65.67315418971688]
  EigenDecomposition (ED)は多くのコンピュータビジョンアルゴリズムとアプリケーションの中心にある。 本稿では,コンピュータビジョンの応用シナリオに特化したQRベースのED手法を提案する。
  論文  参考訳（メタデータ） (2022-07-09T09:14:12Z)
• A Deep Learning Inference Scheme Based on Pipelined Matrix Multiplication Acceleration Design and Non-uniform Quantization [9.454905560571085]
  本稿では,パイプライン行列乗算法と非一様量子化法に基づく低消費電力多層パーセプトロン(MLP)加速器を提案する。 その結果,本手法は少ない消費電力で優れた性能が得られることがわかった。
  論文  参考訳（メタデータ） (2021-10-10T17:31:27Z)
• Efficient GPU implementation of randomized SVD and its applications [17.71779625877989]
  行列分解は、次元データの圧縮やディープラーニングアルゴリズムなど、機械学習においてユビキタスである。 行列分解の典型的な解は、計算コストと時間を大幅に増大させる複雑さを持つ。 我々は,計算行列分解の計算負担を軽減するために,現代のグラフィカル処理ユニット(GPU)で並列に動作する効率的な処理操作を利用する。
  論文  参考訳（メタデータ） (2021-10-05T07:42:41Z)
• Training with reduced precision of a support vector machine model for text classification [0.0]
  本研究は, 縮小精度を用いて訓練したSVMモデルの効率性と, 原型との比較に重点を置いている。 量子化を使用する主な利点は、専用ハードウェアプラットフォームにおける計算時間とメモリフットプリントの削減である。
  論文  参考訳（メタデータ） (2020-07-17T11:59:30Z)
• Kernel methods through the roof: handling billions of points efficiently [94.31450736250918]
  カーネル法は、非パラメトリック学習に対するエレガントで原則化されたアプローチを提供するが、今のところ大規模な問題ではほとんど利用できない。 最近の進歩は、最適化、数値線形代数、ランダム射影など、多くのアルゴリズム的アイデアの利点を示している。 ここでは、これらの取り組みをさらに進めて、GPUハードウェアを最大限に活用する解決器を開発し、テストする。
  論文  参考訳（メタデータ） (2020-06-18T08:16:25Z)
• MPLP++: Fast, Parallel Dual Block-Coordinate Ascent for Dense Graphical Models [96.1052289276254]
  この研究は、人気のあるDual Block-Coordinate Ascent原則に基づく新しいMAP-solverを導入している。 驚いたことに、性能の低い解法に小さな変更を加えることで、既存の解法を大きなマージンで大幅に上回る新しい解法MPLP++を導出します。
  論文  参考訳（メタデータ） (2020-04-16T16:20:53Z)
• On Coresets for Support Vector Machines [61.928187390362176]
  coresetは、元のデータポイントの小さな、代表的なサブセットである。 我々は,本アルゴリズムを用いて,既製のSVMソルバをストリーミング,分散,動的データ設定に適用可能であることを示す。
  論文  参考訳（メタデータ） (2020-02-15T23:25:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。