論文の概要: Bit-Exact AI Inference Verification Without Performance Tradeoffs
- arxiv url: http://arxiv.org/abs/2606.00279v1
- Date: Fri, 29 May 2026 19:15:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:28.198298
- Title: Bit-Exact AI Inference Verification Without Performance Tradeoffs
- Title（参考訳）: パフォーマンストレードオフのないBit-Exact AI推論検証
- Abstract要約: 現代の推論エンジンがデタミスティックだが不変ではない出力をいかに生み出すかを分析する。
ビットワイズ正確な再計算は同一ハードウェアへのアクセスを必要としないことを実証する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Verifying claims about AI workloads is a pre- requisite for credible AI governance of covert adversaries (who comply with monitoring only when detection likelihood is high), yet the ap- parent non-determinism of GPU floating-point arithmetic forces auditors to accept approximate output matches. Covert adversaries can exploit un- verifiable degrees of freedom in monitored compu- tation. Attack vectors include steganography, un- reported modification of inference software, and covert computation via unreported batch elements. Empirically, we analyze how modern inference engines (vLLM, HF transformers) produce deter- ministic but non-invariant outputs, without need- ing to set performance-compromising determin- ism flags, if the right information is available for re-computation and no atomic functions are called in the backend. We demonstrate that such bitwise- precise re-computation does not require access to identical hardware, via a software-only emula- tion of LLM inference across multiple NVIDIA GPU variants. Thus, accumulated rounding errors can be an auditable signature of the software and hardware setup used for inference, instead of a constraint on verifiability.
- Abstract（参考訳）: AIワークロードに関する主張を検証することは、(検出可能性が高い場合にのみ監視に従う)秘密の敵の信頼できるAIガバナンスの前提条件であると同時に、GPU浮動小数点演算のap-親非決定性は、監査人に近似出力マッチを受け入れるように強制する。
カバーされた敵は、監視された compu- tation において検証不可能な自由度を利用することができる。
攻撃ベクトルには、ステガノグラフィ、未報告の推論ソフトウェアの変更、未報告のバッチ要素による秘密計算が含まれる。
提案手法では,最新の推論エンジン (vLLM, HF 変換器) がデタミスティックだが非不変な出力を生成する場合,性能を比較検討するdetermin-ismフラグを設定する必要がなく,適切な情報が再計算に利用可能で,バックエンドではアトミック関数が呼び出されていない場合を例に分析する。
我々は、このビットワイズ正確な再計算が、複数のNVIDIA GPU変種にまたがるLLM推論のソフトウェアのみのエミュラオプションを介して、同一ハードウェアへのアクセスを必要としないことを実証する。
したがって、累積ラウンドエラーは、検証可能性の制約ではなく、推論に使用されるソフトウェアとハードウェア設定の監査可能なシグネチャとなる。
関連論文リスト
- Self-Verifying Measurement Records: Hash-Linked Evidence Graphs for Hardware Benchmarking [0.2864713389096699]
報告されたハードウェア計測を,未確認かつ独立にチェック可能な記録として作成する。
テキスト、テーブル、図形の各量は、その内容のハッシュによって、その背後にある観察と検証に拘束される。
行列積は、浮動小数点誤り解析から導かれる寛容の下で、O(k n2) の確率的同一性(フレブラルド)によって検証される。
論文 参考訳（メタデータ） (2026-06-26T10:26:50Z) - On the Inseparability of Instructions and Data in Shared-Embedding Sequence Models [0.0]
我々は、制御権威行動を伴うプロンプトアクションモデルとして、誘導されたシステムを定式化する。
共有パイプライン内では,SFC(Semantic-Faithful Control)が実現不可能であることを示す。
根本原因とそれが要求するソリューションのクラスを特定します。
論文 参考訳（メタデータ） (2026-06-25T21:52:29Z) - LiveFMBench: Unveiling the Power and Limits of Agentic Workflows in Specification Generation [75.05397479715576]
大規模言語モデル(LLM)とエージェントは有望な進歩を示しているが、その真の能力と失敗モードは未だ不明である。
CプログラムのためのLCMおよびエージェントベースの形式仕様生成に関する、最初の体系的および汚染に配慮した研究を提案する。
論文 参考訳（メタデータ） (2026-05-02T11:31:33Z) - Dynamic analysis enhances issue resolution [53.50448142467294]
DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。
テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。
Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
論文 参考訳（メタデータ） (2026-03-23T14:48:54Z) - IMMACULATE: A Practical LLM Auditing Framework via Verifiable Computation [49.796717294455796]
経済的なモチベーションのある逸脱を検出するための実践的な監査フレームワークIMMACULATEを提案する。
IMMACULATEは、検証可能な計算を用いて少数のリクエストを選択的に監査し、暗号オーバーヘッドを償却しながら強力な検出保証を達成する。
論文 参考訳（メタデータ） (2026-02-26T07:21:02Z) - EigenAI: Deterministic Inference, Verifiable Results [3.231493128964671]
EigenAIは、EigenLayerの再試行エコシステムの上に構築された検証可能なAIプラットフォームである。
決定論的大言語モデル(LLM)推論エンジンと、暗号学的に保護された楽観的な再実行プロトコルを組み合わせる。
論文 参考訳（メタデータ） (2026-01-30T04:46:22Z) - Nondeterminism-Aware Optimistic Verification for Floating-Point Neural Networks [11.159101812934503]
不均一加速器上での浮動小数点実行のための非決定論的アウェア最適検証プロトコル
NAOをPyTorch互換ランタイムとして実装し、現在Horeskyテストネット上にデプロイされているコントラクト層を運用しています。
論文 参考訳（メタデータ） (2025-10-15T21:10:39Z) - Unsupervised Conformal Inference: Bootstrapping and Alignment to Control LLM Uncertainty [49.19257648205146]
生成のための教師なし共形推論フレームワークを提案する。
我々のゲートは、分断されたUPPよりも厳密で安定した閾値を提供する。
その結果は、ラベルのない、API互換の、テスト時間フィルタリングのゲートになる。
論文 参考訳（メタデータ） (2025-09-26T23:40:47Z) - Multidimensional Uncertainty Quantification via Optimal Transport [87.97146725546502]
相補的なUQ測度をベクトルに積み重ねることで,不確実性定量化(UQ)の多次元的考察を行う。
VecUQ-OTは、個々の測定が失敗しても高い効率を示す。
論文 参考訳（メタデータ） (2025-09-26T14:09:03Z) - \texttt{Range-Arithmetic}: Verifiable Deep Learning Inference on an Untrusted Party [14.282969274113066]
textttRange-Arithmeticは、非算術演算をsum-checkプロトコルとMatrixd Rangeを使って検証可能なステップに変換する。
提案手法は,既存手法の性能に適合するだけでなく,計算コストの低減も図っている。
論文 参考訳（メタデータ） (2025-05-23T08:33:50Z) - WATCH: Adaptive Monitoring for AI Deployments via Weighted-Conformal Martingales [22.789611187514975]
非パラメトリックシーケンシャルテストのメソッド -- 特にコンフォーマルテストマーチンチャル(CTM)と任意の時間価推論 -- は、この監視タスクに有望なツールを提供する。
既存のアプローチは、限られた仮説クラスやアラーム基準の監視に限られています。」
論文 参考訳（メタデータ） (2025-05-07T17:53:47Z) - Are You Getting What You Pay For? Auditing Model Substitution in LLM APIs [71.7892165868749]
LLM(Commercial Large Language Model) APIは基本的な信頼の問題を生み出します。
ユーザーは特定のモデルに課金するが、プロバイダが忠実に提供できることを保証することはない。
我々は,このモデル置換問題を定式化し,現実的な逆条件下での検出方法を評価する。
我々は,信頼された実行環境(TEE)を実用的で堅牢なソリューションとして使用し,評価する。
論文 参考訳（メタデータ） (2025-04-07T03:57:41Z) - Auditing AI models for Verified Deployment under Semantic Specifications [65.12401653917838]
AuditAIは、解釈可能な形式検証とスケーラビリティのギャップを埋める。
AuditAIは、画素空間の摂動のみを用いた検証の限界に対処しながら、検証と認定トレーニングのための制御されたバリエーションを得られるかを示す。
論文 参考訳（メタデータ） (2021-09-25T22:53:24Z) - AQD: Towards Accurate Fully-Quantized Object Detection [94.06347866374927]
本稿では,浮動小数点演算を除去するために,AQDと呼ばれる高精度な量子化オブジェクト検出ソリューションを提案する。
我々のAQDは、非常に低ビットのスキームの下での完全精度と比較して、同等またはそれ以上の性能を実現しています。
論文 参考訳（メタデータ） (2020-07-14T09:07:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。