論文の概要: Infrastructure for Verifiable AI: Where Proof Costs Go and How Hardware Can Help
- arxiv url: http://arxiv.org/abs/2611.17042v1
- Date: Thu, 12 Nov 2026 16:27:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.550258
- Title: Infrastructure for Verifiable AI: Where Proof Costs Go and How Hardware Can Help
- Title(参考訳): 検証可能なAIのためのインフラストラクチャ - 証明のコストとハードウェアがいかに役立つか
- Abstract要約: ハードウェアアクセラレーションの研究は、個々の暗号処理の利益をしばしば報告し、ニューラルネットワークのワークロードを証明するための全コストにその影響を残している。
検証可能なAIワークロード、証明システム、暗号カーネル、ハードウェアプラットフォームをリンクする4層フレームワークを導入する。
提案手法は, 実証システムと入力長さによって, 主なコストが変化することを示す。
- 参考スコア(独自算出の注目度): 5.472680349401716
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Users of artificial intelligence services, including those powered by large language models and other transformer-based models, need assurance that inference and training follow the declared computation without exposing private models or data. Zero-knowledge proofs can provide this assurance, but proof generation remains expensive. Hardware acceleration research often reports gains for individual cryptographic operations, leaving their effect on the full cost of proving neural-network workloads, particularly large transformer models, unclear. We introduce a four-layer framework linking verifiable AI workloads, proof systems, cryptographic kernels and hardware platforms, use it to review the literature, and add original measurements of six provers and seven kernels to identify which costs matter in practice. Our measurements show that the dominant cost changes with the proof system and input length. In low-rank fine-tuning, the cost of opening commitments to fixed model weights remains nearly constant across input lengths from 64 to 2048, while the work associated with intermediate values grows. A 13-billion-parameter fine-tuning configuration exceeds the capacity of a 40-gigabyte graphics processor but completes on an 80-gigabyte device, showing why capacity must be assessed alongside execution time. Our kernel profiling further identifies instruction issue and synchronization limits that a bandwidth-only model misses. We use these findings to assess graphics processors, reconfigurable logic, custom chips and existing artificial intelligence accelerators. The resulting research agenda connects proof-friendly numeric formats, reuse of fixed-weight commitments, heterogeneous execution and shared benchmarks to the measured bottlenecks. Effective acceleration requires selecting hardware and proof-system optimizations around the cost profile of the target workload.
- Abstract(参考訳): 大規模言語モデルやその他のトランスフォーマーベースのモデルを搭載した人工知能サービスのユーザは、プライベートモデルやデータを公開することなく、推論とトレーニングが宣言された計算に従うことを保証する必要がある。
ゼロ知識証明はこの保証を提供することができるが、証明生成は高価である。
ハードウェアアクセラレーションの研究はしばしば、個々の暗号処理の利益を報告し、ニューラルネットワークのワークロード、特に大きなトランスフォーマーモデルを証明するための全コストにその効果が残されている。
検証可能なAIワークロード、証明システム、暗号カーネル、ハードウェアプラットフォームをリンクする4層フレームワークを導入し、文献をレビューするために使用し、実際にどのコストがかかるかを特定するために、6つのプロバーと7つのカーネルのオリジナル測定を追加する。
提案手法は, 実証システムと入力長さによって, 主なコストが変化することを示す。
低ランク微調整では、固定モデルウェイトに対するオープンコミットメントのコストは、入力長64から2048の間でほぼ一定であり、中間値に関連する作業は増加する。
13ビリオンパラメータの微調整構成は、40ギガバイトのグラフィックスプロセッサの容量を超えるが、80ギガバイトのデバイスで完了するため、実行時間とともにキャパシティを評価する必要がある。
我々のカーネルプロファイリングは、帯域のみのモデルが見逃す命令問題と同期制限をさらに特定します。
これらの結果を用いて、グラフィックスプロセッサ、再構成可能なロジック、カスタムチップ、既存の人工知能アクセラレータを評価する。
その結果得られた研究課題は、証明にやさしい数値形式、固定重み付けの再利用、不均一な実行、共有ベンチマークを測定されたボトルネックに結びつける。
効果的な加速には、対象のワークロードのコストプロファイルに関するハードウェアと証明システムの最適化を選択する必要がある。
関連論文リスト
- FTWeave: Composing Logical Execution, Real-Time Decoding, and Magic-State Supply in Tightly Integrated Quantum-Classical Systems [1.8803964763103134]
フォールトトレラント量子アプリケーションは、デコードされた測定情報とマジック状態の継続的な供給の両方に依存している。
アーキテクトは、完全なシステムが測定される前に、マシンの量子的および古典的な部分をまとめて準備する必要がある。
FTWeaveは、このアーキテクチャ探索のためのシステムレベルのシミュレータである。
論文 参考訳(メタデータ) (2026-10-17T00:23:54Z) - Timing and Memory Telemetry on GPUs for AI Governance [3.3108773921973316]
本稿では,計算活動と相関する時間とメモリベースの観測値を生成する計測フレームワークを提案する。
これらのプリミティブは、信頼できるファームウェア、エンクレーブ、ベンダーが管理するカウンタなしでも観測可能なGPUエンゲージメントの統計的および行動的指標を提供する。
論文 参考訳(メタデータ) (2026-02-10T03:20:06Z) - GENIUS: An Agentic AI Framework for Autonomous Design and Execution of Simulation Protocols [32.505127447635864]
GENIUSは、スマート量子ESPRESSO知識グラフと有限状態エラー回復マシンによって管理される大規模言語モデルの階層構造を融合するAIエージェントワークフローである。
GENIUSは、フリーフォームの人為的なプロンプトを検証済みの入力ファイルに変換し、295の多様なベンチマークの80%の$approxで実行し、76%が自律的に修復され、成功は指数関数的に7%のベースラインに崩壊する。
このフレームワークは、プロトコル生成、検証、修復をインテリジェントに自動化して電子構造DFTシミュレーションを民主化し、大規模なスクリーニングとICME設計ループを世界中の学界や業界に開放する。
論文 参考訳(メタデータ) (2025-12-06T11:28:35Z) - Scaling LLM Speculative Decoding: Non-Autoregressive Forecasting in Large-Batch Scenarios [76.85739138203014]
本稿では,一方向および注目メカニズムを加速する新しいアーキテクチャであるSpecFormerを紹介する。
また,SpecFormerはトレーニング要求の低減と計算コストの削減を実現している。
論文 参考訳(メタデータ) (2025-11-25T14:20:08Z) - A Mathematical Framework for AI Singularity: Conditions, Bounds, and Control of Recursive Improvement [1.932555230783329]
我々は、自己改善のための分析フレームワークを開発し、能力向上とリソースのビルトアウトとデプロイメントポリシを結びつける。
我々は、可観測級数から脱走と非特異な振る舞いの証明をYes/Noにマッピングする決定ルールを導出する。
このフレームワークは、現在のレベルに対して、高速な改善がいかに加速するかに基づいて、偽造可能なテストを生成する。
論文 参考訳(メタデータ) (2025-11-08T21:25:38Z) - On-Chip Hardware-Aware Quantization for Mixed Precision Neural Networks [52.97107229149988]
エッジデバイス上でハードウェア対応の混合精度量子化を行うOn-Chipハードウェア・アウェア量子化フレームワークを提案する。
このパイプラインは、量子化プロセスが量子化演算子の実際のハードウェア効率を知覚することを可能にする。
精度測定のために,マルチチップシナリオにおける演算子の精度への影響を効果的に推定するMask-Guided Quantization Estimation技術を提案する。
論文 参考訳(メタデータ) (2023-09-05T04:39:34Z) - Energy-efficient Task Adaptation for NLP Edge Inference Leveraging
Heterogeneous Memory Architectures [68.91874045918112]
Adapter-ALBERTは、様々なタスクにわたる最大データ再利用のための効率的なモデル最適化である。
検証されたNLPエッジアクセラレータ上でシミュレーションを行うことにより、モデルを不均一なオンチップメモリアーキテクチャにマッピングする利点を実証する。
論文 参考訳(メタデータ) (2023-03-25T14:40:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。