論文の概要: Certified but Private: Scalable Zero-Knowledge Proofs for Neural Network Guarantees

• arxiv url: http://arxiv.org/abs/2608.17070v1
• Date: Mon, 17 Aug 2026 19:19:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-19 21:40:53.115469
• Title: Certified but Private: Scalable Zero-Knowledge Proofs for Neural Network Guarantees
• Title（参考訳）: Certified but Private: ニューラルネットワーク保証のためのスケーラブルなゼロ知識証明
• Abstract要約: 本稿では,ゼロ知識証明(ZKP)を用いて,モデルの堅牢性と公平性を証明するスケーラブルなシステムPANDAを提案する。 PANDAは、ニューラルネットワークの最先端の形式的検証ツールの多くで使用されている、効率的な堅牢性認証フレームワークであるCROWNの上に構築されている。 注目すべきは、我々のシステムは5分で2.9M以上のパラメータを持つニューラルネットワークの局所的堅牢性の証明を生成し、それを10秒で検証できることだ。
• 参考スコア（独自算出の注目度）: 13.633290129887568
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: With the growing deployment of machine learning models, formal guarantees of the robustness and fairness of these models have become increasingly important in safety-critical and legal-compliance settings. However, model parameters are often commercial secrets that cannot be disclosed to auditors or end users. To this end, we present PANDA, a scalable system that uses zero-knowledge proofs (ZKPs) to prove the robustness and fairness properties of a model without revealing its private parameters. PANDA is built on top of CROWN, an efficient robustness certification framework that is used in many state-of-the-art formal verification tools for neural networks. The core contribution of PANDA is a novel algorithm for proving linear relaxation bounds for non-linear activation layers, yielding simple, lightweight proofs. Remarkably, our system can generate proofs of local robustness for neural networks with more than 2.9M parameters in 5 minutes, and can verify them in 10 seconds. Prior ZKP-based robustness system rely on exponential-time algorithms that cannot scale to nontrivial networks. In contrast, PANDA scales polynomially in the number of neurons in a network, allowing us to support neural networks 4 orders of magnitude larger than previous approaches with significantly reduced prover overhead.
• Abstract（参考訳）: 機械学習モデルの展開が進むにつれ、これらのモデルの堅牢性と公正性の正式な保証は、安全クリティカルかつ法的なコンプライアンス設定においてますます重要になっている。 しかし、モデルパラメータは、オーディエンスやエンドユーザーには公開できない商業秘密であることが多い。 そこで本研究では,ゼロ知識証明(ZKP)を用いて,モデルの堅牢性と公平性を証明するスケーラブルなシステムPANDAを提案する。 PANDAは、ニューラルネットワークの最先端の形式的検証ツールの多くで使用されている、効率的な堅牢性認証フレームワークであるCROWNの上に構築されている。 PANDAのコアコントリビューションは、非線形活性化層に対する線形緩和境界を証明し、単純で軽量な証明をもたらす新しいアルゴリズムである。 注目すべきは、我々のシステムは5分で2.9M以上のパラメータを持つニューラルネットワークの局所的堅牢性の証明を生成し、それを10秒で検証できることだ。 以前のZKPベースのロバストネスシステムは、非自明なネットワークにスケールできない指数時間アルゴリズムに依存していた。 対照的に、PANDAはネットワーク内のニューロン数に多項式的にスケールし、従来のアプローチよりも4桁大きいニューラルネットワークをサポートできます。

関連論文リスト

• CREDIT: Certified Ownership Verification of Deep Neural Networks Against Model Extraction Attacks [54.04030169323115]
  我々は、モデル抽出攻撃(MEA)に対する認証された所有権検証であるCREDITを紹介する。 DNNモデル間の類似性を定量化し、実用的な検証しきい値を提案し、このしきい値に基づいてオーナシップ検証を行うための厳密な理論的保証を提供する。 我々は、さまざまなドメインやタスクにまたがるいくつかの主流データセットに対するアプローチを広範囲に評価し、最先端のパフォーマンスを実現した。
  論文  参考訳（メタデータ） (2026-02-23T23:36:25Z)
• TeleSparse: Practical Privacy-Preserving Verification of Deep Neural Networks [6.761197166421685]
  ZK-SNARKは、機密データにアクセスせずにモデル推論を検証する機能を提供するようだ。 ZK-SNARKをトランスフォーマーや大型ビジョンモデルといった現代のニューラルネットワークに適用すると、計算オーバーヘッドが大幅に増加する。 本稿では,ZKフレンドリーな後処理機構であるTeleSparseについて述べる。
  論文  参考訳（メタデータ） (2025-04-27T15:14:09Z)
• Side-Channel Analysis of OpenVINO-based Neural Network Models [14.033470438364628]
  モデルパラメータを高精度に復元し,元のパラメータに非常に近い精度でモデルパラメータを復元できることを示す。 GoogleNet v1の実験では、トップ1の1%の違いとトップ5の0.64%の違いしか示されていない。
  論文  参考訳（メタデータ） (2024-07-23T13:33:37Z)
• Learning Minimal Neural Specifications [5.898353001847861]
  ニューラルネットワークが与えられたら、その堅牢性の形式的検証に十分な最小限の(一般的な)NAP仕様を見つける。 我々は、保守的、統計的、楽観的な3つのアプローチを提案する。 我々の実験によると、最小限のNAP仕様は、以前の研究よりもはるかに少ない神経細胞を使用する。
  論文  参考訳（メタデータ） (2024-04-06T15:31:20Z)
• NCTV: Neural Clamping Toolkit and Visualization for Neural Network Calibration [66.22668336495175]
  ニューラルネットワークのキャリブレーションに対する考慮の欠如は、人間から信頼を得ることはないだろう。 我々はNeural Clamping Toolkitを紹介した。これは開発者が最先端のモデルに依存しないキャリブレーションモデルを採用するのを支援するために設計された最初のオープンソースフレームワークである。
  論文  参考訳（メタデータ） (2022-11-29T15:03:05Z)
• Linearity Grafting: Relaxed Neuron Pruning Helps Certifiable Robustness [172.61581010141978]
  証明可能な堅牢性は、安全クリティカルなシナリオでディープニューラルネットワーク(DNN)を採用する上で望ましい特性である。 線形性の適切なレベルを「グラフト」することで、神経細胞を戦略的に操作する新しいソリューションを提案する。
  論文  参考訳（メタデータ） (2022-06-15T22:42:29Z)
• Can pruning improve certified robustness of neural networks? [106.03070538582222]
  ニューラルネット・プルーニングはディープ・ニューラル・ネットワーク(NN)の実証的ロバスト性を向上させることができることを示す。 実験の結果,NNを適切に刈り取ることで,その精度を8.2%まで向上させることができることがわかった。 さらに,認証された宝くじの存在が,従来の密集モデルの標準および認証された堅牢な精度に一致することを観察する。
  論文  参考訳（メタデータ） (2022-06-15T05:48:51Z)
• Enabling certification of verification-agnostic networks via memory-efficient semidefinite programming [97.40955121478716]
  本稿では,ネットワークアクティベーションの総数にのみ線形なメモリを必要とする一階二重SDPアルゴリズムを提案する。 L-inf の精度は 1% から 88% ,6% から 40% に改善した。 また,変分オートエンコーダの復号器に対する2次安定性仕様の厳密な検証を行った。
  論文  参考訳（メタデータ） (2020-10-22T12:32:29Z)
• Scalable Quantitative Verification For Deep Neural Networks [44.570783946111334]
  ディープニューラルネットワーク(DNN)のためのテスト駆動検証フレームワークを提案する。 本手法は,形式的確率特性の健全性が証明されるまで,十分な試験を行う。 われわれの研究は、現実世界のディープニューラルネットワークが捉えた分布の性質を、証明可能な保証で検証する方法を開拓している。
  論文  参考訳（メタデータ） (2020-02-17T09:53:50Z)
• CryptoSPN: Privacy-preserving Sum-Product Network Inference [84.88362774693914]
  総生産ネットワーク(SPN)のプライバシ保護のためのフレームワークを提案する。 CryptoSPNは、中規模のSPNに対して秒の順序で高効率で正確な推論を行う。
  論文  参考訳（メタデータ） (2020-02-03T14:49:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。