論文の概要: Privacy-Preserving Robustness Verification for Neural Networks

• arxiv url: http://arxiv.org/abs/2607.05251v1
• Date: Mon, 06 Jul 2026 15:59:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:30.231594
• Title: Privacy-Preserving Robustness Verification for Neural Networks
• Title（参考訳）: ニューラルネットワークのプライバシー保護ロバスト性検証
• Authors: Nianyun Song, Xiaokun Luan, Yu Guo, Rongfang Bie, Meng Sun, Xiyue Zhang,
• Abstract要約: プライバシ保護ニューラルネットワーク検証のための最初のフレームワークであるSecureCROWNを紹介する。 我々のフレームワークは、モデル所有者とデータ所有者が、認証された堅牢性境界を共同で計算することを可能にする。 SecureCROWNは検証結果と厳密に一致し, 異なるモデルサイズで0.1-200sで完了した。
• 参考スコア（独自算出の注目度）: 8.136747065885006
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural network verification and data privacy are inherently in tension: verification demands full access to model parameters and input data, yet both are increasingly restricted by privacy regulations and intellectual property constraints. This tension has left robustness verification impractical in privacy-sensitive domains. In this work, we address this gap with SecureCROWN, the first framework for privacy-preserving neural network robustness verification. Built upon secure two-party computation (2PC), our framework enables a model owner and a data owner to jointly compute certified robustness bounds -- revealing only the final result while provably protecting both parties' private data under the semi-honest security model. A key challenge is securely computing the conditional operations in Linear Bound Propagation, where the data-dependent branching is incompatible with standard secure computation protocols. We eliminate branching by formulating conditional logic as continuous arithmetic operations. Additionally, we introduce a Newton--Raphson refinement method to improve numerical stability. Extensive analysis and experiments show that SecureCROWN strictly matches plaintext verification results, while completing in 0.1--200s across varied model sizes and communication settings (LAN/WAN), demonstrating the feasibility of privacy-preserving neural network verification.
• Abstract（参考訳）: 検証はモデルパラメータと入力データへの完全なアクセスを要求するが、どちらもプライバシー規制と知的財産権の制約によってますます制限されている。 この緊張は、プライバシーに敏感なドメインで堅牢性検証を非現実的に残している。 本研究では、プライバシ保護ニューラルネットワークの堅牢性検証のための最初のフレームワークであるSecureCROWNとのギャップに対処する。 当社のフレームワークは、セキュアな双方向計算(2PC)に基づいて構築されており、モデルオーナとデータオーナが、認証された堅牢性境界を共同で計算することが可能です。 重要な課題は、データ依存の分岐が標準的なセキュアな計算プロトコルと互換性がないリニアバウンドプロパゲーションにおける条件演算をセキュアに計算することである。 条件論理を連続演算として定式化することで分岐を除去する。 さらに、数値安定性を向上させるためにNewton-Raphsonの改良手法を導入する。大規模な解析と実験により、SecureCROWNは、さまざまなモデルサイズと通信設定(LAN/WAN)にわたる0.1-200で完了し、プライバシ保護ニューラルネットワーク検証の可能性を示すとともに、平文検証結果と厳密に一致していることが示された。

関連論文リスト

• Hybrid Robustness Verification for Spatio-Temporal Neural Networks [19.026662893450425]
  既存の検証方法は、過度に保守的な近似や不正な計算コストに依存している。 実際には、対向摂動は、低次元、意味論的に意味のある部分空間に制約された、構造化された空間的および時間的相関を示す。 動作認識(UCF-101)、自律運転(Udacity)、医用画像(MedMNIST)の用途を対象として、3次元CNNによる映像入力のロバスト性検証を行う。
  論文  参考訳（メタデータ） (2026-06-08T17:06:51Z)
• Perfectly-Private Analog Secure Aggregation in Federated Learning [51.61616734974475]
  連合学習では、複数のパーティがモデルをローカルにトレーニングし、パラメータを中央サーバと共有する。 本稿では,有限場ではなくトーラスを用いた新しいセキュアパラメータアグリゲーション法を提案する。
  論文  参考訳（メタデータ） (2025-09-10T15:22:40Z)
• On the MIA Vulnerability Gap Between Private GANs and Diffusion Models [51.53790101362898]
  GAN(Generative Adversarial Networks)と拡散モデルが高品質な画像合成のための主要なアプローチとして登場している。 差分自己生成モデルが直面するプライバシーリスクの統一的および実証的分析について述べる。
  論文  参考訳（メタデータ） (2025-09-03T14:18:22Z)
• ZTFed-MAS2S: A Zero-Trust Federated Learning Framework with Verifiable Privacy and Trust-Aware Aggregation for Wind Power Data Imputation [8.934430272818048]
  風力データは、センサの故障やエッジでの不安定な送信によって、しばしば欠落する値に悩まされる。 ZTFed-MAS2Sは、シーケンス・ツー・シーケンス・インプット・モデルを統合するゼロトラスト・フェデレーション学習フレームワークである。 ZTFed-MAS2Sのフェデレーション学習性能と欠落データ計算における優位性を実世界の風力発電データセットで検証した。
  論文  参考訳（メタデータ） (2025-08-24T01:50:58Z)
• Towards Trustworthy AI: Secure Deepfake Detection using CNNs and Zero-Knowledge Proofs [0.0]
  TrustDefenderは、リアルタイム拡張現実(XR)ストリームでディープフェイク画像を検出するフレームワークである。 私たちの研究は、没入的でプライバシーに敏感なアプリケーションにおいて、信頼できるAIの基礎を確立します。
  論文  参考訳（メタデータ） (2025-07-22T20:47:46Z)
• PriRoAgg: Achieving Robust Model Aggregation with Minimum Privacy Leakage for Federated Learning [49.916365792036636]
  フェデレートラーニング(FL)は、大規模分散ユーザデータを活用する可能性から、最近大きな勢いを増している。 送信されたモデル更新は、センシティブなユーザ情報をリークする可能性があり、ローカルなトレーニングプロセスの集中的な制御の欠如は、モデル更新に対する悪意のある操作の影響を受けやすいグローバルモデルを残します。 我々は、Lagrange符号化計算と分散ゼロ知識証明を利用した汎用フレームワークPriRoAggを開発し、集約されたプライバシを満たすとともに、幅広いロバストな集約アルゴリズムを実行する。
  論文  参考訳（メタデータ） (2024-07-12T03:18:08Z)
• Enabling Privacy-preserving Model Evaluation in Federated Learning via Fully Homomorphic Encryption [1.9662978733004604]
  センシティブなデータを集中化せずにモデルを協調的にトレーニングする能力によって、フェデレートラーニングが急速に普及している。 評価フェーズでは、文献で適切に対処されていない重要なプライバシーリスクが提示される。 完全同型暗号を利用した新しい評価手法を提案する。
  論文  参考訳（メタデータ） (2024-03-21T14:36:55Z)
• Robustness Threats of Differential Privacy [70.818129585404]
  我々は、いくつかの設定で差分プライバシーをトレーニングしたネットワークが、非プライベートバージョンに比べてさらに脆弱であることを実験的に実証した。 本研究では,勾配クリッピングや雑音付加などのニューラルネットワークトレーニングの主成分が,モデルの堅牢性に与える影響について検討する。
  論文  参考訳（メタデータ） (2020-12-14T18:59:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。