論文の概要: "Show Me You Comply... Without Showing Me Anything": Zero-Knowledge Software Auditing for AI-Enabled Systems

• arxiv url: http://arxiv.org/abs/2510.26576v1
• Date: Thu, 30 Oct 2025 15:03:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-31 16:05:09.872068
• Title: "Show Me You Comply... Without Showing Me Anything": Zero-Knowledge Software Auditing for AI-Enabled Systems
• Title（参考訳）: Show Me You Comply...Without Showing Me Anything”:Zero-Knowledge Software Auditing for AI-Enabled Systems
• Authors: Filippo Scaramuzza, Renato Cordeiro Ferreira, Tomaz Maia Suller, Giovanni Quattrocchi, Damian Andrew Tamburri, Willem-Jan van den Heuvel,
• Abstract要約: 本稿では,新しいMLOps検証フレームワークであるZKMLOpsを紹介する。 ZKP(Zero-Knowledge Proofs)暗号プロトコルを運用し、証明者が証明者に対して、文が真実であることを納得させることができる。 我々は、金融リスク監査における規制コンプライアンスの研究を通じて、この枠組みの実践性を評価する。
• 参考スコア（独自算出の注目度）: 2.2981698355892686
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The increasing exploitation of Artificial Intelligence (AI) enabled systems in critical domains has made trustworthiness concerns a paramount showstopper, requiring verifiable accountability, often by regulation (e.g., the EU AI Act). Classical software verification and validation techniques, such as procedural audits, formal methods, or model documentation, are the mechanisms used to achieve this. However, these methods are either expensive or heavily manual and ill-suited for the opaque, "black box" nature of most AI models. An intractable conflict emerges: high auditability and verifiability are required by law, but such transparency conflicts with the need to protect assets being audited-e.g., confidential data and proprietary models-leading to weakened accountability. To address this challenge, this paper introduces ZKMLOps, a novel MLOps verification framework that operationalizes Zero-Knowledge Proofs (ZKPs)-cryptographic protocols allowing a prover to convince a verifier that a statement is true without revealing additional information-within Machine-Learning Operations lifecycles. By integrating ZKPs with established software engineering patterns, ZKMLOps provides a modular and repeatable process for generating verifiable cryptographic proof of compliance. We evaluate the framework's practicality through a study of regulatory compliance in financial risk auditing and assess feasibility through an empirical evaluation of top ZKP protocols, analyzing performance trade-offs for ML models of increasing complexity.
• Abstract（参考訳）: 重要なドメインにおける人工知能(AI)の活用が増加し、信頼性に関する懸念が最重要のショートッパーとなり、しばしば規制(EU AI法など)によって、検証可能な説明責任が要求された。 手続き監査、形式的手法、モデルドキュメンテーションのような古典的なソフトウェア検証と検証技術は、これを実現するのに使用されるメカニズムである。 しかし、これらの手法は高価か手動で、ほとんどのAIモデルの不透明で「黒い箱」の性質に不適当である。 高い監査可能性と検証性は法律によって要求されるが、そのような透明性は、監査対象の資産を保護する必要性、機密データ、プロプライエタリモデルなどと矛盾し、説明責任が弱まる。 この課題に対処するために、ZKMLOpsはZero-Knowledge Proofs (ZKP)-cryptographic protocolを運用する新しいMLOps検証フレームワークである。 ZKPと確立されたソフトウェアエンジニアリングパターンを統合することで、ZKMLOpsは、コンプライアンスの検証可能な暗号証明を生成するモジュール的で繰り返し可能なプロセスを提供する。 本研究では,金融リスク監査における規制コンプライアンスの検証を通じてフレームワークの実用性を評価し,トップZKPプロトコルの実証的な評価を通じて実現可能性を評価し,複雑性が増大するMLモデルの性能トレードオフを分析する。

関連論文リスト

• Confidentiality-Preserving Verifiable Business Processes through Zero-Knowledge Proofs [0.0]
  本稿では,ゼロ知識証明(ZKP)に基づくビジネスプロセスの検証手法を提案する。 提案手法は,証明合成による連鎖検証計算を支援する。
  論文  参考訳（メタデータ） (2025-09-24T16:32:48Z)
• Safe and Certifiable AI Systems: Concepts, Challenges, and Lessons Learned [45.44933002008943]
  この白書は、T"UV AUSTRIA Trusted AIフレームワークを提示する。 エンド・ツー・エンドの監査カタログであり、機械学習システムの評価と認定のための方法論である。 セキュアなソフトウェア開発、機能要件、倫理とデータプライバシという3つの柱の上に構築されているのは、EU AI Actの高レベルの義務を、特定かつテスト可能な基準に翻訳するものです。
  論文  参考訳（メタデータ） (2025-09-08T17:52:08Z)
• Engineering Trustworthy Machine-Learning Operations with Zero-Knowledge Proofs [1.7723990552388873]
  Zero-Knowledge Proofs (ZKPs) は、検証済みの計算を通じて、機密性の高いモデルの詳細やデータを明らかにすることなく、要求の遵守を証明できる暗号化ソリューションを提供する。 我々は、AI検証と検証パイプラインにおけるアプリケーションに不可欠な5つの重要な特性(非対話性、透過的なセットアップ、標準表現、簡潔性、および後セキュリティ)を特定します。
  論文  参考訳（メタデータ） (2025-05-26T15:39:11Z)
• Trustless Audits without Revealing Data or Models [49.23322187919369]
  モデルプロバイダが(アーキテクチャではなく)モデルウェイトとデータシークレットを維持しながら、他のパーティがモデルとデータプロパティを信頼性のない監査を行うことが可能であることを示す。 私たちはZkAuditと呼ばれるプロトコルを設計し、モデルプロバイダがデータセットとモデルの重みの暗号的コミットメントを公開します。
  論文  参考訳（メタデータ） (2024-04-06T04:43:06Z)
• Coordinated Flaw Disclosure for AI: Beyond Security Vulnerabilities [1.3225694028747144]
  本稿では,機械学習(ML)問題の複雑度に合わせたコーディネート・フレーバー開示フレームワークを提案する。 本フレームワークは,拡張モデルカード,ダイナミックスコープ拡張,独立適応パネル,自動検証プロセスなどのイノベーションを導入している。 CFDはAIシステムに対する公的な信頼を著しく向上させる可能性があると我々は主張する。
  論文  参考訳（メタデータ） (2024-02-10T20:39:04Z)
• A General Framework for Verification and Control of Dynamical Models via Certificate Synthesis [54.959571890098786]
  システム仕様を符号化し、対応する証明書を定義するためのフレームワークを提供する。 コントローラと証明書を形式的に合成する自動化手法を提案する。 我々のアプローチは、ニューラルネットワークの柔軟性を利用して、制御のための安全な学習の幅広い分野に寄与する。
  論文  参考訳（メタデータ） (2023-09-12T09:37:26Z)
• Relational Action Bases: Formalization, Effective Safety Verification, and Invariants (Extended Version) [67.99023219822564]
  我々はリレーショナルアクションベース(RAB)の一般的な枠組みを紹介する。 RABは両方の制限を解除することで既存のモデルを一般化する。 データ対応ビジネスプロセスのベンチマークにおいて、このアプローチの有効性を実証する。
  論文  参考訳（メタデータ） (2022-08-12T17:03:50Z)
• Trustworthy Artificial Intelligence and Process Mining: Challenges and Opportunities [0.8602553195689513]
  プロセスマイニングは、AIコンプライアンスプロセスの実行に事実に基づく可視性を得るために有用なフレームワークを提供することができることを示す。 AI規制コンプライアンスプロセスの不確実性を分析し、修正し、監視する自動化アプローチを提供する。
  論文  参考訳（メタデータ） (2021-10-06T12:50:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。