論文の概要: Engineering Trustworthy Machine-Learning Operations with Zero-Knowledge Proofs

• arxiv url: http://arxiv.org/abs/2505.20136v1
• Date: Mon, 26 May 2025 15:39:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-27 16:58:43.575869
• Title: Engineering Trustworthy Machine-Learning Operations with Zero-Knowledge Proofs
• Title（参考訳）: ゼロ知識証明を用いた信頼できる機械学習操作
• Authors: Filippo Scaramuzza, Giovanni Quattrocchi, Damian A. Tamburri,
• Abstract要約: Zero-Knowledge Proofs (ZKPs) は、検証済みの計算を通じて、機密性の高いモデルの詳細やデータを明らかにすることなく、要求の遵守を証明できる暗号化ソリューションを提供する。 我々は、AI検証と検証パイプラインにおけるアプリケーションに不可欠な5つの重要な特性(非対話性、透過的なセットアップ、標準表現、簡潔性、および後セキュリティ)を特定します。
• 参考スコア（独自算出の注目度）: 1.7723990552388873
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As Artificial Intelligence (AI) systems, particularly those based on machine learning (ML), become integral to high-stakes applications, their probabilistic and opaque nature poses significant challenges to traditional verification and validation methods. These challenges are exacerbated in regulated sectors requiring tamper-proof, auditable evidence, as highlighted by apposite legal frameworks, e.g., the EU AI Act. Conversely, Zero-Knowledge Proofs (ZKPs) offer a cryptographic solution that enables provers to demonstrate, through verified computations, adherence to set requirements without revealing sensitive model details or data. Through a systematic survey of ZKP protocols, we identify five key properties (non-interactivity, transparent setup, standard representations, succinctness, and post-quantum security) critical for their application in AI validation and verification pipelines. Subsequently, we perform a follow-up systematic survey analyzing ZKP-enhanced ML applications across an adaptation of the Team Data Science Process (TDSP) model (Data & Preprocessing, Training & Offline Metrics, Inference, and Online Metrics), detailing verification objectives, ML models, and adopted protocols. Our findings indicate that current research on ZKP-Enhanced ML primarily focuses on inference verification, while the data preprocessing and training stages remain underexplored. Most notably, our analysis identifies a significant convergence within the research domain toward the development of a unified Zero-Knowledge Machine Learning Operations (ZKMLOps) framework. This emerging framework leverages ZKPs to provide robust cryptographic guarantees of correctness, integrity, and privacy, thereby promoting enhanced accountability, transparency, and compliance with Trustworthy AI principles.
• Abstract（参考訳）: 人工知能(AI)システム、特に機械学習(ML)に基づくシステムは、高度なアプリケーションに不可欠なものとなり、その確率的かつ不透明な性質は、従来の検証と検証方法に重大な課題をもたらす。 これらの課題は、EU AI Act(EU AI Act)のように、不当で監査可能な証拠を必要とする規制されたセクターで悪化している。 逆に、Zero-Knowledge Proofs (ZKPs) は、検証された計算を通じて、機密性の高いモデルの詳細やデータを明らかにすることなく、要求に固執することを証明できる暗号化ソリューションを提供する。 ZKPプロトコルの体系的な調査を通じて、AI検証と検証パイプラインにおける応用に不可欠な5つの重要な特性(非対話性、透過的なセットアップ、標準表現、簡潔さ、後セキュリティ)を特定します。 その後、チームデータサイエンスプロセス(TDSP)モデル(Data & Preprocessing, Training & Offline Metrics, Inference, Online Metrics)を応用して、ZKPで強化されたMLアプリケーションを解析し、検証対象、MLモデル、採用プロトコルを詳述する。 この結果から,ZKP強化MLの研究は主に推論検証に焦点が当てられ,データ前処理やトレーニングの段階は未検討のままであることが示唆された。 中でも注目すべきは、ZKMLOps(Zero-Knowledge Machine Learning Operations)フレームワークの開発に向けた研究領域における重要な収束である。 この新興フレームワークは、ZKPを活用して、正確性、完全性、プライバシの堅牢な暗号化保証を提供することで、説明責任の向上、透明性、信頼に値するAI原則の遵守を促進する。

関連論文リスト

• A Survey of Zero-Knowledge Proof Based Verifiable Machine Learning [11.935644882980233]
  ゼロ知識証明(ZKP)技術は、センシティブなデータを開示することなく、トレーニングプロセスと推論プロセスの両方において、モデル性能と信頼性の効果的な検証を可能にする。 ZKPは、機械学習モデルの妥当性とセキュリティを保証する。 この調査論文は、2017年6月から2024年12月までのZKML(Zero-Knowledge Machine Learning)研究の見直しと分析によってギャップを埋めることを目的としている。
  論文  参考訳（メタデータ） (2025-02-25T05:04:27Z)
• Do We Need to Verify Step by Step? Rethinking Process Supervision from a Theoretical Perspective [59.61868506896214]
  標準的なデータカバレッジの仮定では、強化学習はプロセスの監督よりも統計的に難しいものではない。 任意のポリシーの利点関数が最適なプロセス報酬モデルとして機能することを証明する。
  論文  参考訳（メタデータ） (2025-02-14T22:21:56Z)
• Automated Phishing Detection Using URLs and Webpages [35.66275851732625]
  LLMエージェントフレームワークの開発により,従来の参照型フィッシング検出の制約に対処する。 このエージェントは、Large Language Modelsを利用して、積極的にオンライン情報を取得し、活用する。 我々の手法は0.945の精度で達成され、既存の解(DynaPhish)を0.445で大幅に上回っている。
  論文  参考訳（メタデータ） (2024-08-03T05:08:27Z)
• TRACE: TRansformer-based Attribution using Contrastive Embeddings in LLMs [50.259001311894295]
  TRACE と呼ばれるコントラスト埋め込みを用いた新しいTRansformer-based Attribution フレームワークを提案する。 TRACEは情報源の属性を精度良く改善し,大規模言語モデルの信頼性と信頼性を高める貴重なツールであることを示す。
  論文  参考訳（メタデータ） (2024-07-06T07:19:30Z)
• Trust the Process: Zero-Knowledge Machine Learning to Enhance Trust in Generative AI Interactions [1.3688201404977818]
  特にZKP(Zero-Knowledge Proofs)を使用して、パフォーマンスの公正性と正確性に関する懸念に対処する。 ZKML(Zero-Knowledge Machine Learning)として知られる機械学習モデルにZKPを適用することで、AI生成コンテンツの独立した検証が可能になる。 モデルプライバシを保ちながら出力精度と品質を検証するために,トランスフォーマーのための実用的なZKML実装であるsnarkGPTを導入する。
  論文  参考訳（メタデータ） (2024-02-09T14:00:16Z)
• Data Poisoning for In-context Learning [49.77204165250528]
  In-context Learning (ICL)は、新しいタスクに適応する革新的な能力として認識されている。 本論文は、ICLのデータ中毒に対する感受性の重大な問題について述べる。 ICLの学習メカニズムを活用するために考案された特殊攻撃フレームワークであるICLPoisonを紹介する。
  論文  参考訳（メタデータ） (2024-02-03T14:20:20Z)
• Zero-Knowledge Proof-based Verifiable Decentralized Machine Learning in Communication Network: A Comprehensive Survey [31.111210313340454]
  マシンラーニングに対する分散型アプローチは、信頼性と妥当性に関する課題を導入します。 我々はZKP-VML(Zero-Knowledge Proof-based Verifiable Machine Learning)の総合的なレビューを行う。
  論文  参考訳（メタデータ） (2023-10-23T12:15:23Z)
• Trustworthy AI [75.99046162669997]
  入力データの小さな敵対的変化への脆さ、決定の説明能力、トレーニングデータのバイアスに対処する能力は、最も顕著な制限である。 我々は,AIシステムに対するユーザおよび公的な信頼を高める上での6つの重要な問題に対処するために,信頼に値するAIに関するチュートリアルを提案する。
  論文  参考訳（メタデータ） (2020-11-02T20:04:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。