論文の概要: Privacy-Preserving AI Verification via Minimal Information Disclosure

• arxiv url: http://arxiv.org/abs/2608.02774v1
• Date: Mon, 03 Aug 2026 18:18:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-05 15:30:22.914998
• Title: Privacy-Preserving AI Verification via Minimal Information Disclosure
• Title（参考訳）: 最小情報開示によるプライバシ保護AI検証
• Abstract要約: 我々は,検証対象の証拠自体の情報内容を設計し,定量化するミニマル情報開示(MID)を導入する。 MIDは、条件付き相互情報による側方漏洩を測定する。 MIDの実用性は,実行タイプ,ハードウェアアイデンティティ,計算スケール,モデルアイデンティティにまたがる6つの検証タスクと4つの物理測定で実証する。
• 参考スコア（独自算出の注目度）: 0.5013248430919224
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: AI verification crosses a trust boundary: a verifier must learn enough to establish an authorized claim, yet the same evidence can reveal sensitive details about the model, workload, or hardware. We introduce minimal information disclosure (MID), which designs and quantifies the information content of verifier-facing evidence itself. MID measures collateral leakage with conditional mutual information: what the release reveals about the protected property after the authorized result is known. MID is general by design: it can accommodate different verification goals, protected properties, evidence sources, and deployment constraints. To demonstrate MID's practicality, we evaluate it on four physical measurements and six verification tasks spanning execution type, hardware identity, compute scale, and model identity. These experiments use three mechanism-design variables--the evidence channel, collection policy, and release transformation--but MID is not limited to these choices and can accommodate other deployable mechanisms. Across these tasks, MID produces three releases with perfect held-out verification and zero measured collateral leakage, while the remaining tasks yield explicit privacy--utility frontiers. MID also supports ZKP-certified releases: we demonstrate our proposed linear-projection mechanism using a Groth16 zk-SNARK.
• Abstract（参考訳）: AI検証は信頼境界を越えている。検証者は認証されたクレームを確立するのに十分な学習をしなければならないが、同じ証拠はモデル、ワークロード、ハードウェアに関する機密性の高い詳細を明らかにすることができる。 我々は,検証対象の証拠自体の情報内容を設計し,定量化するミニマル情報開示(MID)を導入する。 MIDは、条件付き相互情報による側方漏洩を測定する。 MIDは、様々な検証目標、保護されたプロパティ、エビデンスソース、デプロイメント制約を満たすことができる。 MIDの実用性を示すために,実行タイプ,ハードウェアアイデンティティ,計算スケール,モデルアイデンティティにまたがる4つの物理測定と6つの検証タスクについて評価を行った。 これらの実験では,エビデンスチャネル,コレクションポリシ,リリーストランスフォーメーションという3つのメカニズム設計変数が使用されている。 これらのタスク全体で、MIDは完全なホールドアウト検証と計測された横方向のリークのない3つのリリースを生成し、残りのタスクは明示的なプライバシとユーティリティのフロンティアを生み出している。 我々はGroth16 zk-SNARKを用いた線形射影機構を提案する。

関連論文リスト

• OreProof: Verifiable Provenance with Limited Disclosure for Critical-Minerals Supply Chains Using Zero-Knowledge Proofs [11.593007195936186]
  OreProofは、臨界ミネラルサプライチェーンのためのプロトタイプトレーサビリティプラットフォームである。 ハイブリッドオンチェーン/オフチェーンデータモデル、選択的な開示のためのGroth16ゼロ知識証明、Merkleバッチのアンカーパイプライン、UNTP準拠の検証証明を組み合わせたものだ。
  論文  参考訳（メタデータ） (2026-08-31T20:34:45Z)
• AgentSecBench: Measuring Prompt Injection, Privacy Leakage, and Tool-Use Integrity in LLM Agents [0.2864713389096699]
  本稿では,AgentSecBenchを,この問題に対する正式なセキュリティフレームワークの実証的なインスタンス化として紹介する。 3つのゲーム・インストラクション・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)を定めている。 これは、承認された観察と能力に対するプロジェクションとしてのアプリケーションポリシーを表し、プロジェクションの即時アノテーションとプロジェクションの強化を区別し、敵のアドバンテージと、防衛が生成前に関連するモデル可視チャネルを閉鎖するかどうかを計測する。
  論文  参考訳（メタデータ） (2026-05-25T18:53:22Z)
• Trust but Verify: Introducing DAVinCI -- A Framework for Dual Attribution and Verification in Claim Inference for Language Models [53.279391576560755]
  大規模言語モデル(LLM)は、広範囲のNLPタスクにおいて顕著な流速と汎用性を示してきたが、実際的な不正確さと制限が伴う傾向にある。 これは、信頼と妥当性が最優先される医療、法律、科学コミュニケーションといった、高リスク領域に重大なリスクをもたらす。 LLM出力の事実的信頼性と解釈可能性を高めるために設計されたDAVinCI - Dual Attribution and Verificationフレームワークを紹介する。
  論文  参考訳（メタデータ） (2026-04-23T01:37:50Z)
• CREDIT: Certified Ownership Verification of Deep Neural Networks Against Model Extraction Attacks [54.04030169323115]
  我々は、モデル抽出攻撃(MEA)に対する認証された所有権検証であるCREDITを紹介する。 DNNモデル間の類似性を定量化し、実用的な検証しきい値を提案し、このしきい値に基づいてオーナシップ検証を行うための厳密な理論的保証を提供する。 我々は、さまざまなドメインやタスクにまたがるいくつかの主流データセットに対するアプローチを広範囲に評価し、最先端のパフォーマンスを実現した。
  論文  参考訳（メタデータ） (2026-02-23T23:36:25Z)
• Quantum-Safe Identity Verification using Relativistic Zero-Knowledge Proof Systems [3.8435472626703473]
  金融、医療、オンラインサービスなどの分野では、セキュリティの確保と不正防止のためにアイデンティティの検証が不可欠だ。 現在のパスワード/PINベースのIDソリューションはフィッシングやスキミング攻撃の影響を受けやすい。 グラフカラー化に基づく相対論的ゼロ知識証明によるアイデンティティ検証について検討する。
  論文  参考訳（メタデータ） (2025-07-18T18:59:19Z)
• Confidential Guardian: Cryptographically Prohibiting the Abuse of Model Abstention [65.47632669243657]
  不正直な機関は、不確実性の観点からサービスを差別または不正に否定する機構を利用することができる。 我々は、ミラージュと呼ばれる不確実性誘導攻撃を導入することで、この脅威の実践性を実証する。 本研究では,参照データセット上のキャリブレーションメトリクスを分析し,人工的に抑制された信頼度を検出するフレームワークであるConfidential Guardianを提案する。
  論文  参考訳（メタデータ） (2025-05-29T19:47:50Z)
• Engineering Trustworthy Machine-Learning Operations with Zero-Knowledge Proofs [1.7723990552388873]
  Zero-Knowledge Proofs (ZKPs) は、検証済みの計算を通じて、機密性の高いモデルの詳細やデータを明らかにすることなく、要求の遵守を証明できる暗号化ソリューションを提供する。 我々は、AI検証と検証パイプラインにおけるアプリケーションに不可欠な5つの重要な特性(非対話性、透過的なセットアップ、標準表現、簡潔性、および後セキュリティ)を特定します。
  論文  参考訳（メタデータ） (2025-05-26T15:39:11Z)
• OpenFactCheck: Building, Benchmarking Customized Fact-Checking Systems and Evaluating the Factuality of Claims and LLMs [59.836774258359945]
  OpenFactCheckは、カスタマイズされたファクトチェックシステムを構築するためのフレームワークである。 ユーザーは自動的にファクトチェッカーをカスタマイズし、文書やクレームの事実的正当性を検証できる。 CheckerEVALは、人間の注釈付きデータセットを使用して、自動ファクトチェッカーの検証結果の信頼性を高めるソリューションである。
  論文  参考訳（メタデータ） (2024-05-09T07:15:19Z)
• Auditing AI models for Verified Deployment under Semantic Specifications [65.12401653917838]
  AuditAIは、解釈可能な形式検証とスケーラビリティのギャップを埋める。 AuditAIは、画素空間の摂動のみを用いた検証の限界に対処しながら、検証と認定トレーニングのための制御されたバリエーションを得られるかを示す。
  論文  参考訳（メタデータ） (2021-09-25T22:53:24Z)
• SMT-based Safety Verification of Parameterised Multi-Agent Systems [78.04236259129524]
  パラメータ化マルチエージェントシステム(MAS)の検証について検討する。 特に、与えられた状態公式として特徴づけられる不要な状態が、所定のMASで到達可能かどうかについて検討する。
  論文  参考訳（メタデータ） (2020-08-11T15:24:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。