論文の概要: Can AI Oversight Be Zero Knowledge?
- arxiv url: http://arxiv.org/abs/2610.01995v1
- Date: Thu, 01 Oct 2026 16:30:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:24.285566
- Title: Can AI Oversight Be Zero Knowledge?
- Title（参考訳）: AIは知識をゼロにできるか?
- Abstract要約: オラクル支援計算における対話型および議論によるAI出力の検証について検討する。
これらの研究は、計算よりもはるかに高速に実行される検証器による検証に焦点を当てている。
オラクルがそれぞれの回答に暗号署名を付けると、全てのオラクル支援計算がゼロの知識で検証可能であることを示す。
- 参考スコア（独自算出の注目度）: 46.4827786582896
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI systems increasingly produce outputs from confidential data, such as a fitness-for-duty assessment from medical records or the predicted properties of a drug candidate from its secret structure. It is important to verify that such outputs are correct without revealing the underlying data. A recent line of work studies verification of AI outputs via interactive proofs and debate for oracle-aided computation, where correctness may depend on an oracle such as human judgment, a physical experiment, or the web. These works focus on verification by a verifier that runs much faster than the computation. However, such efficient verification is impossible for general oracle-aided computation, and these works therefore rely on additional assumptions. We focus instead on privacy: allowing the verifier to run in time polynomial in the computation, we ask whether interactive arguments for oracle-aided computation can be zero knowledge, so that the verifier learns nothing about the confidential data beyond the correctness of the output. We prove that, in general, they cannot. In the random oracle model, there are no zero-knowledge proofs for all oracle-aided computations, even if both the prover and the verifier are allowed to run much longer than the computation itself. The impossibility extends to debate, a canonical model for scalable oversight. On the positive side, we show that if the oracle attaches a cryptographic signature to each of its answers, then every oracle-aided computation can be verified in zero knowledge with an efficient prover and verifier, assuming only collision-resistant hash functions. Beyond privacy, this also gives an alternative approach to scalable oversight that relies neither on an honest opponent, as in debate, nor on the robustness of the computation, as in prior single-prover protocols.
- Abstract（参考訳）: AIシステムは、医療記録からのフィットネス・フォー・デューティ・アセスメントや、その秘密構造から薬物候補の予測された特性などの機密データから出力を生成する。
基礎となるデータを明らかにすることなく、そのような出力が正しいことを検証することが重要です。
近年の一連の研究は、人間の判断や物理実験、ウェブなど、託宣に依拠しうる、託宣による計算の対話的証明と議論を通じてAI出力の検証を行っている。
これらの研究は、計算よりもはるかに高速に実行される検証器による検証に焦点を当てている。
しかし、そのような効率的な検証は一般的なオラクル支援計算では不可能であり、従ってこれらの研究は追加の仮定に依存する。
検証者が計算において時間多項式で実行できるようにし、オラクル支援計算の対話的議論がゼロ知識であるかどうかを問うことにより、検証者は出力の正確性を超えた機密データについて何も学ばない。
私たちは、一般に彼らはできないことを証明します。
ランダムオラクルモデルでは、証明子と検証子の両方が計算自体よりもはるかに長い実行が許されたとしても、全てのオラクル支援計算に対してゼロ知識証明は存在しない。
不合理性は、スケーラブルな監視のための標準モデルである議論にまで及ぶ。
正の面では、オラクルがそれぞれの答えに暗号署名を付けると、衝突耐性ハッシュ関数のみを仮定して、効率的な証明器と検証器で全てのオラクル支援計算をゼロの知識で検証できることが示される。
プライバシ以外にも、議論のように正直な反対者にも、以前のシングルプロプロトコルのように、計算の堅牢性にも依存しない、スケーラブルな監視に対する代替のアプローチを提供する。
関連論文リスト
- How to Avoid Debate: Scalable AI Safety via Doubly-Efficient Interactive Proofs [7.943115149662265]
ディベートは、2つのAIモデルが同等の能力を持ち、そのうちの1つは真実であり、現実的ではないと仮定する。
私たちは、AIの安全性に関するエフェシンプルプロデューサのインタラクティブな証明の研究を開始します。
オラクル支援計算に対する2倍効率のシングルプロの対話的証明と議論を示す。
論文 参考訳（メタデータ） (2026-07-03T18:49:20Z) - AI Agents as Universal Task Solvers [94.49762121230042]
我々は,過去のデータを用いて,普遍的な解法が達成できる最適なスピードアップが,アルゴリズム情報と密接な関係があることを示す。
我々は、推論モデルをスケールする際に最適化する重要な量は時間であり、学習における重要な役割は、これまでは間接的にのみ考慮されてきたと論じている。
論文 参考訳（メタデータ） (2025-10-14T02:17:54Z) - Zero-Knowledge Proofs in Sublinear Space [0.0]
主流暗号構築のためのサブリニアメモリ要件を持つ最初の証明システムを開発した。
我々は同じパラメータを使って同じ証明と検証を行い、挑戦生成に集約されたコミットメントのみをハッシングする。
この進歩により、日常のデバイス上でゼロ知識の証明が可能になり、これまで不可能だった大規模な計算を検証できる。
論文 参考訳（メタデータ） (2025-08-30T23:22:54Z) - Efficiently Verifiable Proofs of Data Attribution [9.05608916348947]
本稿では,データ属性に対する対話型検証パラダイムを提案する。
本稿では,PAC(Probably-Aqua-Correct)検証の意味において,形式的完全性,健全性,効率性を保証する。
論文 参考訳（メタデータ） (2025-08-14T17:36:01Z) - Oracle Computability and Turing Reducibility in the Calculus of
Inductive Constructions [0.0]
インダクティブ・コンストラクションの計算におけるオラクル計算可能性とチューリング再現性の概念を総合的に展開する。
通常、合成手法では、メタレベル関数に基づいたオラクル計算の定義を用いる。
チューリングの再現性は上半格子を形成し、決定可能性を持ち、真理値の再現性よりも厳密に表現可能であることを示す。
論文 参考訳（メタデータ） (2023-07-28T13:16:46Z) - Efficient Computation of Counterfactual Bounds [44.4263314637532]
我々は,構造因果モデルのサブクラスにおけるクレダルネットのアルゴリズムを用いて,正確な反ファクト境界を計算する。
近似の精度を信頼性のある間隔で評価する。
論文 参考訳（メタデータ） (2023-07-17T07:59:47Z) - Complexity-Theoretic Limitations on Quantum Algorithms for Topological
Data Analysis [59.545114016224254]
トポロジカルデータ解析のための量子アルゴリズムは、古典的手法よりも指数関数的に有利である。
我々は、量子コンピュータにおいても、TDA(ベッチ数の推定)の中心的なタスクが難解であることを示します。
我々は、入力データが単純さの仕様として与えられると、指数的量子優位性を取り戻すことができると論じる。
論文 参考訳（メタデータ） (2022-09-28T17:53:25Z) - New Oracle-Efficient Algorithms for Private Synthetic Data Release [52.33506193761153]
微分プライベートな合成データを構築するための3つの新しいアルゴリズムを提案する。
アルゴリズムは最悪の場合でも差分プライバシーを満たす。
現状の手法である高次元行列機構 citeMcKennaMHM18 と比較すると,我々のアルゴリズムは大規模作業負荷の精度が向上する。
論文 参考訳（メタデータ） (2020-07-10T15:46:05Z) - Faster Secure Data Mining via Distributed Homomorphic Encryption [108.77460689459247]
ホモモルフィック暗号化(HE)は、最近、暗号化されたフィールド上で計算を行う能力により、ますます注目を集めている。
本稿では,スケーリング問題の解決に向けて,新しい分散HEベースのデータマイニングフレームワークを提案する。
各種データマイニングアルゴリズムとベンチマークデータセットを用いて,新しいフレームワークの有効性と有効性を検証する。
論文 参考訳（メタデータ） (2020-06-17T18:14:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。