論文の概要: Efficient Scalable Oversight via Rewinding

• arxiv url: http://arxiv.org/abs/2610.40535v1
• Date: Thu, 29 Oct 2026 17:34:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-01 01:32:10.12357
• Title: Efficient Scalable Oversight via Rewinding
• Title（参考訳）: 巻き戻しによる効率的なスケーラビリティの監視
• Abstract要約: emphrewindable Interactive proofs (RIP) は、スケーラブルな監視のためのインタラクティブな証明を相対化するための新しいモデルである。 RIPは、プロファイラを相互作用の以前の状態に巻き戻し、そこから続く。 我々は,我々のプロトコルを実装し,予備的なMNIST実験を報告し,RIPが最先端のデプロイ証明システムよりも高速であることを示す。
• 参考スコア（独自算出の注目度）: 4.1030147245799915
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Scalable oversight asks how a weak verifier can check the outputs of computations performed by more powerful AI systems. One proposed approach uses relativizing interactive proofs, in which a weak verifier checks the output of a complex oracle-aided computation by interacting with one or more powerful provers. A prominent example is debate, which is highly efficient but assumes that one of two powerful AI models, or provers, is truthful. For certain classes of oracle-aided computations, this assumption can be removed, but at substantially greater computational cost. In this work, we introduce \emph{rewindable interactive proofs} (RIPs), a new model of relativizing interactive proofs for scalable oversight. In an RIP, the verifier may rewind the prover to an earlier state of the interaction and continue from there. This is possible when the prover is an AI model, since the verifier can save a snapshot of the model's state and later restore it. We construct a relativizing RIP for computations whose outputs are robust to changing a small fraction of oracle answers. Our construction is more efficient than prior relativizing proofs that do not assume a truthful prover, and it uses no cryptography. In our construction the honest prover runs in time linear in that of the original computation, and the verifier, after a one-time preprocessing step, runs in time nearly linear in the input length (which can be much smaller than the computation itself). We implement our protocol, report a preliminary MNIST experiment, and show that an RIP can be faster than a state-of-the-art deployed proof system. RIPs may be of independent interest. Rewinding is possible whenever the verifier controls the prover's machine, for example when the prover runs on trusted hardware or in a virtual machine whose state can be checkpointed.
• Abstract（参考訳）: スケーラブルな監視は、より強力なAIシステムによって実行される計算のアウトプットを、弱い検証者がどのようにチェックできるかを問う。 1つのアプローチでは、弱い検証器が1つ以上の強力な証明器と相互作用して複雑なオラクル支援計算の出力をチェックする。 顕著な例は議論であり、非常に効率的だが、2つの強力なAIモデルのうちの1つ、すなわちプロバーが真実であると仮定している。 オラクル支援計算のある種のクラスでは、この仮定は取り除くことができるが、計算コストはかなり高い。 本稿では、スケーラブルな監視のためのインタラクティブな証明を相対化するための新しいモデルである、 \emph{rewindable Interactive proofs} (RIPs)を紹介する。 RIPでは、検証者は証明者を相互作用の初期の状態に巻き戻し、そこから継続することができる。 これは、検証者がモデルの状態のスナップショットを保存し、後に復元できるため、証明者がAIモデルである場合に可能である。 我々は,少数のオラクル回答に頑健な計算用相対化RIPを構築した。 我々の構成は、真理証明を前提としない事前の相対化証明よりも効率的であり、暗号は使用しない。 我々の構成では、正直な証明器は元の計算の時間直線で実行され、検証器は1回前処理のステップの後、入力長さのほぼ直線で実行されます(計算自体よりもはるかに小さくなります)。 我々は,我々のプロトコルを実装し,予備的なMNIST実験を報告し,RIPが最先端のデプロイ証明システムよりも高速であることを示す。 RIPは独立した関心を持つかもしれない。 検証者が証明者のマシンを制御する場合、例えば、証明者が信頼できるハードウェア上で実行された場合や、状態をチェックポイントできる仮想マシンにおいて、巻き戻しが可能となる。

関連論文リスト

• Can AI Oversight Be Zero Knowledge? [46.4827786582896]
  オラクル支援計算における対話型および議論によるAI出力の検証について検討する。 これらの研究は、計算よりもはるかに高速に実行される検証器による検証に焦点を当てている。 オラクルがそれぞれの回答に暗号署名を付けると、全てのオラクル支援計算がゼロの知識で検証可能であることを示す。
  論文  参考訳（メタデータ） (2026-10-01T16:30:16Z)
• How to Avoid Debate: Scalable AI Safety via Doubly-Efficient Interactive Proofs [7.943115149662265]
  ディベートは、2つのAIモデルが同等の能力を持ち、そのうちの1つは真実であり、現実的ではないと仮定する。 私たちは、AIの安全性に関するエフェシンプルプロデューサのインタラクティブな証明の研究を開始します。 オラクル支援計算に対する2倍効率のシングルプロの対話的証明と議論を示す。
  論文  参考訳（メタデータ） (2026-07-03T18:49:20Z)
• Agentic Program Verification [14.684859166069012]
  本稿では,プログラム検証を行うための最初の大規模言語モデルエージェントであるAutoRocqを提案する。 LLMの広範な訓練を実証例に頼っている過去の研究とは異なり、我々のエージェントはオンザフライで学習し、反復的な改善ループを通じて証明を改善する。 このようにして、我々の証明構成は証明エージェントと定理証明器との間の自律的な協調を含む。
  論文  参考訳（メタデータ） (2025-11-21T15:51:48Z)
• AI Agents as Universal Task Solvers [94.49762121230042]
  我々は,過去のデータを用いて,普遍的な解法が達成できる最適なスピードアップが,アルゴリズム情報と密接な関係があることを示す。 我々は、推論モデルをスケールする際に最適化する重要な量は時間であり、学習における重要な役割は、これまでは間接的にのみ考慮されてきたと論じている。
  論文  参考訳（メタデータ） (2025-10-14T02:17:54Z)
• Taming Imperfect Process Verifiers: A Sampling Perspective on Backtracking [54.43083499412643]
  言語モデルの生成能力をプロセス検証器と組み合わせたテストタイムアルゴリズムは、新しい推論能力を引き出すための有望なレバーを提供する。 提案手法は, 理論的に根拠付きバックトラックを用いて, 検証誤差に対して, 確実な堅牢性を実現するための新しいプロセス誘導型テスト時間サンプリングアルゴリズムであるVGBを導入する。
  論文  参考訳（メタデータ） (2025-10-03T16:21:14Z)
• \texttt{Range-Arithmetic}: Verifiable Deep Learning Inference on an Untrusted Party [14.282969274113066]
  textttRange-Arithmeticは、非算術演算をsum-checkプロトコルとMatrixd Rangeを使って検証可能なステップに変換する。 提案手法は,既存手法の性能に適合するだけでなく,計算コストの低減も図っている。
  論文  参考訳（メタデータ） (2025-05-23T08:33:50Z)
• M1: Towards Scalable Test-Time Compute with Mamba Reasoning Models [83.77063985611846]
  本稿では,Mambaアーキテクチャ上に構築されたハイブリッド線形RNN推論モデルM1を紹介する。 実験結果から,M1は従来の線形RNNモデルよりも優れていただけでなく,最先端のDeepSeek R1蒸留推論モデルの性能とも一致していることがわかった。
  論文  参考訳（メタデータ） (2025-04-14T17:38:25Z)
• PENCIL: Long Thoughts with Short Memory [34.880226179021996]
  本稿では, 自己回帰生成プロセスに新たな還元機構を組み込んだPENCILを紹介する。 PENCILは、より短いコンテキストと少ない計算を用いて、より難しい問題を解決するために深く考えることができる。
  論文  参考訳（メタデータ） (2025-03-18T15:14:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。