論文の概要: How to Verify Consistency of Probabilistic Claims

• arxiv url: http://arxiv.org/abs/2608.11181v1
• Date: Tue, 11 Aug 2026 17:41:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-12 19:14:46.143642
• Title: How to Verify Consistency of Probabilistic Claims
• Title（参考訳）: 確率的主張の一貫性の検証方法
• Abstract要約: 予測モデルの一貫性を証明するために,対話型PCPを構築する。 添加音の小さなギャップがBへの依存を除去することを示す。 我々は,対話型PCPを,自身の一貫性を証明するための予測モデルに向けた第一歩だと考えている。
• 参考スコア（独自算出の注目度）: 49.47758039235095
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: When a probabilistic predictor answers many conditional-probability queries, are its answers self-consistent, and can this be verified in polynomial time? This problem is of interest for AI safety, where safety is derived from honesty about probabilistic predictions of unwanted outcomes potentially caused by an AI action. We construct an interactive PCP as follows. Let a predictive model be specified by a probability circuit P and a circuit Q which outputs confidence in predictions. Together, P and Q implicitly specify exponentially many probabilistic claims. We show a protocol in which a polynomial-time verifier can verify the approximate consistency of (P,Q). The verifier is given the pair of circuits (P,Q), which it evaluates at only a few points; alongside them it is given a proof oracle, an encoding of a witnessing probability distribution allegedly consistent with the predictions of (P,Q), which it reads at a few locations while interacting with a single untrusted prover. En route, we must ensure the existence of a sparse witnessing distribution consistent with the model's predictions. To do so, we first consider witness distributions for the consistency of explicit probabilistic claims, rather than claims specified by a predictor: say m claims, each of the form Pr[Y = 1 | X = x] = p, over n Boolean variables. Building on work initiated by Nilsson (Artif. Intell., 1986), we place l_2-approximate probabilistic consistency of explicit claims in NP, with certificates of length O(mn + log B) in the input bit-precision B; we further show how a small additive completeness-soundness gap removes the dependence on B. Together these results provide a complexity-theoretic foundation for certifying the self-consistency of probabilistic predictors. We view our interactive PCP as a first step toward training predictive models to prove their own consistency.
• Abstract（参考訳）: 確率予測器が多くの条件確率的クエリに答えたとき、その答えは自己整合であり、多項式時間で検証できるのか? この問題は、AI行動によって引き起こされる可能性のある、望ましくない結果の確率的予測に関する誠実さから安全が導かれる、AI安全性に対する関心事である。 対話型PCPを次のように構築する。 予測モデルを確率回路Pと予測信頼性を出力する回路Qとで指定する。 P と Q は共に指数的に多くの確率的主張を暗黙的に特定する。 多項式時間検証器が(P,Q)の近似一貫性を検証できるプロトコルを示す。 検証器は、わずか数点で評価される一対の回路(P,Q)を与えられるが、同時に証明オラクル(P,Q)が与えられ、1つの信頼できない証明器と相互作用しながら数箇所で読み取る(P,Q)。 途中では、モデルの予測と一致したスパースな目撃分布の存在を確実にしなければなりません。 例えば m の主張は Pr[Y = 1 | X = x] = p, over n Boolean 変数である。 Nilsson (Artif. Intell., 1986) によって始められた研究に基づいて、入力ビット精度 B における長さ O(mn + log B) の証明書を NP における明示的クレームの l_2-近似確率的整合性(probabilistic consistency) を定め、さらに、加法的完全性-音性ギャップが B への依存性を如何に除去するかを示す。 対話型PCPは,予測モデルをトレーニングして,一貫性を証明するための第一歩だと考えています。

関連論文リスト

• A Unifying Perspective on Probabilities as Model Predictions [0.27689558531442177]
  あらゆる確率はエンプレディション法の出力であると主張する。 客観的ともいわれるものでさえ、モデル依存であることを示す。
  論文  参考訳（メタデータ） (2026-09-09T08:07:09Z)
• Revisiting Active Sequential Prediction-Powered Mean Estimation [6.660458629649825]
  我々は、推定器の非漸近解析を開発し、その信頼区間にデータ依存のバウンダリを確立する。 さらに,クエリ確率を決定するために非regret学習アプローチを用いると,クエリ確率はクエリ確率の最大値の制約に収束することを示す。
  論文  参考訳（メタデータ） (2026-04-20T17:55:17Z)
• Certain but not Probable? Differentiating Certainty from Probability in LLM Token Outputs for Probabilistic Scenarios [1.1510009152620668]
  確率確率的シナリオにおけるトークンの確実性と理論的確率分布との整合性について検討する。 本研究では,(1)シナリオ制約に対する応答妥当性,(2)トークンレベルの出力確率と理論的確率の一致の2つの次元を測る。 以上の結果から,両モデルが全てのプロンプトシナリオにおいて完全なドメイン内応答精度を達成する一方で,トークンレベルの確率とエントロピー値は対応する理論分布から常に分岐することがわかった。
  論文  参考訳（メタデータ） (2025-11-01T16:51:11Z)
• Optimal Conformal Prediction under Epistemic Uncertainty [61.46247583794497]
  コンフォーマル予測(CP)は不確実性を表すための一般的なフレームワークである。 条件付きカバレッジを保証する最小の予測セットを生成するBernoulli予測セット(BPS)を導入する。 1次予測を与えられた場合、BPSはよく知られた適応予測セット(APS)に還元する。
  論文  参考訳（メタデータ） (2025-05-25T08:32:44Z)
• Variability Need Not Imply Error: The Case of Adequate but Semantically Distinct Responses [7.581259361859477]
  不確実性定量化ツールは、モデルが不確実である場合の応答を拒否するために使用できます。 我々は、モデルがAdequate Responses (PROBAR)に割り当てる確率を推定する。 ProBARはアンビグニティ/オープンエンディエントネスの異なるプロンプトでセマンティックエントロピーを上回ります。
  論文  参考訳（メタデータ） (2024-12-20T09:02:26Z)
• Will My Robot Achieve My Goals? Predicting the Probability that an MDP Policy Reaches a User-Specified Behavior Target [56.99669411766284]
  自律的なシステムがタスクを実行する場合、ユーザの目標を達成する確率のキャリブレーションされた見積もりを維持する必要がある。 本稿では,ユーザの目標が目標間隔として指定される設定について検討する。 我々は、共形予測を反転させて確率推定を計算する。
  論文  参考訳（メタデータ） (2022-11-29T18:41:20Z)
• Probabilistic Conformal Prediction Using Conditional Random Samples [73.26753677005331]
  PCPは、不連続な予測セットによって対象変数を推定する予測推論アルゴリズムである。 効率的で、明示的または暗黙的な条件生成モデルと互換性がある。
  論文  参考訳（メタデータ） (2022-06-14T03:58:03Z)
• Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
  多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。 提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
  論文  参考訳（メタデータ） (2021-06-07T17:44:49Z)
• Probabilistic Gradient Boosting Machines for Large-Scale Probabilistic Regression [51.770998056563094]
  PGBM(Probabilistic Gradient Boosting Machines)は、確率的予測を生成する手法である。 既存の最先端手法と比較してPGBMの利点を実証的に示す。
  論文  参考訳（メタデータ） (2021-06-03T08:32:13Z)
• Handling Epistemic and Aleatory Uncertainties in Probabilistic Circuits [18.740781076082044]
  確率的推論の大規模クラスを扱うアプローチの背後にある独立性の仮定を克服する手法を提案する。 ベイズ学習のアルゴリズムは、完全な観察にもかかわらず、スパースから提供します。 そのような回路の各リーフは、不確実な確率を表すエレガントなフレームワークを提供するベータ分散ランダム変数でラベル付けされています。
  論文  参考訳（メタデータ） (2021-02-22T10:03:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。