論文の概要: Clean Sheets and Checkpoints: Evidence Complexity for Certifying Sequential Agent Risk
- arxiv url: http://arxiv.org/abs/2610.39124v1
- Date: Thu, 29 Oct 2026 01:13:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-31 05:25:12.441204
- Title: Clean Sheets and Checkpoints: Evidence Complexity for Certifying Sequential Agent Risk
- Title（参考訳）: クリーニングシートとチェックポイント:シークエンシャルエージェントリスク認定のためのエビデンス複雑さ
- Abstract要約: 危険な能力評価は、注文されたマイルストーンで準備された状態からAIエージェントをテストすることが多い。
私たちは、タスクをチェックポイントセグメントに分割した、$k$マイルストーンのチェーンとしてモデル化します。
監査応答のゼロ数が、レベル$で、完了確率が少なくとも$$であるかどうかを問う。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Dangerous-capability evaluations often test an AI agent from prepared states at ordered milestones. A clean sheet records no successes. What it certifies about a campaign of $B$ attempts depends on what a failed attempt erases. We model the task as a chain of $k$ milestones divided into checkpoint segments and ask how many zero audit responses certify, at level $α$, a completion probability of at most $ε$. For segments chosen before the audit, counting possible completion windows gives a certificate for any specified budget. The bound also covers adaptive deployment processes that follow the chain's transitions, provided their success probabilities after every complete history are capped by the corresponding audit success probabilities. The audit does not test this transport assumption. In rare-risk phase interiors, each segment is either rarely completed within the budget (active) or nearly always completed (free). The minimum expected number of zero responses is asymptotic to $\log(1/α)\,(B^a/(a!\,ε))^{1/K_A}$, where the $a$ active segments contain $K_A$ milestones and are those at least as long as a budget-dependent threshold. The certificate attains this constant. Every asymptotically optimal evaluator must divide its expected response count equally among active milestones in the limit, with a vanishing share elsewhere. Where a single segment passes from active to free, each of its milestones receives a smaller limiting share than an active milestone; a crossover-aware certificate attains the optimal constant. For selected segments with known or unqueried prefix steps, counting failed cycles can sharpen the certificate.
- Abstract（参考訳）: 危険な能力評価は、注文されたマイルストーンで準備された状態からAIエージェントをテストすることが多い。
クリーンシートは成功を記録しません。
B$のキャンペーンについて証明するものは、失敗した試みが消したものに依存します。
我々は、タスクをチェックポイントセグメントに分割した$k$マイルストーンの連鎖としてモデル化し、どの程度のゼロ監査応答が、レベル$α$、最高$ε$の完了確率を認定するかを問う。
監査前に選択されたセグメントについては、完了可能なウィンドウを数えると、指定された予算の証明書が与えられる。
このバウンダリは、チェーンの遷移に従う適応的なデプロイメントプロセスもカバーしており、すべての完全な履歴が対応する監査成功確率によって制限された後、その成功確率を保証します。
監査は、この輸送仮定をテストしません。
希少なリスクのフェーズインテリアでは、各セグメントが予算内で(アクティブ)またはほぼ常に(フリー)に完了されることは滅多にない。
ゼロ応答の最小期待数は$\log(1/α)\,(B^a/(a!
ここで$a$のアクティブセグメントは、K_A$マイルストーンを含み、予算依存のしきい値である。
証明書はこの定数を達成します。
すべての漸近的最適評価者は、期待する応答数を、その限界におけるアクティブなマイルストーンに等しく分けなければならない。
ひとつのセグメントがアクティブからフリーにパスした場合、それぞれのマイルストーンはアクティブなマイルストーンよりも制限の少ないシェアを受け取る。
既知のまたは未クエリのプレフィックスステップを持つ選択されたセグメントでは、失敗したサイクルをカウントすることで証明書をシャープすることができる。
関連論文リスト
- Exact Compilation and Resource Laws for Hidden Integer Feedback [1.5224436211478214]
我々は,有理フィードバック機構を予測可能な署名ユニット参加下で研究する。
構造化有限整数行列は誤りや新しいランダム性を改善することを示す。
論文 参考訳（メタデータ） (2026-10-19T14:01:07Z) - StopLoss: Teaching Agents to Predict Failure and Stop Early [58.46247112300993]
StopLossは、完成した軌跡とその検証結果から障害認識を学ぶ小さな外部モニタである。
StopLossは、実行が失敗する可能性がある場合に早期に実行を終了し、リソースを節約します。
論文 参考訳（メタデータ） (2026-10-18T20:39:02Z) - Before They Can Solve: Predicting Post-Training Coding-Agent Performance from Base Models [87.94969284553706]
エンド・ツー・エンドのpass@$K$は、成功した振る舞いがベースモデルのディストリビューションにすでに現れるかどうかをテストする。
コールドスタートからハーネスを駆動するために、ベースチェックポイントを必要としない3つのスクリーンを構築します。
3つの画面はいずれも、ポストトレーニング後のSWE-bench Verified pass@$1$と密接に一致して、コホートをランク付けする。
論文 参考訳（メタデータ） (2026-10-07T17:37:19Z) - Certified by Abstention: Distribution-Free Guarantees for Chain-of-Thought Verifiers at Small Calibration Budgets [0.0]
数十から数百のラベル付き問題の現実的なキャリブレーション予算において,CoT検証者に対して分布自由選択保証がもたらすものは何であるかを問う。
既知のリスクを伴うシミュレーションでは、標準証明書はキャリブレーションの少なくとも0.3%のドローで失敗するが、発射される場合の最大69%で失敗する。
次に、単調な仮定なしで有効なフロアスタート固定シーケンス証明書を与え、すべてのモデル信号ペア上のボンフェロニ証明書以上のものをカバーします。
論文 参考訳（メタデータ） (2026-10-07T06:40:58Z) - Counterfactual Probing for Parallel Unmasking with Hidden Forest Structure [50.58119214447535]
マスク付き生成モデルは並列トークン予測を提供するが、正確な並列サンプリングはトークンを考慮しなければならない。
本研究は,発見を含む全評価がシーケンス長$N$のサブ線形であるかどうかを考察する。
本研究では, 森林構造を隠蔽した離散分布を, 固定された近似条件オラクルを通してアクセスする。
論文 参考訳（メタデータ） (2026-09-29T15:39:50Z) - Checking Leakage Witnesses versus Certifying Bounded Non-Leakage [3.278446761115315]
言語モデル監査はリークがなく、非推論の認定に必要なものは何か?
実行可能リークおよび復号化ルールの下で、宣言されたプロンプトドメイン以上を保証します。
一般的な有界時間評価器では、供給されるリーク実行はチェック可能であり、リーク存在はNP完全である。
厳密な証明は、固定された有理切断毎に$(0,1)$で$coNPPP$-completeである。
論文 参考訳（メタデータ） (2026-09-26T01:40:52Z) - Stateful CARS: Exact Cross-History Reuse for Policy-Constrained LLM Agents [0.9558392439655014]
ハードステートフル検証器に条件付されたモデル分布の正確なサンプリングについて検討する。
ステートフルCARSはサウンドステートのバンクを凍結します。
クロスヒストリー転送は、内部整合キーアブレーションでのみ有効である。
論文 参考訳（メタデータ） (2026-08-08T18:26:25Z) - Correction and Corruption: A Two-Rate View of Error Flow in LLM Protocols [51.56484100374058]
そこで本研究では,単一プロトコルステップを正確なマッチングタスクで監査するためのペアアウトカム計測インタフェースを提案する。
各インスタンスについて、インターフェースはベースラインの正当性ビットと後ステップの正当性ビットを記録する。
これらのレートは精度の変化を予測し、種、混合物、パイプライン間でテスト可能な再利用可能な経験的インターフェースを定義する。
論文 参考訳（メタデータ） (2026-04-20T13:25:40Z) - Run-length certificates in quantum learning: sample complexity and noise thresholds [0.0]
最小フィードバック学習では、学習完了は1ビット毎のコピーレコードから抽出されたオンラインラン長証明書によって定義することができる。
厳格に制約されたフィードバックの下では、認証がサンプルの複雑さを支配し、小さなラベルノイズが情報のボトルネックとなることを示す。
論文 参考訳（メタデータ） (2026-02-11T08:51:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。