論文の概要: Proof-or-Stop: Don't Trust the Agent, Trust the Evidence -- Loop Engineering for Verifiable Evidence-Gated Lifecycle Control
- arxiv url: http://arxiv.org/abs/2607.14890v1
- Date: Thu, 16 Jul 2026 12:06:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-17 17:01:33.089512
- Title: Proof-or-Stop: Don't Trust the Agent, Trust the Evidence -- Loop Engineering for Verifiable Evidence-Gated Lifecycle Control
- Title（参考訳）: Proof-or-Stop: エージェントを信頼せず、エビデンスを信頼する -- 検証されたエビデンス-ゲートライフサイクル制御のためのループエンジニアリング
- Authors: Jek Huang, Jeffery Hsia, Jiayi Sun, Freddie Shi, Wei Huang, Ian H. White,
- Abstract要約: 本稿では, プロフ・オ・ストップライフサイクル・コントロールについて紹介する。
これは、新しい、追跡されたソースベースで機械的に検証可能な証拠が関連するゲートを満たす場合にのみ、ライフサイクルの遷移を可能にする。
我々は, 機構試験, パワードコントロール・ポリシー・アブレーション, セルフアプリケーション・エビデンスによるオープンソース実装の評価を行った。
- 参考スコア（独自算出の注目度）: 5.796499740822509
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Autonomous coding agents increasingly execute multi-step software work, but lifecycle states such as reviewed, tested, DONE, and ready-to-merge remain claims unless supported by current evidence. We present Proof-or-Stop Lifecycle Control, a method that permits lifecycle transitions only when fresh, tracked-source-state-bound, mechanically verifiable evidence satisfies the relevant gate. The method treats agent outputs as claims rather than lifecycle state, and uses proof operationally to mean gate-admissible evidence under a stated trust model, not semantic program correctness. We evaluate an open-source implementation through mechanism tests, a powered control-policy ablation, and operated self-application evidence. The unattended-loop engine passed 10 of 10 scenarios with zero false-DONE, and local-key receipt bundles rejected 18 tamper classes with zero false accepts. In a 9,240-cell ablation, the pre-registered A4 versus A2-prime comparison reduced visible-pass/hidden-fail amplification from 31 of 1,800 injected cells under a compute-budgeted naive loop to 2 of 1,800 under the gated loop, a 1.6 percentage-point improvement in not-amplified rate with a 95 percent confidence interval of [0.8, 2.5]. A near-compute A3 versus A4 comparison, 14 of 1,800 versus 2 of 1,800, indicates that the gain is associated with enforcing review as a lifecycle gate rather than merely adding a reviewer. The self-application corpus contains 565 stories and 1,007 review findings, with 94.8 percent resolved, plus a 68-row high/critical cross-vendor exhibit. These results support Proof-or-Stop as a model-agnostic, host-neutral control layer for deciding which autonomous-agent claims a lifecycle may act on. The evaluation is limited to one model family, 24 ablation tasks, and a self-hosted corpus.
- Abstract（参考訳）: 自律的なコーディングエージェントは、ますます多段階のソフトウェア作業を実行するようになるが、レビュー、テスト、DONE、およびマージ可能なライフサイクル状態は、現在の証拠に支えられない限り、引き続き主張される。
本稿では,新鮮かつトラクテッド・ソース・バウンドで機械的に検証可能な証拠が関連するゲートを満たす場合にのみ,ライフサイクル遷移を可能にするProof-or-Stop Lifecycle Controlを提案する。
この方法では、エージェント出力をライフサイクル状態ではなくクレームとして扱い、セマンティックプログラムの正確性ではなく、宣言された信頼モデルの下でゲート許容エビデンス(ゲート許容エビデンス)を運用的に意味する。
我々は, 機構試験, パワードコントロール・ポリシー・アブレーション, セルフアプリケーション・エビデンスによるオープンソース実装の評価を行った。
修正されていないループエンジンは、偽DONEをゼロとする10のシナリオのうち10をパスし、ローカルキーのレシートバンドルは偽の受け入れをゼロとする18のタンパークラスを拒否した。
9240セルのアブレーションでは、前登録したA4とA2プリムの比較により、1,800個の注入された細胞のうち31個から1,800個までの可視パス/隠れフェイル増幅をゲートループで2個に減らし、95%の信頼区間(0.8,2.5)の未増幅率で1.6ポイント改善した。
約1,800対2の14対1,800対2のA3対A4比較は、レビューを単にレビュアーを追加するのではなく、ライフサイクルゲートとして実施することに関連していることを示している。
自己申告コーパスには565のストーリーと1,007のレビュー結果が含まれ、94.8%が解決された。
これらの結果は、モデルに依存しないホストニュートラル制御層としてProof-or-Stopをサポートし、ライフサイクルがどの自律エージェントに作用するかを決定する。
評価は1つのモデルファミリー、24のアブレーションタスク、および自己ホスト型コーパスに限られる。
関連論文リスト
- Stop Means Stop: Measuring and Repairing the Enforcement Gap in Agent-Framework Control Primitives [0.0]
LLM-agentフレームワークはコントロールプリミティブを公開します。
実行が一時停止されたり、キャンセルされたり、タイムアウトされたりしても、ゲートサイドエフェクトは実行されない。
この暗黙の契約は、私たちがテストした6つの広く使われているオープンソースフレームワークのどれにも当てはまりません。
論文 参考訳（メタデータ） (2026-07-15T05:55:38Z) - Evidence-Grounded Ensemble Diagnosis of 802.11 Packet Captures: A Multi-Stage Pipeline with Deterministic Reliability Scoring [1.0170129555792935]
802.11パケットキャプチャの診断には、専門家のプロトコル知識が必要で、遅く、エンジニア間で一貫性がなく、スケールできない。
LLMベースのアプローチは、キャプチャーから欠落するが製造されたプロトコルイベントを聴取し、未校正された信頼スコアを生成し、テスト中のモデルによって黄金の基準が共同生成されると評価バイアスを被る。
PROBEは3つの障害に対処する多段階パイプラインである。
論文 参考訳（メタデータ） (2026-06-05T03:39:58Z) - Hallucination as Exploit: Evidence-Carrying Multimodal Agents [10.441697487723568]
マルチモーダルエージェントはますます、スクリーンショットやドキュメント、Webページからツールコールを選択している。
本稿では,自由形式モデルテキストを不許容な証拠として扱うエビデンス搬送型マルチモーダルエージェント(ECA)を提案する。
ECAは不透明なモデルの信念を検証者、スキーマ、実装レベルで監査可能な残留物に変換する。
論文 参考訳（メタデータ） (2026-05-18T23:40:43Z) - Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。
個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。
構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
論文 参考訳（メタデータ） (2026-05-15T17:08:27Z) - AuditRepairBench: A Paired-Execution Trace Corpus for Evaluator-Channel Ranking Instability in Agent Repair [21.974153439592317]
AuditBenchは576,000の登録細胞(96,000が実行)のペア実行トレースコーパスである
宣言された可観測性境界内で評価器-チャネル遮断ランキングの不安定を運用する。
80ケースのソースレベルのチャネルサージェリーサブセット上で、メカニズムアンカレートによる検証がサポートされている。
論文 参考訳（メタデータ） (2026-05-06T08:12:09Z) - Claw-Eval: Toward Trustworthy Evaluation of Autonomous Agents [66.97968363332465]
エージェントベンチマークの3つのギャップに対処するエンドツーエンド評価スイートであるClaw-Evalを紹介した。
Claw-Evalは3つのグループにまたがる9つのカテゴリにまたがる300の人間検証タスクで構成されている。
すべてのエージェントアクションは、3つの独立したエビデンスチャネルを通じて記録される。
論文 参考訳（メタデータ） (2026-04-07T17:43:18Z) - LatentAudit: Real-Time White-Box Faithfulness Monitoring for Retrieval-Augmented Generation with Verifiable Deployment [19.317475241300397]
オープン・ウェイト・ジェネレータから中～後期の残ストリームアクティベーションをプールするホワイトボックス監査機であるLatentAuditを紹介する。
残差ストリーム幾何は、使用可能な忠実度信号を持ち、この信号がアーキテクチャの変化を生き延び、同じ規則が公衆の検証にも適用可能であることを示す。
論文 参考訳（メタデータ） (2026-04-07T02:55:32Z) - Goedel-Code-Prover: Hierarchical Proof Search for Open State-of-the-Art Code Verification [34.98335927187393]
大規模言語モデル(LLM)は可塑性コードを生成することができるが、正確性には限界がある。
本稿では,Lean4における自動コード検証のための階層的証明検索フレームワークを提案する。
Goedel-Code-Prover-8Bは、分解と完了の両方のための単一の統一ポリシーです。
論文 参考訳（メタデータ） (2026-03-18T18:42:04Z) - SEAL-Tag: Self-Tag Evidence Aggregation with Probabilistic Circuits for PII-Safe Retrieval-Augmented Generation [36.47163805456756]
SEAL-Tagは個人識別可能な情報を保護するランタイム環境(PII)
SEAL-TagはSEAL-Probeプロトコルを導入し、監査を構造化されたツール使用操作に変換し、モデルがそのドラフトと共に検証可能なPII-Evidence Table(PET)を生成する。
プライバシ"コールドスタート"問題を克服するため,S0-S6アンコレッド合成パイプラインを導入し,高忠実で実証されたRAGインタラクションを生成する。
論文 参考訳（メタデータ） (2026-03-18T02:40:54Z) - Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。
内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
論文 参考訳（メタデータ） (2026-03-13T20:44:15Z) - interwhen: A Generalizable Framework for Verifiable Reasoning with Test-time Monitors [47.363850513075356]
実験時間検証フレームワークであるInterwhenを提案し, 与えられた検証結果に対して, 推論モデルの出力が有効であることを保証する。
検証された推論は、物理的な世界にエージェントを配置するといった高度なシナリオにおいて重要な目標である。
論文 参考訳（メタデータ） (2026-02-05T08:35:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。