論文の概要: Engineering Reliable Commit Gates for Agentic AI: Cost-Aware Verification Portfolios under Common-Mode Data Failures

• arxiv url: http://arxiv.org/abs/2609.10969v1
• Date: Thu, 10 Sep 2026 01:42:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-11 23:53:35.177472
• Title: Engineering Reliable Commit Gates for Agentic AI: Cost-Aware Verification Portfolios under Common-Mode Data Failures
• Title（参考訳）: エージェントAIのための信頼性の高いコミットゲート:コモンモードデータ障害下でのコストアウェア検証ポートフォリオ
• Abstract要約: コスト対応コミットゲートのランタイム保証ベンチマークを提案する。 48のタスクテンプレートは、6つの障害レジームで2,880のシナリオを生成する。 結果は明確なエビデンスライン、コストアウェアの選択、コミットタイムの実施を動機付けます。
• 参考スコア（独自算出の注目度）: 4.287745257410248
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Agentic systems commit state-changing actions, but additional verifiers can inherit the same upstream fault. We present VP-CONTROL, a runtime-assurance design and deterministic benchmark for cost-aware commit gates. Its 48 task templates yield 2,880 scenarios across six fault regimes. A fixed-call 2 x 2 experiment separates verifier-model diversity from evidence-source diversity. On frozen proposals from two local actor families, a cross-model vote over shared evidence approves 62.9% of unsafe proposals, versus 22.9% with an independent source. The source effect is 40.9 percentage points, compared with 11.3 for model diversity. A portfolio controller selects verification plans using only deployment-observable metadata. Approximate cluster-adjusted calibration at a nominal 5% per-task target yields 1.9% unsafe execution and 38.2% automated safe coverage on the locked test. Matched-budget portfolios also improve on fixed verification policies. Transfer remains conditional: unseen fault families yield 16-26% risk, and a FinQA check fails to reproduce the source effect with the tested small verifiers. A preregistered live HTTP/SQLite study tests concurrent writes and lost responses. After-check races defeat verifier-only gates; transactional partial guards prevent only covered failures, while a full atomic guard records no unsafe effects across 216 episodes. Idempotent request identifiers prevent duplicate effects after lost responses. The results motivate explicit evidence lineage, cost-aware selection, and commit-time enforcement, while exposing the limits of approximate calibration and local-tool generalization.
• Abstract（参考訳）: エージェントシステムは状態変更アクションをコミットするが、追加の検証器は同じ上流の障害を継承できる。 本稿では,コストを意識したコミットゲートに対する実行時保証設計および決定論的ベンチマークであるVP-CONTROLを提案する。 48のタスクテンプレートは、6つの障害レジームで2,880のシナリオを生成する。 固定呼出 2 x 2 の実験は、検証者モデルの多様性とエビデンスソースの多様性を分離する。 2つの地元俳優の家族による凍結された提案について、共用証拠に関するクロスモデル投票では62.9%が安全でない提案を承認し、22.9%が独立した情報源である。 原点効果は40.9ポイントであり、モデルの多様性は11.3ポイントである。 ポートフォリオコントローラは、デプロイメント可観測メタデータのみを使用して検証計画を選択する。 タスク毎に5%という名目でクラスタを調整したキャリブレーションでは、安全でない実行が1.9%、ロックされたテストが38.2%自動化されている。 一致した予算ポートフォリオは、固定された検証ポリシーも改善する。 転送は条件付きであり、未確認のフォールトファミリーは16-26%のリスクを発生し、FinQAチェックはテストされた小さな検証器でソース効果を再現できない。 登録済みのライブHTTP/SQLite研究は、同時書き込みと失われたレスポンスをテストする。 アフターチェックレースはバリデーションのみのゲートを破り、トランザクショナル部分ガードはカバーされた障害のみを防ぎ、フルアトミックガードは216エピソードにわたって安全でない効果を記録しない。 不完全なリクエスト識別子は、失われたレスポンスの後に重複する効果を防ぎます。 その結果、明確なエビデンス・ライン、コスト・アウェアの選択、コミット・タイムの実施を動機とし、近似キャリブレーションと局所ツールの一般化の限界を明らかにした。

関連論文リスト

• Task-Conditioned Least-Privilege Learning for Executable Terminal and MCP Agents [45.88028371034407]
  ツールを使用する大規模言語モデルエージェントは、ユーザが許可しなかったり、タスクが不要であったりする権限を行使しながらタスクを完了することができる。 本研究では,6次元のリスクを伴って各行動が実行前および観測結果から監査される枠組みを提案する。 このフレームワークを1500以上のタスクでQwen3.5-4Bでトレーニングした後、選択された種子は2,896回の評価エピソードで98.48%の安全成功に達した。
  論文  参考訳（メタデータ） (2026-08-18T22:07:23Z)
• Auditable Release Control for Pedagogical Leakage in LLM Tutors [0.0]
  大規模な言語モデルチューターは、その開示が承認される前に答えや決定的な推論を明らかにするのに役立ちます。 我々は、この状態および行動依存的障害を、教育的漏洩認識認可として定式化し、完全修復境界を導入する。 グローバルA1は0の多数と54のユーティリティフラグを獲得し、自動安全と実用性において適合Qを上回っている。
  論文  参考訳（メタデータ） (2026-08-01T08:24:30Z)
• Evaluating and Guarding Citation Faithfulness in Agentic Scientific Synthesis [2.7092559671391]
  OpenScholarやPaperQA2のようなエージェントLLMシステムは科学論文を読み、引用された回答を返す。 どちらもそのチェックの信頼性を監査しません。 私たちはそれが信頼できないこと、そしてこれが重要であることを示します。 本報告では,ゴールドアンコール評価プロトコルとデプロイ可能なガードについて述べる。
  論文  参考訳（メタデータ） (2026-07-10T02:05:17Z)
• Unpredictable Safety: Domain-Dependent Compliance and the Transparency Gap in Open-Weight LLMs [0.0]
  オープンウェイトLLMにおけるドメイン依存型安全挙動について検討する。 コンプライアンス率は14.7%(人身売買)から85.7%(監視設計)に変化している。 その結果、現在の安全メカニズムには、信頼できるAIデプロイメントに必要な透明性と一貫性が欠如していることが示されている。
  論文  参考訳（メタデータ） (2026-06-01T22:41:32Z)
• Hallucination as Exploit: Evidence-Carrying Multimodal Agents [10.441697487723568]
  マルチモーダルエージェントはますます、スクリーンショットやドキュメント、Webページからツールコールを選択している。 本稿では,自由形式モデルテキストを不許容な証拠として扱うエビデンス搬送型マルチモーダルエージェント(ECA)を提案する。 ECAは不透明なモデルの信念を検証者、スキーマ、実装レベルで監査可能な残留物に変換する。
  論文  参考訳（メタデータ） (2026-05-18T23:40:43Z)
• Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
  大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。 個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。 構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
  論文  参考訳（メタデータ） (2026-05-15T17:08:27Z)
• Claw-Eval: Toward Trustworthy Evaluation of Autonomous Agents [66.97968363332465]
  エージェントベンチマークの3つのギャップに対処するエンドツーエンド評価スイートであるClaw-Evalを紹介した。 Claw-Evalは3つのグループにまたがる9つのカテゴリにまたがる300の人間検証タスクで構成されている。 すべてのエージェントアクションは、3つの独立したエビデンスチャネルを通じて記録される。
  論文  参考訳（メタデータ） (2026-04-07T17:43:18Z)
• Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
  我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。 内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
  論文  参考訳（メタデータ） (2026-03-13T20:44:15Z)
• DoVer: Intervention-Driven Auto Debugging for LLM Multi-Agent Systems [48.971606069204825]
  DoVerは、大規模言語モデル(LLM)ベースのマルチエージェントシステムのための介入駆動デバッグフレームワークである。 ターゲットの介入を通じて、アクティブな検証によって仮説生成を増強する。 DoVerは失敗試験の18～28%を成功させ、最大16%のマイルストーンを達成し、失敗仮説の30～60%を検証または否定する。
  論文  参考訳（メタデータ） (2025-12-07T09:23:48Z)
• VulAgent: Hypothesis-Validation based Multi-Agent Vulnerability Detection [55.957275374847484]
  VulAgentは仮説検証に基づくマルチエージェント脆弱性検出フレームワークである。 セマンティクスに敏感なマルチビュー検出パイプラインを実装しており、それぞれが特定の分析の観点から一致している。 平均して、VulAgentは全体的な精度を6.6%改善し、脆弱性のある固定されたコードペアの正確な識別率を最大450%向上させ、偽陽性率を約36%削減する。
  論文  参考訳（メタデータ） (2025-09-15T02:25:38Z)
• COIN: Uncertainty-Guarding Selective Question Answering for Foundation Models with Provable Risk Guarantees [51.5976496056012]
  COINは、統計的に有効な閾値を校正し、質問毎に1つの生成された回答をフィルタリングする不確実性保護選択フレームワークである。 COINはキャリブレーションセット上で経験的誤差率を推定し、信頼区間法を適用して真誤差率に高い確率上界を確立する。 リスク管理におけるCOINの堅牢性,許容回答を維持するための強いテストタイムパワー,キャリブレーションデータによる予測効率を実証する。
  論文  参考訳（メタデータ） (2025-06-25T07:04:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。