論文の概要: VeriWeave Govern: Evidence-Gated Deterministic Runtime Governance for Enterprise AI Agents
- arxiv url: http://arxiv.org/abs/2609.37457v1
- Date: Sat, 26 Sep 2026 20:15:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.510381
- Title: VeriWeave Govern: Evidence-Gated Deterministic Runtime Governance for Enterprise AI Agents
- Title（参考訳）: VeriWeave Govern: エンタープライズAIエージェントのためのエビデンスベースの決定論的ランタイムガバナンス
- Abstract要約: この記事では、バージョン管理ポリシーに対する構造化エージェントアクションを評価する決定論的ランタイムガバナンス層であるVeriWeave Governを紹介します。
GoverningBench氏は、5つのエンタープライズオラクルドメインにまたがる30個の独立したシードと6万個のラベリングケースの設計を評価している。
6つのアブレーションは、証拠が誇張し、先行を否定し、分配不能なフェイルセーフな振る舞い、人間のレビュー、矛盾処理、時間的再生が相補的な安全性に寄与していることを示している。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Enterprise artificial-intelligence agents increasingly call tools, modify infrastructure, and process protected data, creating a need to separate action generation from action authorization. This article presents VeriWeave Govern, a deterministic runtime governance layer that evaluates structured agent actions against versioned policies, validates typed evidence, applies fixed deny > review > allow precedence, routes consequential actions to accountable human review, and records replayable tamper-evident audit state. GovernBench evaluates the design over 30 independent seeds and 60,000 oracle-labelled cases spanning five enterprise domains, adversarial evidence, out-of-distribution actions, and temporal policy evolution. VeriWeave achieves 0.9888 mean accuracy, 0.9836 macro-F1, zero observed aggregate false allows, and zero observed Governance Attack Success Rate on the evaluated cases. Six ablations show that evidence gating, deny precedence, out-of-distribution fail-safe behavior, human review, contradiction handling, and temporal replay contribute complementary safety. The deployed API additionally passes 12/12 end-to-end scenarios and a 40,040-request concurrency matrix with zero failures. A separate 150-case EU/Austria regulation-grounded evaluation uses frozen predictions and two independent blinded human annotators, who agree on all decisions. On this set, deterministic engines remain conservative, while a Gemma 4 31B comparator aligns more closely with the human consensus. The results expose a measurable safety--utility trade-off and motivate evidence-aware, replayable governance as an independent control plane for enterprise agent execution.
- Abstract（参考訳）: エンタープライズの人工知能エージェントはますますツールを呼び出し、インフラを変更し、保護されたデータを処理し、アクション生成とアクション承認を分離する必要性を生じさせる。
この記事では、バージョン管理ポリシーに対する構造化エージェントアクションを評価し、型付きエビデンスを検証し、固定拒否を適用 > レビューを適用 する決定論的ランタイムガバナンス層であるVeriWeave Governを紹介します。
GovernBench氏は,5つのエンタープライズドメインにまたがる30個の独立した種子と6万個のオラクルのケース,敵対的エビデンス,アウト・オブ・ディストリビューション(out-of-distriion)アクション,時間的ポリシの進化について,その設計を評価している。
VeriWeaveは0.9888の平均精度、0.9836マクロF1、観測された集合的な偽の許容値ゼロ、評価されたケースでの観察された統治攻撃成功率ゼロを達成する。
6つのアブレーションは、証拠が誇張し、先行を否定し、分配不能なフェイルセーフな振る舞い、人間のレビュー、矛盾処理、時間的再生が相補的な安全性に寄与していることを示している。
さらに、デプロイされたAPIは、12/12のエンドツーエンドシナリオと40,040の要求並行行列を無障害でパスする。
別個の150ケースのEU/オーストリアの規制を根拠とした評価では、凍結予測と、すべての決定に同意する2つの独立した盲目の人間の注釈が使用されている。
このセットでは、決定論的エンジンは保守的であり、Gemma 4 31Bコンパレータは人間のコンセンサスとより密に一致している。
その結果、測定可能な安全・実用トレードオフを明らかにし、企業エージェント実行のための独立したコントロールプレーンとしてエビデンスを意識し、再生可能なガバナンスを動機付けます。
関連論文リスト
- BranchDrive: A Branch-Structured Dataset for Action-Conditioned Driving Prediction [0.0]
BranchDriveはブランチ構造化されたCARLAデータセットで、1つの標準的な事前決定履歴と1つの専門的な専門的未来をペアリングする。
各介入は2.5秒続き、その後専門家の回復が続く。
行動のみ, 履歴のみ, 構造化, 視覚, マルチモーダル, 特権鳥の目視モデルを用いて, 6つの連続した短地軸と10ステップのエゴ軌道の予測を評価する。
論文 参考訳（メタデータ） (2026-09-23T03:02:38Z) - Risk-Aware Online Conformal State Probing [65.02200443982082]
オンライン整合状態探索(オンライン整合状態探索、OCSP)は、分布仮定に頼ることなく最悪のケースの信頼性レベルを認定する行動・探索政策である。
OCSPは、リトレーニングや微調整を必要とせずに、既存のバリューベースのコントロールポリシーに適用することができる。
論文 参考訳（メタデータ） (2026-09-22T08:55:09Z) - Counterfactual Tool Ranking under Utility, Cost, and Privilege Constraints [7.504639516424482]
本研究は、新しいDR推定器、公式BFCLリーダーボードスコア、プロダクションエージェント安全クレームではなく、偽造可能な評価方法であり、独立した公的証拠である。
不一致保存フォールバックは、5つのサポートギャップ実行すべてでこの特性を達成するが、保守的なサンプリング境界はデプロイメントの改善を証明しない。
2つのピン付きローカルQwen2.5モデルは、同じ200の保持タスクで評価され、固定プロンプトの下での強い失敗が露呈する。
論文 参考訳（メタデータ） (2026-09-19T06:40:09Z) - Adversarial Attacks for Good: A Survey of Proactive Protection across the Visual Content Lifecycle [65.6642776933861]
この介入点付近で成長した保護パラダイムについて検討する。
ほとんどの保護は、主に静的あるいは弱い適応的な敵に対して検証されている。
我々は、堅牢で構成可能で、デプロイ可能な所有者側の保護のために、クロスステージ対策とオープンな問題を統合することで、閉鎖する。
論文 参考訳（メタデータ） (2026-08-05T00:46:50Z) - Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。
我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
論文 参考訳（メタデータ） (2026-07-28T17:50:44Z) - A Five-Plane Reference Architecture for Runtime Governance of Production AI Agents [0.0]
本稿では,生産AIエージェントのガバナンスのための参照アーキテクチャを提案する。
我々は、許容と否定を一般化する6つの割り込みプリミティブの分類を定義し、4つの正当性不変量について主張する。
5つの具体的判断にまたがる7つの生産エージェントの脅威の隠蔽を実証する。
論文 参考訳（メタデータ） (2026-06-10T16:54:47Z) - What Benchmarks Don't Measure: The Case for Evaluating Abstention Competence in Autonomous Agents [2.8340200313563773]
自律エージェントのベンチマークは、エージェントがタスクを完了したかどうかを計測するが、このフレーミングはエージェントが進むべきだったかどうかを体系的に見えない。
ヒューマンフィードバックの目的の下で訓練されたエージェントは、入力、証拠、あるいは安全に行動する許可がなくても、進行する構造的な傾向を発達させる。
本稿では,要求される情報が欠落している仕様ギャップ,世界国家が確認できない検証ギャップ,明示的な承認が与えられていない権限ギャップについて紹介する。
論文 参考訳（メタデータ） (2026-06-01T23:52:56Z) - Who judges the judges? Governance from metrics: a runtime framework for continuous LLM compliance monitoring [0.0]
AIコンプライアンスに対する現在のアプローチは、適合性をバイナリな監査時間判定として扱う。
このコンプライアンス・フィクションは、EUのAI法の要件に構造的に不適合である、と我々は主張する。
規制の遵守は、行動の可観測性から連続的なシグナルとして導き出される原則であるメトリクスからのガバナンスを導入します。
論文 参考訳（メタデータ） (2026-05-23T21:21:33Z) - IMPACT-HOI: Supervisory Control for Onset-Anchored Partial HOI Event Construction [72.51952455865155]
我々は,エゴセントリックなプロシージャビデオに注釈を付けるための混合開始型フレームワークIMPACT-HOIを提案する。
IMPACT-HOIは、このタスクを部分的に指定され、オンセットされたイベント状態の漸進的な解決として捉えている。
9人の参加者によるユーザスタディでは、手動のアノテーションアクションが13.5%減少し、46.67%のイベントマッチレート、確認されたフィールド違反がゼロである。
論文 参考訳（メタデータ） (2026-05-03T01:37:40Z) - Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。
内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
論文 参考訳（メタデータ） (2026-03-13T20:44:15Z) - Preventing the Collapse of Peer Review Requires Verification-First AI [49.995126139461085]
我々は、真理結合、すなわち、過度に科学的真理をトラックする場所のスコアの厳密さを提案する。
プロキシ・ソブリン評価に向けた相転移を駆動する2つの力の形式化を行う。
論文 参考訳（メタデータ） (2026-01-23T17:17:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。