論文の概要: Evidence-Governed Adoption of Self-Generated Updates in Autonomous AI Agents
- arxiv url: http://arxiv.org/abs/2611.16378v1
- Date: Thu, 12 Nov 2026 06:45:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.380431
- Title: Evidence-Governed Adoption of Self-Generated Updates in Autonomous AI Agents
- Title(参考訳): 自律型AIエージェントにおける自己生成更新のエビデンスによる適用
- Abstract要約: EGE(Evidence-Governed Evolution)は、自己生成エージェントの導入を管理するためのフレームワークである。
EGEは、候補生成を確認的採用から切り離し、凍結した候補をペア化された監査で評価し、事前定義された主目的に対して有意義な改善を要求し、参照相対的非偽性テストを通じて宣言された能力を保護し、バウンダリカナリアデプロイメントの前にガバナンス制約を適用します。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Autonomous agents modify prompts, memories, tools, workflows, and policies using interaction histories. Yet a plausible modification is not necessarily suitable for persistent adoption: candidate selection is adaptive, evaluators may be imperfect, and local gains can hide degradation against an earlier baseline. We introduce Evidence-Governed Evolution (EGE), a framework for governing adoption of self-generated agent modifications. EGE separates candidate generation from confirmatory adoption, evaluates frozen candidates on fresh paired audits, requires meaningful improvement on a prespecified primary objective, protects declared capabilities through reference-relative non-inferiority tests, and applies governance constraints before bounded canary deployment. We establish an evaluator-calibrated simultaneous lower-bound construction for a countable sequence of adaptively generated candidates. It combines candidate-wise Hoeffding bounds with independent calibration samples comparing the operational evaluator with a prespecified reference procedure. We also formalise reference replacement through bridge tests, derive a cumulative degradation bound along a versioned reference lineage, and provide an audit-planning condition relating effect-size margin, sample sizes, and acceptance probability. A Monte Carlo stress test illustrates calibration under candidate-dependent evaluator optimism; it is a stylised statistical experiment, not an evaluation of a deployed agent. The guarantees are conditional on bounded paired scores, fresh sampling, a valid reference-evaluation construct, and declared evaluation distributions; they do not establish universal agent safety or robustness to arbitrary distribution shift.
- Abstract(参考訳): 自律エージェントは、インタラクション履歴を使用してプロンプト、メモリ、ツール、ワークフロー、ポリシーを修正する。
候補の選択は適応的であり、評価者は不完全であり、局所的なゲインは以前のベースラインに対する劣化を隠すことができる。
本稿では,自己生成型エージェントの導入を規制するフレームワークであるEvidence-Governed Evolution(EGE)を紹介する。
EGEは、候補生成を確認的採用から切り離し、凍結した候補をペア化された監査で評価し、事前定義された主目的に対して有意義な改善を要求し、参照相対的非偽性テストを通じて宣言された能力を保護し、バウンダリカナリアデプロイメントの前にガバナンス制約を適用します。
適応的に生成する候補の可算列に対する評価器校正同時下界構築を確立する。
提案手法は,操作評価器と予め指定された参照手順とを比較した独立キャリブレーションサンプルと,候補ワイドなHoeffdingバウンダリを結合する。
また、橋梁試験により参照置換を定式化し、バージョニングされた参照系統に沿って有界な累積劣化を導出し、エフェクトサイズマージン、サンプルサイズ、受入確率に関する監査計画条件を提供する。
モンテカルロのストレステストでは、候補依存的評価器楽観主義の下でのキャリブレーションが示され、これは配置されたエージェントの評価ではなく、スタイリングされた統計実験である。
保証は、有界なペアリングスコア、新しいサンプリング、有効な参照評価構造、評価分布の条件付きであり、任意の分布シフトに対する普遍的エージェントの安全性や堅牢性を確立していない。
関連論文リスト
- Model Selection for Off-Policy Evaluation via Pairwise Bellman Validation [49.79922461060263]
Bellman-Residual と minimax の検証手法は、しばしば別の批評家クラスよりも補助的な回帰や最適化を必要とし、計算とチューニングのコストがかかる。
固定Q関数と占有比推定器の有限クラスの中から、保留遷移を用いた調整不要なミニマックス手順であるペアワイズベルマン検証(PBV)を導入する。
PBVは、ペアの候補差から批判を構成するため、補助的検証モデルや別個の批評家最適化を使わずに、有限個の経験的モーメント計算しか必要としない。
論文 参考訳(メタデータ) (2026-10-26T16:59:29Z) - RubricOpt: Self-Revision of Semantic Rubrics for Preference Optimization [21.21703214292865]
我々は、優先順位最適化における行動基準をポリシーが修正するフレームワークであるOptを紹介した。
共有セマンティック表現は、タスク要求、嗜好データコントラスト、ルーリック節を結合する。
実験により, ルーブリックコンディショニングは通常のDPOよりも良好な結果が得られることが示された。
論文 参考訳(メタデータ) (2026-10-21T09:46:37Z) - Gaussian Process Bandits for AI System Optimization with Selectively Verified Feedback [7.681743727485195]
本研究は、診断が観察される前に行動が選択され、信頼されたフィードバックが未知の診断状態のセットに通知される場合の選択的検証について検討する。
我々は,信頼度と報酬分離を組み合わせ,有限時間後悔境界を確立する固定監査設計を構築した。
個別のAIタスクは、学習した選択的検証方法のエンドツーエンドの検証を確立することなく、フィードバックの修正と適合した辞書ポリシーを評価する。
論文 参考訳(メタデータ) (2026-10-13T05:42:14Z) - VeriFine: Scaling Verification for Self-Improvement in Embodied Reasoning [80.69185348729495]
我々は,政策の共進化,訓練カリキュラム,審査を通じて検証をスケールする枠組みを導入する。
ポリシー改善ループは、繰り返し発生する障害を診断し、適応的なカリキュラムを構築し、ポリシーを最適化するためにルーリックな判断を使用する。
運転およびロボットナビゲーションタスクの実験は、ポリシーと判断能力の両方において継続的な自己改善を示す。
論文 参考訳(メタデータ) (2026-10-06T17:50:29Z) - GTDD: Generative Test-Driven Development for AI Coding Agents with Adversarial Testing [6.44705221140412]
テスト駆動開発は、ソフトウェアを実装するためのAIコーディングエージェントの実行要件を提供する。
本稿では、個別のテストエージェントが各候補の実装が固定された後に新しいインプットを生成するテスト駆動開発を定式化した、ジェネレーティブテスト駆動開発(GTDD)を提案する。
信頼評価器はこれらの入力をチェックし、縮小された反例をコーディングエージェントに返却し、回帰テストのために保存する。
論文 参考訳(メタデータ) (2026-10-02T07:45:33Z) - From Migration to Calibration: Preserving Agent Capabilities across Models, Jurisdictions, and Scale [4.321360447503974]
エージェントキャリブレーションを標準優先適応として定式化し,基本能力,技術環境,ユーザコンテキスト標準を定義する。
制限されたユーザトラジェクトリとテストを用いた自動校正ツールを今後の作業として提案する。
論文 参考訳(メタデータ) (2026-09-28T13:31:46Z) - Risk-Aware Online Conformal State Probing [65.02200443982082]
オンライン整合状態探索(オンライン整合状態探索、OCSP)は、分布仮定に頼ることなく最悪のケースの信頼性レベルを認定する行動・探索政策である。
OCSPは、リトレーニングや微調整を必要とせずに、既存のバリューベースのコントロールポリシーに適用することができる。
論文 参考訳(メタデータ) (2026-09-22T08:55:09Z) - Trusted Uncertainty in Large Language Models: A Unified Framework for Confidence Calibration and Risk-Controlled Refusal [31.458406135473805]
異種不確実性証拠を正当性の校正確率に変換する統一フレームワークUniCRを提案する。
UniCRは、温度スケーリングと適切なスコアリングを備えた軽量なキャリブレーションヘッドを学習する。
ショートフォームQA、実行テスト付きコード生成、検索強化ロングフォームQAの実験は、キャリブレーションメトリクスの一貫性のある改善を示している。
論文 参考訳(メタデータ) (2025-09-01T13:14:58Z) - COIN: Uncertainty-Guarding Selective Question Answering for Foundation Models with Provable Risk Guarantees [51.5976496056012]
COINは、統計的に有効な閾値を校正し、質問毎に1つの生成された回答をフィルタリングする不確実性保護選択フレームワークである。
COINはキャリブレーションセット上で経験的誤差率を推定し、信頼区間法を適用して真誤差率に高い確率上界を確立する。
リスク管理におけるCOINの堅牢性,許容回答を維持するための強いテストタイムパワー,キャリブレーションデータによる予測効率を実証する。
論文 参考訳(メタデータ) (2025-06-25T07:04:49Z) - SConU: Selective Conformal Uncertainty in Large Language Models [59.25881667640868]
SconU(Selective Conformal Uncertainity)と呼ばれる新しいアプローチを提案する。
我々は,特定の管理可能なリスクレベルで設定されたキャリブレーションの不確実性分布から,与えられたサンプルが逸脱するかどうかを決定するのに役立つ2つの共形p値を開発する。
我々のアプローチは、単一ドメインと学際的コンテキストの両方にわたる誤発見率の厳密な管理を促進するだけでなく、予測の効率を高める。
論文 参考訳(メタデータ) (2025-04-19T03:01:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。