論文の概要: Verification and Self-Improvement in Agentic AI: Foundations and Limits

• arxiv url: http://arxiv.org/abs/2610.10611v1
• Date: Wed, 07 Oct 2026 06:47:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.565919
• Title: Verification and Self-Improvement in Agentic AI: Foundations and Limits
• Title（参考訳）: エージェントAIの検証と自己改善:基礎と限界
• Abstract要約: エージェントAIシステムは、長い検索、追加のサポートの受け取り、あるいはアウトプットの提案と検証の仕方を変更することで改善することができる。 我々はこれらの変化を有界検証と隠れ終端ランダムネスで比較する。 独立な多数派が両方の言語を保存していることは証明するが、ランダムなテープに対する存在的受容は誤った出力を許容する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Agentic AI systems can improve by searching longer, receiving additional support, or modifying how they propose and verify outputs. A performance score does not distinguish these mechanisms. We compare these changes through bounded verification with hidden terminal randomness. A stage specifies admissible transcripts, polynomial bounds, an alternating verification protocol, and a terminal checker. Its native reach uses default support; its closure frontier permits all support already admitted by the interface. Under a uniform pointwise probability gap and task-relative soundness, these are well-defined languages. We prove that independent majority amplification preserves both languages, whereas existential acceptance over random tapes can admit incorrect outputs. Exact verification is the zero-randomness case, with placement and completeness results. The randomized-verifier classes satisfy $Σ_k^{\mathrm{P}}\subseteqΣ_k^{\mathrm{RV}}\subseteqΣ_{k+1}^{\mathrm{P}}$; strict enlargement and depth separation require explicit complexity assumptions, while $\mathrm{BPP}=\mathrm{P}$ yields exact companions with the same frontiers. Representation analysis separates invariant acceptance from core-versus-support labels that can change under refactoring. For recursive self-improvement, uniformly bounded self-modification under a common sound interpreter and fixed verification protocol remains within the same verification class. A separate conditional-error budget controls false selection across adaptively chosen candidates. A quota-enforced XOR-synthesis family separates unbounded ratios of search success from changes in the accepted languages; exact and probabilistic audits check the resulting evidence requirements. The framework ties self-improvement claims to obligations on correctness, admissible evidence, verification resources, and selection error.
• Abstract（参考訳）: エージェントAIシステムは、長い検索、追加のサポートの受け取り、あるいはアウトプットの提案と検証の仕方を変更することで改善することができる。 パフォーマンススコアはこれらのメカニズムを区別しません。 我々はこれらの変化を有界検証と隠れ終端ランダムネスで比較する。 ステージは、許容可能な書き起こし、多項式境界、交互検証プロトコル、端末チェッカーを指定する。 そのネイティブリーチはデフォルトサポートを使用する。クロージャフロンティアは、インターフェースがすでに認めているすべてのサポートを許可する。 均一なポイントワイズ確率ギャップとタスク相対音性の下では、これらは明確に定義された言語である。 独立多数派の増幅は両言語を保護しているのに対し、ランダムテープに対する存在受容は誤った出力を許容できることを示す。 厳密な検証はゼロランダム性の場合であり、配置と完全性の結果である。 ランダム化検証クラスは$Σ_k^{\mathrm{P}}\subseteqΣ_k^{\mathrm{RV}}\subseteqΣ_{k+1}^{\mathrm{P}}$を満たす。 Representation Analysisは、リファクタリング時に変更できるコア対向ラベルから不変の受け入れを分離する。 再帰的な自己改善のために、共通の音響インタプリタと固定された検証プロトコルの下で一様に境界付けられた自己修正は、同じ検証クラスに留まる。 異なる条件付きエラー予算は、適応的に選択された候補者間での偽の選択を制御する。 クォータ強化されたXOR合成ファミリーは、検索成功の非有界比率を、受け入れられた言語の変化と区別する。 このフレームワークは、正確性、許容可能な証拠、検証リソース、選択エラーの義務を自己改善の要求に結び付けている。

関連論文リスト

• Testing and Verification of Quantum Compilers through Assurance Contracts and Evidence [0.25489046505746704]
  この調査は、検証済みの変換、等価チェック、差分および変成テスト、プロパティベースのテスト、およびリビジョン間の保証の証拠を比較します。 記録されたカバレッジ更新とソースレベルの選択決定は、レビューを宣言されたスコープ内で監査可能にする。
  論文  参考訳（メタデータ） (2026-09-24T01:24:49Z)
• GenOS: Compositional Certificates for Semantic Robustness in AI Code Generation [0.0]
  GenOSはプロンプト、コントラクト、ジェネレータ、プログラムを置き換える確率論的操作意味論である。 等価性に適合するカーネルは商類に従属し、商化の可換性は分布拡大や逐次合成と一致することを証明する。 また,音の検証,全変量非拡張性,付加的境界の下でのワークフロー・バイコミットの安全性を確立した。
  論文  参考訳（メタデータ） (2026-08-04T12:42:11Z)
• Decoding in Order-Agnostic Language Models: Chain-Rule Deviation and Uniform Spreading [0.6916773850242582]
  順序に依存しない言語モデル(OALM)は任意の条件セットの下でマスク付きトークンを予測するために訓練される。 学習条件はコヒーレントな関節分布の正確な分解ではないことを示す。 信頼性トレースの形状に基づく相補的診断を提案する。
  論文  参考訳（メタデータ） (2026-05-31T04:25:36Z)
• Correction and Corruption: A Two-Rate View of Error Flow in LLM Protocols [51.56484100374058]
  そこで本研究では,単一プロトコルステップを正確なマッチングタスクで監査するためのペアアウトカム計測インタフェースを提案する。 各インスタンスについて、インターフェースはベースラインの正当性ビットと後ステップの正当性ビットを記録する。 これらのレートは精度の変化を予測し、種、混合物、パイプライン間でテスト可能な再利用可能な経験的インターフェースを定義する。
  論文  参考訳（メタデータ） (2026-04-20T13:25:40Z)
• Adaptive Conformal Prediction for Improving Factuality of Generations by Large Language Models [86.8650252164764]
  大規模言語モデル(LLM)は、事実的に誤った出力を生成する傾向にある。 本研究では,LLMへのコンフォメーションスコア変換法を拡張する適応型コンフォメーション予測手法を提案する。 これにより、アクシデントに依存したキャリブレーションが可能となり、条件付きカバレッジを改善しながら、限界範囲のカバレッジ保証が維持される。
  論文  参考訳（メタデータ） (2026-04-15T15:35:42Z)
• Upholding Epistemic Agency: A Brouwerian Assertibility Constraint for Responsible AI [0.0]
  責任を負うAIに対して,Brouwerにインスパイアされたアサービビリティ制約を提案する。 ハイテイクドメインでは、公に検査可能でコンテスト可能な権利証明書を提供する場合に限り、システムはクレームを主張または否定することができる。
  論文  参考訳（メタデータ） (2026-03-04T12:14:21Z)
• Reinforcement Learning with Verifiable yet Noisy Rewards under Imperfect Verifiers [90.50039419576807]
  RLVR(Reinforcement Learning with Verifiable Rewards)は、人為的なラベル付けを避けるために、自動検証に対するポリシーを訓練する。 認証ハッキングの脆弱性を軽減するため、多くのRLVRシステムはトレーニング中にバイナリ$0,1$の報酬を破棄する。 この選択にはコストがかかる:textitfalse negatives(正しい回答、FNを拒絶)とtextitfalse positives(間違った回答、FPを受け入れる)を導入する。
  論文  参考訳（メタデータ） (2025-10-01T13:56:44Z)
• Proof-Carrying Numbers (PCN): A Protocol for Trustworthy Numeric Answers from LLMs via Claim Verification [0.0]
  我々は,機械的検証により数値忠実度を強制するプレゼンテーション層プロトコルであるtextbfProof-Carrying Numbers (PCN) を提案する。 PCNは軽量でモデルに依存しず、既存のアプリケーションにシームレスに統合され、暗号的なコミットメントで拡張できる。
  論文  参考訳（メタデータ） (2025-09-08T17:20:16Z)
• Latent Veracity Inference for Identifying Errors in Stepwise Reasoning [78.29317733206643]
  本稿では、精度割当てに対する離散探索アルゴリズムであるVeracity Search(VS)を紹介する。 その他の方法では、後続の精度値よりも後続の分布において難解な推論を行う。 VSを一般化し、新しいコンテキストで正確なゼロショットの精度推論を可能にする。
  論文  参考訳（メタデータ） (2025-05-17T04:16:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。