論文の概要: Reality Is the Final Verifier: On Two Key Gaps in Agentic Software Engineering

• arxiv url: http://arxiv.org/abs/2609.12039v1
• Date: Thu, 10 Sep 2026 17:58:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-15 07:38:31.49593
• Title: Reality Is the Final Verifier: On Two Key Gaps in Agentic Software Engineering
• Title（参考訳）: エージェントソフトウェアエンジニアリングにおける2つの重要なギャップについて
• Abstract要約: 本稿では, 要求, モデル, 評価器の見直しに, 展開証拠を用いた保証・修正ループを提案する。 そこで我々は,人的判断,エージェント能力,計算能力に対する資源配分問題としてエージェント開発を保証した。
• 参考スコア（独自算出の注目度）: 78.51705689800838
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Software development follows an implementation-verification loop in which developers or agents iteratively revise an implementation until an evaluator, such as a test suite, accepts it. The evaluator checks the implementation against a set of requirements under a model of the deployment environment. Yet even a formal proof that the implementation satisfies the requirements under the model cannot guarantee acceptable behavior after deployment. Requirements only approximate stakeholder intent, and the model only approximates the real deployment environment. We call these together - requirement gap and model gap - the two-gap framework, which unifies the main failure modes of agentic software engineer-ing: reward hacking exploits omissions in the requirements or model, while hallucination widens the gaps by fabricating requirements or environment assumptions. Because neither gap can generally be certified closed in an open, changing world, the goal shifts from closing them to continuously narrowing them. We therefore propose an assurance-revision loop that uses deployment evidence to revise the requirements, model, or evaluator when stakeholders reject the resulting behavior. We then cast assured agentic development as a resource-allocation problem over human judgment, agent capability, and compute. The two principal bottlenecks mirror the two gaps: human judgment for the requirement gap and faithful, costly evaluation for the model gap. Reality remains the final verifier: acceptable behavior under actual deployment conditions is the ultimate test, while predeployment evaluations remain proxies for it.
• Abstract（参考訳）: ソフトウェア開発は、開発者やエージェントが、テストスイートのような評価ツールがそれを受け入れるまで、反復的に実装を修正できる実装検証ループに従っている。 評価者は、デプロイ環境のモデルの下で、一連の要求に対して実装をチェックします。 しかし、実装がモデルの下での要件を満たすという正式な証明でさえ、デプロイ後に許容される振る舞いを保証できません。 要求は利害関係者の意図を近似するだけであり、モデルは実際のデプロイメント環境を近似するだけである。 報酬のハッキングは要求やモデルの欠落を悪用しますが、幻覚は要求や環境の仮定をつくり、ギャップを広げます。 どちらのギャップも、オープンで変化する世界では一般的にはクローズドであると認定できないため、ゴールはそれを閉じることから、継続的に狭めることへとシフトする。 そこで我々は,ステークホルダーが結果の動作を拒否する場合に,デプロイエビデンスを用いて要求,モデル,評価を改訂する保証・修正ループを提案する。 そこで我々は,人的判断,エージェント能力,計算能力に対する資源配分問題としてエージェント開発を保証した。 2つの主要なボトルネックは、2つのギャップを反映している: 要求ギャップに対する人間の判断と、モデルギャップに対する忠実でコストのかかる評価である。 実際のデプロイメント条件下での許容可能な振る舞いは究極のテストであり、事前デプロイ評価はそのためのプロキシのままである。

関連論文リスト

• Judgment-Grounded Expansion for Peer Review Generation [68.04679314462481]
  我々は、評価的クレームを提供する人間とAIの協調モードである判断基盤の拡張を定式化し、レビューコメント候補に拡張する(s)。 本研究は,スケーラブルな評価と候補セットのキュレーションの2つの実践的課題について検討する。 本研究は,具体的な課題として判断基盤の拡大を確立し,今後の共同レビュー生成システムの設計のための実証的,方法論的基盤を提供する。
  論文  参考訳（メタデータ） (2026-06-22T12:20:11Z)
• Do Models Fake Alignment Without Clear Consequences? [39.146761527401424]
  大規模言語モデルでは,評価コンテキストを認識でき,その振る舞いを変えて評価者の期待を反映できることを示す。 アライメント・フェイキングの例は、モデルに対する結果に評価を明示的に結びつけるシナリオで発生した。 さらに,目標言語がモデル嗜好に及ぼす影響を検証したところ,ある場合には違反を誘発し,他の場合には違反を抑えることができた。
  論文  参考訳（メタデータ） (2026-05-28T21:28:39Z)
• Do Coding Agents Understand Least-Privilege Authorization? [14.240332406666779]
  我々は、現在のモデルが認証境界自体を推測できるかどうか検討する。 We show that frontier model often off permissions by the execution chain while giving unuseed or sensitive accesss。 そこで我々は,まずカバレッジ指向のポリシを生成し,各エントリをグラウンドと感度で監査する,十分性-高度分解法を提案する。
  論文  参考訳（メタデータ） (2026-05-14T14:05:58Z)
• CellScientist: Dual-Space Hierarchical Orchestration for Closed-Loop Refinement of Virtual Cell Models [62.281480231694]
  VCM(Virtual Cell Modeling)は、摂動応答を予測できるだけでなく、予測が失敗した場合にターゲットリビジョンをサポートするモデルを必要とする。 現在のLCM支援モデリングでは、予測誤差が実行可能実装を通して観測されるという改善ルーティング問題に直面している。 提案するCellScientistは,高レベル仮説空間と低レベル実行可能実装空間を結合した,二重空間階層型フレームワークである。
  論文  参考訳（メタデータ） (2026-05-08T06:40:24Z)
• LiveFMBench: Unveiling the Power and Limits of Agentic Workflows in Specification Generation [75.05397479715576]
  大規模言語モデル(LLM)とエージェントは有望な進歩を示しているが、その真の能力と失敗モードは未だ不明である。 CプログラムのためのLCMおよびエージェントベースの形式仕様生成に関する、最初の体系的および汚染に配慮した研究を提案する。
  論文  参考訳（メタデータ） (2026-05-02T11:31:33Z)
• From CRUD to Autonomous Agents: Formal Validation and Zero-Trust Security for Semantic Gateways in AI-Native Enterprise Systems [0.0]
  本稿では,モデルコンテキストプロトコル(MCP)が管理するセマンティックゲートウェイの設計,形式検証,実証評価を提案する。 ゲートウェイは、エンタプライズAPIをセマンティックサーフェスとして再構成する。 このアーキテクチャでは、事前に推論されたセマンティックファイアウォール、決定論的ツールレベルRBAC、アウトオブバンドの暗号化人間対ループの承認を含む3層ゼロトラストセキュリティモデルが導入されている。
  論文  参考訳（メタデータ） (2026-04-28T12:25:06Z)
• Preventing the Collapse of Peer Review Requires Verification-First AI [49.995126139461085]
  我々は、真理結合、すなわち、過度に科学的真理をトラックする場所のスコアの厳密さを提案する。 プロキシ・ソブリン評価に向けた相転移を駆動する2つの力の形式化を行う。
  論文  参考訳（メタデータ） (2026-01-23T17:17:32Z)
• SpecEval: Evaluating Model Adherence to Behavior Specifications [63.13000010340958]
  提供者仕様に対してモデルを監査する自動化フレームワークを導入します。 私たちの中心となる焦点は、プロバイダ仕様とモデルアウトプット、および審査員としての自身のモデルの間の3つの方法の整合性にあります。 当社のフレームワークは、100以上の行動ステートメントにわたる6人の開発者から16のモデルに適用し、プロバイダ間で最大20%のコンプライアンスギャップを含む、体系的な不整合を見つけました。
  論文  参考訳（メタデータ） (2025-09-02T16:18:40Z)
• Prediction without Preclusion: Recourse Verification with Reachable Sets [16.705988489763868]
  本稿では,モデルが決定対象に一定の予測を割り当てているかどうかを検証するために,リコース検証と呼ばれる手法を提案する。 本研究は,消費者金融のデータセットにおけるリコースの有効性に関する包括的実証研究である。
  論文  参考訳（メタデータ） (2023-08-24T14:24:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。