論文の概要: A Case Study in Assuring AI-Written Software

• arxiv url: http://arxiv.org/abs/2610.08651v1
• Date: Tue, 06 Oct 2026 16:37:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:30.123165
• Title: A Case Study in Assuring AI-Written Software
• Title（参考訳）: AI-Written Software のケーススタディ
• Abstract要約: 本稿では,コーディングエージェントによって構築され,ソフトウェア工学の正式な訓練を受けていないオペレータが管理するプロダクションヘルスケアプラットフォームのケーススタディについて報告する。 この場合、人間のコントロールは、意図された結果を維持すること、それを判断するために使われた証拠、エージェントの許可、最終的な人間の決定は、すべて同じ目的に結びついている。
• 参考スコア（独自算出の注目度）: 0.6138671548064355
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Software-engineering agents can enable people without formal software training to build systems they could not otherwise implement and simultaneously can produce more code than even experts can meaningfully inspect. In both cases, exhaustive code review is not reliable as the sole basis for human control. We report a case study of a production healthcare platform built through coding agents and governed by an operator without formal software-engineering training. Over time, its workflow grew into a human-led meta-agent system where one agent wrote code, other agents supervised and reviewed it, and project rules carried lessons forward. The operator found that tests, monitors and reviewing agents used to supervise the system were fallible. Some monitors measured proxies rather than outcomes, some audits failed silently, missing checks disappeared from reported results and one automated repair caused operational disruption. In this case, human control depended on keeping the intended outcome, the evidence used to judge it, the agents' permissions and the final human decision were all tied to the same underlying objective.
• Abstract（参考訳）: ソフトウェアエンジニアリングエージェントは、正式なソフトウェアトレーニングをしていない人でも、そうでなければ実装できないシステムを構築することができ、専門家でさえ有意義に検査できるコードよりも多くのコードを生成することができる。 どちらの場合も、徹底的なコードレビューは人間のコントロールの唯一の基盤として信頼できない。 本稿では,コーディングエージェントによって構築され,ソフトウェア工学の正式な訓練を受けていないオペレータが管理するプロダクションヘルスケアプラットフォームのケーススタディについて報告する。 時間が経つにつれて、そのワークフローは人間主導のメタエージェントシステムへと成長し、1人のエージェントがコードを書き、他のエージェントがそれを監督し、レビューし、プロジェクトのルールが前もって教訓を導いた。 オペレーターは、システムの監視に使われたテスト、モニター、レビューエージェントが誤りであることを確認した。 いくつかのモニターは結果ではなくプロキシを測定し、いくつかの監査は静かに失敗し、報告された結果からチェックが消えた。 この場合、人間のコントロールは、意図した結果を維持すること、それを判断するために使われた証拠、エージェントの許可、最終的な人間の決定は、すべて同じ目的に結びついている。

関連論文リスト

• hacktrace: behavior-supervised detection of reward hacking during code generation [52.709361620508595]
  コーディングエージェントは、コードを修正するか、バグを露呈するテストを削除することで、パスグレードを得ることができる。 我々はQwen3-8Bから173,561個の注釈付きマルチターン符号化トラジェクトリをリリースし、成功を活かさないショートカット動作の監視が検出を大幅に改善することを示す。 HACKTRACEは、エージェントがコードを生成する際に既に計算している内部状態を読み取る行動監視モニターである。
  論文  参考訳（メタデータ） (2026-10-02T09:35:59Z)
• Agents as Software: A Programming Languages Agenda for Agent Reliability [1.7039535600915559]
  AIエージェントはますますソフトウェアシステムに似ています。 しかしエージェントの'プログラム'はプロンプト、ツール、メモリ、実行トレースに分散している。 このエッセイは、プログラミング・システムの観点からエージェントを信頼できるものにするための自然なレンズを提供すると主張している。
  論文  参考訳（メタデータ） (2026-09-26T03:53:08Z)
• TTHE: Test-Time Harness Evolution [50.26245555541721]
  既存のアプローチでは、デプロイ前、トレーニング前、あるいはテスト時に凍結される固定されたエージェントワークフローの開発データを最適化する。 我々は、エージェントがテスト入力で生成するラベルのない実行トレースのみを使用して、評価自体にハーネスを最適化できるかどうかを問う。 評価中、TTHEは候補ハーネスの人口を維持し、それらの実行トレースの理由をエージェントプロジェクタを通じてそれらを洗練する。 その後、審査員は実行元プロキシ信号から改善されたハーネスをコミットし、選択したプログラムは継続してその後の入力を統治する。
  論文  参考訳（メタデータ） (2026-07-09T05:53:39Z)
• Is Agent Code Less Maintainable Than Human Code? [17.226150835020146]
  保守環境において,エージェントコードがヒューマンコードとどのように比較されるかを検討する。 エージェントは人的コードに比べてエージェントコード構築時のタスクの解決に効果が低いことがわかった。
  論文  参考訳（メタデータ） (2026-06-19T23:56:14Z)
• The End of Code Review: Coding Agents Supersede Human Inspection [7.017303286271101]
  コーディングエージェントは、従来のヒューマンコードレビューがもはやソフトウェア品質パイプラインに必要なコンポーネントではないような、能力のしきい値を越えた、と私たちは主張しています。 コードレビューの指示されたすべてのゴールは、より低コストで高いスループットでエージェントによって提供されます。
  論文  参考訳（メタデータ） (2026-06-11T10:43:48Z)
• Code as Agent Harness [107.31925305395957]
  新興のエージェントシステムでは、コードはもはや単なる目標出力ではない。 コードはエージェントの推論、行動、環境モデリング、実行ベースの検証のための運用上の基盤としてますます役立っている。 この調査は、実行可能、検証可能、ステートフルなAIエージェントシステムに向けた統一されたロードマップを提供する。
  論文  参考訳（メタデータ） (2026-05-18T17:59:03Z)
• Agents of Chaos [50.53354213047402]
  実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。 20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。 我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
  論文  参考訳（メタデータ） (2026-02-23T16:28:48Z)
• Code with Me or for Me? How Increasing AI Automation Transforms Developer Workflows [60.04362496037186]
  本研究は,コーディングエージェントと開発者インタラクションを制御した最初の研究である。 我々は,2つの主要な協調型およびエージェント型符号化アシスタントの評価を行った。 結果から,エージェントはコピロトを超える方法で開発者を支援することができることがわかった。
  論文  参考訳（メタデータ） (2025-07-10T20:12:54Z)
• CodeAgent: Autonomous Communicative Agents for Code Review [12.163258651539236]
  コードレビュー自動化のための新しいマルチエージェント大規模言語モデル(LLM)システムであるツールを紹介する。 CodeAgentは、すべてのエージェントのコントリビューションが初期レビュー問題に対処するように、監督エージェントであるQA-Checkerを組み込んでいる。 結果はCodeAgentの有効性を実証し、コードレビュー自動化の新たな最先端に寄与している。
  論文  参考訳（メタデータ） (2024-02-03T14:43:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。