論文の概要: Before the First Edit? Measuring When Coding-Agent Guidance Actually Arrives
- arxiv url: http://arxiv.org/abs/2610.35992v1
- Date: Mon, 26 Oct 2026 12:22:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.382339
- Title: Before the First Edit? Measuring When Coding-Agent Guidance Actually Arrives
- Title(参考訳): 最初の編集に先んじて? コーディング・エージェント・ガイダンスが実際に現れるときの測定
- Abstract要約: ポリシーの割り当て、要求の適性、トリガー、計画のデリバリ、ソース・コンテンツの変更の観測という、5つの別々のイベントを監査します。
所定のアクション比較は、3つのゲートルールのカバレッジを公開するが、計画を受けた後、エージェントがどのように続くかを教えてくれない。
我々は、公開ソフトウェア上のローカルエージェントを実行し、実行された各アクションの前後にPythonファイルをハッシュします。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: When a coding-agent harness promises guidance before the first source edit, what event does it actually intercept? We audit five separate events: policy assignment, request eligibility, trigger, plan delivery, and observed source-content change. A prescribed-action comparison exposes the coverage of three gate rules but cannot tell us how an agent would continue after receiving a plan. We therefore run local agents on public software issues and hash Python files before and after each executed action. In a pilot-guided, 76-arm study using Qwen2.5-Coder 14B, 15 arms change Python source across seven tasks and three repositories. Guidance precedes every observed first change, but every change uses a structured editor and the study misses its prespecified 20-arm coverage target. Post hoc local tests find seven changed arms that pass the tested target and regression selectors; four of those seven use incomplete regression lists. Public PAUSE and SI2CA trajectories add source-text changes bracketed by adjacent reads, but lack synchronized filesystem states and cannot identify exact first mutations. The audit makes the timing claim testable within a stated source scope. These data do not show that planning improves repair correctness or covers shell-first writes in live agent runs.
- Abstract(参考訳): コーディングエージェントが最初のソース編集の前にガイダンスを約束するとき、実際にどのイベントをインターセプトするのか?
ポリシーの割り当て、要求の適性、トリガー、計画のデリバリ、ソース・コンテンツの変更の観測という、5つの別々のイベントを監査します。
所定のアクション比較は、3つのゲートルールのカバレッジを公開するが、計画を受けた後、エージェントがどのように続くかを教えてくれない。
したがって、我々は公開ソフトウェア上のローカルエージェントを実行し、実行された各アクションの前後にPythonファイルをハッシュする。
Qwen2.5-Coder 14Bを使用した76のアームスタディでは、7つのタスクと3つのリポジトリで15のアームがPythonソースを変更する。
ガイダンスは観察された最初の変更に先行するが、すべての変更は構造化されたエディタを使用し、研究は事前に規定された20腕のカバレッジターゲットを見逃している。
ポストホックローカルテストでは、テスト対象と回帰セレクタをパスする7つの変更されたアームを見つけ、そのうち4つは不完全な回帰リストを使用する。
パブリックPAUSEとSI2CAのトラジェクトリは、隣接する読み込みによってブラケットされたソーステキストの変更を追加するが、同期されたファイルシステムの状態がなく、正確な最初の突然変異を特定できない。
監査は、指定されたソーススコープ内でタイミングクレームをテスト可能にする。
これらのデータは、計画が修正の正しさを改善したり、ライブエージェント実行時のシェルファースト書き込みをカバーしていることを示すものではない。
関連論文リスト
- AdaPRA: Process Reward Agents with Adaptive Rubrics for Data Science [61.06192512211444]
データサイエンスエージェントはエンドツーエンドの機械学習を自動化することができるが、人間のリーダーボードとの競争には程遠い。
我々はこれらの問題に対処するためにAdaPRAを提案する: 同一タスクの試行にまたがって知識を蓄積する永続的符号化エージェントと、エラーを特定し修正するルーリック誘導プロセス監視。
AdaPRAはタスク毎の5つの試行により、80B QwenモデルのパーセンタイルをDSPredict-Easyで24.5ポイント、DS-Hardで14.8ポイント改善し、プロセスエラーを減らす。
論文 参考訳(メタデータ) (2026-10-23T19:46:55Z) - PAUSE: Search-Free Steering of Coding Agents Before Their First Source-Code Edit [6.320710377060233]
本稿では,コーディングエージェントを単一の計画介入で操るフレームワークPAUSEを提案する。
エージェントは、調査、バグ再現、テスト後の軌道進行の60%の中央値で、最初のソースコード編集に達する。
Qwen3-coderをExecutorとして、GPT-5.6 SolをPlannerとして、オンラインステアリングはOpenHandsのVerifiedで16.8%、Multilingualで14.7%改善した。
論文 参考訳(メタデータ) (2026-10-21T15:24:44Z) - Small but Mighty: Test Suites as Improvement Signals for Self-Evolving Agents [47.31799993604283]
TeSearchは、品質多様性の進化アルゴリズムを用いて、小さくて強いテストスイートを検索する。
129の現実世界のモジュールと3つのバックボーンで、TeSearchはどんなメソッドでも最高品質のスイートを提供する。
リポジトリのテストでは、59.9%の動作変更リライトが25.3%に対して、偽アラームレートが4.0%、決定毎に3.5秒で拒否されている。
論文 参考訳(メタデータ) (2026-10-11T22:36:54Z) - Do Modifications Made by Coding Agents Make Subsequent Software Maintenance Harder? [10.29059341399134]
コーディングエージェントは時間の経過とともにリポジトリを維持し、各変更がその後のタスクの出発点となる。
エージェント記述のコードがその後のメンテナンスを難しくするのか、コストが継承されたテスト失敗によるものなのか、あるいはコード自体によるものなのかを問う。
我々はSWE-Maintainを紹介し、50の現実のPythonリポジトリから100の3時間メンテナンスエピソードを含む。
論文 参考訳(メタデータ) (2026-10-10T09:45:17Z) - Before They Can Solve: Predicting Post-Training Coding-Agent Performance from Base Models [87.94969284553706]
エンド・ツー・エンドのpass@$K$は、成功した振る舞いがベースモデルのディストリビューションにすでに現れるかどうかをテストする。
コールドスタートからハーネスを駆動するために、ベースチェックポイントを必要としない3つのスクリーンを構築します。
3つの画面はいずれも、ポストトレーニング後のSWE-bench Verified pass@$1$と密接に一致して、コホートをランク付けする。
論文 参考訳(メタデータ) (2026-10-07T17:37:19Z) - The Troy Moment of AI: Why Some Will Cheat and Some Will Follow? [0.0]
エージェントは停止するか、エスカレートするか、他のエージェントの行動が決定を変えるか、という2つの質問を調査する。
GPT-5.6 Sol, Claude Fable 5.1, Gemini 3.8 Flashの7つのImpossibleBenchタスクを単独で3エージェント設定で検討した。
この結果から,ルールの保護を目的としたあいまいさ,明示的な認証境界のモチベーション,認証状態の証明,エージェント間監視から境界交差が生じる可能性が示唆された。
論文 参考訳(メタデータ) (2026-09-14T12:46:45Z) - ExecCritic: Learn to Test, Test to Improve for Coding Agents [68.42713285082912]
実行時のフィードバックは、コーディングエージェントを正しいリポジトリの修復に導くことができますが、テストが問題によって要求された振る舞いをキャプチャした場合のみです。
ExecCriticを導入し、テスト-検証-修正足場と、その中のトレーニングエージェントのためのロール固有の強化学習レシピを組み合わせる。
テストエージェントが独立してリポジトリネイティブなテストを生成し、フェイルクローズされたハーネスがそれらを調整して凍結し、リカバリエージェントがテストを変更することなく、ソースコードを実行フィードバックから修正する。
論文 参考訳(メタデータ) (2026-09-08T17:53:37Z) - Harness-IF: Evaluating Instruction Following Across Instruction Surfaces in Coding Agents [29.96375986740068]
Harness-IFは、実行証拠から一度に1つの運用ルールをスコアする。
AP-Accは、不正なデフォルトに対してラベル付けされたルールのみをスコアする。
論文 参考訳(メタデータ) (2026-08-12T07:07:57Z) - TTHE: Test-Time Harness Evolution [50.26245555541721]
既存のアプローチでは、デプロイ前、トレーニング前、あるいはテスト時に凍結される固定されたエージェントワークフローの開発データを最適化する。
我々は、エージェントがテスト入力で生成するラベルのない実行トレースのみを使用して、評価自体にハーネスを最適化できるかどうかを問う。
評価中、TTHEは候補ハーネスの人口を維持し、それらの実行トレースの理由をエージェントプロジェクタを通じてそれらを洗練する。
その後、審査員は実行元プロキシ信号から改善されたハーネスをコミットし、選択したプログラムは継続してその後の入力を統治する。
論文 参考訳(メタデータ) (2026-07-09T05:53:39Z) - ClawArena: Benchmarking AI Agents in Evolving Information Environments [61.664633997138004]
ClawArenaは、進化する情報環境におけるAIエージェントの評価のためのベンチマークである。
それぞれのシナリオは、エージェントをノイズ、部分的、時には矛盾するトレースだけに露呈しながら、完全に隠された地上の真実を維持します。
評価は、マルチソースコンフリクト推論、動的信念修正、暗黙のパーソナライゼーションという3つの複合的な課題に基づいて構成される。
論文 参考訳(メタデータ) (2026-04-05T17:55:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。