論文の概要: ControlScope: Workflow Revision and Reliability in LLM Agents
- arxiv url: http://arxiv.org/abs/2609.34313v1
- Date: Mon, 28 Sep 2026 04:53:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 21:58:36.671972
- Title: ControlScope: Workflow Revision and Reliability in LLM Agents
- Title(参考訳): ControlScope: LLMエージェントのワークフロー修正と信頼性
- Abstract要約: ControlScopeは生成されたコードを比較し、次のツールコールのデータ引数を編集し、未完成のワークフローを同じ公開実行状態から置き換える。
タスク、ALFWorld、AppWorldで1回、繰り返しレビューを評価します。
- 参考スコア(独自算出の注目度): 0.7460935829208671
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: How much of a running workflow should a language model agent revise? ControlScope compares continuing generated code, editing the next tool call's data arguments, and replacing the unfinished workflow from the same public execution state. The nested permissions separate available repairs from the actions an agent selects. We evaluate one-time and repeated reviews across filesystem tasks, ALFWorld, and AppWorld. Across two source programs per task and three reasoning-reviewer draws on 20 filesystem tasks, FULL completes 15-16 tasks versus 13 for KEEP; across four fast draws it completes 10-13 versus 13. Fresh student-record confirmation reproduces a batch-read repair. ALFWorld fast panels yield KEEP/ARG/FULL scores of 85/86/87 on 87 tasks across 52 scenes and 134/134/127 on 134 tasks across four scenes; reasoning on the 87-task cohort also yields 85/86/87 with substantial review cost. An AppWorld V1 official-test panel of 585 task instances from 195 scenario templates shows small net differences. Frozen replays expose viable agent-written replacements interrupted by later revision in two failed file-organization runs. An offline source-trajectory midpoint comparison shows later reviews completing an insufficient repair. Five-call protection saves 19.4% of logged model output and loses one success across 20 fresh source runs. An argument-only shortcut shows that the broader sampled policy can overlook a cheaper successful edit available in both operation sets. These outcomes tie repair access to actual choices and subsequent execution.
- Abstract(参考訳): 言語モデルエージェントは、どの程度のワークフローを変更すべきなのか?
ControlScopeは、継続する生成されたコードを比較し、次のツール呼び出しのデータ引数を編集し、未完成のワークフローを同じ公開実行状態から置き換える。
ネストされたパーミッションは、エージェントが選択したアクションから利用可能な修復を分離する。
我々は、ファイルシステムタスク、ALFWorld、AppWorldのレビューを1回、繰り返し評価する。
タスクごとに2つのソースプログラムと3つの推論-リビューアが20のファイルシステムタスクで描画され、FULLはKEEPが13に対して15-16のタスクが完了している。
新入生記録確認はバッチ読み取り修理を再現する。
ALFWorldの高速パネルは、52シーンにわたる87のタスクで85/86/87、4シーンにわたる134タスクで134/134/127のKEEP/ARG/FULLスコアを得る。
シナリオテンプレート195の585のタスクインスタンスのAppWorld V1の公式テストパネルには、小さなネット差が示されている。
凍結したリプレイは、後続の修正によって中断された実行可能なエージェント記述の代替を2つのファイル編成実行で公開する。
オフラインのソース・トラジェクトリ・ミッドポイント比較では、後のレビューが不十分な修復を完了したことを示している。
ファイブコール保護は、ログされたモデル出力の19.4%を節約し、20回の新たなソース実行で1つの成功を失う。
引数のみのショートカットは、より広範なサンプルポリシーが、両方の操作セットで利用可能なより安価な編集を見逃す可能性があることを示している。
これらの結果は、実際の選択とその後の実行に対する修復アクセスを結び付ける。
関連論文リスト
- SkillGLoW: Procedural-Family Skill Consolidation for Self-Improving Agents on Long-Horizon Task Streams [55.90739575113059]
再利用の欠如は、関連するタスクのクラスタによって共有される解決手順であり、その周りでSkillGLoWを構築している、と我々は主張する。
4つのベンチマーク(数学的推論、端末の自動化、ソフトウェア修復、実施制御)と3つのモデルで、前者は平均17.2ポイント(ハード)を獲得している。
論文 参考訳(メタデータ) (2026-09-02T07:31:18Z) - APIFlow-Bench: Measuring Whether Agents Survive Long, Dependent API Workflows [23.621239974604205]
APIFlow-Benchは、長期依存のREST-APIパフォーマンスのための、完全に監査可能なベンチマークである。
サブタスクによってサブタスクとして,合成APIの世界を前方に生成する。
すべての応答キーと44,362個の未修正実行書き起こしをリリースします。
論文 参考訳(メタデータ) (2026-08-29T08:12:11Z) - Evaluating human and LLM screening workflows in a conceptually complex scoping review: Recall--workload trade-offs and run-to-run consistency [0.0]
大規模言語モデル(LLM)は証拠のスクリーニングにますます使われており、偽陰性はフルテキスト評価の前に関連する研究を除去することができる。
我々は、概念的に複雑なスコーピングレビューによって、人間とLLMのタイトル・アンド・アストラクション・スクリーニングを比較した。
作業負荷の維持,認定レコード316件の運用リコール,変動,実行時の一貫性,手続き的負担などを比較した。
論文 参考訳(メタデータ) (2026-08-27T09:42:39Z) - Turning Interaction History into Execution State: A Runtime Layer for Long-Horizon Coding Agents [48.967927222079965]
Ledgerは、エージェントの完了したインタラクションを明示的な実行状態に蒸留するランタイム層である。
Ledgerはこの状態をオンライン実行台帳に保持し、各ステップの2つのバウンダリに適用される。
500のSWE-bench検証インスタンス全体で、LedgerはPass@1を56.2%から64.2%に、GPT-5 miniを75.8%から81.0%に、MiniMax M2.5を81.0%に引き上げている。
論文 参考訳(メタデータ) (2026-08-01T18:25:00Z) - Tencent WorkBuddy Bench: A Multi-Domain Coding-Agent Benchmark with Contamination-Resistant Task Construction [57.138342889101345]
Tencent WorkBuddy Benchは、コーディングエージェントのためのマルチドメイン評価スイートである。
本報告では, 設計手法, スコアリングプロトコル, クロスモデルリーダーボードについて述べる。
論文 参考訳(メタデータ) (2026-07-23T04:34:06Z) - Do AI Agents Know When a Task Is Simple? Toward Complexity-Aware Reasoning and Execution [1.733151600403503]
大規模言語モデル(LLM)エージェントは、ますます多段階のエンジニアリングと情報処理を自動化する。
彼らはしばしば、最大コンテキストファーストの戦略に従い、ファイルや依存関係を読み取り、一行の編集を小さなコードベースの監査に切り替える。
タスク対応型実行-スコープ推定の欠如を論じる。
論文 参考訳(メタデータ) (2026-07-14T17:59:31Z) - Auditing Reward Hackability in Code RL Training Environments [0.0]
コードRL環境が誤った解を正しく受け入れる速度を計測する。
SWE-bench Verifiedの49タクのサンプルでは、28.5%のタスクがテストスイートが弱く、Dockerで検証された不正確なパッチがそれらをパスしている。
論文 参考訳(メタデータ) (2026-06-14T23:31:42Z) - ClawMark: A Living-World Benchmark for Multi-Turn, Multi-Day, Multimodal Coworker Agents [77.22389710754452]
マルチターンマルチデイタスクを中心に構築された同僚エージェントのベンチマークであるベンチを紹介する。
現在のリリースには、13のプロのシナリオにわたる100のタスクが含まれており、5つのステートフルなサンドボックスサービスに対して実行される。
最強のモデルは75.8の重み付きスコアに達するが、最も厳格なタスク成功率は20.0%に過ぎず、部分的な進歩が一般的であることを示している。
論文 参考訳(メタデータ) (2026-04-26T16:05:02Z) - DoVer: Intervention-Driven Auto Debugging for LLM Multi-Agent Systems [48.971606069204825]
DoVerは、大規模言語モデル(LLM)ベースのマルチエージェントシステムのための介入駆動デバッグフレームワークである。
ターゲットの介入を通じて、アクティブな検証によって仮説生成を増強する。
DoVerは失敗試験の18~28%を成功させ、最大16%のマイルストーンを達成し、失敗仮説の30~60%を検証または否定する。
論文 参考訳(メタデータ) (2025-12-07T09:23:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。