論文の概要: Agent Self-Improvement with Frozen Weights: The Added Value and Limits of Failure Traces
- arxiv url: http://arxiv.org/abs/2611.11342v2
- Date: Wed, 11 Nov 2026 01:46:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:32.8747
- Title: Agent Self-Improvement with Frozen Weights: The Added Value and Limits of Failure Traces
- Title(参考訳): 凍結重量によるエージェント自己改善 - 付加価値と欠陥トレースの限界-
- Abstract要約: 我々は、AIエージェントのハーネス(モデルを取り巻くメモ)が、一致した検索を超えたエージェントの障害トレースから学習できるかどうかを評価する。
生成された顧客サービス決定に基づいて、エージェントのミスに基づくメモは、同じプロセスからのメモよりも正確さを4.0ポイント向上し、ミスは保留された。
完全な顧客とサービスの会話では、同じメモが改善を示すものではなかった。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We evaluate whether an AI agent's harness, the notes around its model, can learn from the agent's failure traces beyond a matched search that never sees them. It can, but less than it looks. We tested an open 9-billion-parameter model with fixed weights; a larger teacher model wrote its notes. On generated customer-service decisions, where both note writers were told the target rules, notes based on the agent's mistakes improved accuracy by 4.0 percentage points over notes from the same process with the mistakes withheld. That process alone, trying and keeping better-scoring notes, reached about 60% of the total improvement. In full customer-service conversations the same notes showed no demonstrated improvement. Separately, a strict screen of single lessons admitted two customer-service lessons, still awaiting tests on new data, and one tool-use lesson, written without seeing the agent's mistakes, which showed no demonstrated gain on new tool-use tasks. A neutral note with no procedure scored higher than the learned lessons (exploratory). A blind audit judged 146 of 240 tool-use test items defective.
- Abstract(参考訳): 我々は、AIエージェントのハーネス(モデルを取り巻くメモ)が、一致した検索を超えたエージェントの障害トレースから学習できるかどうかを評価する。
それはできるが、見た目よりは少ない。
固定重量のオープンな9ビリオンパラメータモデルをテストし、より大きな教師モデルにメモを書きました。
両方のメモ作成者が対象のルールを指示された顧客サービス決定では、エージェントのミスに基づくメモは、同じプロセスからのメモよりも正確さを4.0ポイント向上し、ミスは保留された。
そのプロセスだけで、より良いスコア付けを試み、維持することは、全体的な改善の約60%に達しました。
完全な顧客とサービスの会話では、同じメモが改善を示すものではなかった。
同時に、シングルレッスンの厳格な画面では、新しいデータに対するテスト待ちの2つのカスタマーサービスレッスンと、エージェントのミスを見ずに書かれた1つのツールユースレッスンが、新しいツールユースタスクの成果を示さなかった。
手順のない中性ノートは、学習したレッスン(探索)よりも高いスコアを得た。
盲目の監査では、240のツール使用テスト項目のうち146が欠陥があると判断された。
関連論文リスト
- Silent Instrument Errors Reorder Agent Leaderboards [0.0]
汎用エージェントは、航空会社のカスタマーサービスベンチマークのために構築された足場を、データベースに触れるタスクで13ポイント追跡する。
HALとtau2-benchという2つの注意深くメンテナンスされた公開リーダボードを,公開アーティファクトだけで監査します。
我々は,この楽器を露出する安価なチェックを提案する: グレードされた分数,ルートスパンからの集約コスト,記録されたすべてのアクションの発端をタグ付けする。
論文 参考訳(メタデータ) (2026-11-03T06:34:45Z) - AdaPRA: Process Reward Agents with Adaptive Rubrics for Data Science [61.06192512211444]
データサイエンスエージェントはエンドツーエンドの機械学習を自動化することができるが、人間のリーダーボードとの競争には程遠い。
我々はこれらの問題に対処するためにAdaPRAを提案する: 同一タスクの試行にまたがって知識を蓄積する永続的符号化エージェントと、エラーを特定し修正するルーリック誘導プロセス監視。
AdaPRAはタスク毎の5つの試行により、80B QwenモデルのパーセンタイルをDSPredict-Easyで24.5ポイント、DS-Hardで14.8ポイント改善し、プロセスエラーを減らす。
論文 参考訳(メタデータ) (2026-10-23T19:46:55Z) - TRACE: Diagnosing Verifier Brittleness in Agentic Evaluation [0.5837881923712392]
本稿では,判定から検査可能な診断へスコア変更を行うプロトコルであるTRACEを紹介する。
25の合成タスクの制御スイートでは、まったく同じ操作をしても、リネームツールはスクリプトされたエージェントのスコアを0.250下げる。
88の新しいタスクのフォローアップでは、条件ごとの繰り返し実行、改名ツールまたは改名ツールのアウトプットが8つのエージェント-チェンジペアのうち7つに対して$pm$0.10以内の報酬に変化しない。
論文 参考訳(メタデータ) (2026-10-08T10:52:26Z) - Do Agent Benchmarks Do What They Say? An Executable-Contract Audit of Tool-Using Agent Environments [8.904042335790534]
34回にわたって、4つのベンチマークで変更ツールを監査し、7つのツール欠陥と1つの評価器特性をピン付きコミットで確認した。
注入された欠陥について、チェッカーは25個のフラグに偽陽性を示さず、5つの負のコントロールのうち2つにフラグを付け、最も多くを逃した。
さらに12のAgentDojoツール、6つのホールドアウトツールと、最初に監査された7つのツールによって、25のツール変更サーフェスが完了した。
論文 参考訳(メタデータ) (2026-09-29T11:50:55Z) - Shockingly Simple Self-retrospection Improves Agentic Models Without RL [56.88703385147974]
本研究は,説明のみの訓練がその後の行動に与える影響を分離するために,レトロスペクティブ・オンリー・ファインチューニングについて検討する。
Qwen3.5-4B を用いたソフトウェア工学実験では、ROFT は成功と失敗の混合したベースモデルの試行に関する問題で訓練されている。
また、64のサンプルベースモデル試みが失敗する個々のタスクの解決も学べる。
論文 参考訳(メタデータ) (2026-09-28T17:54:24Z) - Frozen Judges, Moving Agents: Version-Dependent LLM-Judge Error and the Limits of Judge-Assisted Agent Evaluation [7.504639516424482]
言語モデル審査員はエージェントのアップグレードを前任者と比較するが、固定された審査員はバージョンに依存した誤りを犯すことがある。
公開コーディングエージェント35件、カスタマーサービスエージェント2件、専門家ラベル付きエージェントRewardBenchトラジェクトリ1,106件を分析した。
論文 参考訳(メタデータ) (2026-09-28T03:10:18Z) - ExecCritic: Learn to Test, Test to Improve for Coding Agents [68.42713285082912]
実行時のフィードバックは、コーディングエージェントを正しいリポジトリの修復に導くことができますが、テストが問題によって要求された振る舞いをキャプチャした場合のみです。
ExecCriticを導入し、テスト-検証-修正足場と、その中のトレーニングエージェントのためのロール固有の強化学習レシピを組み合わせる。
テストエージェントが独立してリポジトリネイティブなテストを生成し、フェイルクローズされたハーネスがそれらを調整して凍結し、リカバリエージェントがテストを変更することなく、ソースコードを実行フィードバックから修正する。
論文 参考訳(メタデータ) (2026-09-08T17:53:37Z) - ADeptS-Bench: Measuring the Trustworthiness of Computer Use Agents Across Devices [48.36933831982682]
我々はADEPTS機能フレームワークを基盤とした信頼性ベンチマークであるADeptS-Benchを紹介する。
Safetyストリームは、視覚インターフェースに埋め込まれた脅威を伴うペアの良心/悪意のあるタスクを提供する。
曖昧さストリームは、意図が曖昧である場合、エージェントが明確化を求めるかどうかを評価する。
論文 参考訳(メタデータ) (2026-08-25T23:21:57Z) - Self-Authored Verification Is Unreliable in Heuristic Self-Improving Agents [5.91817208489443]
検証・受け入れ・デプロイのギャップについて検討する。
このギャップは、エージェントの自己承認された検証信号と封印されたデプロイメント評価との相違を指す。
シーリング型外因性受容ループ(SEAL)について紹介する。
論文 参考訳(メタデータ) (2026-07-27T11:45:14Z) - Fantastic Adaptive Taxonomies and How to Use Them [100.20614173157708]
AdaMASTは、実行トレースをコンパクトでエビデンスに基づく障害分類に変換する。
コードには手書きのコードはなく、人間による注釈もない。
エージェント・システム・サーチでは、失敗候補の分類コード診断が自由形式より優れている。
論文 参考訳(メタデータ) (2026-07-17T17:41:16Z) - Holistic Agent Leaderboard: The Missing Infrastructure for AI Agent Evaluation [87.47155146067962]
数百のタスクで並列評価をオーケストレーションする,標準化された評価ハーネスを提供する。
モデル、足場、ベンチマークにまたがる3次元解析を行う。
私たちの分析では、ほとんどのランで精度を低下させる高い推論努力など、驚くべき洞察が示されています。
論文 参考訳(メタデータ) (2025-10-13T22:22:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。