論文の概要: Trace Evolution Bench: Measuring Whether Agents Improve from Their Own Environment Traces
- arxiv url: http://arxiv.org/abs/2610.15055v1
- Date: Sat, 10 Oct 2026 16:45:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.146621
- Title: Trace Evolution Bench: Measuring Whether Agents Improve from Their Own Environment Traces
- Title(参考訳): トレース進化ベンチ: エージェントが自身の環境トレースから改善するかどうかを測定する
- Abstract要約: セルフ進化エージェントは通常、エンドポイントゲインによってスコアされる。
我々は、コンテキストや重み更新からリスコアを分離するプロトコルであるTrace Evolution Bench (TEB)を紹介する。
更新は、バリデーションが失敗し、ホールドアウト識別子が更新に入らない場合にのみ受け入れられ、テキスト更新は重み付け更新でランク付けされない。
- 参考スコア(独自算出の注目度): 15.377076755621465
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Self-evolving agents are usually scored by endpoint Gain: held-out success after an update minus success before. That difference can credit a frozen rescore as evolution. We introduce Trace Evolution Bench (TEB), a protocol that separates that rescore from a context or weight update, together with three frozen 80/20/40 packs. An update is accepted only when validation does not fall, held-out identifiers never enter the update, and a text update is not ranked with a weight update. The primary scoreboard is coding, graded by hidden unit tests in a closed workspace. On that pack (40 held-out tasks, one family), DeepSeek v4 Pro under no_evolve never changes its policy yet moves 7.5, 5.0, and 12.5 percentage points across three seeds. Of nine text-update cells inspired by GEPA, ACE, and ExpeL, seven have positive excess above that seed's own band, and one gepa_llm seed moves down by the width of its band (-12.5, regression 0.48). GLM and MiniMax do not reproduce that seven-of-nine pattern. No method stays above its own band on every seed of all three models: GLM has two paired cells above their own bands, and MiniMax expel_llm seed 44 is a third (regression 0.30). The methods were fixed on a validation screen before held-out was read. Office, graded by rule-bounded delivery, and manufacturing table QA are separate packs: office DeepSeek does not exceed its own bands (widest 17.5 points), and manufacturing has no paired positive excess beyond its seed band.
- Abstract(参考訳): セルフ進化エージェントは通常、エンドポイントゲインによってスコアされる。
この違いは、凍結したリスコアを進化と見なすことができる。
Trace Evolution Bench (TEB)は、コンテキストやウェイトアップデートからリスコアを分離するプロトコルで、3つのフリーズした80/20/40パックを同時に導入する。
更新は、バリデーションが失敗し、ホールドアウト識別子が更新に入らない場合にのみ受け入れられ、テキスト更新は重み付け更新でランク付けされない。
主要なスコアボードはコーディングであり、クローズドワークスペースで隠れたユニットテストによって評価される。
このパック(40のホールドアウトタスク、1つのファミリー)では、no_evolveのDeepSeek v4 Proは3つのシードに対して7.5、5.0、および12.5のポイントをまだ変更していない。
GEPA、ACE、ExpeLにインスパイアされた9つのテキスト更新細胞のうち、7つは、そのシードのバンドよりもプラスの過剰であり、1つのgepa_llmシードはそのバンドの幅(12.5、回帰0.48)で下降する。
GLMとMiniMaxは、その7-of-9パターンを再現しない。
GLMはそれぞれのバンドの上に2つのペアセルを持ち、MiniMax expel_llm seed 44は3番目の(regression 0.30)。
メソッドは、ホールドアウトが読まれる前に、バリデーション画面に固定された。
オフィスDeepSeekは独自のバンド(最大17.5ポイント)を超えておらず、製造にはシードバンド以外のプラスの余分なペアは存在しない。
関連論文リスト
- CLAP: Closed-Loop Alignment with Pressure for Precise Suction Manipulation [50.72629909392354]
本稿では,真空ラインにタップされた圧力モジュールを通してアタッチメント状態を観測できるCLAPを提案する。
データについては、物理ロボット上でゴール状態の分解を記録し、関節状態のシーケンスをオフラインで反転させる。
実際のUnitree Z1では、1つのマルチタスクチェックポイントが96.67%に達する。
論文 参考訳(メタデータ) (2026-09-26T16:40:23Z) - Agora: Git as Shared Memory for Collective AutoResearch [54.31992252587096]
別々のセッションで作業する調査エージェントは、他の人が試したことと、構築可能な結果を知る必要がある。
各コミットは結果、洞察、仮説、検証、報告を記録し、それを以前の作業とリンクする。
約12日間に渡り,13人の言語モデル労働者がアゴラを重み移動問題の解決に利用したことを報告した。
論文 参考訳(メタデータ) (2026-09-16T04:00:54Z) - ReDraft, Don't Just Distill: Reference-Driven Revision for Continual VLLM Post-Training [66.72708893922605]
大規模なマルチモーダルモデルのポストトレーニングは、事前トレーニングから保護しながら、新しい機能を追加する必要がある。
SFTは、タスクをほぼゼロの精度から学習する明確なターゲット監視を提供するが、そのオフポリティックターゲットはモデルを十分に移動させ、忘れる原因となる。
モデル自身の失敗から両方を得るReDraftを紹介します。
論文 参考訳(メタデータ) (2026-09-15T04:59:03Z) - Loreley: Repository-Scale Program Evolution with Quality-Diversity Search [0.9280446111254227]
シーケンシャルエージェントサーチは、現在のチャンピオンから変更を蓄積するが、代替ブランチを破棄する。
独立した提案は幅を保ちながら根から再開する。
一致したZ標準実験において,ロリーQD,シーケンシャルチャンピオン編集,独立ルート提案を比較した。
論文 参考訳(メタデータ) (2026-08-20T07:04:24Z) - The Recall Trap: A Recall-Maximizing Retriever Configuration Reduces Issue Resolution in Fixed-Budget Code Context [45.88028371034407]
コード修復における制御ケーススタディを報告し,新しい現象ではない。
私たちは、同じスタック上の1つのフラグ(1チャンク毎の重複)を切り替えます。
BM25(3.2pp、重要なパラダイム間相互作用)を逆転させる。
厳格な固定予算では、ファイルごとのハードダイドプリケートや、タスクに対するA/Bパッケージングポリシは、メトリックフラグを調整しないことが示されます。
論文 参考訳(メタデータ) (2026-08-14T19:22:50Z) - DarwinX: Evolving Agent Harnesses Through Natural Selection [48.64258219266629]
ダーウィンXは自己進化を、モデルが凍結されたハーネスの集団の選択として扱う。
一般的なエージェント能力はベンチマーク固有のパッチではなく、タスク、検証、ベースモデルの変更を生き残る。
論文 参考訳(メタデータ) (2026-07-31T05:34:02Z) - Reason Less, Verify More: Deterministic Gates Recover a Silent Policy-Violation Failure Mode in Tool-Using LLM Agents [1.6567880228735357]
ポリシーを許容する環境では、対応する状態遷移がドメインポリシーによって禁じられている場合であっても、ツールはよくできた呼び出しを実行できる。
我々は、この障害モードを2ドルの航空会社ドメインで研究する。
我々は、決定論的かつリードオンリーの事前実行ゲートという、軽量な介入を評価する。
論文 参考訳(メタデータ) (2026-07-08T13:38:54Z) - Recursive Self-Evolving Agents via Held-Out Selection [0.0]
LLMエージェントは、自然言語のアーティファクトを進化させることにより、重量の更新なしに改善される。
本稿では,コンパクトな3層自然言語状態を持つ再帰的自己進化エージェントRSEAを紹介する。
RSEAは3つのレイヤを自身のトラジェクトリから書き直し、非結合の保留分割に回帰しない場合に限って候補をコミットする。
論文 参考訳(メタデータ) (2026-06-17T14:53:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。