論文の概要: Harness Evolution Hits a Ceiling: When Weight Training Should Begin
- arxiv url: http://arxiv.org/abs/2610.11655v1
- Date: Thu, 08 Oct 2026 10:33:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.958106
- Title: Harness Evolution Hits a Ceiling: When Weight Training Should Begin
- Title(参考訳): ハーネスの進化は、いつ体重を鍛えるべきか?
- Abstract要約: 自己進化型ハーネスは、まずシステムを強くし、次にシードを渡り、ベースとトレーニングされた重量でハーネスを進化させます。
エージェントの故障構成から正しいレバーを読み取ることができることを示す。
DeepPlanningでは、自己進化するハーネスループがQwen3.5-4Bのホールドアウトスコアを0.16から0.30に引き上げる。
4Bでは、コンテンツ障害が重み付けのために残っている間、保留中のデリバリは55%から90%に上昇する。
- 参考スコア(独自算出の注目度): 14.584252915911557
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Improving a long-horizon LLM agent means evolving the harness around a frozen model or training its weights. We let a self-evolving harness make the system stronger first, then cross seed and evolved harnesses with base and trained weights to learn which gains the trained model keeps and which still need the runtime. We show that the right lever can be read off the agent's failure composition: labelling failed trajectories by the first signal that fires separates process failures (blocked calls, loops, exhausted step budgets) from content failures (a delivered plan that is poor). Harness evolution repairs the former, the behaviour it instils can be trained into the weights, and content failures are what weight training is for. On DeepPlanning, a self-evolving harness loop lifts the held-out score of Qwen3.5-4B from 0.16 to 0.30 and of Qwen3.5-9B from 0.32 to 0.44; for 4B, held-out delivery rises from 55% to 90% while content failures are left for the weights. LoRA adapters trained on evolved-harness trajectories internalise the gain: under the original harness they add +0.13 on held-out tasks for both sizes; on 4B they stack with the harness to more than double the held-out score, and on 9B the adapter alone matches the full evolution line, cutting content failures from a quarter of trajectories to one in twenty. A placebo adapter trained on answer-shuffled trajectories falls below the base model. The loop transfers to WebArena-Lite (+0.09 on 117 unseen tasks), where the gain lives in what the model sees and adapters do not add to it. The result is a diagnose-then-intervene rule applied twice: read the failure composition to choose between harness and weights, then read what the accepted edits changed to decide which gains to train in. Scores are four-rollout means against fresh anchors, same-night except where marked, across eight models from six families and two benchmarks.
- Abstract(参考訳): 長期のLDMエージェントの改善は、凍結したモデルの周りにハーネスを進化させ、その重量を訓練することを意味する。
自己進化型ハーネスは、まずシステムを強くし、次にシードを渡り、ベースとトレーニングされた重みでハーネスを進化させ、トレーニングされたモデルが保持するもの、そして実行時を必要とするものを学ぶようにします。
プロセス障害(ブロックされた呼び出し、ループ、排他的なステップ予算)とコンテンツ障害(貧弱な提供計画)を分離する最初のシグナルによって、失敗した軌道をラベル付けする。
ハーネスの進化は、前者を修復し、それを組み込んだ振る舞いを重みにトレーニングし、コンテンツ障害が重みトレーニングの目的である。
DeepPlanningでは、自己進化型ハーネスループがQwen3.5-4Bのホールドアウトスコアを0.16から0.30に、Qwen3.5-9Bのホールドアウトスコアを0.32から0.44に引き上げる。
オリジナルのハーネスでは、両方のサイズのホールトアウトタスクに+0.13を加算し、4Bではハーネスを積み重ねてホールトアウトスコアを2倍以上にし、9Bでは、アダプタのみが完全な進化ラインと一致し、コンテンツ障害を4分の1から20分の1に削減した。
応答シャッフルされた軌道で訓練されたプラセボアダプタは、ベースモデルより下降する。
ループは WebArena-Lite (117の未確認タスクで0.09) に転送される。
その結果は2回適用される診断・治療・介入ルールである: ハーネスとウェイトの選択のために障害構成を読み、承認された編集内容を読み取って、どの訓練を受講するかを決定する。
スコアは新鮮なアンカーに対する4つのロールアウト手段であり、6つのファミリーと2つのベンチマークの8つのモデルで、マークされた場所以外は同夜だ。
関連論文リスト
- CoTrace: Data Recipes for Training Terminal Agents with Harness-Model Co-Evolution [68.76788820731048]
CoTraceは、トラジェクトリルーティング、プロファイランスマッチング、リフレッシュを管理するハーネス対応のデータレシピである。
コンパクトなハーネス整合コーパスは、兄弟ハーネスにまたがるより大きなコーパスよりも、かなり低い計算で安定したモデルゲインを生成することを示す。
論文 参考訳(メタデータ) (2026-10-07T17:06:59Z) - Co-Evolving Harnesses and Models: On-Policy Correction Helps Weaker Models Catch Up Where Imitation Fails [23.287109132562403]
自動化されたハーネス進化により、より小さなモデルは、フロンティアモデルコストのごく一部で、ドメイン固有のタスクでうまく機能することができる。
模倣は知識を伝達し,足場の使用量を増加させるが,モデルハーネスの適合性を阻害することを示す。
我々は、メタレベルのMLEエージェントによって自動化され、弱いモデル自身のロールアウトにおいて失敗するターンをローカライズし、専門家にそのターンのみを書き直すよう依頼する、オンデマンドの専門家補正パイプラインを開発する。
論文 参考訳(メタデータ) (2026-09-08T17:53:49Z) - What Does Multi-Harness RL Learn? Credit Assignment and Portability in Coding Agents [9.375226195738966]
我々は、Aider、OpenHands、Qwen Code、SWE-agentからタスクハーネスレコードを再生する。
私たちは4つのソースハーネスと最小限のハーネスで、封印されたSWEベンチ検証オラクルで全てのチェックポイントをスコア付けします。
ホールドアウトハーネスでは、クロスマイナスは+0.25 pp, 95%信頼区間 [-0.48, +1.02] で、タスクごとに8回の試験を行い、+0.16 [-0.41, +0.72] は3つの訓練種子にプールされた。
論文 参考訳(メタデータ) (2026-09-03T22:17:02Z) - Train What You Deploy: Closing the MLP Reachability Gap in Low-Rank Clone Distillation [13.001392041351009]
最先端の減量蒸留機であるローランク・クローンがフル幅の学生を配置するが、教師が引き起こしたスライスに関係があることが示される。
トレーニングオブジェクトを、デプロイされた形状、デプロイされたパラメータ数、あるいは推論FLOPの変更なしに、デプロイされたマトリックス全体とする。
論文 参考訳(メタデータ) (2026-09-02T02:32:14Z) - WHALE: A Simple Recipe for Joint Harness-Weight Optimization [48.550149284101536]
WHALE(Weight-Harness Alternating LEarning)は、2つのフェーズを切り替えるレシピである。
3つの領域にわたるQwen3.5-2B/4Bエージェント(質問応答、数学的推論、チェスパズル)を使用して、WHALEは重量のみ、ハーネスのみ、Fast-Slow Trainingの4.15-24.38ポイントを最高の平均@8の精度で上回る。
論文 参考訳(メタデータ) (2026-08-31T18:12:55Z) - DarwinX: Evolving Agent Harnesses Through Natural Selection [48.64258219266629]
ダーウィンXは自己進化を、モデルが凍結されたハーネスの集団の選択として扱う。
一般的なエージェント能力はベンチマーク固有のパッチではなく、タスク、検証、ベースモデルの変更を生き残る。
論文 参考訳(メタデータ) (2026-07-31T05:34:02Z) - Harness Updating Is Not Harness Benefit: Disentangling Evolution Capabilities in Self-Evolving LLM Agents [82.27610290890475]
i) ハーネス更新、(i) 実行証拠から有用な永続的ハーネス更新を生成する能力、(ii) ハーネスベネフィット、タスク解決時に更新されたハーネスの恩恵を受ける能力の2つのハーネス自己進化能力を分析した。
まず、ハーネス更新は基本能力において平坦である:異なる能力階層のモデルがハーネス更新を生成し、驚くほど類似したゲインをもたらす。
第二に、ハーネスベネフィットは基本能力において単調ではない:弱い層モデルは更新されたハーネスからほとんど恩恵を受けず、中層モデルは最も恩恵を受け、強い層モデルは中層より利益が低い。
論文 参考訳(メタデータ) (2026-05-28T22:16:14Z) - SIA: Self Improving AI with Harness & Weight Updates [0.0]
人間はAIの構築と改善のボトルネックです。
言語モデルエージェントがハーネスとタスク固有のエージェントの重みを更新する自己改善ループであるSIAを提案する。
論文 参考訳(メタデータ) (2026-05-26T16:55:46Z) - Exploiting the Partly Scratch-off Lottery Ticket for Quantization-Aware
Training [69.8539756804198]
数回のトレーニングの後に、量子化重量の大部分が最適な量子化レベルに達し、これは部分的にスクラッチオフされた宝くじと呼ばれる。
フル精度のチケットと量子化レベルの距離が制御可能な閾値よりも小さい場合、重量を凍結する「抽選チケットスクラッカー」(LTS)と呼ばれる手法を開発した。
論文 参考訳(メタデータ) (2022-11-12T06:11:36Z) - Long-Tailed Recognition via Weight Balancing [66.03068252811993]
ナイーブトレーニングは、より高い精度で一般的なクラスに偏ったモデルを生成する。
重みのバランス、L2-正規化、重みの崩壊、MaxNormの3つの手法について検討する。
提案手法は,5つの標準ベンチマークにおける最先端の精度を実現する。
論文 参考訳(メタデータ) (2022-03-27T03:26:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。