論文の概要: HarnessTTT: Learn to Optimize Harness at Test-Time for Scientific Discovery
- arxiv url: http://arxiv.org/abs/2610.17370v1
- Date: Mon, 12 Oct 2026 20:27:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 19:13:58.060983
- Title: HarnessTTT: Learn to Optimize Harness at Test-Time for Scientific Discovery
- Title(参考訳): HarnessTTT: 科学的発見のためのテストタイムでHarnessを最適化する方法を学ぶ
- Abstract要約: 本稿では,エグゼキュータを凍結したままハーネスプロジェクタをトレーニングするテスト時間学習フレームワークであるHarnessTTTを紹介する。
発見指向の政策段階的目的は、ギャップ正規化報酬(ギャップ正規化報酬)、アウト・ワン・アウト・アドバンテージ(RLOO)、ハイパフォーマンスな提案を優先するマックス・シャーペン(max-sharpening)を組み合わせたものである。
14回の発見タスクで、凍結した9Bエグゼキュータを持つHarnessは、11のベンチマークタスクすべてで同じエグゼキュータを持つOpenEvolveを改善している。
- 参考スコア(独自算出の注目度): 82.16352932617562
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Scientific discovery with language models requires finding the best valid solution within a finite computational budget. We study how feedback from this search can improve the procedure used to conduct it. We introduce HarnessTTT, a test-time learning framework that trains a harness proposer while keeping the executor frozen. The proposer generates executable harnesses comprising system prompts, reusable skills, tools, middleware, and execution controls. Each harness guides a budgeted discovery rollout, whose outcome provides feedback for updating the proposer. A discovery-oriented policy-gradient objective combines gap-normalized rewards, leave-one-out advantages (RLOO), and max-sharpening to favor high-performing proposals. Generated components are validated before execution, and the search retains the best valid solution and selected harnesses across rounds. Across fourteen discovery tasks in mathematics, systems, GPU kernels, heuristic programming, astrodynamics, and biology, HarnessTTT with a frozen 9B executor improves on OpenEvolve with the same executor on all eleven benchmark tasks (e.g., from 1.17 to 2.64 on circle packing), improves on the discovery-fine-tuned Finch-9B by up to 92%, holds the best open-weight sub-10B result on nine, and reaches 0.380919 on Erdős minimum overlap, better than the best human reference of 0.380927. Scaling the proposer and frozen executor to 27B improves on eleven of fourteen tasks, and transferring the learned harnesses to GPT-5.5 matches or exceeds the strongest reported system of any backbone on nine of fourteen tasks. Together, these results show that harness search can itself be learned at test time: a trained proposer lets a small frozen executor search effectively, and the harnesses it finds carry over to stronger executors.
- Abstract(参考訳): 言語モデルによる科学的発見は、有限計算予算内で最も有効な解を見つける必要がある。
本研究では,この探索によるフィードバックが,その実行手順を改善する方法について検討する。
本稿では,エグゼキュータを凍結したままハーネスプロジェクタをトレーニングするテスト時間学習フレームワークであるHarnessTTTを紹介する。
提案者は、システムプロンプト、再利用可能なスキル、ツール、ミドルウェア、実行制御を含む実行可能なハーネスを生成する。
各ハーネスは予算付きディスカバリロールアウトをガイドし、その結果がプロジェクタを更新するためのフィードバックを提供する。
発見指向の政策段階的目的は、ギャップ正規化報酬(ギャップ正規化報酬)、アウト・ワン・アウト・アドバンテージ(RLOO)、ハイパフォーマンスな提案を優先するマックス・シャーペン(max-sharpening)を組み合わせたものである。
生成したコンポーネントは実行前に検証され、検索は最も有効なソリューションを保持し、ラウンド毎に選択されたハーネスを保持する。
数学、システム、GPUカーネル、ヒューリスティックプログラミング、天体力学、生物学の14の発見タスクで、凍結した9Bエグゼキュータを持つHarnessTTTは、すべての11のベンチマークタスク(例えば、1.17から2.64の円のパッキング)で同じエグゼキュータでOpenEvolveを改良し、探索可能なFinch-9Bを最大92%改善し、9で最高のオープンウェイトサブ10Bを保持、エルデシュの最小オーバーラップで0.380919に達する。
提案者および凍結実行者27Bへのスケーリングは、14タスクのうち11タスクを改善し、学習したハーネスをGPT-5.5に転送するか、または14タスクのうち9タスクのバックボーンの最も強力な報告システムを超える。
トレーニングされたプロジェクタは、小さな凍結したエグゼクタ検索を効果的に行うことができ、それを見つけたハーネスはより強力なエグゼクタへと引き継がれる。
関連論文リスト
- Dynamic Harness Search: Building Multi-Agent Systems Per-Query via Prediction [12.866016727776612]
エージェントハーネスは、タスクの解決に使用される役割、命令、ツール、通信構造を指定する。
クエリごとのサーチループから実行を移動させるShiFTを導入する。
6つのベンチマークで9,193タスクにわたって、Shiftは平均精度が80%に達している。
論文 参考訳(メタデータ) (2026-10-02T23:18:55Z) - Before the Rollout Ends: Early Terminal Reward Prediction for Long-horizon Coding Agents [65.21544643456632]
長距離符号化エージェントは、高価なツールコールのシーケンスを完了した後のみ、検証可能な報酬を受け取る。
これは推論コストを増大させ、早期の誤った仮説を増幅し、スパース終末報酬と不安定なトレーニングにつながる可能性がある。
本稿では,行動証拠から終末報酬を予測するContextual Early Reward (CER)を紹介した。
論文 参考訳(メタデータ) (2026-09-25T20:53:04Z) - Write, Execute, Refine: From Skill Followers to Skill Optimizers via Reinforcement Learning from Execution Feedback [52.78692582507693]
専門家による自然言語スキルは、ツール使用エージェントを改善することができるが、エージェントによるスキルは、スキルを使用しないよりも8-11ポイント悪い。
本研究では,中間的スキルから実行経験を訓練状態に整理する方法について検討する。
論文 参考訳(メタデータ) (2026-08-18T09:52:48Z) - Test-Time Optimization of Query Embeddings with Ranking Aware Reward Maximization [13.137370980012525]
TTT-Embedは、冷凍モデルの出力埋め込み空間内の学習ベクトルにランキング報酬を蒸留するフレームワークである。
単一のスコープパラメータが再利用(グローバル、タスク、クエリ)を制御し、固定された報酬計算予算の下で再利用可能性と特異性の間の原則的なトレードオフを可能にする。
論文 参考訳(メタデータ) (2026-08-12T20:24:57Z) - SPOQ: Specialist Orchestrated Queuing for Multi-Agent Software Engineering [2.0769172070951067]
マルチエージェントAIシステムは、ソフトウェアエンジニアリングタスクの自動化を約束する。
既存のアプローチでは、調整のオーバーヘッド、品質管理のギャップ、人間の監視が制限されている。
SPOQ(Specialist Orchestrated Queuing)は,3つのイノベーションを組み合わせた方法論である。
論文 参考訳(メタデータ) (2026-06-02T03:59:56Z) - OpenOneRec Technical Report [99.17075873619352]
OneRecシリーズは、断片化されたレコメンデーションパイプラインをエンドツーエンドの生成フレームワークにうまく統合した。
OneRec Foundation (1.7B と 8B) は、新しい最先端(SOTA)を確立するモデルのファミリであり、RecIF-Benchのすべてのタスクにまたがる結果である。
Amazonベンチマークに移行すると、当社のモデルは10種類のデータセットに対して平均26.8%のRecall@10の改善により、最強のベースラインを越えた。
論文 参考訳(メタデータ) (2025-12-31T10:15:53Z) - EfficientBERT: Progressively Searching Multilayer Perceptron via Warm-up
Knowledge Distillation [82.3956677850676]
事前学習された言語モデルは、様々なNLPタスクにおいて顕著な結果を示した。
サイズが大きく、推論速度が遅いため、エッジデバイスにデプロイするのは困難である。
本稿では、BERTにおけるフィードフォワードネットワーク(FFN)の改善が、マルチヘッドアテンション(MHA)の改善よりも高い利益をもたらすという批判的な洞察を得る。
論文 参考訳(メタデータ) (2021-09-15T11:25:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。