論文の概要: A Control System, a Dataset, and a Recipe for Making Frozen LLM Agents Learn a Domain
- arxiv url: http://arxiv.org/abs/2607.25415v1
- Date: Tue, 28 Jul 2026 08:10:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-29 20:50:42.755928
- Title: A Control System, a Dataset, and a Recipe for Making Frozen LLM Agents Learn a Domain
- Title(参考訳): 冷凍LDMエージェントがドメインを学習するための制御システム、データセット、およびレシピ
- Abstract要約: メタハーネス(Meta-Harness)とハイパーエージェント(HyperAgents)という2つの2026システムは、このハーネス自体を最適化したり、エージェントの提案者によって自己書き直したりできることを示している。
私たちは、より狭く、より制約のある立場をとります – ハーネスを小さな、固定された、人間に適応可能なアクションスペースとして扱い、オンラインでポリシーを学ぶのです。
我々は、この制御システムを、コンテキストアセンブラおよび最強の非適応ベースラインのソースとしてDSPyでインスタンス化する。
- 参考スコア(独自算出の注目度): 2.452218069720666
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Production LLM agents are increasingly assembled from a frozen model wrapped in a harness: a prompt template, a tool set, a memory/retrieval layer, a planning strategy, and a verification policy. Two 2026 systems, Meta-Harness (Lee et al., 2026) and HyperAgents (Meta AI, 2026), show that this harness can itself be optimized or even self-rewritten by an agentic proposer -- at the cost of either an expensive code-search loop or unconstrained self-modifying code, neither of which is auditable or usable with a fully black-box model API. We take a narrower, more constrained position: treat the harness as a small, fixed, human-legible action space and learn a policy over it online with classic sample-efficient reinforcement learning (an $ε$-greedy contextual bandit and REINFORCE), scored against a multi-objective reward (task success, verifier score, policy compliance, cost, latency, and an unsupported-claim penalty). We instantiate this control system with DSPy (Khattab et al., 2024) as both the context assembler and the source of the strongest non-adaptive baseline (a DSPy BootstrapFewShot static prompt), and evaluate it across three verifiable task domains -- tool-use workflows, code generation (HumanEval), and multi-hop retrieval QA (HotpotQA) -- and two model providers (a local Ollama model and AWS Bedrock). We release the harness-control-system code, the cross-domain verifiable task suite, the full trajectory/reward-decomposition logs from training, and a provider-agnostic deployment recipe for applying this to a new organization's domain and verification setup.
- Abstract(参考訳): 生産LSMエージェントは、プロンプトテンプレート、ツールセット、メモリ/検索層、計画戦略、検証ポリシといった、ハーネスでラップされた凍結モデルから、次第に組み立てられるようになる。
Meta-Harness(Lee et al , 2026)とHyperAgents(Meta AI, 2026)という2つの2026システムでは、高価なコード検索ループか制約なしの自己修正コードのいずれかのコストで、このハーネス自体を最適化したり、エージェントプロジェクタによって自己書き直したりすることが可能である。
ハーネスを小さな、固定された、人間に合った行動空間として扱い、古典的なサンプル効率の強化学習($ε$-greedy contextual bandit and REINFORCE)でオンライン上でポリシーを学習し、多目的報酬(タスク成功、検証者スコア、ポリシー遵守、コスト、レイテンシ、無罪罰)に対して得点する。
DSPy(Khattab et al , 2024)をコンテキストアセンブラと最強の非適応ベースライン(DSPy BootstrapFewShot静的プロンプト)のソースとして、この制御システムをインスタンス化し、3つの検証可能なタスクドメイン – ツール使用ワークフロー、コード生成(HumanEval)、マルチホップ検索(HotpotQA) -- と2つのモデルプロバイダ(ローカルオラマモデルとAWS Bedrock)で評価します。
我々は、ハーネス制御システムコード、クロスドメイン検証タスクスイート、トレーニングからの完全なトラジェクトリ/リワード分割ログ、新しい組織のドメインと検証設定にこれを適用するためのプロバイダに依存しないデプロイメントレシピをリリースする。
関連論文リスト
- Iris: Climbing to the Search Frontier [21.066541702697112]
我々は35B-A3Bスケールと397B-A17Bスケールでトレーニングされた2つの検索エージェントであるIris-miniとIris-proを紹介する。
論文 参考訳(メタデータ) (2026-09-03T17:51:01Z) - Context Assembly as the Controlled Variable: A Control-Theoretic View of Harness Policies for Frozen LLM Agents [2.452218069720666]
我々は、船が航行したLSMエージェントに制御理論を導入するわけではない。
以前の作業は、ツールの選択、エージェント間メッセージルーティング、あるいはエージェントの生のアクションストリームを制御する。
本稿では,オンラインコントローラの形式的分解について述べる。
論文 参考訳(メタデータ) (2026-07-28T08:07:06Z) - ClawArena-Team: Benchmarking Subagent Orchestration and Dynamic Workflows in Language-Model Agents [61.184954205350984]
ClawArena-Teamは、41のマルチターン、マルチモーダル、マルチエージェントシナリオのベンチマークである。
全体的なスコア -- Subagent-Management Score (SMS) -- は、タスクの正しさを最小限のプライマリとモダリティのルーティング因子によって乗算する。
論文 参考訳(メタデータ) (2026-06-30T06:06:08Z) - ClayBuddy: A Framework, Evaluation, & Mitigation of Coding Agent Failures [1.0742675209112622]
障害モードは、不特定性、能力エラー、エージェントハーネスエラーの3つのメカニズムから派生したものとして研究する。
我々はClayBuddyを提案する。ClayBuddyはユーザの好みを形作るハーネスで、モデルのインセッションで修正してこれらのエラーを軽減できる。
論文 参考訳(メタデータ) (2026-06-13T18:29:53Z) - Code as Agent Harness [107.31925305395957]
新興のエージェントシステムでは、コードはもはや単なる目標出力ではない。
コードはエージェントの推論、行動、環境モデリング、実行ベースの検証のための運用上の基盤としてますます役立っている。
この調査は、実行可能、検証可能、ステートフルなAIエージェントシステムに向けた統一されたロードマップを提供する。
論文 参考訳(メタデータ) (2026-05-18T17:59:03Z) - ComplexMCP: Evaluation of LLM Agents in Dynamic, Interdependent, and Large-Scale Tool Sandbox [61.862814740220806]
$textbfComplexMCP$は厳格な条件下でエージェントを評価するために設計されたベンチマークである。
Model Context Protocol (MCP)上に構築された$textbfComplexMCP$は300以上の精巧にテストされたツールを提供する。
論文 参考訳(メタデータ) (2026-05-11T16:20:51Z) - HARBOR: Automated Harness Optimization [2.7324157162184157]
我々は、ハーネス設計が第一級の機械学習問題であると主張している。
本稿では,ブロック付加型SAASサロゲート,多要素コスト認識獲得,TuRBOトラスト領域から構築した参照解決器HARBORを提案する。
論文 参考訳(メタデータ) (2026-04-22T13:45:12Z) - LLM Readiness Harness: Evaluation, Observability, and CI Gates for LLM/RAG Applications [51.56484100374058]
評価をデプロイメント決定ワークフローに変換するLLMおよびRAGアプリケーションのための準備性ハーネスを提案する。
このシステムは、最小限のAPI契約の下で、自動ベンチマーク、OpenTelemetryオブザーバビリティ、CI品質ゲートを組み合わせる。
チケットルーティングとBEIRタスクのハーネスを、完全なAzureマトリックスカバレッジで評価する。
論文 参考訳(メタデータ) (2026-03-28T18:03:32Z) - GUI-360$^\circ$: A Comprehensive Dataset and Benchmark for Computer-Using Agents [59.107657859025586]
GUI-360$circ$は、コンピュータ利用エージェント(CUA)を進化させるために設計された大規模で包括的なデータセットとベンチマークスイートである。
リリースされたコーパスには、人気のあるWindowsオフィスアプリケーションにおける数千のトラジェクトリにわたる1.2万以上の実行されたアクションステップが含まれている。
このデータセットは、3つの標準タスク、GUIグラウンド、スクリーン解析、アクション予測、ハイブリッドGUI+APIアクションスペースをサポートする。
論文 参考訳(メタデータ) (2025-11-06T12:19:02Z) - An agentic system with reinforcement-learned subsystem improvements for parsing form-like documents [0.0]
本稿では,Large Language Model (LLM)エージェントと強化学習ドライバエージェントを利用して,一貫性のある自己改善抽出を自動化するエージェントAIシステムを提案する。
我々の研究は、モノリシックなLCMベースの抽出の限界を強調し、タスク固有のプロンプトを備えたモジュール化されたマルチエージェントフレームワークを導入しました。
この自己修正適応システムは、人間の介入なしに正確な情報抽出を自動化することを目的として、多様な文書、ファイル形式、レイアウト、LLMを処理する。
論文 参考訳(メタデータ) (2025-05-16T09:46:10Z) - Collab: Controlled Decoding using Mixture of Agents for LLM Alignment [90.6117569025754]
人間のフィードバックからの強化学習は、大規模言語モデルを整合させる効果的な手法として現れてきた。
制御された復号化は、再訓練せずに推論時にモデルを整列するメカニズムを提供する。
本稿では,既存の既成のLCMポリシを活用するエージェントベースのデコーディング戦略の混合を提案する。
論文 参考訳(メタデータ) (2025-03-27T17:34:25Z) - Scanflow: A multi-graph framework for Machine Learning workflow
management, supervision, and debugging [0.0]
本稿では,エンドツーエンドの機械学習ワークフロー管理を支援するコンテナ化指向グラフフレームワークを提案する。
このフレームワークは、コンテナ内でMLを定義してデプロイし、メタデータを追跡し、本番環境での振る舞いを確認し、学習された知識と人為的な知識を使用してモデルを改善する。
論文 参考訳(メタデータ) (2021-11-04T17:01:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。