論文の概要: The Interplay of Harness Design and Post-Training in LLM Agents
- arxiv url: http://arxiv.org/abs/2606.25447v1
- Date: Wed, 24 Jun 2026 06:23:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-25 17:05:30.242697
- Title: The Interplay of Harness Design and Post-Training in LLM Agents
- Title(参考訳): LLM剤のハーネス設計と後処理の相互作用
- Abstract要約: LLMエージェントは、どのツールが露出しているか、どのように説明されるか、ステップごとの観察に付随する補助的な情報などを決定する足場として、しばしばハーネスにラップされる。
エージェントは日常的にポストトレーニングされるが、この足場は通常固定されたエンジニアリングの詳細として扱われる。
エージェントがOOD設定に頑健に適応できることを実証的に示す。
- 参考スコア(独自算出の注目度): 10.413809856488308
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Tool-integrated LLM agents are often wrapped within a harness: the scaffolding that determines which tools are exposed, how they are described, and what auxiliary information accompanies each per-step observation. While agents are routinely post-trained, this scaffolding is typically treated as a fixed engineering detail, with design effort limited to the training-free regime. Moreover, existing post-training algorithms assume a static environment, even though tool environments and tasks often shift upon deployment. To address this gap, we extend $\texttt{ALFWorld}$ (i) to treat the harness as a controllable design dimension and (ii) to support evaluation under task and tool environment shifts. Building on this, we systematically analyze how the harness design influences post-training in both in-distribution and out-of-distribution (OOD) settings. We empirically show that harness-aware post-training not only improves in-distribution performance but also enables agents to robustly adapt to OOD settings. Under a harness with minimal design effort, post-training suffers a drastic performance drop under stronger tool environment shifts, further highlighting the importance of harness-aware post-training under such shifts.
- Abstract(参考訳): ツール統合LDMエージェントは、どのツールが露出しているか、どのように説明されるか、ステップ毎の観察に付随する補助情報などを決定する足場として、しばしばハーネスにラップされる。
エージェントは日常的にポストトレーニングされるが、この足場は通常固定されたエンジニアリングの詳細として扱われる。
さらに、既存のポストトレーニングアルゴリズムは、ツール環境やタスクが配置にシフトすることが多いにも関わらず、静的環境を前提としている。
このギャップに対処するため、$\texttt{ALFWorld}$を拡張する。
一 ハーネスを制御可能な設計寸法として扱うこと。
(II)タスクとツール環境の変化による評価を支援すること。
そこで我々は,この手法を用いて,配当と配当の双方において,ハーネス設計がポストトレーニングにどう影響するかを系統的に分析した。
エージェントがOOD設定に頑健に適応できることを実証的に示す。
最小限の設計努力によるハーネスの下では、後トレーニングはより強力なツール環境シフトの下で劇的なパフォーマンス低下を被り、そのようなシフト下でのハーネス対応後トレーニングの重要性をさらに強調する。
関連論文リスト
- ToolAnchor: Anchoring Counterfactual Context to Boost Agentic Tool-use Capability [16.62013823879194]
ツール拡張された大きな言語モデルエージェントは、長い水平タスクで優れているが、固定されたツールセットで後トレーニングされるのが一般的である。
このようなツールセット拡張問題における中核的障害を行動慣性とみなす。
批判的決定点に反事実的アンカーコンテキストを注入することは、この慣性を損なうことを実証する。
論文 参考訳(メタデータ) (2026-07-14T06:03:39Z) - Why Multi-Step Tool-Use Reinforcement Learning Collapses and How Supervisory Signals Fix It [23.538941671680806]
ツールの使用により、大きな言語モデルで複雑なタスクを実行できる。
近年のエージェント強化学習法では, モデル能力の向上が期待できる。
いくつかのモデルは破滅的な崩壊を示し、パフォーマンスが突然低下し、ツール呼び出し構造が失敗する。
論文 参考訳(メタデータ) (2026-06-24T16:55:56Z) - RUBAS: Rubric-Based Reinforcement Learning for Agent Safety [93.80584563695646]
RUBASは、エージェント安全性のためのルーリックベースの強化学習フレームワークである。
エージェントの動作は、ツール使用の安全性、引数の安全性、応答の安全性、役に立つ4つの次元に分けられる。
実験により、RUBASは標準アライメントベースラインよりも安全性を向上し、ツール接地幻覚を低減し、競争力を維持することが示されている。
論文 参考訳(メタデータ) (2026-06-02T09:02:14Z) - Waking Up Blind: Cold-Start Optimization of Supervision-Free Agentic Trajectories for Grounded Visual Perception [18.565166776233223]
SVLM(Small Vision-Language Models)は効率的なタスクコントローラであるが、視覚的脆さとツールオーケストレーションの貧弱さに悩まされることが多い。
SPECTRA(Cascaded Tool Rollout Alignment)で実現可能な自己教師型知覚法を提案する。
SPECTRAはSVLMのコールドスタート強化学習を通じてエージェント機能をブートストラップする。
論文 参考訳(メタデータ) (2026-04-19T15:06:30Z) - Q-realign: Piggybacking Realignment on Quantization for Safe and Efficient LLM Deployment [55.14890249389052]
既存の防衛は、安全回復を微調整に埋め込んだり、微調整による修正に先立って微調整に頼ったりしている。
我々は,ポストトレーニング量子化に基づくポストホック防御手法であるtextttQ-realign を提案する。
私たちの仕事は、安全を意識したデプロイメントのための実践的でターンキーなソリューションを提供します。
論文 参考訳(メタデータ) (2026-01-13T00:07:24Z) - ET-Agent: Incentivizing Effective Tool-Integrated Reasoning Agent via Behavior Calibration [68.89572566071575]
ETAgentはエージェントのツール使用行動を調整するためのトレーニングフレームワークである。
過誤行動パターンを最適行動に段階的に校正するように設計されている。
論文 参考訳(メタデータ) (2026-01-11T11:05:26Z) - Feedback-Driven Tool-Use Improvements in Large Language Models via Automated Build Environments [70.42705564227548]
大規模言語モデル(LLM)のための環境自動構築パイプラインを提案する。
これにより、外部ツールに頼ることなく、詳細な測定可能なフィードバックを提供する高品質なトレーニング環境の作成が可能になる。
また、ツール使用の精度とタスク実行の完全性の両方を評価する検証可能な報酬機構も導入する。
論文 参考訳(メタデータ) (2025-08-12T09:45:19Z) - TL-Training: A Task-Feature-Based Framework for Training Large Language Models in Tool Use [72.32614703504122]
大規模言語モデル(LLM)は、環境と対話するツールを活用することで、目覚ましい進歩を遂げる。
大規模なデータセットに依存する標準教師付き微調整アプローチでは、ツール使用時のタスク固有の特性を見落としていることが多い。
本稿では,最適下トレーニングデータの効果を緩和するタスク機能ベースのフレームワークであるTL-Trainingを提案する。
論文 参考訳(メタデータ) (2024-12-20T02:21:36Z) - Deciphering Cross-Modal Alignment in Large Vision-Language Models with Modality Integration Rate [118.37653302885607]
本稿では,LVLM(Large Vision Language Models)のマルチモーダル事前学習品質を示すために,MIR(Modality Integration Rate)を提案する。
MIRは、トレーニングデータ選択、トレーニング戦略スケジュール、モデルアーキテクチャ設計に重点を置いて、トレーニング前の結果を改善する。
論文 参考訳(メタデータ) (2024-10-09T17:59:04Z) - PEARL: Parallelized Expert-Assisted Reinforcement Learning for Scene
Rearrangement Planning [28.9887381071402]
SRP(Scene Rearrangement Planning)のための細かいアクション定義を提案し、大規模なシーン再配置データセットを導入する。
また,事前知識を必要とせず,自己演奏を通してエージェントを効果的に訓練するための新しい学習パラダイムを提案する。
論文 参考訳(メタデータ) (2021-05-10T03:27:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。