論文の概要: Divergent Paths: Learning an Outcome-Predictive Representation of LLM Agent Trajectories
- arxiv url: http://arxiv.org/abs/2610.19614v1
- Date: Wed, 14 Oct 2026 05:36:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.982874
- Title: Divergent Paths: Learning an Outcome-Predictive Representation of LLM Agent Trajectories
- Title(参考訳): ダイバージェントパス: LLMエージェント軌跡のアウトカム予測表現を学習する
- Abstract要約: この領域では、同じタスクが成功し、失敗したことが示されます。
数ショット設定で結果予測を行うための表現をメタ学習するトランスフォーマーベースモデルであるPrecog-RMを紹介する。
我々は,Precog-RMが未確認のタスクやモデルに一般化し,終端よりもずっと早く軌道成功の確実な予測を与えることを示す。
- 参考スコア(独自算出の注目度): 44.997982499978825
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this work, we reframe agentic trajectories as paths through a shared embedding space of actions and environmental observations. We show that successful and failed rollouts of the same task separate in this space, with simple per-task discriminators predicting held-out rollout outcomes at up to 0.95 AUROC across three agent benchmarks and three policy models. To exploit this signal across tasks, we introduce Precog-RM, a transformer-based model that meta-learns a representation in which outcome prediction can be performed in a few-shot setting. We show that Precog-RM generalizes to unseen tasks and models, and gives confident predictions of trajectory success long before termination. Deployed as an early stopping controller for Group Relative Policy Optimization (GRPO) on Tau2-Bench, Precog-RM cuts training FLOPs by up to 47.3\% while maintaining performance comparable to baseline GRPO.
- Abstract(参考訳): 本研究では,エージェント・トラジェクトリを,行動と環境観察の共有埋め込み空間を通した経路として再構成する。
3つのエージェントベンチマークと3つのポリシーモデルで最大0.95 AUROCのロールアウト結果を予測するシンプルなタスク毎の識別器を用いて、同じタスクのロールアウトがこの分野で成功し失敗していることを示す。
タスク間でのこの信号を利用するために,数ショットで結果予測を行う表現をメタ学習するトランスフォーマーベースモデルであるPrecog-RMを導入する。
我々は,Precog-RMが未確認のタスクやモデルに一般化し,終端よりもずっと早く軌道成功の確実な予測を与えることを示す。
Tau2-Bench 上で Group Relative Policy Optimization (GRPO) の早期停止コントローラとしてデプロイされ、Precog-RM は FLOP のトレーニングを 47.3 % まで削減し、ベースライン GRPO に匹敵するパフォーマンスを維持した。
関連論文リスト
- JEPA Policy: Diffusion-Free Imitation Learning via Paired Action and Future Representation Prediction [6.889062419237111]
JEPA Policyは、アクションチャンクとその観測された将来の表現をペア化されたトレーニングターゲットとして使用する、拡散のないフレームワークである。
将来の予測は、アクションを生成するために使われる表現を形作ることができる。
その結果、反復的な生成サンプリングを伴わない低遅延ビズモータ模倣に対する実践的なアプローチとして、ペア・フューチャー・リ表現の監視を支援する。
論文 参考訳(メタデータ) (2026-09-09T02:42:20Z) - TapSampling: Inference-Time Sampling with a Task-Progress-Understanding Verifier for Robotic Manipulation [61.35569005726248]
既存の具体的制御研究は、トレーニングデータとモデルサイズをスケールすることで、顕著なパフォーマンス向上を示す。
拡散や自己回帰モデルのような非決定論的生成モデルは、エンボディドコントロールの分野で広く採用されている。
推測時間サンプリングのためのプラグイン・アンド・プレイフレームワークである textbfTapSampling を提案する。
論文 参考訳(メタデータ) (2026-05-25T08:03:31Z) - Too Correct to Learn: Reinforcement Learning on Saturated Reasoning Data [55.84428098924793]
構造保存探索を行うためのパラメータ自由復号法である Constrained Uniform Top-K Smpling (CUTS) を提案する。
グループ内の利点分散を増幅するために、エクスプロイトと探索的なロールアウトを相乗化するためのトレーニングフレームワークであるMixed-CUTSに統合する。
特にMixed-CUTSは、AIME25ベンチマークのPass@1の精度を標準のGRPOよりも15.1%向上している。
論文 参考訳(メタデータ) (2026-04-20T16:43:28Z) - TopoCurate:Modeling Interaction Topology for Tool-Use Agent Training [53.93696896939915]
訓練用ツール使用エージェントは一般的に、パスレート選択されたタスクに対して、軌道変更の成功と強化学習(RL)に依存している。
TopoCurateは,同一タスクから多段階的なロールアウトを統一的な意味的商トポロジに投影する対話型フレームワークである。
TopoCurateは最先端のベースラインに対して4.2%(SFT)と6.9%(RL)という一貫したゲインを達成している。
論文 参考訳(メタデータ) (2026-03-02T10:38:54Z) - Model-Based Policy Adaptation for Closed-Loop End-to-End Autonomous Driving [54.46325690390831]
本稿では,事前学習したE2E運転エージェントのロバスト性と安全性を高めるための汎用フレームワークとして,モデルベースポリシー適応(MPA)を提案する。
MPAは、ジオメトリ一貫性のあるシミュレーションエンジンを用いて、まず様々な対物軌道を生成する。
MPAは拡散ベースのポリシーアダプタを訓練し、基本方針の予測を洗練させ、Q値モデルを多段階に分けて長期的な結果を評価する。
論文 参考訳(メタデータ) (2025-11-26T17:01:41Z) - CoT-Saliency: Unified Chain-of-Thought Reasoning for Heterogeneous Saliency Tasks [96.64597365827046]
本稿では,3つの運用上不均一なサリエンシタスクを共同で処理する,最初の統合フレームワークを提案する。
タスクの不均一性を橋渡しする視覚言語モデル(VLM)において、チェーン・オブ・ソート(CoT)推論プロセスを導入する。
我々は,全タスクにまたがる特別なSOTA手法と強力なクローズドソースVLMの整合性を示す。
論文 参考訳(メタデータ) (2025-11-01T04:37:01Z) - Lookahead Tree-Based Rollouts for Enhanced Trajectory-Level Exploration in Reinforcement Learning with Verifiable Rewards [48.321707628011005]
Lookahead Tree-Based Rollouts (LATR) は、軌道レベルの多様性を明確に促進するために設計された新しいロールアウト戦略である。
LATRはポリシー学習を平均で131%加速し、最終パス@1パフォーマンスを4.2%向上させる。
論文 参考訳(メタデータ) (2025-10-28T11:12:02Z) - Can Pre-training Indicators Reliably Predict Fine-tuning Outcomes of LLMs? [42.608899417822656]
本研究では,501BパラメータLLM変種を用いて,系統的な事前学習構成を持つデータセットを構築した。
本稿では,事前学習から得られた新しい教師なしおよび教師なしのプロキシメトリクスを導入し,相対的な性能予測誤差率を50%以上削減する。
論文 参考訳(メタデータ) (2025-04-16T21:19:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。