論文の概要: Success Leaves Detours: Learning Executable Walkthroughs for Long-Horizon Agents
- arxiv url: http://arxiv.org/abs/2609.22120v1
- Date: Thu, 20 Aug 2026 01:10:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.71895
- Title: Success Leaves Detours: Learning Executable Walkthroughs for Long-Horizon Agents
- Title(参考訳): 長軸エージェントのための実行可能なウォークスルーを学習する
- Abstract要約: テストタイムの自己進化エージェントは過去の経験を再利用することで改善されるが、スパース・リワード・トラジェクトリには障害、ループ、デトゥールが含まれる。
我々は、ノイズの多いトラジェクトリを実行可能なウォークスルーメモリにコンパイルする依存基盤フレームワークであるTraceを提案する。
J-TTL、WebShop、ScienceWorldの3つのオープンソースのLCMによる実験によると、トレースは8つのテスト時間学習とメモリベースラインを一貫して上回っている。
- 参考スコア(独自算出の注目度): 11.833965746124408
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Test-time self-evolving agents improve by reusing past experience, yet sparse-reward trajectories contain failures, loops, and detours, while summaries often omit the state conditions and action dependencies needed for execution. We study executable Walkthrough induction from sparse-reward trajectories: extracting compact, state-conditioned, and verifiable procedures. Our key observation is that delayed credit identifies actions associated with progress but cannot determine whether they produce facts required by later actions. We propose Trace, a credit-guided, dependency-grounded framework that compiles noisy trajectories into executable Walkthrough Memory. It detects progress anchors from rewards and persistent state changes, propagates credit to identify valuable transitions, and estimates action prerequisites from cross-episode success and failure evidence. Backward dependency slicing then traces required facts to their producers, extracting dependency-consistent action chains while removing irrelevant loops and detours. The resulting Walkthroughs encode entry conditions, ordered state--action--effect steps, and completion and failure predicates, supporting reuse, intermediate-state resumption, and programmatic verification. Experiments on J-TTL, WebShop, and ScienceWorld with three open-source LLMs show that Trace consistently outperforms eight test-time learning and memory baselines. Compared with the strongest baseline, it improves average AUC and Final-$3$ by $30.0%$ and $40.5%$, respectively, while using fewer inference tokens. These results show that long-horizon interaction benefits more from state-conditioned executable procedures than from complete trajectories or abstract summaries.
- Abstract(参考訳): テスト時の自己進化エージェントは過去の経験を再利用することで改善されるが、スパース・リワード・トラジェクトリには障害、ループ、デトゥールが含まれており、サマリーは実行に必要な状態条件とアクション依存関係を省略することが多い。
スパース・リワード軌道からの実行可能なウォークスルー誘導について検討した。
我々のキーとなる観察は、遅延クレジットは進捗に関連する行動を特定するが、後続の行動で要求される事実を生成できるかどうかを判断できないことである。
我々は、ノイズの多いトラジェクトリを実行可能なウォークスルーメモリにコンパイルする、クレジットガイド付き依存基盤フレームワークであるTraceを提案する。
報酬と永続的な状態変化から進捗アンカーを検出し、価値ある遷移を特定するために信用を伝播し、異例の成功と失敗の証拠から行動の前提条件を推定する。
後続の依存関係スライシングは、必要な事実をプロデューサにトレースし、依存関係に一貫性のあるアクションチェーンを抽出し、無関係なループやデトゥールを除去する。
その結果、ウォークスルーはエントリ条件、命令された状態-アクション-効果ステップ、完了と失敗の述語をエンコードし、再利用、中間状態の再使用、プログラムによる検証をサポートする。
J-TTL、WebShop、ScienceWorldの3つのオープンソースのLCMによる実験によると、トレースは8つのテスト時間学習とメモリベースラインを一貫して上回っている。
最強のベースラインと比較して、平均的なAUCとFinal-3$をそれぞれ$30.0%、$40.5%で改善し、推論トークンは少ない。
これらの結果から, 長時間の相互作用は, 完全な軌道や抽象的な要約よりも, 状態条件付き実行手順の方が有利であることが示唆された。
関連論文リスト
- CARE: Experience-Guided Atomic Corrective Execution for Vision-Language-Action Policies [52.32735203969873]
VLA(Vision-Language-Action)ポリシーは、ロボット操作において強力なパフォーマンスを達成するが、実行が名目上の軌道から逸脱した後も不安定なままである。
本稿では,実行時に発生する障害から学習することで回復を改善するフレームワークであるCARE(Corrective Atomic Robotic Execution)を提案する。
論文 参考訳(メタデータ) (2026-09-21T05:14:34Z) - DENSE: Distilling Agent Trajectories into Evidence-Grounded Shortcut Trees for Self-Refinement [28.796799881538274]
DENSEは、軌道由来の証拠をネストしたショートカットツリーに整理する。
ノイズの多い実行トレースを構造化された再利用可能なタスク解決フィードバックに変換する。
ターミナル・ベンチ2.1の4つのエージェントモデルの中で最も厳格なパスレートを達成している。
論文 参考訳(メタデータ) (2026-09-18T07:36:21Z) - Trace2Tower: Transition-Aware EigenTrace Induction of Multi-Level Skills for LLM Agents [8.640998417745086]
Trace2Towerは、トランスフォーメーション対応のEigenTraceフレームワークで、生の軌跡を堅牢なスキル階層に蒸留する。
新たなコントラストスペクトル分解により、安定で成功に順応した動作モードを分離すると同時に、故障を起こしやすいショートカットを厳格に抑制する。
ALFWorldでは、Trace2Towerは87.31%の成功を達成し、10.35ステップと0.26の無効なアクションしか必要とせず、WebShopでは50.67%の精度で成功している。
論文 参考訳(メタデータ) (2026-09-04T15:22:39Z) - TRCA: Transition-wise Rubric Credit Assignment for Long-horizon LLM Agents [22.01777615106231]
Long-Horizon Large Language Model (LLM) エージェントは通常、スパース終端結果に最適化される。
本稿では、ステップレベルの監督を行動誘発遷移から直接引き出すトランジッションワイド・クレジット・アサインメントを提案する。
ALFWorld、WebShop、および7つの検索拡張された質問回答ベンチマークの実験は、評価されたベースラインよりも一貫した改善を示している。
論文 参考訳(メタデータ) (2026-08-17T06:19:12Z) - PhyAgentOS: A Self-Evolving Operating System for Embodied Agents with Decoupled Cognitive Planning and Physical Execution [49.776611937968]
我々は、スケジューリング、検証、メモリ、ベンチマーク、安全性をシステムレベルのサービスとして提供するPhyAgentOSを紹介します。
セッション中心のセッションは、スケジューリング、互換性、監督された実行、エビデンス収集、受け入れの最小単位として、アクションではなくセッションを扱う。
SessionVerifierは、実行終了とセマンティックタスク完了を、成功、失敗、または再計画のエビデンスに基づいて判断する。
ベンチマークはデプロイメントセッションと検証パスを再利用するので、結果は実際の実行に遡る。
論文 参考訳(メタデータ) (2026-07-18T04:46:53Z) - TRACE: Turn-level Reward Assignment via Credit Estimation for Long-Horizon Agents [51.523913302114266]
TRACE(Turn-level Reward Assignment via Credit Estimation)は、エージェント強化学習のための高密度クレジットアサインメント手法である。
ツールコール境界における状態遷移としてロールアウトを表現し、凍結参照モデルからゴールド・アンサー・ログ確率を取得し、それらをログ比の状態値に変換し、それらの値の時間差変化としてアクション毎の報酬を導出する。
純粋なRLを用いたベースモデルツール使用能力を大幅に向上させ、冷間開始制御された微調整ステージ、エージェント訓練ステージ、ライブWebデータによるトレーニングを不要とした。
論文 参考訳(メタデータ) (2026-07-15T16:16:42Z) - TIER: Trajectory-Invariant Execution Rewards for Multi-Step Tool Composition [62.56752617853322]
アウトカムベースの報酬はスパースフィードバックのみを提供するが、トラジェクトリによる報酬は注釈付き参照ソリューションに依存している。
本稿では,関数スキーマと実行時実行を直接管理する報奨フレームワークであるtrajectory-Invariant Execution Rewardsを提案する。
論文 参考訳(メタデータ) (2026-05-16T03:47:26Z) - Training LLMs for Multi-Step Tool Orchestration with Constrained Data Synthesis and Graduated Rewards [76.49428173793386]
LLMは、中間出力を伝搬しながら、正しい順序で複数の依存APIを呼び出す必要がある。
既存の環境は、シミュレーションデータを使った単純なターン毎の関数呼び出しとバイナリ報酬に重点を置いている。
まず、実APIレスポンスの大規模キャッシュを背景とした強化学習環境を構築し、有効なマルチステップオーケストレーショントレースをサンプリングするデータ合成パイプラインを実現する。
第二に、正当性を原子の妥当性とオーケストレーションに分解する、段階的な報酬設計を提案する。
論文 参考訳(メタデータ) (2026-03-25T18:31:39Z) - AgentProcessBench: Diagnosing Step-Level Process Quality in Tool-Using Agents [50.481033105867205]
我々はAgentProcessBenchを紹介した。AgentProcessBenchは、現実的なツール拡張トラジェクトリにおけるステップレベルの有効性を評価するための最初のベンチマークである。
ベンチマークは、1,000の多様な軌跡と8,509の人間ラベル付きステップアノテーションと89.1%のアノテーション間合意で構成されている。
探索をキャプチャする3つのラベリングスキームと、ラベルのあいまいさを減らすためのエラー伝搬ルールを備えている。
論文 参考訳(メタデータ) (2026-03-15T16:13:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。