論文の概要: Teaching a Tree to Recover: Online Distillation of an LLM Supervisor with Counterfactual Replay
- arxiv url: http://arxiv.org/abs/2610.39775v1
- Date: Thu, 29 Oct 2026 10:25:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:43:33.530044
- Title: Teaching a Tree to Recover: Online Distillation of an LLM Supervisor with Counterfactual Replay
- Title(参考訳): LLMスーパーバイザのオンライン蒸留
- Abstract要約: 自律型プランナーとローカルモデルコントローラ(MPC)は、ロボットを複雑なレイアウトで凍結させることができる。
最近の作業クエリは、大きな言語をすべての異常のモデル(LLM)に抽出する。
各エピソードの後、カウンターファクト・リプレイ・ラベルは必要に応じて回復し、不要、または有害となる。
木は、ゴールに達するか、実現可能な経路が存在しないときに助けを求めることによって、すべての種にわたって、少なくとも18個を正確に処理する。
- 参考スコア(独自算出の注目度): 0.4396860522241306
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Autonomous mobile robots commonly pair a global planner with a local model predictive controller (MPC), but nonconvex obstacle avoidance and a limited horizon can make the robot freeze in complex layouts. Deciding whether to replan, wait, or call for help is a supervisory decision. Recent work queries a large language model (LLM) supervisor on every anomaly, which is slow and costly. We instead distill the LLM online into a decision tree. After each training episode, counterfactual replay labels recoveries as needed, unnecessary, or harmful. These labels retire unhelpful rules. In simulation, on 20 unseen layouts where the MPC alone freezes, the tree handles at least 18 correctly across all seeds, either by reaching the goal or by calling for help when no feasible path exists. The tree matches both an always-query LLM supervisor and expert-designed rules, while issuing no LLM queries at test time. Handwritten rules cannot anticipate the long tail of situations a physical robot will encounter. Online distillation is a promising remedy: the tree handles familiar cases, and the LLM is consulted only for new ones, whose validated recoveries become new rules. Language models can thus also serve as designers of supervisors rather than only as runtime supervisors.
- Abstract(参考訳): 自律移動ロボットは通常、グローバルプランナーとローカルモデル予測コントローラ(MPC)をペアリングするが、非凸障害物回避と水平方向の制限により、ロボットは複雑なレイアウトで凍結する。
計画を立て直すか、待つか、助けを求めるかを決めることは監督的な決定である。
最近の作業では、すべての異常に対して大きな言語モデル(LLM)がスーパーバイザに問い合わせられるが、これは遅くてコストがかかる。
代わりに、LCMをオンラインで決定木に蒸留します。
トレーニングの各エピソードの後、反ファクト・リプレイ・ラベルは必要に応じて回復し、不要、または有害となる。
これらのレーベルは不愉快なルールを廃止します。
シミュレーションでは、MPCのみが凍結する20の目に見えないレイアウトで、木はゴールに到達するか、不可能な経路が存在しない場合に助けを求めることによって、すべての種に対して、少なくとも18を正しく処理する。
このツリーは、常にクエリのLLMスーパーバイザと専門家が設計したルールの両方に対応し、テスト時にLLMクエリを発行しない。
手書きのルールは、物理的なロボットが遭遇する状況の長いテールを予測できない。
オンライン蒸留は有望な治療法であり、この木は慣れ親しんだケースを処理し、LSMは新しいケースに対してのみ相談され、検証されたリカバリが新しいルールとなる。
したがって、言語モデルはランタイムスーパーバイザとしてだけでなく、スーパーバイザのデザイナとしても機能する。
関連論文リスト
- AtomTree: A Hierarchical Framework for State-Aware Embodied Instruction Following with LLMs [6.6549095188452645]
AtomTreeは、LLMを使った状態認識タスク計画のための階層的なフレームワークである。
軽量メモリモジュールは、後の決定で再利用するために過去の結果を要約する。
論文 参考訳(メタデータ) (2026-10-28T19:30:40Z) - Self-Crystallizing Behavior Trees: Amortizing Foundation-Model Reasoning into Deterministic Control for Autonomous Drones [0.0]
ファンデーションモデルは、レイテンシと非決定性のコストで、実行時に新しい制御ロジックを合成できる。
本稿では,基本モデルが実行時ではなくコンパイラである自己結晶行動木を提案する。
我々は,スキーマ制約付きLLMパイプラインとロックステップシミュレータを用いて,Microsoft Project AirSim上でSCBTを実装した。
論文 参考訳(メタデータ) (2026-10-18T18:34:04Z) - RRSI: Regularized Recursive Self-Improvement of Agent Harnesses [76.77275934611428]
正規化再帰的自己改善型エージェント・ハーネス(RRSI)
本稿では、正規化の原則を取り入れたRRSIを紹介し、進化候補の提案と選択を制約することで自己改善を活用する。
RRSIは5つのアウト・オブ・ディストリビューション・ベンチマークで14.1ポイント、最大4.7ポイントを獲得し、非正規化進化よりも30%少ないポリシートークンで動作するハーネスを生産している。
論文 参考訳(メタデータ) (2026-09-21T17:54:49Z) - Tuning the Stochastic Machine: A Systems Engineer's Operating Model for Human-AI Engineering [0.0]
専門家がLLMアシスタントのエラーを修正すると、その修正は通常セッションで終了し、エラークラスが返される。
これは運用の問題であって、ツーリングの問題ではない、と私は主張する。
私は、コアにエラーループがある7原則の運用規律の失敗から導き出します。
論文 参考訳(メタデータ) (2026-08-19T17:18:53Z) - LLM-as-Code: Agentic Programming for Agent Harness [20.350593038902904]
我々はトークンの爆発、制御フローの幻覚、信頼できない完成は実装上のバグではないと主張している。
より良いプロンプトやより強力なモデルは、LLMエージェントの信頼性を保証することはできない。
本稿では,プログラムがすべての制御フローを制御し,LLMがそれの一部であるエージェントプログラミングを提案する。
論文 参考訳(メタデータ) (2026-06-14T15:47:27Z) - Tree-Planner: Efficient Close-loop Task Planning with Large Language Models [63.06270302774049]
Tree-Plannerは、大きな言語モデルでタスクプランニングを3つの異なるフェーズに再構成する。
Tree-Plannerは高い効率を維持しながら最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2023-10-12T17:59:50Z) - Plan, Eliminate, and Track -- Language Models are Good Teachers for
Embodied Agents [99.17668730578586]
事前訓練された大言語モデル(LLM)は、世界に関する手続き的な知識をキャプチャする。
Plan, Eliminate, and Track (PET)フレームワークはタスク記述をハイレベルなサブタスクのリストに変換する。
PETフレームワークは、人間の目標仕様への一般化のために、SOTAよりも15%改善されている。
論文 参考訳(メタデータ) (2023-05-03T20:11:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。