論文の概要: Hybrid LLM-Augmented Reinforcement Learning Agents for Complex Sequential Decision Tasks
- arxiv url: http://arxiv.org/abs/2608.03502v1
- Date: Tue, 04 Aug 2026 11:44:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-05 15:30:23.159908
- Title: Hybrid LLM-Augmented Reinforcement Learning Agents for Complex Sequential Decision Tasks
- Title(参考訳): 複合シーケンス決定タスクのためのLLM強化強化学習エージェント
- Abstract要約: 大規模言語モデル(LLM)は、最近、推論、計画、ツール使用において強力な能力を示し、新しい形の自律エージェントを可能にした。
本稿では,LLM駆動型計画とRLに基づく行動最適化を統合したLLM強化型強化学習エージェントを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large Language Models (LLMs) have recently shown strong capabilities in reasoning, planning, and tool-use, enabling new forms of autonomous agents. However, LLM-based agents struggle with long-horizon sequential decision tasks that require precise action optimization and environment interaction. Reinforcement Learning (RL), while effective for sequential control, often lacks the high-level abstraction and task decomposition abilities needed for complex scenarios. This paper introduces an LLM-Augmented Reinforcement Learning Agent that integrates LLM-driven planning with RL-based action optimization. The proposed architecture leverages the LLM to generate subgoals, structured plans, and contextual guidance, while the RL agent refines low-level actions through interaction with the environment. Experiments on sequential decision tasks demonstrate improved sample efficiency, higher success rates, and more coherent action trajectories compared to RL-only and LLM-only baselines. This hybrid paradigm highlights a promising direction for building more capable autonomous systems.
- Abstract(参考訳): 大規模言語モデル(LLM)は、最近、推論、計画、ツール使用において強力な能力を示し、新しい形の自律エージェントを可能にした。
しかし、LSMをベースとしたエージェントは、正確な行動最適化と環境相互作用を必要とする長い水平なシーケンシャルな決定タスクに苦労する。
強化学習(RL)はシーケンシャルな制御に有効であるが、複雑なシナリオに必要な高レベルの抽象化とタスク分解能力に欠けることが多い。
本稿では,LLM駆動型計画とRLに基づく行動最適化を統合したLLM強化型強化学習エージェントを提案する。
提案アーキテクチャはLLMを利用してサブゴール,構造化計画,コンテキストガイダンスを生成する一方,RLエージェントは環境との相互作用を通じて低レベル動作を洗練する。
逐次決定タスクの実験では、サンプル効率の向上、成功率の向上、一貫性のある行動軌跡の増大が、RLのみとLLMのみのベースラインと比較された。
このハイブリッドパラダイムは、より有能な自律システムを構築するための有望な方向性を強調します。
関連論文リスト
- Deconstructing Spatial Complexity: Hierarchical Decomposition for LLM Spatial Reasoning [15.510513857489416]
本稿では,LLM空間推論における階層的タスク分解の新しい手法を提案する。
本手法は,ナビゲーション,計画,戦略ゲームなどの空間的タスクにおけるLLM性能を大幅に向上させる。
この研究は、現実世界のアプリケーションにおけるLLMの道を開いた。
論文 参考訳(メタデータ) (2026-05-27T08:26:57Z) - rSIM: Incentivizing Reasoning Capabilities of LLMs via Reinforced Strategy Injection [49.74493901036598]
大規模言語モデル(LLM)は強化学習(RL)を通して後訓練され、推論言語モデル(RLM)へと進化する。
本稿では, 小型プランナを用いることで, LLM を RLM にすることができる新規な強化戦略注入機構 (rSIM) を提案する。
実験結果から、rSIMによりQwen2.5-0.5BはRLMとなり、Qwen2.5-14Bより大幅に優れていた。
論文 参考訳(メタデータ) (2025-12-09T06:55:39Z) - Agent-R1: Training Powerful LLM Agents with End-to-End Reinforcement Learning [45.88626187315028]
大規模言語モデル(LLM)は、複雑な問題を解決するために、アクティブな環境相互作用(例えばツールの使用)が可能なエージェントを構築するために、ますます研究されている。
本稿では,まず,マルコフ決定プロセス(MDP)フレームワークを体系的に拡張することにより,LLMエージェントの強化学習方法論を再検討し,解明する。
次に,RL ベースの LLM Agent のためのモジュール型でフレキシブルでユーザフレンドリなトレーニングフレームワークである Agent-R1 を紹介する。
論文 参考訳(メタデータ) (2025-11-18T13:03:15Z) - Agentic Reinforced Policy Optimization [66.96989268893932]
検証可能な報酬付き大規模強化学習(RLVR)は,大規模言語モデル(LLM)を単一ターン推論タスクに活用する効果を実証している。
現在のRLアルゴリズムは、モデル固有のロングホライゾン推論能力と、マルチターンツールインタラクションにおけるその習熟性のバランスが不十分である。
エージェント強化ポリシー最適化(ARPO: Agentic Reinforced Policy Optimization)は,マルチターンLDMエージェントを学習するためのエージェントRLアルゴリズムである。
論文 参考訳(メタデータ) (2025-07-26T07:53:11Z) - Planning without Search: Refining Frontier LLMs with Offline Goal-Conditioned RL [62.984693936073974]
大きな言語モデル(LLM)は、質問応答や対話といったタスクに優れています。
交渉や説得のような相互作用を必要とする複雑なタスクは、さらなる長期の推論と計画を必要とする。
目的条件付き値関数を用いて LLM エージェントの推論を導出する手法を提案する。
論文 参考訳(メタデータ) (2025-05-23T16:51:54Z) - Scaling Autonomous Agents via Automatic Reward Modeling And Planning [52.39395405893965]
大規模言語モデル(LLM)は、様々なタスクにまたがる顕著な機能を示している。
しかし、彼らは多段階の意思決定と環境フィードバックを必要とする問題に苦戦している。
人間のアノテーションを使わずに環境から報酬モデルを自動的に学習できるフレームワークを提案する。
論文 参考訳(メタデータ) (2025-02-17T18:49:25Z) - From Words to Actions: Unveiling the Theoretical Underpinnings of LLM-Driven Autonomous Systems [59.40480894948944]
大規模言語モデル (LLM) は、物理世界の意思決定問題を解くことができる。
このモデルの下で、LLM Plannerは、プロンプトを介して言語ベースのサブゴールを反復的に生成することにより、部分的に観測可能なマルコフ決定プロセス(POMDP)をナビゲートする。
我々は,事前学習したLLMプランナーが,文脈内学習を通じてベイズ的集計模倣学習(BAIL)を効果的に行うことを証明した。
論文 参考訳(メタデータ) (2024-05-30T09:42:54Z) - Towards Efficient LLM Grounding for Embodied Multi-Agent Collaboration [68.29746557968107]
本稿では,多エージェント協調のための新しいフレームワークを提案する。これは,効率的な自己調整のための強化アドバンテージフィードバック(Reinforced Advantage feedback, ReAd)を導入する。
Over-AIと難解なRoCoBenchの実験は、ReAdが成功率のベースラインを超え、エージェントの相互作用ステップを著しく減少させることを示している。
論文 参考訳(メタデータ) (2024-05-23T08:33:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。