論文の概要: Language Model Augmented Decision Transformer for Multi-Task Offline Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2611.04031v1
- Date: Mon, 02 Nov 2026 22:22:17 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-04 17:32:18.713464
- Title: Language Model Augmented Decision Transformer for Multi-Task Offline Reinforcement Learning
- Title(参考訳): マルチタスクオフライン強化学習のための言語モデル拡張決定変換器
- Abstract要約: オフラインマルチタスク強化学習のためのLanguage-Model Augmented Decision Transformer (LaMA-DT)を提案する。
LaMA-DTは、自然言語によるタスク記述を使用して、タスク整列軌道拡張をガイドする。
Meta-WorldとMuJoCoのマルチタスクベンチマークの実験は、LaMA-DTが競争ベースラインを一貫して上回っていることを示している。
- 参考スコア(独自算出の注目度): 15.201769654474818
- License:
- Abstract: Offline multi-task reinforcement learning (MTRL) aims to learn a unified policy from heterogeneous offline datasets that generalizes across tasks. However, existing offline MTRL methods often struggle with two fundamental issues: severe per-task data scarcity and limited cross-task generalization. In this paper, we propose Language-Model Augmented Decision Transformer (LaMA-DT), a unified sequence-modeling framework that leverages a single large language model (LLM) for both trajectory augmentation and multi-task policy learning. LaMA-DT uses natural-language task descriptions to guide task-aligned trajectory augmentation through a set of supervised generation and alignment objectives, and incorporates a scoring-and-filtering mechanism to retain high-quality augmented trajectories. The same LLM is then repurposed as a language-conditioned Decision Transformer and fine-tuned on a mixture of real and augmented data. Experiments on Meta-World and MuJoCo multi-task benchmarks demonstrate that LaMA-DT consistently outperforms competitive baselines, particularly in low-data regimes, showing that language-guided data augmentation substantially improves cross-task generalization.
- Abstract(参考訳): オフラインマルチタスク強化学習(MTRL)は、タスクをまたいで一般化する異種オフラインデータセットから統一されたポリシーを学ぶことを目的としている。
しかし、既存のオフラインMTRL法は、タスク毎のデータ不足と、タスク間の一般化の制限という2つの根本的な問題に悩まされることが多い。
本稿では,Language-Model Augmented Decision Transformer (LaMA-DT)を提案する。
LaMA-DTは、自然言語によるタスク記述を用いて、教師付き生成およびアライメント目的のセットを通じてタスク整列軌跡の増大を誘導し、高品質な拡張軌跡を維持するためのスコア・アンド・フィルタ機構を組み込んでいる。
同じLLMを言語条件のDecision Transformerとして再利用し、実データと拡張データの混合に基づいて微調整する。
Meta-World と MuJoCo のマルチタスクベンチマークの実験では、LaMA-DT は、特に低データレシエーションにおいて、競争ベースラインを一貫して上回り、言語指導によるデータ拡張により、クロスタスクの一般化が大幅に向上することを示した。
関連論文リスト
- Decision Transformer with Task-Aware Representations for Offline Meta-Reinforcement Learning [12.581451804329044]
本稿では,タスク表現を学習するDTベースのオフラインメタRLフレームワークであるContrastive Task-Aware Decision Transformer (CoTA-DT)を提案する。
学習したタスク表現は、DTベースのポリシーの条件付け信号として使用される。
ゼロショットと少数ショットの両方の設定における一般化をさらに支援するために,言語を基盤とした自己適応型戦略を設計する。
論文 参考訳(メタデータ) (2026-11-02T21:52:16Z) - Out-of-Distribution Generalisation with Sequence Models in Offline Multi-Agent Reinforcement Learning [4.227963374833712]
見えないタスクを一般化することは、オフラインのマルチエージェント強化学習における根本的な課題である。
タスクの多様性のスケーリングが、堅牢なゼロショット転送を実現する上で重要な要素であることを示す。
論文 参考訳(メタデータ) (2026-09-03T11:04:23Z) - OneRank: Unified Transformer-Native Ranking Architecture for Multi-Task Recommendation [28.67407481470947]
マルチタスク学習は,多様なユーザフィードバックの相補的な学習を可能にするために,レコメンデーションシステムにおいて不可欠である。
OneRankはトランスフォーマー中心のマルチタスクランキングフレームワークで、エンコーダと予測的分離を排除する。
OneRankは、大規模産業データセットのオフラインおよびオンライン実験において、最先端のベースラインを大幅に上回る。
論文 参考訳(メタデータ) (2026-06-15T15:16:17Z) - Empowering Large Language Models in Wireless Communication: A Novel Dataset and Fine-Tuning Framework [81.29965270493238]
我々は,無線通信アプリケーションのための大規模言語モデル(LLM)の評価と微調整を目的とした,特殊なデータセットを開発した。
データセットには、真/偽と複数選択型を含む、さまざまなマルチホップ質問が含まれている。
本稿では,PVI(Pointwise V-Information)に基づく微調整手法を提案する。
論文 参考訳(メタデータ) (2025-01-16T16:19:53Z) - R-MTLLMF: Resilient Multi-Task Large Language Model Fusion at the Wireless Edge [78.26352952957909]
マルチタスク大言語モデル(MTLLM)は、ユーザが複数のタスクを効率的に処理するための特殊なモデルを要求する無線エッジにおける多くのアプリケーションにとって重要である。
タスクベクトルによるモデル融合の概念は、MDLLMを生成するための微調整パラメータを組み合わせるための効率的なアプローチとして登場した。
本稿では,最悪の逆攻撃を前提として,エッジユーザがタスクベクトルを介して協調的にMTLMを作成できる問題について検討する。
論文 参考訳(メタデータ) (2024-11-27T10:57:06Z) - AMAGO-2: Breaking the Multi-Task Barrier in Meta-Reinforcement Learning with Transformers [28.927809804613215]
我々はTransformerベースの(コンテキスト内での)メタRLの最近の進歩の上に構築する。
エージェントのアクターと批評家の目的の両方を分類項に変換する、単純でスケーラブルなソリューションを評価する。
この設計は、明示的なタスクラベルを使わずに、オンラインマルチタスク適応とメモリ問題に大きな進歩をもたらす。
論文 参考訳(メタデータ) (2024-11-17T22:25:40Z) - Generalizable Task Representation Learning for Offline
Meta-Reinforcement Learning with Data Limitations [22.23114883485924]
本稿では,データ制限に直面した一般化可能なタスク表現を学習するための新しいアルゴリズムGENTLEを提案する。
GENTLEは、タスクの特徴を抽出するために、エンコーダ・デコーダアーキテクチャであるTask Auto-Encoder(TAE)を使用している。
限られた行動多様性の影響を軽減するため,TAEのトレーニングに使用されるデータ分布とテスト中に発生するデータ分布とを整合させる擬似遷移を構築した。
論文 参考訳(メタデータ) (2023-12-26T07:02:12Z) - Task-Distributionally Robust Data-Free Meta-Learning [99.56612787882334]
Data-Free Meta-Learning (DFML)は、複数の事前学習モデルを活用することで、独自のトレーニングデータを必要とせずに、新しいタスクを効率的に学習することを目的としている。
TDS(Task-Distribution Shift)とTDC(Task-Distribution Corruption)の2つの大きな課題を初めて明らかにした。
論文 参考訳(メタデータ) (2023-11-23T15:46:54Z) - Diffusion Model is an Effective Planner and Data Synthesizer for
Multi-Task Reinforcement Learning [101.66860222415512]
Multi-Task Diffusion Model (textscMTDiff) は、トランスフォーマーのバックボーンを組み込んだ拡散に基づく手法であり、生成計画とデータ合成のための素早い学習を行う。
生成計画において、textscMTDiffはMeta-World上の50のタスクとMaze2D上の8のマップで最先端のアルゴリズムより優れています。
論文 参考訳(メタデータ) (2023-05-29T05:20:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。