論文の概要: Can only LLMs do Reasoning?: Potential of Small Language Models in Task Planning

• arxiv url: http://arxiv.org/abs/2404.03891v1
• Date: Fri, 5 Apr 2024 04:58:34 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-08 17:06:15.303277
• Title: Can only LLMs do Reasoning?: Potential of Small Language Models in Task Planning
• Title（参考訳）: LLMだけが推論できるのか?:タスクプランニングにおける小言語モデルの可能性
• Authors: Gawon Choi, Hyemin Ahn,
• Abstract要約: ロボット工学では、特に人間の命令を理解するために、LLM(Large Language Models)の使用が一般的になっている。 LLMはChain-of-Thought (CoT)推論が可能であるため、LLMはタスクプランナとなることができる。 LLMを通して、高レベルのコマンドと対応する実行可能な低レベルのステップからなる「COmmand-STepsデータセット」を構築します。 GPT3.5 と GPT4 とタスクドメイン,テーブルトップ環境,キッチン環境の微調整 GPT2 を比較し,GPT2-medium が GPT2 に匹敵することを示す。
• 参考スコア（独自算出の注目度）: 5.1035380582720045
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In robotics, the use of Large Language Models (LLMs) is becoming prevalent, especially for understanding human commands. In particular, LLMs are utilized as domain-agnostic task planners for high-level human commands. LLMs are capable of Chain-of-Thought (CoT) reasoning, and this allows LLMs to be task planners. However, we need to consider that modern robots still struggle to perform complex actions, and the domains where robots can be deployed are limited in practice. This leads us to pose a question: If small LMs can be trained to reason in chains within a single domain, would even small LMs be good task planners for the robots? To train smaller LMs to reason in chains, we build `COmmand-STeps datasets' (COST) consisting of high-level commands along with corresponding actionable low-level steps, via LLMs. We release not only our datasets but also the prompt templates used to generate them, to allow anyone to build datasets for their domain. We compare GPT3.5 and GPT4 with the finetuned GPT2 for task domains, in tabletop and kitchen environments, and the result shows that GPT2-medium is comparable to GPT3.5 for task planning in a specific domain. Our dataset, code, and more output samples can be found in https://github.com/Gawon-Choi/small-LMs-Task-Planning
• Abstract（参考訳）: ロボット工学では、特に人間の命令を理解するために、LLM(Large Language Models)の使用が一般的になっている。 特に、LLMは高レベルのヒューマンコマンドのためのドメインに依存しないタスクプランナーとして利用される。 LLMはChain-of-Thought (CoT)推論が可能であるため、LLMはタスクプランナとなることができる。 しかし、現代ロボットは依然として複雑な動作を行うのに苦労しており、実際にロボットを配備できる領域は限られていると考える必要がある。 もし小さなLMが1つのドメイン内のチェーンを推論するように訓練できれば、小さなLMでさえロボットにとって良いタスクプランナーになるのだろうか? より小さなLMをチェーンで推論するようにトレーニングするために,高レベルのコマンドと対応する実行可能な低レベルのステップからなる 'COST' を構築した。 データセットだけでなく、それを生成するためのプロンプトテンプレートもリリースしています。 GPT3.5 と GPT4 をタスクドメイン,テーブルトップ環境,キッチン環境において微調整した GPT2 と比較した結果,GPT2-medium は特定のドメインにおけるタスクプランニングにおいて GPT3.5 に匹敵することがわかった。 我々のデータセット、コード、さらに多くの出力サンプルはhttps://github.com/Gawon-Choi/small-LMs-Task-Planningで見ることができる。

関連論文リスト

• From LLMs to Actions: Latent Codes as Bridges in Hierarchical Robot Control [58.72492647570062]
  我々は,制限を克服する代替アーキテクチャとして,Learningable Latent Codes as Bridges (LCB)を導入した。 methodoutperforms baselines that leverage pure language as the interface layer on tasks that requires reasoning and multi-step behaviors。
  論文  参考訳（メタデータ） (2024-05-08T04:14:06Z)
• Empowering Large Language Models on Robotic Manipulation with Affordance Prompting [23.318449345424725]
  大規模な言語モデルは、制御シーケンスを適切に生成することで物理世界と相互作用することができない。 既存のLLMベースのアプローチでは、事前定義されたスキルや事前訓練されたサブ政治に頼ることでこの問題を回避することができる。 サブタスクプランナとモーションコントローラの両方をLLM+A(ffordance)と呼ぶフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-04-17T03:06:32Z)
• BLADE: Enhancing Black-box Large Language Models with Small Domain-Specific Models [56.89958793648104]
  大規模言語モデル(LLM)は多用途であり、多様なタスクに対処することができる。 従来のアプローチでは、ドメイン固有のデータによる継続的な事前トレーニングを行うか、一般的なLLMをサポートするために検索拡張を採用する。 BLADEと呼ばれる新しいフレームワークを提案する。このフレームワークは、小さなDomain-spEcificモデルでブラックボックスのLArge言語モデルを拡張する。
  論文  参考訳（メタデータ） (2024-03-27T08:57:21Z)
• m&m's: A Benchmark to Evaluate Tool-Use for multi-step multi-modal Tasks [31.031053149807857]
  我々は、33のツールを含む4K以上のマルチステップマルチモーダルタスクを含むベンチマークであるm&m'sを紹介する。 これら各タスククエリに対して、この現実的なツールセットを使用して自動生成されたプランを提供する。 1,565のタスクプランの高品質なサブセットを提供する。
  論文  参考訳（メタデータ） (2024-03-17T04:36:18Z)
• Tiny Titans: Can Smaller Large Language Models Punch Above Their Weight in the Real World for Meeting Summarization? [7.674972936853123]
  大規模言語モデル(LLM)は、タスク固有のデータセットを明示的に微調整することなく、幅広いタスクを解決できる印象的な機能を示している。 本研究では,LLM の小型化が,LLM の現実的利用に伴う大きなコストに対処するために,比較的大型の LLMs2 の代替となるかを検討する。
  論文  参考訳（メタデータ） (2024-02-01T18:31:34Z)
• Ground Manipulator Primitive Tasks to Executable Actions using Large Language Models [13.827349677538352]
  大規模言語モデル(LLM)を用いた低レベル動作ロボットのためのマニピュレータ・プリミティブ・タスクを基礎とする新しい手法を提案する。 このようにして、LLMはハイブリッド制御のための位置/力のセットポイントを生成することができる。
  論文  参考訳（メタデータ） (2023-08-13T16:52:36Z)
• Embodied Task Planning with Large Language Models [86.63533340293361]
  本研究では,現場制約を考慮した地上計画のための具体的タスクにおけるTAsk Planing Agent (TaPA)を提案する。 推論の際には,オープンボキャブラリオブジェクト検出器を様々な場所で収集された多視点RGB画像に拡張することにより,シーン内の物体を検出する。 実験の結果,我々のTaPAフレームワークから生成されたプランは,LLaVAやGPT-3.5よりも大きなマージンで高い成功率が得られることがわかった。
  論文  参考訳（メタデータ） (2023-07-04T17:58:25Z)
• Generalized Planning in PDDL Domains with Pretrained Large Language Models [82.24479434984426]
  PDDLドメインを考慮し、GPT-4を用いてPythonプログラムを合成する。 7つのPDDLドメインでこのアプローチを評価し、4つのアブレーションと4つのベースラインと比較した。
  論文  参考訳（メタデータ） (2023-05-18T14:48:20Z)
• Plan, Eliminate, and Track -- Language Models are Good Teachers for Embodied Agents [99.17668730578586]
  事前訓練された大言語モデル(LLM)は、世界に関する手続き的な知識をキャプチャする。 Plan, Eliminate, and Track (PET)フレームワークはタスク記述をハイレベルなサブタスクのリストに変換する。 PETフレームワークは、人間の目標仕様への一般化のために、SOTAよりも15%改善されている。
  論文  参考訳（メタデータ） (2023-05-03T20:11:22Z)
• LLM-Planner: Few-Shot Grounded Planning for Embodied Agents with Large Language Models [27.318186938382233]
  本研究では,大規模言語モデル(LLM)を具体化エージェントのプランナーとして用いることに焦点を当てた。 そこで本研究では,大規模言語モデルのパワーを活かして少数ショットプランニングを行う新しい手法 LLM-Planner を提案する。
  論文  参考訳（メタデータ） (2022-12-08T05:46:32Z)
• ProgPrompt: Generating Situated Robot Task Plans using Large Language Models [68.57918965060787]
  大規模言語モデル(LLM)は、タスク計画中の潜在的な次のアクションを評価するために使用することができる。 本稿では, プログラム型LCMプロンプト構造を用いて, 配置環境間での計画生成機能を実現する。
  論文  参考訳（メタデータ） (2022-09-22T20:29:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。