Fugu-MT 論文翻訳(概要): Learning to Plan Before Answering: Self-Teaching LLMs to Learn Abstract Plans for Problem Solving

論文の概要: Learning to Plan Before Answering: Self-Teaching LLMs to Learn Abstract Plans for Problem Solving

arxiv url: http://arxiv.org/abs/2505.00031v1
Date: Mon, 28 Apr 2025 06:32:58 GMT
ステータス: 翻訳完了
システム内更新日: 2025-05-02 19:15:55.109056
Title: Learning to Plan Before Answering: Self-Teaching LLMs to Learn Abstract Plans for Problem Solving
Title（参考訳）: 回答に先立って計画を学ぶ: 自己学習型LLMで問題解決の抽象的な計画を学ぶ
Authors: Jin Zhang, Flood Sung, Zhilin Yang, Yang Gao, Chongjie Zhang,
Abstract要約: 大規模言語モデル(LLM)のための新しい自己学習アルゴリズムを提案する。 LEPA(Learning to Plan before Answering)は、LEMに予測計画を定式化させ、問題解決のための抽象メタ知識として機能させる。モデル最適化の間、LLMは洗練された計画と対応するソリューションの両方を予測するために訓練される。
参考スコア（独自算出の注目度）: 41.974457807896236
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: In the field of large language model (LLM) post-training, the effectiveness of utilizing synthetic data generated by the LLM itself has been well-presented. However, a key question remains unaddressed: what essential information should such self-generated data encapsulate? Existing approaches only produce step-by-step problem solutions, and fail to capture the abstract meta-knowledge necessary for generalization across similar problems. Drawing insights from cognitive science, where humans employ high-level abstraction to simplify complex problems before delving into specifics, we introduce a novel self-training algorithm: LEarning to Plan before Answering (LEPA). LEPA trains the LLM to formulate anticipatory plans, which serve as abstract meta-knowledge for problem-solving, before engaging with the intricacies of problems. This approach not only outlines the solution generation path but also shields the LLM from the distraction of irrelevant details. During data generation, LEPA first crafts an anticipatory plan based on the problem, and then generates a solution that aligns with both the plan and the problem. LEPA refines the plan through self-reflection, aiming to acquire plans that are instrumental in yielding correct solutions. During model optimization, the LLM is trained to predict both the refined plans and the corresponding solutions. By efficiently extracting and utilizing the anticipatory plans, LEPA demonstrates remarkable superiority over conventional algorithms on various challenging natural language reasoning benchmarks.
Abstract（参考訳）: 大規模言語モデル(LLM)ポストトレーニングの分野では,LLM自体が生成した合成データを利用することの有効性がよく示されている。しかし、重要な質問は未解決のままである。このような自己生成データがカプセル化されるべき重要な情報は何か? 既存のアプローチはステップ・バイ・ステップの問題解しか生成せず、類似した問題を一般化するのに必要な抽象メタ知識の獲得に失敗する。認知科学から洞察を引き出すことで、人間は複雑な問題を解く前に、複雑な問題を単純化するために高レベルの抽象化を取り入れ、新しい自己学習アルゴリズム、LEPAを導入する。 LEPA は LLM を予測計画の定式化のために訓練し、問題解決の抽象的なメタ知識として機能し、問題の複雑さに対処する。このアプローチは、ソリューション生成パスを概説するだけでなく、無関係な詳細の邪魔からLLMを保護します。データ生成中、EPAはまず問題に基づいて予測計画を作成し、その後、計画と問題の両方に整合したソリューションを生成する。 LEPAは自己回帰を通じて計画を洗練し、正しい解決策を得るのに役立つ計画を取得することを目指している。モデル最適化の間、LLMは洗練された計画と対応するソリューションの両方を予測するために訓練される。予測計画の効率的な抽出と活用により, LEPAは, 様々な挑戦的な自然言語推論ベンチマークにおいて, 従来のアルゴリズムよりも顕著に優れていることを示す。

関連論文リスト

Scaling Autonomous Agents via Automatic Reward Modeling And Planning [52.39395405893965]
大規模言語モデル(LLM)は、様々なタスクにまたがる顕著な機能を示している。しかし、彼らは多段階の意思決定と環境フィードバックを必要とする問題に苦戦している。人間のアノテーションを使わずに環境から報酬モデルを自動的に学習できるフレームワークを提案する。
論文参考訳（メタデータ） (2025-02-17T18:49:25Z)
Zero-shot Robotic Manipulation with Language-guided Instruction and Formal Task Planning [16.89900521727246]
本稿では,言語誘導型シンボリックタスク計画(LM-SymOpt)フレームワークの最適化を提案する。大規模言語モデルからの世界的知識と公式な推論を組み合わせた最初のエキスパートフリーな計画フレームワークです。実験の結果,LM-SymOpt は既存の LLM ベースの計画手法よりも優れていた。
論文参考訳（メタデータ） (2025-01-25T13:33:22Z)
Non-myopic Generation of Language Models for Reasoning and Planning [45.75146679449453]
本稿では,モデル予測制御を利用した予測復号化手法を提案する。我々の実験では、数学、コーディング、エージェントの幅広いタスクにおいて、大幅な改善が示されている。
論文参考訳（メタデータ） (2024-10-22T17:13:38Z)
Planning Anything with Rigor: General-Purpose Zero-Shot Planning with LLM-based Formalized Programming [13.246017517159043]
大規模言語モデル(LLM)は近年,計画問題の解決に強い可能性を示している。 LLpreview は LLM を利用して,計画上の問題から重要な情報を抽出し,それらをスクラッチから最適化するフレームワークである。 GPToとClaude 3.5 Sonnetの9つのタスクに対して,LLが平均83.7%,86.8%の最適速度で達成できることを実証した。
論文参考訳（メタデータ） (2024-10-15T23:20:54Z)
Learning to Plan for Retrieval-Augmented Large Language Models from Knowledge Graphs [59.76268575344119]
知識グラフ(KG)から得られた計画データを用いて,大規模言語モデル(LLM)計画能力を向上するための新しいフレームワークを提案する。 KGデータで微調整されたLLMは、計画能力を向上し、検索を含む複雑なQAタスクを処理するのがより適している。
論文参考訳（メタデータ） (2024-06-20T13:07:38Z)
From Words to Actions: Unveiling the Theoretical Underpinnings of LLM-Driven Autonomous Systems [59.40480894948944]
大規模言語モデル (LLM) は、物理世界の意思決定問題を解くことができる。このモデルの下で、LLM Plannerは、プロンプトを介して言語ベースのサブゴールを反復的に生成することにより、部分的に観測可能なマルコフ決定プロセス(POMDP)をナビゲートする。我々は,事前学習したLLMプランナーが,文脈内学習を通じてベイズ的集計模倣学習(BAIL)を効果的に行うことを証明した。
論文参考訳（メタデータ） (2024-05-30T09:42:54Z)
Thought Propagation: An Analogical Approach to Complex Reasoning with Large Language Models [62.96551299003463]
大規模言語モデルの複雑な推論能力を高めるために,textbftextitThought Propagation (TP)を提案する。 TP はまず LLM に対して,入力問題に関連する類似問題の集合を提案し,解決するよう促す。 TPは、類似問題の結果を再利用して、新しいソリューションを直接生成したり、スクラッチから得られた初期ソリューションを修正するための知識集約的な実行プランを導出する。
論文参考訳（メタデータ） (2023-10-06T01:40:09Z)
Understanding the Capabilities of Large Language Models for Automated Planning [24.37599752610625]
この研究は、複雑な計画問題の解決におけるLLMの能力に光を当てようとしている。この文脈で LLM を使用するための最も効果的なアプローチに関する洞察を提供する。
論文参考訳（メタデータ） (2023-05-25T15:21:09Z)
Learning to Plan with Natural Language [111.76828049344839]
大規模言語モデル(LLM)は、様々な基本自然言語タスクにおいて顕著な性能を示している。複雑なタスクを完了するためには、ステップごとに特定のソリューションを生成するためにLCMをガイドするタスクの計画が必要です。本研究では,(1)第1学習課題計画フェーズにおいて,LCMが学習エラーフィードバックから導出するように促した新たなステップバイステップのソリューションと行動指示を用いてタスク計画を反復的に更新する,という2つの段階を含む学習計画手法を提案する。
論文参考訳（メタデータ） (2023-04-20T17:09:12Z)
Plansformer: Generating Symbolic Plans using Transformers [24.375997526106246]
大規模言語モデル(LLM)は、自然言語処理(NLP)分野を著しく進歩させ、活発な研究対象となっている。プランフォーマーは計画上の問題に微調整され、知識工学の努力を減らし、正確さと長さの点で良好な行動で計画を生成することができる。 Plansformerの1つの構成では、97%の有効なプランが達成されます。
論文参考訳（メタデータ） (2022-12-16T19:06:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。