論文の概要: $\texttt{LM}^\texttt{2}$: A Simple Society of Language Models Solves Complex Reasoning

• arxiv url: http://arxiv.org/abs/2404.02255v1
• Date: Tue, 2 Apr 2024 19:23:10 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-04 19:28:46.487989
• Title: $\texttt{LM}^\texttt{2}$: A Simple Society of Language Models Solves Complex Reasoning
• Title（参考訳）: $\texttt{LM}^\texttt{2}$: A Simple Society of Language Models Solves Complex Reasoning
• Authors: Gurusha Juneja, Subhabrata Dutta, Tanmoy Chakraborty,
• Abstract要約: 大規模言語モデル(LLMS)は複雑で多段階の推論をしばしば失う。 本稿では,これらの課題に対処するためにLM2を提案する。 LM2は分解、解法、検証を3つの異なる言語モデルにモジュール化する。
• 参考スコア（独自算出の注目度）: 22.810441504080703
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Despite demonstrating emergent reasoning abilities, Large Language Models (LLMS) often lose track of complex, multi-step reasoning. Existing studies show that providing guidance via decomposing the original question into multiple subproblems elicits more robustness in LLM reasoning -- a decomposer generates the subproblems, and a solver solves each of these subproblems. However, these techniques fail to accommodate coordination between the decomposer and the solver modules (either in a single model or different specialized ones) -- the decomposer does not keep track of the ability of the solver to follow the decomposed reasoning. In this paper, we propose LM2 to address these challenges. LM2 modularizes the decomposition, solution, and verification into three different language models. The decomposer module identifies the key concepts necessary to solve the problem and generates step-by-step subquestions according to the reasoning requirement. The solver model generates the solution to the subproblems that are then checked by the verifier module; depending upon the feedback from the verifier, the reasoning context is constructed using the subproblems and the solutions. These models are trained to coordinate using policy learning. Exhaustive experimentation suggests the superiority of LM2 over existing methods on in- and out-domain reasoning problems, outperforming the best baselines by $8.1\%$ on MATH, $7.71\%$ on JEEBench, and $9.7\%$ on MedQA problems (code available at https://github.com/LCS2-IIITD/Language_Model_Multiplex).
• Abstract（参考訳）: 突発的な推論能力を示すにもかかわらず、Large Language Models (LLMS) は複雑な多段階推論の追跡を失うことが多い。 既存の研究では、元の質問を複数のサブプロブレムに分解することで、LLM推論においてより堅牢性をもたらすことが示されており、デコンポスタはサブプロブレムを生成し、ソルバはこれらのサブプロブレムをそれぞれ解決する。 本稿では,これらの課題に対処するためのLM2を提案する。 LM2は分解、解法、検証を3つの異なる言語モデルにモジュール化する。 分解モジュールは、問題の解決に必要な重要な概念を特定し、推論要求に従ってステップバイステップのサブクエストを生成する。 解法モデルは、検証モジュールによってチェックされたサブプロブレムに対する解を生成し、検証モジュールからのフィードバックに応じて、サブプロブレムと解を用いて推論コンテキストを構築する。 これらのモデルはポリシー学習を用いて協調するように訓練されている。 発掘実験の結果、LM2は既存のドメイン内およびドメイン内推論問題よりも優れていることが示唆され、MATHでは8.1\%、JEEBenchでは7.71\%、MedQAでは9.7\%となっている(https://github.com/LCS2-IIITD/Language_Model_Multiplex)。

関連論文リスト

• Distilling Algorithmic Reasoning from LLMs via Explaining Solution Programs [2.3020018305241337]
  大きな言語モデルの推論能力を改善する効果的な方法として、明確な推論経路を蒸留する手法が登場している。 本稿では, LLM から推論能力を抽出する手法を提案する。 提案実験は,ReasonerがCoderによるプログラム実装をより効果的にガイドできることを示す。
  論文  参考訳（メタデータ） (2024-04-11T22:19:50Z)
• Divide-or-Conquer? Which Part Should You Distill Your LLM? [40.563633582127316]
  我々は、推論タスクを問題解決フェーズと問題解決フェーズに分解する同様の戦略を考案する。 戦略が単一ステージソリューションより優れていることを示す。
  論文  参考訳（メタデータ） (2024-02-22T22:28:46Z)
• Look Before You Leap: A Universal Emergent Decomposition of Retrieval Tasks in Language Models [58.57279229066477]
  本研究では,言語モデル(LM)が様々な状況下での検索タスクをどのように解決するかを検討する。 ORIONは6つのドメインにまたがる構造化された検索タスクの集合である。 LMは内部的にモジュール方式で検索タスクを分解する。
  論文  参考訳（メタデータ） (2023-12-13T18:36:43Z)
• Language Models can be Logical Solvers [99.40649402395725]
  論理解法の推論過程を直接エミュレートする新しい言語モデルであるLoGiPTを導入する。 LoGiPTは、導出的ソルバの見えない推論過程を明らかにして精錬することから導かれる、新しく構築された命令チューニングデータセットに基づいて微調整される。
  論文  参考訳（メタデータ） (2023-11-10T16:23:50Z)
• Small Language Models Fine-tuned to Coordinate Larger Language Models improve Complex Reasoning [41.03267013352519]
  大きな言語モデル(LLM)は、印象的な推論能力を示すチェーン・オブ・シントを生成するように促された。 本稿では、分解生成器を用いて複雑な問題をより少ない推論ステップを必要とするサブプロブレムに分解するDaSLaMを紹介する。 本稿では,DaSLaMがスケール関数としての解の能力に制限されないことを示す。
  論文  参考訳（メタデータ） (2023-10-21T15:23:20Z)
• CodeChain: Towards Modular Code Generation Through Chain of Self-revisions with Representative Sub-modules [51.82044734879657]
  我々は,自己修正の連鎖を通じてモジュール化されたコード生成を誘発する,新しい推論フレームワークであるCodeChainを提案する。 CodeChainは、生成したソリューションのモジュール性と正確性の両方を大幅に向上させ、APPSで35%、CodeContestsで76%の相対パス@1の改善を実現しています。
  論文  参考訳（メタデータ） (2023-10-13T10:17:48Z)
• Successive Prompting for Decomposing Complex Questions [50.00659445976735]
  最近の研究は、大規模言語モデル(LM)の機能を活用して、数ショットで複雑な質問応答を行う。 そこでは、複雑なタスクを単純なタスクに繰り返し分解し、それを解決し、最終解を得るまでプロセスを繰り返します。 我々の最良のモデル(逐次プロンプト付き)は、DROPデータセットの数ショットバージョンにおいて、5%の絶対F1の改善を実現します。
  論文  参考訳（メタデータ） (2022-12-08T06:03:38Z)
• A Mutual Information Maximization Approach for the Spurious Solution Problem in Weakly Supervised Question Answering [60.768146126094955]
  弱々しい教師付き質問応答は通常、最終的な答えのみを監督信号として持つ。 偶然に正解を導出する刺激的な解が多数存在するかもしれないが、そのような解の訓練はモデルの性能を損なう可能性がある。 本稿では,質問応答対と予測解間の相互情報の最大化により,このような意味的相関を明示的に活用することを提案する。
  論文  参考訳（メタデータ） (2021-06-14T05:47:41Z)
• Text Modular Networks: Learning to Decompose Tasks in the Language of Existing Models [61.480085460269514]
  本稿では,既存のモデルで解けるより単純なモデルに分解することで,複雑なタスクを解くための解釈可能なシステムを構築するためのフレームワークを提案する。 我々はこのフレームワークを用いて、ニューラルネットワークのファクトイド単一スパンQAモデルとシンボリック電卓で答えられるサブクエストに分解することで、マルチホップ推論問題に答えられるシステムであるModularQAを構築する。
  論文  参考訳（メタデータ） (2020-09-01T23:45:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。