論文の概要: Code Prompting Elicits Conditional Reasoning Abilities in Text+Code LLMs
- arxiv url: http://arxiv.org/abs/2401.10065v1
- Date: Thu, 18 Jan 2024 15:32:24 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-19 16:13:25.282777
- Title: Code Prompting Elicits Conditional Reasoning Abilities in Text+Code LLMs
- Title（参考訳）: Text+Code LLMにおける条件推論能力のコードプロンプト
- Authors: Haritz Puerto, Martin Tutek, Somak Aditya, Xiaodan Zhu, Iryna Gurevych
- Abstract要約: 条件付き推論は、大きな言語モデル(LLM)で研究されている
本稿では,自然言語問題をコードに変換する一連のプロンプトを提案し,生成したコードでLLMをプロンプトする。
我々は、コードがどのように条件付き推論能力を引き出すか、どの機能を通してどのように促すかを実験する。
- 参考スコア（独自算出の注目度）: 69.99031792995348
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Reasoning is a fundamental component for achieving language understanding.
Among the multiple types of reasoning, conditional reasoning, the ability to
draw different conclusions depending on some condition, has been understudied
in large language models (LLMs). Recent prompting methods, such as chain of
thought, have significantly improved LLMs on reasoning tasks. Nevertheless,
there is still little understanding of what triggers reasoning abilities in
LLMs. We hypothesize that code prompts can trigger conditional reasoning in
LLMs trained on text and code. We propose a chain of prompts that transforms a
natural language problem into code and prompts the LLM with the generated code.
Our experiments find that code prompts exhibit a performance boost between 2.6
and 7.7 points on GPT 3.5 across multiple datasets requiring conditional
reasoning. We then conduct experiments to discover how code prompts elicit
conditional reasoning abilities and through which features. We observe that
prompts need to contain natural language text accompanied by high-quality code
that closely represents the semantics of the instance text. Furthermore, we
show that code prompts are more efficient, requiring fewer demonstrations, and
that they trigger superior state tracking of variables or key entities.
- Abstract（参考訳）: 推論は言語理解を達成するための基本的な要素である。
複数のタイプの推論、条件推論、ある条件によって異なる結論を引き出す能力は、大規模言語モデル(LLM)で検討されている。
思考の連鎖のような近年のプロンプト手法は推論タスクにおけるLLMを大幅に改善した。
しかしながら、LSMの推論能力の引き金となるものは、まだほとんど分かっていない。
我々は、コードプロンプトがテキストやコードで訓練されたLLMの条件推論をトリガーできると仮定する。
本稿では,自然言語問題をコードに変換する一連のプロンプトを提案し,生成したコードでLLMをプロンプトする。
実験の結果,GPT3.5では条件付き推論を必要とする複数のデータセットに対して,コードプロンプトのパフォーマンスが2.6から7.7ポイント向上していることがわかった。
次に、コードが条件付き推論能力をいかに促すか、どの機能を通すかを実験します。
我々は、インスタンステキストのセマンティクスを忠実に表現する高品質なコードを伴う自然言語テキストを含む必要があることを観察する。
さらに、コードプロンプトはより効率的で、デモを少なくし、変数やキーエンティティのより優れた状態追跡をトリガーすることを示す。
関連論文リスト
- Crystal: Illuminating LLM Abilities on Language and Code [58.5467653736537]
本稿では,自然言語と符号化機能の統合性を高めるための事前学習戦略を提案する。
結果のモデルであるCrystalは、両方のドメインで顕著な能力を示します。
論文 参考訳（メタデータ） (2024-11-06T10:28:46Z) - Case2Code: Learning Inductive Reasoning with Synthetic Data [105.89741089673575]
プログラムの表現性と正確性を利用したtextbfCase2Code タスクを提案する。
まず、合成したCase2Codeタスクにおける代表LLMを評価し、LLMにおいてケース・ツー・コード誘導が困難であることを実証する。
実験結果から,このような帰納的学習は,Case2Codeの性能だけでなく,学習用LLMの各種符号化能力の向上にも寄与することがわかった。
論文 参考訳（メタデータ） (2024-07-17T11:35:00Z) - Source Code Summarization in the Era of Large Language Models [23.715005053430957]
大規模言語モデル(LLM)は、コード関連のタスクのパフォーマンスを大幅に向上させた。
本稿では,LLMにおけるコード要約の体系的および包括的研究を行う。
論文 参考訳（メタデータ） (2024-07-09T05:48:42Z) - CodeHalu: Investigating Code Hallucinations in LLMs via Execution-based Verification [73.66920648926161]
本稿では,コード幻覚の概念を導入し,実行検証に基づくコード幻覚の分類法を提案する。
本稿では,コード幻覚の検出と定量化を目的とした,CodeHaluと呼ばれる動的検出アルゴリズムを提案する。
また、699のタスクから8,883のサンプルを含むCodeHaluEvalベンチマークを導入し、コードの幻覚を体系的に定量的に評価する。
論文 参考訳（メタデータ） (2024-04-30T23:56:38Z) - Reasoning Runtime Behavior of a Program with LLM: How Far Are We? [25.451857140926943]
コードのための大規模な言語モデル(LLM)は、強力なコード理解と生成能力を示している。
コード推論は、コードLLMの最も重要な能力の1つである。
本稿では,プログラム実行によるLLMのコード推論能力と一貫性を評価するためのフレームワークであるRevalを提案する。
論文 参考訳（メタデータ） (2024-03-25T05:37:16Z) - InfiBench: Evaluating the Question-Answering Capabilities of Code Large Language Models [56.723509505549536]
InfiBenchは、私たちの知識に合ったコードのための、最初の大規模フリーフォーム質問回答(QA)ベンチマークです。
慎重に選択された234の高品質なStack Overflow質問で構成されており、15のプログラミング言語にまたがっている。
InfiBench上で100以上の最新のコードLLMに対して,系統的評価を行い,新しい知見と洞察に富んだ結果を得た。
論文 参考訳（メタデータ） (2024-03-11T02:06:30Z) - If LLM Is the Wizard, Then Code Is the Wand: A Survey on How Code
Empowers Large Language Models to Serve as Intelligent Agents [81.60906807941188]
大型言語モデル(LLM)は、自然言語と形式言語(コード)の組み合わせに基づいて訓練される
コードは、標準構文、論理一貫性、抽象化、モジュール性を備えた高レベルの目標を実行可能なステップに変換する。
論文 参考訳（メタデータ） (2024-01-01T16:51:20Z) - At Which Training Stage Does Code Data Help LLMs Reasoning? [21.74241875923737]
本稿では,Large Language Models (LLM) に対するコードデータの影響について検討する。
コードとテキストの混合による事前学習 LLM は LLM の一般的な推論能力を大幅に向上させることができる。
命令チューニングの段階では、コードデータはLLMにタスク固有の推論能力を与える。
論文 参考訳（メタデータ） (2023-09-28T09:50:27Z) - Test-Case-Driven Programming Understanding in Large Language Models for
Better Code Generation [15.166827643436346]
muFiXは、大きな言語モデル(LLM)のコード生成性能を改善する新しいプロンプト技術である。
まず、テストケース分析を利用して仕様の理解を得、自己改善プロセスを可能にする。
muFiXはさらに、提供された理解と実際の理解の間のギャップを減らす方向に向けた仕様理解を修正している。
論文 参考訳（メタデータ） (2023-09-28T02:58:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。