論文の概要: Grammar-Based Code Representation: Is It a Worthy Pursuit for LLMs?

• arxiv url: http://arxiv.org/abs/2503.05507v1
• Date: Fri, 07 Mar 2025 15:23:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-10 12:21:15.034974
• Title: Grammar-Based Code Representation: Is It a Worthy Pursuit for LLMs?
• Title（参考訳）: 文法に基づくコード表現はLLMにとって有害な選択か?
• Authors: Qingyuan Liang, Zhao Zhang, Zeyu Sun, Zheng Lin, Qi Luo, Yueyi Xiao, Yizhou Chen, Yuqun Zhang, Haotian Zhang, Lu Zhang, Bin Chen, Yingfei Xiong,
• Abstract要約: グラマーはプログラミング言語とソフトウェア工学の基盤となっている。 既存の研究では、小規模モデルにおける文法に基づくコード表現の有効性を実証している。 コード生成プロセスに文法規則を組み込んだ,数十億規模のGrammarCoderモデルを開発した。
• 参考スコア（独自算出の注目度）: 29.690921649662744
• License:
• Abstract: Grammar serves as a cornerstone in programming languages and software engineering, providing frameworks to define the syntactic space and program structure. Existing research demonstrates the effectiveness of grammar-based code representations in small-scale models, showing their ability to reduce syntax errors and enhance performance. However, as language models scale to the billion level or beyond, syntax-level errors become rare, making it unclear whether grammar information still provides performance benefits. To explore this, we develop a series of billion-scale GrammarCoder models, incorporating grammar rules in the code generation process. Experiments on HumanEval (+) and MBPP (+) demonstrate a notable improvement in code generation accuracy. Further analysis shows that grammar-based representations enhance LLMs' ability to discern subtle code differences, reducing semantic errors caused by minor variations. These findings suggest that grammar-based code representations remain valuable even in billion-scale models, not only by maintaining syntax correctness but also by improving semantic differentiation.
• Abstract（参考訳）: 文法はプログラミング言語とソフトウェア工学の基盤として機能し、構文空間とプログラム構造を定義するためのフレームワークを提供する。 既存の研究では、小規模モデルにおける文法に基づくコード表現の有効性を実証し、構文エラーを低減し、性能を向上させる能力を示している。 しかし、言語モデルが10億以上のレベルにスケールするにつれて、構文レベルのエラーは珍しくなり、文法情報がまだパフォーマンス上の利点をもたらすかどうかは不明になる。 そこで我々は,コード生成プロセスに文法規則を組み込んだ,数十億規模のGrammarCoderモデルを開発した。 HumanEval (+) と MBPP (+) の実験は、コード生成精度が顕著に向上したことを示している。 さらに分析したところ、文法に基づく表現は、微妙なコード差を識別するLLMの能力を向上し、微妙なバリエーションによる意味的誤りを減らすことが示されている。 これらの結果から,文法に基づくコード表現は,文法の正しさの維持だけでなく,意味的区別の改善によっても,数十億のモデルにおいても有用であることが示唆された。

関連論文リスト

• Insights from Benchmarking Frontier Language Models on Web App Code Generation [1.7268889851975326]
  本稿では,WebApp1Kベンチマークによる16のフロンティア大言語モデル(LLM)の評価から得られた知見について述べる。 結果は、全てのモデルが類似した知識を持っているが、それらの性能は、それらが犯した誤りの頻度によって区別されることを示している。
  論文  参考訳（メタデータ） (2024-09-08T18:24:26Z)
• Grammar-based Game Description Generation using Large Language Models [12.329521804287259]
  Game Description Language (GDL) は、様々なゲームを機械可読形式で表現するための標準化された方法を提供する。 本稿では,Large Language Models(LLM)を利用して,自然言語から文法的に正確なゲーム記述を生成する新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-24T16:36:02Z)
• Using Grammar Masking to Ensure Syntactic Validity in LLM-based Modeling Tasks [0.996023506058745]
  文法マスキング(Grammar masking)は、与えられた文脈自由文法に対して構文的に正しいモデルを生成するための大きな言語モデルを導くために用いられる。 文法マスキングは,複数の言語モデルのモデリング能力を劇的に向上させることができることを示す。
  論文  参考訳（メタデータ） (2024-07-08T17:19:59Z)
• How Ready Are Generative Pre-trained Large Language Models for Explaining Bengali Grammatical Errors? [0.4857223913212445]
  高度な生成人工知能(AI)を利用した文法的誤り訂正(GEC)ツール。 しかし、それらはしばしば、本質的な自然言語の説明の提供に不足する。 このような言語では、文法的誤り説明(GEE)システムは正しい文だけでなく、誤りの説明も提供すべきである。
  論文  参考訳（メタデータ） (2024-05-27T15:56:45Z)
• CodeGRAG: Bridging the Gap between Natural Language and Programming Language via Graphical Retrieval Augmented Generation [58.84212778960507]
  我々は,LLMの性能を高めるため,グラフィカル検索拡張コード生成フレームワークであるCodeGRAGを提案する。 CodeGRAGは、制御フローとデータフローに基づいて、コードブロックのグラフィカルなビューを構築し、プログラミング言語と自然言語のギャップを埋める。 ハードメタグラフプロンプト、ソフトプロンプト技術、事前訓練されたGNN専門家の目的の有効性を検証するために、C++言語とピソン言語の両方を含む4つのデータセットで様々な実験と改善が行われた。
  論文  参考訳（メタデータ） (2024-05-03T02:48:55Z)
• GanLM: Encoder-Decoder Pre-training with an Auxiliary Discriminator [114.8954615026781]
  本稿では,補助判別器を導入して,エンコーダ・デコーダ事前学習のためのGANスタイルのモデルを提案する。 GanLMは2つのトレーニング済みの目標 – トークン検出の置き換えとトークン記述の置き換え – でトレーニングされている。 言語生成ベンチマークの実験では、強力な言語理解能力を持つ GanLM が、様々な強力な事前学習言語モデルより優れていることが示されている。
  論文  参考訳（メタデータ） (2022-12-20T12:51:11Z)
• CLSE: Corpus of Linguistically Significant Entities [58.29901964387952]
  専門家が注釈を付けた言語学的に重要なエンティティ(CLSE)のコーパスをリリースする。 CLSEは74種類のセマンティックタイプをカバーし、航空券売機からビデオゲームまで様々なアプリケーションをサポートする。 言語的に代表されるNLG評価ベンチマークを,フランス語,マラティー語,ロシア語の3言語で作成する。
  論文  参考訳（メタデータ） (2022-11-04T12:56:12Z)
• Benchmarking Language Models for Code Syntax Understanding [79.11525961219591]
  事前学習された言語モデルは、自然言語処理とプログラム理解の両方において素晴らしい性能を示している。 本研究では,プログラムの構文構造を特定するための,最先端の事前訓練モデルの最初の徹底的なベンチマークを行う。 この結果から,既存のプログラミング言語の事前学習手法の限界が指摘され,構文構造をモデル化することの重要性が示唆された。
  論文  参考訳（メタデータ） (2022-10-26T04:47:18Z)
• ContraCLM: Contrastive Learning For Causal Language Model [54.828635613501376]
  トークンレベルとシーケンスレベルの両方において,新しいコントラスト学習フレームワークであるContraCLMを提案する。 ContraCLMは表現の識別を強化し、エンコーダのみのモデルとのギャップを埋めることを示す。
  論文  参考訳（メタデータ） (2022-10-03T18:56:35Z)
• Learning grammar with a divide-and-concur neural network [4.111899441919164]
  本研究では,文脈自由文法推論に対する分割・コンカレント反復予測手法を実装した。 本手法は比較的少数の離散パラメータを必要とするため,推測文法を直接解釈可能である。
  論文  参考訳（メタデータ） (2022-01-18T22:42:43Z)
• On the Robustness of Language Encoders against Grammatical Errors [66.05648604987479]
  我々は、非ネイティブ話者から実際の文法的誤りを収集し、これらの誤りをクリーンテキストデータ上でシミュレートするために敵攻撃を行う。 結果,全ての試験モデルの性能は影響するが,影響の程度は異なることがわかった。
  論文  参考訳（メタデータ） (2020-05-12T11:01:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。