論文の概要: CodeRAG: Supportive Code Retrieval on Bigraph for Real-World Code Generation

• arxiv url: http://arxiv.org/abs/2504.10046v1
• Date: Mon, 14 Apr 2025 09:51:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-15 16:54:12.350278
• Title: CodeRAG: Supportive Code Retrieval on Bigraph for Real-World Code Generation
• Title（参考訳）: CodeRAG: リアルタイムコード生成のためのBigraph上のサポートコード検索
• Authors: Jia Li, Xianjie Shi, Kechi Zhang, Lei Li, Ge Li, Zhengwei Tao, Jia Li, Fang Liu, Chongyang Tao, Zhi Jin,
• Abstract要約: 大規模言語モデル(LLM)は、自動コード生成において有望なパフォーマンスを示している。 本稿では,検索拡張コード生成フレームワークであるCodeRAGを提案する。 実験によると、CodeRAGはRAGのシナリオと比較して大幅に改善されている。
• 参考スコア（独自算出の注目度）: 69.684886175768
• License:
• Abstract: Large language models (LLMs) have shown promising performance in automated code generation, especially excelling in simple tasks such as generating standalone codes. Different from simple tasks, real-world code generation usually depends on specific programming environment (e.g., code repositories). It contains complex dependencies and domain knowledge, which is needed for LLMs when generating target code snippets. In this paper, we propose CodeRAG, a retrieval-augmented code generation (RAG) framework to comprehensively retrieve supportive codes for real-world code generation. Beginning with the requirement, CodeRAG first constructs a requirement graph for the current repository, and retrieves sub- and similar- requirement nodes of the target requirement on the graph. Meanwhile, it models the repository into a DS-code graph. CodeRAG then maps these relevant requirement nodes into their corresponding code nodes, and treats these code nodes as archors for LLM reasoning on DS-code graph. Finally, CodeRAG introduces a code-oriented agentic reasoning process, seamlessly allowing LLMs to reason and comprehensively retrieve for supportive codes which LLMs' need for generating correct programs. Experiments show that CodeRAG achieves significant improvements (i.e., increasing 40.90 and 37.79 Pass@1 on GPT-4o and Gemini-Pro on DevEval) compared to no RAG scenarios. Further tests on reasoning LLMs (i.e., QwQ-32B) confirm CodeRAG's adaptability and efficacy across various types of LLMs. In addition, CodeRAG outperforms commercial programming products such as Copilit and Cursor. We further investigate the performance of our framework on different dependency types, and observe that CodeRAG is superior in generating examples where target codes invoke predefined cross-file code snippets. These results demonstrate CodeRAG's potential in solving real-world repo-level coding challenges.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、自動コード生成において有望なパフォーマンスを示しており、特にスタンドアロンコード生成のような単純なタスクに優れています。 単純なタスクとは異なり、実際のコード生成は通常、特定のプログラミング環境(例えば、コードリポジトリ)に依存します。 複雑な依存関係とドメイン知識が含まれており、ターゲットのコードスニペットを生成する際に LLM に必要なものである。 本稿では,実世界のコード生成支援コードを包括的に検索する検索拡張コード生成(RAG)フレームワークであるCodeRAGを提案する。 要件から始めると、CodeRAGはまず現在のリポジトリの要件グラフを構築し、そのグラフ上のターゲット要件のサブと類似の要件ノードを検索する。 一方、リポジトリをDSコードグラフにモデル化する。 CodeRAGは、これらの関連する要求ノードを対応するコードノードにマッピングし、DS-code graph上のLSM推論のアーケータとして扱う。 最後に、CodeRAGはコード指向のエージェント推論プロセスを導入し、LSMが正しいプログラムを生成するために必要なサポートコードに対して、LCMをシームレスに論理的かつ包括的に検索できるようにする。 実験の結果、CodeRAGはRAGのシナリオと比較して大幅に改善されている(GPT-4oでは40.90と37.79 Pass@1、DevEvalではGemini-Pro)。 推理LSM(QwQ-32B)のさらなる試験は、CodeRAGの様々なタイプのLSMに対する適応性と有効性を確認する。 さらに、CodeRAGはCopilitやCursorといった商用プログラミング製品よりも優れている。 さらに、異なる依存型に対するフレームワークの性能について検討し、CodeRAGが予め定義されたクロスファイルコードスニペットを呼び出すサンプルを生成するのに優れていることを観察する。 これらの結果は,実世界のリポジトリレベルのコーディング課題を解決するCodeRAGの可能性を示している。

関連論文リスト

• Resource-Efficient & Effective Code Summarization [3.512140256677132]
  QLoRAのようなGreenAI技術は、大規模モデルのサステナビリティを扱うための有望なパスを提供する。 本研究では,Python と Java の2つのプログラミング言語にまたがる最先端の CLM の評価を行った。 その結果、QLoRAはコード要約のためのCLMを効率的に微調整できることがわかった。
  論文  参考訳（メタデータ） (2025-02-05T21:06:30Z)
• CodexGraph: Bridging Large Language Models and Code Repositories via Code Graph Databases [13.733229886643041]
  大きな言語モデル(LLM)は、HumanEvalやMBPPのようなスタンドアロンのコードタスクに優れていますが、コードリポジトリ全体の処理に苦労しています。 類似性に基づく検索は複雑なタスクではリコールが低いことが多いが、手動ツールやAPIは通常タスク固有であり、専門家の知識を必要とする。 我々は,LLMエージェントをコードリポジトリから抽出したグラフデータベースインターフェースと統合するシステムであるCodexGraphを紹介する。
  論文  参考訳（メタデータ） (2024-08-07T17:13:59Z)
• CodeRAG-Bench: Can Retrieval Augment Code Generation? [78.37076502395699]
  検索拡張生成を用いたコード生成の系統的,大規模な解析を行う。 まず、コード生成タスクの3つのカテゴリを含む総合的な評価ベンチマークであるCodeRAG-Benchをキュレートする。 CodeRAG-Bench上のトップパフォーマンスモデルについて、1つまたは複数のソースから検索したコンテキストを提供することにより検討する。
  論文  参考訳（メタデータ） (2024-06-20T16:59:52Z)
• VersiCode: Towards Version-controllable Code Generation [58.82709231906735]
  大規模言語モデル(LLM)は、コード生成において大きな進歩を遂げていますが、既存の研究は、ソフトウェア開発の動的な性質を説明できません。 バージョン別コード補完(VSCC)とバージョン別コードマイグレーション(VACM)の2つの新しいタスクを提案する。 VersiCodeについて広範な評価を行い、バージョン管理可能なコード生成が確かに重要な課題であることを示した。
  論文  参考訳（メタデータ） (2024-06-11T16:15:06Z)
• Comments as Natural Logic Pivots: Improve Code Generation via Comment Perspective [85.48043537327258]
  本稿では, MANGO (comMents As Natural loGic pivOts) を提案する。 その結果、MANGOは強いベースラインに基づいてコードパス率を大幅に改善することがわかった。 論理的なコメントの復号化戦略の堅牢性は、考えの連鎖よりも顕著に高い。
  論文  参考訳（メタデータ） (2024-04-11T08:30:46Z)
• StepCoder: Improve Code Generation with Reinforcement Learning from Compiler Feedback [58.20547418182074]
  2つの主要コンポーネントからなるコード生成の新しいフレームワークであるStepCoderを紹介します。 CCCSは、長いシーケンスのコード生成タスクをCurriculum of Code Completion Subtaskに分割することで、探索課題に対処する。 FGOは、未実行のコードセグメントをマスクすることでのみモデルを最適化し、Fine-Grained Optimizationを提供する。 提案手法は,出力空間を探索し,対応するベンチマークにおいて最先端の手法より優れた性能を発揮する。
  論文  参考訳（メタデータ） (2024-02-02T13:14:31Z)
• Bridging Code Semantic and LLMs: Semantic Chain-of-Thought Prompting for Code Generation [22.219645213202178]
  本稿では,SeCoT というコードの意味情報を抽出する "Semantic Chain-of-Thought" 手法を提案する。 本研究では,SeCoTが最先端の性能を実現し,大規模モデルやコード生成の可能性を大幅に向上させることを示す。
  論文  参考訳（メタデータ） (2023-10-16T05:09:58Z)
• CodeT5+: Open Code Large Language Models for Code Understanding and Generation [72.1638273937025]
  大きな言語モデル (LLM) は膨大なソースコードで事前訓練されており、コードインテリジェンスにおいて顕著な進歩を遂げている。 CodeT5+は、コンポーネントモジュールを柔軟に組み合わせて、幅広い下流のコードタスクに適合させることができるコードのためのエンコーダ-デコーダLLMのファミリーである。 我々は、ゼロショット、微調整、命令調整を含む20以上のコード関連ベンチマークでCodeT5+を広範囲に評価した。
  論文  参考訳（メタデータ） (2023-05-13T14:23:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。