論文の概要: Code2LoRA: Hypernetwork-Generated Adapters for Code Language Models under Software Evolution
- arxiv url: http://arxiv.org/abs/2606.06492v1
- Date: Thu, 04 Jun 2026 17:59:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-05 22:39:45.037942
- Title: Code2LoRA: Hypernetwork-Generated Adapters for Code Language Models under Software Evolution
- Title(参考訳): Code2LoRA: ソフトウェア進化下でのコード言語モデルのためのハイパーネットワーク生成アダプタ
- Authors: Liliana Hotsko, Yinxi Li, Yuntian Deng, Pengyu Nie,
- Abstract要約: リポジトリ固有のLoRAアダプタを生成するフレームワークであるCode2LoRAを紹介する。
パラメータ効率の良い微調整ベースラインに対してCode2LoRAを評価するために,RepoPeftBenchを構築した。
Code2LoRA-Staticは63.8%のクロスレポ、66.2%のインレポの正確な一致を達成した。
- 参考スコア(独自算出の注目度): 7.639311357075203
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Code language models need repository-level context to resolve imports, APIs, and project conventions. Existing methods inject this knowledge as long inputs (retrieved through RAG or dependency analysis) or through per-repository fine-tuning and LoRA -- costly at repository scale and brittle to evolving codebases. We introduce Code2LoRA, a hypernetwork framework that generates repository-specific LoRA adapters, effectively injecting repository knowledge with zero inference-time token overhead. Code2LoRA supports two usage scenarios: Code2LoRA-Static converts a single repository snapshot into an adapter, suitable for comprehension of stable codebases; while Code2LoRA-Evo maintains an adapter backed by a GRU hidden state updated per code diff, suitable for active development of evolving codebases. To evaluate Code2LoRA against parameter-efficient fine-tuning baselines, we build RepoPeftBench, a benchmark of 604 Python repositories with two tracks: a static track with 40K training and 12K test assertion-completion tasks, and an evolution track with 215K commit-derived training and 87K commit-derived test tasks. On the static track, Code2LoRA-Static achieves 63.8% cross-repo and 66.2% in-repo exact match, matching the per-repository LoRA upper bound; on the evolution track, Code2LoRA-Evo achieves 60.3% cross-repo exact match (+5.2 pp over a single shared LoRA). Code2LoRA's code can be found at https://anonymous.4open.science/r/code2lora-6857; the model checkpoints and RepoPeftBench datasets can be found at https://huggingface.co/code2lora.
- Abstract(参考訳): コード言語モデルは、インポート、API、プロジェクト規約を解決するためにリポジトリレベルのコンテキストが必要です。
既存のメソッドは、長いインプット(RAGまたは依存性分析を通じて取得)やリポジトリごとの微調整とLoRAを通じて、この知識を注入します。
我々は、リポジトリ固有のLoRAアダプタを生成するハイパーネットワークフレームワークであるCode2LoRAを紹介し、推論時のトークンオーバーヘッドをゼロにすることで、リポジトリの知識を効果的に注入する。
Code2LoRA-Staticは、単一のリポジトリスナップショットを、安定したコードベースの理解に適したアダプタに変換する。
Code2LoRAをパラメータ効率のよい微調整ベースラインに対して評価するために、RepoPeftBenchという、40Kのトレーニングと12Kのテストアサーション補完タスクを備えた静的トラックと、215Kのコミット由来のトレーニングと87Kのコミット由来のテストタスクを備えた進化トラックという、2つのトラックを持つ604のPythonリポジトリのベンチマークを構築した。
静的トラックでは、Code2LoRA-Staticは63.8%のクロスレポと66.2%のインレポで、レポジトリあたりのLORA上限と一致し、進化トラックでは、Code2LoRA-Evoは60.3%のクロスレポでマッチする(+5.2pp)。
Code2LoRAのコードはhttps://anonymous.4open.science/r/code2lora-6857で、モデルチェックポイントとRepoPeftBenchデータセットはhttps://huggingface.co/code2loraで見ることができる。
関連論文リスト
- Code-QA-Bench: Separating Code Reasoning from Documentation Memorization in Repository-Level QA [7.478327602641997]
Code-QA-Benchはリポジトリレベルのコード理解ベンチマークを合成するためのフレームワークである。
10のPythonリポジトリで528のコードデリバティブと100のドキュメント依存タスクを生成します。
フレームワークはオープンソースで、ドキュメント化されたPythonリポジトリに適用できる。
論文 参考訳(メタデータ) (2026-05-28T02:52:58Z) - CodeRAG: Finding Relevant and Necessary Knowledge for Retrieval-Augmented Repository-Level Code Completion [11.329578913209623]
リポジトリレベルのコード補完は、リポジトリからのより広範な情報に基づいて、未完成のコードを自動的に予測する。
CodeRAGは、リポジトリレベルのコード補完を検索するために必要な知識を特定するためのフレームワークである。
論文 参考訳(メタデータ) (2025-09-19T15:57:40Z) - CodeRAG: Supportive Code Retrieval on Bigraph for Real-World Code Generation [69.684886175768]
大規模言語モデル(LLM)は、自動コード生成において有望なパフォーマンスを示している。
本稿では,検索拡張コード生成フレームワークであるCodeRAGを提案する。
実験によると、CodeRAGはRAGのシナリオと比較して大幅に改善されている。
論文 参考訳(メタデータ) (2025-04-14T09:51:23Z) - MutaGReP: Execution-Free Repository-Grounded Plan Search for Code-Use [92.28400093066212]
MutaGRePは、ユーザリクエストを、大規模なコードリポジトリにある自然言語ステップに分解する計画を探すためのアプローチである。
我々の計画では、GPT-4oの128Kコンテキストウィンドウの5%以下しか使用していませんが、GPT-4oのコーディング性能とレポジトリで満たされたコンテキストウィンドウに匹敵します。
論文 参考訳(メタデータ) (2025-02-21T18:58:17Z) - On the Impacts of Contexts on Repository-Level Code Generation [5.641402231731082]
本稿ではレポジトリレベルのコード生成を評価するために設計された新しいベンチマークであるRepoExecを紹介する。
実行可能性、包括的なテストケース生成による機能的正当性、ファイル間のコンテキストの正確な利用という3つの重要な側面に注目します。
論文 参考訳(メタデータ) (2024-06-17T10:45:22Z) - R2C2-Coder: Enhancing and Benchmarking Real-world Repository-level Code Completion Abilities of Code Large Language Models [62.20537000942005]
我々は,R2C2-Coderを提案し,大規模言語モデルの実世界のリポジトリレベルのコード補完能力を向上し,ベンチマークする。
R2C2-Coderには、コードプロンプトコンストラクションメソッドR2C2-Enhanceと、よく設計されたベンチマークR2C2-Benchが含まれている。
論文 参考訳(メタデータ) (2024-06-03T14:24:29Z) - DevEval: A Manually-Annotated Code Generation Benchmark Aligned with Real-World Code Repositories [83.5195424237358]
既存のベンチマークは、現実世界のコードリポジトリと不整合である。
我々はDevEvalという新しいベンチマークを提案し、これは3つの進歩がある。
DevEvalは117のリポジトリから1,874のサンプルを持ち、10の人気のあるドメインをカバーする。
論文 参考訳(メタデータ) (2024-05-30T09:03:42Z) - EvoCodeBench: An Evolving Code Generation Benchmark Aligned with Real-World Code Repositories [42.257427142180546]
既存のベンチマークでは、実際のコードリポジトリとの整合性が低かった。
EvoCodeBenchは、データ漏洩を避けるための進化中のベンチマークである。
EvoCodeBenchに基づいて,リポジトリレベルのコード生成を提案し,人気の高い10の大規模言語モデルを評価する。
論文 参考訳(メタデータ) (2024-03-31T08:10:50Z) - S-LoRA: Serving Thousands of Concurrent LoRA Adapters [59.490751234925206]
パラメータ効率のよい微調整法であるLoRA(Lo-Rank Adaptation)は、ベースモデルを複数のタスクに適応させるためによく用いられる。
本稿では,多数のLoRAアダプタのスケーラブルな提供を目的としたシステムであるS-LoRAを提案する。
論文 参考訳(メタデータ) (2023-11-06T17:26:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。