論文の概要: CARET: Training-Free Test-Time Scaling for Repository-Level Code Completion
- arxiv url: http://arxiv.org/abs/2610.04837v1
- Date: Sun, 04 Oct 2026 00:45:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-11 08:31:17.10317
- Title: CARET: Training-Free Test-Time Scaling for Repository-Level Code Completion
- Title(参考訳): CARET: リポジトリレベルのコード補完のためのトレーニング不要のテスト時間スケーリング
- Abstract要約: 既存の作業は主に検索と停止に焦点を当てている。
どちらの段階も一緒に改善できる、と我々は主張する。
トレーニング不要なCARETを提案する。
- 参考スコア(独自算出の注目度): 18.720646156357613
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Retrieval-augmented generation (RAG) dominates repository-level code completion: it retrieves cross-file context (R), then decodes one greedy completion (G). Existing work mainly focuses on retrieval and stops there. We argue both stages can be improved together, with generation in particular gaining from test-time scaling. We present CARET, a training-free method. For R, CARET routes among retrieval contexts using the agreement among its own samples, cascading to an alternative context when the samples scatter. For G, it samples candidates over a cached prompt prefix, so the long retrieved context is encoded once rather than once per sample. It then selects the final completion by reverse-context likelihood: a correct completion makes the code after the cursor more probable, so the same model grades its own candidates by reading ahead. Across CrossCodeEval, RepoEval-Line, and RepoEval-API with six code models (1.1B to 7B, four families), CARET improves exact match in all 18 combinations by 10.8 points on average over greedy decoding and 5.3 over self-consistency@10. Token-level compute stays near 1.45 times one generation (measured wall-clock 1.3-2.9 times, growing with generator size). Improving retrieval and generation together yields more accurate code than improving retrieval alone, at a budget that stays close to a single pass.
- Abstract(参考訳): Retrieval-augmented Generation (RAG) はリポジトリレベルのコード補完を支配し、クロスファイルコンテキスト(R)を検索し、1つのgreedy completion(G)をデコードする。
既存の作業は主に検索と停止に焦点を当てている。
どちらの段階も一緒に改善できる、と我々は主張する。
トレーニング不要なCARETを提案する。
R の場合、CARET は独自のサンプル間の合意を用いて検索コンテキスト間の経路をルートし、サンプルが散乱したときに別のコンテキストにカスケードする。
Gの場合、キャッシュされたプロンプトプレフィックス上の候補をサンプリングするため、長い検索されたコンテキストはサンプル毎に1回ではなく1回エンコードされる。
正しい完了によって、カーソルの後のコードがより確率が高くなるので、同じモデルが前を読むことで、自身の候補を格付けする。
CrossCodeEval、RepoEval-Line、RepoEval-APIに6つのコードモデル(1.1Bから7B、4ファミリー)が組み込まれている。
トーケンレベルの計算は1世代に1.45倍近い(壁時計は1.3-2.9倍、発生器のサイズで成長する)。
検索と生成の改善は、単一のパスに近い予算で、検索のみの改善よりも正確なコードを生成する。
関連論文リスト
- Hierarchical Embedding Fusion for Retrieval-Augmented Code Generation [6.4453302264198165]
コード補完のためのリポジトリ表現のための2段階のアプローチである階層埋め込み融合(HEF)を提案する。
HEFはスニペットベースの検索ベースラインに匹敵する正確なマッチング精度を達成する。
グラフベースおよび反復検索システムと比較して、HEFは中央値のエンドツーエンドのレイテンシを13倍から26倍に削減する。
論文 参考訳(メタデータ) (2026-02-04T14:56:11Z) - RLCoder: Reinforcement Learning for Repository-Level Code Completion [39.38066628941757]
Repositoryレベルのコード補完は、指定されたリポジトリのコンテキスト内で未完成のコードスニペットのためのコードを生成することを目的としている。
既存のアプローチは主に、入力シーケンス長の制限による検索強化された生成戦略に依存している。
ラベル付きデータを必要とせずに、検索者がコード補完に有用なコンテンツを取得することができる新しい強化学習フレームワークであるRLCoderを提案する。
論文 参考訳(メタデータ) (2024-07-28T12:47:20Z) - Prompt-based Code Completion via Multi-Retrieval Augmented Generation [15.233727939816388]
ProCCは、プロンプトエンジニアリングとコンテキスト多武装バンディットアルゴリズムを活用したコード補完フレームワークである。
ProCCは、収集したオープンソースベンチマークスイートにおいて、最先端のコード補完テクニックを8.6%上回ります。
ProCCはまた, プラグ・アンド・プレイ方式で微調整技術を増強し, 実験した微調整モデルよりも5.6%改善した。
論文 参考訳(メタデータ) (2024-05-13T07:56:15Z) - REST: Retrieval-Based Speculative Decoding [69.06115086237207]
本稿では,言語モデル生成の高速化を目的とした新しいアルゴリズムであるRetrieval-Based Speculative Decoding(REST)を紹介する。
投機的復号化のためのドラフト言語モデルに依存する従来の方法とは異なり、RESTは検索の力を利用してドラフトトークンを生成する。
単一バッチ環境で7Bと13Bの言語モデルでベンチマークすると、RESTはコードやテキスト生成において1.62Xから2.36Xの大幅なスピードアップを達成する。
論文 参考訳(メタデータ) (2023-11-14T15:43:47Z) - RepoCoder: Repository-Level Code Completion Through Iterative Retrieval
and Generation [96.75695811963242]
RepoCoderはリポジトリレベルのコード補完プロセスを合理化するフレームワークである。
類似性ベースのレトリバーと、事前訓練されたコード言語モデルが組み込まれている。
バニラ検索で拡張されたコード補完アプローチよりも一貫して優れています。
論文 参考訳(メタデータ) (2023-03-22T13:54:46Z) - CodeExp: Explanatory Code Document Generation [94.43677536210465]
既存のコード・トゥ・テキスト生成モデルは、コードの高レベルな要約のみを生成する。
我々は、コードのための高品質な説明記述の基準を特定するために、人間の研究を行う。
タスクのための多段階微調整戦略とベースラインモデルを提案する。
論文 参考訳(メタデータ) (2022-11-25T18:05:44Z) - CoSQA: 20,000+ Web Queries for Code Search and Question Answering [63.92224685262063]
CoSQAデータセットには、自然言語クエリとコードのペア用の20,604ラベルが含まれている。
本稿では,クエリコードマッチングを強化するために,CoCLRと呼ばれる対照的な学習手法を提案する。
我々は,CodeXGLUEを同じCodeBERTモデルで評価し,CoSQAのトレーニングにより,コード質問応答の精度が5.1%向上したことを示す。
論文 参考訳(メタデータ) (2021-05-27T15:37:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。