論文の概要: COMPAS: Difficulty-Aware Joint Search for Optimizing Code Generation
- arxiv url: http://arxiv.org/abs/2608.04336v1
- Date: Wed, 05 Aug 2026 01:28:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 14:48:43.684041
- Title: COMPAS: Difficulty-Aware Joint Search for Optimizing Code Generation
- Title(参考訳): CompAS:コード生成の最適化のための難解な共同検索
- Authors: Jingzhi Gong, Jie M. Zhang, Gunel Jahangirova, Dong Huang, Mohammad Reza Mousavi, Mark Harman,
- Abstract要約: 低コストモデル選択と共同プロンプトデコード検索により,グループ固有の品質・コスト面を学習する難易度認識手法であるCompASを導入する。
LiveCodeBenchの検索予算で、CompASはパス@1を最高のベースラインで45.9%から52.8%に改善し、コストは36.57ドルから4.92ドルに削減した。
- 参考スコア(独自算出の注目度): 16.33065582566179
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Code generation systems make each LLM call with a model, a prompt, and decoding settings. However, existing optimization methods usually tune only part of these choices or use one fixed configuration for all tasks: global optimizers search one configuration for all tasks, routers choose only a model, and prompt optimizers keep the model and decoding settings fixed. This leaves their joint, group-specific interactions unclear. We therefore examine how these choices interact and observe that prompts and decoding settings interact, tuning effects vary by model, and the best configuration varies by task difficulty. Guided by these observations, we introduce COMPAS (Code-generation Optimization over Models, Prompts, And Decoding Settings), a difficulty-aware method that learns group-specific quality-cost fronts through low-cost model selection and joint prompt-decoding search, then routes each test task to its matching front online without further search. Under a matched search budget on LiveCodeBench, COMPAS improves pass@1 from 45.9% for the best baseline to 52.8% while reducing cost from $36.57 to $4.92. This also transfers to repository-level code generation on SWE-bench, resolving 76.0% of tasks versus 70.0% for the best baseline. Code and the reproducibility artifact are available at https://github.com/gjz78910/COMPAS.
- Abstract(参考訳): コード生成システムは、各LLMコールをモデル、プロンプト、デコード設定で呼び出す。
グローバルオプティマイザはすべてのタスクに対して1つの設定を検索し、ルータはモデルのみを選択し、オプティマイザはモデルを維持し、設定をデコードする。
これにより、共同でグループ固有の相互作用が不明確になる。
したがって、これらの選択がどのように相互作用し、プロンプトとデコード設定が相互作用し、チューニング効果がモデルによって変化し、最適な設定がタスクの難易度によって異なるかを観察する。
これらの観測から導かれたCompAS(Code-generation Optimization over Models, Prompts, And Decoding Settings)は、低コストのモデル選択と共同プロンプトデコード検索によりグループ固有の品質最前線を学習し、さらに検索することなく各テストタスクをオンラインにルーティングする難易度の高い手法である。
LiveCodeBenchの検索予算で、CompASはパス@1を最高のベースラインで45.9%から52.8%に改善し、コストは36.57ドルから4.92ドルに削減した。
また、SWE-bench上のリポジトリレベルのコード生成にも移行し、最高のベースラインに対して76.0%のタスクを解決した。
コードと再現性アーティファクトはhttps://github.com/gjz78910/COMPASで公開されている。
関連論文リスト
- Route-Align-Verify for Functional Correctness in Code Generation [0.8475107963160777]
RAVは軽量でモジュール化されたフレームワークで、3つの調整されたステージを通じて固定されたバックボーンモデルでコード生成を改善する。
MBPPベンチマークのRAVを,高濃度およびフル設定の両方で評価した。
その結果、バックボーンアーキテクチャを変更することなく、コード生成における機能的正しさを有意義に改善できることが示唆された。
論文 参考訳(メタデータ) (2026-08-04T08:52:40Z) - optimize_anything: A Universal API for Optimizing any Text Parameter [98.42497715725356]
単一タスク検索をサポートする1つのAIベースの最適化システム、クロスプロブレム転送によるマルチタスク検索、および目に見えない入力への一般化を示す。
LLMに基づく検索によるテキストの最適化は汎用的な問題解決パラダイムであることを示す。
論文 参考訳(メタデータ) (2026-05-19T10:18:12Z) - Optimizing Prompt Sequences using Monte Carlo Tree Search for LLM-Based Optimization [20.44067161623662]
大規模言語モデル(LLM)は、コード生成と構造化推論において顕著な能力を示した。
本稿では,モンテカルロ木探索によって導かれる逐次決定過程として,選択を高速化するニューラルシンボリックフレームワークを提案する。
本手法は,コード生成品質の向上を目的として,複数ステップのプロンプトシーケンスを探索・精査する。
論文 参考訳(メタデータ) (2025-08-08T04:01:24Z) - AdaptiveLLM: A Framework for Selecting Optimal Cost-Efficient LLM for Code-Generation Based on CoT Length [5.856039862078523]
本稿では,タスクの難易度を自動的に評価することにより,与えられたコーディングタスクに対して最適な大言語モデル(LLM)を動的に選択するフレームワークであるAdaptiveLLMを紹介する。
筆者らのフレームワークはまず,推論モデルから生成したChain-of-Thought長を用いてタスクの難易度を推定し,これらをk平均で3つの難易度にクラスタ化し,難易度を考慮したCodeBERTを組み込む。
我々のフレームワークは、pass@1スコアを7.86%改善し、ベースラインメソッドである ComplexityNet と比較して、リソース消費を88.9%削減します。
論文 参考訳(メタデータ) (2025-06-12T09:43:48Z) - Collab: Controlled Decoding using Mixture of Agents for LLM Alignment [90.6117569025754]
人間のフィードバックからの強化学習は、大規模言語モデルを整合させる効果的な手法として現れてきた。
制御された復号化は、再訓練せずに推論時にモデルを整列するメカニズムを提供する。
本稿では,既存の既成のLCMポリシを活用するエージェントベースのデコーディング戦略の混合を提案する。
論文 参考訳(メタデータ) (2025-03-27T17:34:25Z) - Dynamic LLM Routing and Selection based on User Preferences: Balancing Performance, Cost, and Ethics [0.6999740786886538]
本稿では,タスクを最適大言語モデル(LLM)に動的に選択・ルーティングする,高度なモデルルーティングエンジンであるOptiRouteを紹介する。
OptiRouteは、機能的(例えば、精度、速度、コスト)と非機能的(例えば、有用性、無害性、正直性)の両方の基準を捉え、最適なモデルとタスクを効率的に一致させる。
これにより、クラウドベースのMLプラットフォーム、パーソナライズされたAIサービス、規制業界におけるリアルタイムアプリケーションに理想的になります。
論文 参考訳(メタデータ) (2025-02-23T19:23:22Z) - Decoding-Time Language Model Alignment with Multiple Objectives [116.42095026960598]
既存の手法は主に、1つの報酬関数に対してLMを最適化することに集中し、それらの適応性は様々な目的に制限される。
本稿では,予測の線形結合から次のトークンを出力する復号時間アルゴリズムである$textbfmulti-objective decoding (MOD)$を提案する。
提案手法は, 自然条件下であっても, 既存のアプローチが準最適であることを示すとともに, 提案手法の最適性を保証する。
論文 参考訳(メタデータ) (2024-06-27T02:46:30Z) - JoinGym: An Efficient Query Optimization Environment for Reinforcement
Learning [58.71541261221863]
結合順序選択(JOS)は、クエリの実行コストを最小化するために結合操作を順序付けする問題である。
木質強化学習(RL)のためのクエリ最適化環境JoinGymを提案する。
JoinGymは内部で、事前計算されたデータセットから中間結果の濃度を調べることで、クエリプランのコストをシミュレートする。
論文 参考訳(メタデータ) (2023-07-21T17:00:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。