論文の概要: Better Together, in the Right Order: Classical-then-LLM Optimization for SE

• arxiv url: http://arxiv.org/abs/2607.02583v1
• Date: Wed, 01 Jul 2026 02:32:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-09 13:41:29.096825
• Title: Better Together, in the Right Order: Classical-then-LLM Optimization for SE
• Title（参考訳）: より良く、正しい順序で: SE の古典-then-LLM最適化
• Authors: Srinath Srinivasan, Tim Menzies,
• Abstract要約: 大きな言語モデル(LLM)と、ソフトウェアエンジニアリング(SE)設定タスクのための古典的なタスクを組み合わせる。 我々は、安価な古典学習者による結果により、LSMのシードに多くの価値があることを報告した。 100以上のSNAP SEタスクに適用すると、これは研究対象のすべてのメソッドの中で最高のものとなり、LLMが単独で(75%)、古典が制御を維持しているすべてのメソッドの85%のタスクでトップレベルに達する。
• 参考スコア（独自算出の注目度）: 4.168157981135697
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A growing body of work combines large language models (LLMs) with classical optimizers for software engineering (SE) configuration tasks. Often, the classical optimizer is in charge: it owns the search loop and calls the LLM only to assist in subroutines (e.g. to warm-start the first generation, propose a mutation, or stand in as a surrogate). We report that there is much value in the reverse approach: seeding an LLM with the results from a cheap classical learner. We call this method SNAP2. Applied to over 100 SE tasks, it is the single best of all methods studied, reaching the top tier on 85% of tasks, ahead of the same LLM run alone (75%) and ahead of every method in which the classical optimizer retains control. It is also less expensive: relative to the LLM-alone method, it uses roughly 30% fewer tokens and runs 1.4x faster, since the classical setup performs the inexpensive work, and the LLM is invoked only to finish. We conclude that it is unwise to study classical learners or LLMs in isolation: there is much value in combining the two, and in the order that combination is applied.
• Abstract（参考訳）: 大きな言語モデル(LLM)と、ソフトウェアエンジニアリング(SE)設定タスクのための古典的なオプティマイザを組み合わせる。 多くの場合、古典的なオプティマイザは、サーチループを所有し、LLMを呼び出してサブルーチン(例えば、第1世代のウォームスタート、突然変異の提案、サロゲートとして立ち上がる)を支援する。 逆アプローチには多くの価値があることを報告します: 安価な古典学習者からLSMをシードする。 この手法をSNAP2と呼ぶ。 100以上のSEタスクに適用され、85%のタスクでトップレベルまで到達し、同じLLM(75%)で実行され、古典的なオプティマイザがコントロールを維持しているすべてのメソッドでトップレベルに達している。 LLM-alone法と比較して、トークンを約30%削減し、従来のセットアップが安価な作業を実行するため1.4倍高速に動作し、LSMは終了するためにのみ呼び出される。 古典的な学習者やLLMを単独で研究するのは賢明ではないと結論づける。

関連論文リスト

• Can LLMs Beat Classical Hyperparameter Optimization Algorithms? A Study on autoresearch [42.242102214102566]
  制約のない検索空間でソースコードを編集するLLMエージェントが古典的手法とのギャップを狭めることを示す。 平均ベクトル,ステップサイズ,共分散行列を含むCMA-ESの内部状態を共有するハイブリッドであるCentaurを紹介する。 Centaurは実験で最高の結果を得ることができ、0.8Bの変種は27Bの変種よりも優れていた。
  論文  参考訳（メタデータ） (2026-03-25T17:29:40Z)
• Learning a Zeroth-Order Optimizer for Fine-Tuning LLMs [22.39397810186991]
  大規模言語モデルのための学習ベースゼロトオーダーであるZO Fine-tunerを提案する。 コンパクトでメモリ効率の良い設計により、効率的な摂動戦略を自動的に学習する。 実験の結果、ZOファインチューナーはタスクモデルの組み合わせの82.1%において、ゼロ階前のベースラインよりも優れていた。
  論文  参考訳（メタデータ） (2025-10-01T02:01:07Z)
• STAR: A Simple Training-free Approach for Recommendations using Large Language Models [36.18841135511487]
  現在の最先端の手法は、最適な結果を得るために微調整された大規模言語モデル(LLM)に依存している。 LLMを利用するフレームワークを提案し、微調整を必要とせずに様々なレコメンデーションタスクに適用できる。 The method achieves Hits@10 performance of +23.8% on Beauty, +37.5% on Toys & Games, and -1.8% on Sports & Outdoors。
  論文  参考訳（メタデータ） (2024-10-21T19:34:40Z)
• Understanding Forgetting in LLM Supervised Fine-Tuning and Preference Learning - A Convex Optimization Perspective [55.66517396157806]
  オープンソースLLMのポストトレーニングにおいて広く採用されているアプローチは、SFTとRLHF/DPOのシーケンシャルな実行である。 これはSFTとRLHF/DPOのトレードオフの点において最適である。 本稿では,理論収束保証と逐次後学習フレームワークの性能を実証的に向上させる,実践的な後学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-20T19:38:41Z)
• LLM-TOPLA: Efficient LLM Ensemble by Maximising Diversity [7.945893812374361]
  アンサンブルの成分LLM間の多様性と性能の相関を捉えるために,焦点の多様性指標を導入する。 我々は,N$ベースLLMのプールからトップkサブアンサンブルを選択するために,多様性に最適化されたアンサンブルプルーニングアルゴリズムを開発した。 我々のプルーニング法では、最高性能のLLMサブアンサンブルが$S$で、しばしば$N$よりもずっと小さいことを推奨している。
  論文  参考訳（メタデータ） (2024-10-04T22:31:15Z)
• LLM as a Complementary Optimizer to Gradient Descent: A Case Study in Prompt Tuning [69.95292905263393]
  グラデーションベースとハイレベルなLLMは、協調最適化フレームワークを効果的に組み合わせることができることを示す。 本稿では,これらを相互に補完し,組み合わせた最適化フレームワークを効果的に連携させることができることを示す。
  論文  参考訳（メタデータ） (2024-05-30T06:24:14Z)
• Optimising Calls to Large Language Models with Uncertainty-Based Two-Tier Selection [80.63946798650653]
  決定は、より優れた性能を持つ大型LCMを使うか、より少ないコストで使用するかに重点を置いている。 我々は,LLMの世代間不確実性のみを意思決定基準として,より単純な解を提案する。 実験の結果、この単純な解はコストと性能を最適にバランスさせ、27の試験装置中25の既存手法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2024-05-03T14:38:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。