論文の概要: Benchmarking Zero-Shot LLM-Generated Parent Selection in Genetic Programming for Symbolic Regression
- arxiv url: http://arxiv.org/abs/2607.23505v1
- Date: Sun, 26 Jul 2026 07:12:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:15.134469
- Title: Benchmarking Zero-Shot LLM-Generated Parent Selection in Genetic Programming for Symbolic Regression
- Title(参考訳): シンボリック回帰のための遺伝的プログラミングにおけるゼロショットLLM生成親選択のベンチマーク
- Abstract要約: 大規模言語モデル(LLM)が反復的メタ進化を伴わずにゼロショット設定で効率的な演算子を合成できるかどうかは不明である。
シンボリックレグレッションのための標準GPフレームワークにおいて、8つのLLMの親選択演算子のゼロショット合成をベンチマークする。
- 参考スコア(独自算出の注目度): 12.661617807948558
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Parent selection significantly affects exploration, exploitation, and complexity control in genetic programming (GP) for symbolic regression. It is unclear whether large language models (LLMs) can synthesize effective operators in a zero-shot setting without iterative meta-evolution. Here, zero-shot means that the model receives only the task description, with no reference operators or iterative feedback. In this work, we benchmark zero-shot synthesis of parent-selection operators across eight LLMs within a standard GP framework for symbolic regression. Each model receives the same natural-language prompt to generate a parent-selection operator, which is then evaluated in a standard GP framework with only the parent-selection operator replaced, while all other components and the evolutionary-search budget are held constant. For each LLM, ten independent zero-shot operators are evaluated on twelve OpenML regression benchmarks and compared against automatic lexicase and tournament selection baselines. Claude Sonnet~4.6 and Gemini~3.1 Pro stand out for consistently strong performance on both training and held-out test $R^2$. The strongest operator in our benchmark---a Kimi~K2.5 zero-shot synthesis---surpasses the automatic lexicase and tournament baselines in search effectiveness. These results suggest that zero-shot LLM synthesis is a viable approach to generating competitive GP selection operators. Analysis shows that many generated operators use semantics to guide selection, suggesting that LLMs can produce non-trivial search heuristics from the task description alone. We also examine the relationship between public LLM leaderboard rankings and GP performance. Widely used benchmarks, such as Humanity's Last Exam and SWE-bench Verified, strongly correlate with training $R^2$, while their relationship to held-out test $R^2$ is weaker and less clear.
- Abstract(参考訳): 親選択は、遺伝的プログラミング(GP)における探索、搾取、複雑性制御に大きな影響を及ぼす。
大規模言語モデル(LLM)が反復的メタ進化を伴わずにゼロショット設定で効率的な演算子を合成できるかどうかは不明である。
ここでゼロショットは、モデルが参照演算子や反復的なフィードバックなしで、タスク記述のみを受け取ることを意味する。
本研究では,記号回帰のための標準GPフレームワークにおいて,8つのLLMの親選択演算子のゼロショット合成をベンチマークする。
各モデルは、親選択演算子を生成するために同じ自然言語プロンプトを受け取り、その後、親選択演算子のみを置き換えた標準GPフレームワークで評価され、他のすべてのコンポーネントと進化探索予算は一定に保たれる。
各LSMに対して、12のOpenML回帰ベンチマークで10個の独立ゼロショット演算子を評価し、自動レキシケースとトーナメント選択ベースラインと比較した。
Claude Sonnet~4.6 と Gemini~3.1 Pro はトレーニングとホールドアウトテストの両方で一貫して強い性能を誇った。
ベンチマークにおいて最強の演算子であるKimi~K2.5ゼロショット合成は、自動レキシケースとトーナメントベースラインをバイパスし、探索効率を向上する。
これらの結果から,ゼロショットLPM合成は競合するGP選択演算子を生成するための有効なアプローチであることが示唆された。
分析によると、多くの生成された演算子はセマンティクスを使って選択を導いており、LCMはタスク記述のみから非自明な探索ヒューリスティックを生成することができる。
また,LLMランキングとGP性能の関係についても検討した。
HumanityのLast ExamやSWE-bench Verifiedといった広く使われているベンチマークは、トレーニングのR^2$と強く相関するが、保留テストのR^2$との関係は弱く、明確ではない。
関連論文リスト
- DE-NER : Zero-shot Named Entity Recognition via Dialogue Elicitation of Large Language Models [3.8390058921374615]
我々は,LLMで符号化された知識を完全に抽出するために,Large Language Models (LLMs) のチャット機能を利用する対話型推論フレームワークであるDE-NERを紹介する。
実験により,提案手法は複数のベンチマークにおいてゼロショット設定において,平均3.75%のF1点向上率で競争ベースラインを上回った。
論文 参考訳(メタデータ) (2026-08-01T08:46:53Z) - ReasonOps: Operator Segmentation for LLM Reasoning Traces [29.17171274711201]
大きな推論モデルからのチェーンオブシントトレースは、数万のトークンにまたがる可能性がある。
ReasonOpsは教師なし, 表現力のない, 思考の連鎖をアノテートする手法である。
我々は、8つの推論ベンチマークで6つのファミリーにまたがる12のLLMから44,662のトレースを分析した。
論文 参考訳(メタデータ) (2026-05-28T00:08:35Z) - Influence-Guided Symbolic Regression: Scientific Discovery via LLM-Driven Equation Search with Granular Feedback [56.69850045068714]
逐次的2段階プロセスとして方程式発見をフレーム化する方法である textitInfluence-Guided Regression (IGSR) を導入する。
LLM-SRBench, 薬理学的PKPDモデル, 疫学シミュレーション, 実世界のゲノムデータなど, IGSRの有効性を示す。
論文 参考訳(メタデータ) (2026-05-27T23:48:01Z) - RAVEL: Reasoning Agents for Validating and Evaluating LLM Text Synthesis [78.32151470154422]
テスト担当者が自律的に設計し、典型的な合成操作を実行できるようにするためのエージェントフレームワークであるRAVELを紹介する。
C3EBenchは、プロの人間の文章から1,258個のサンプルを抽出したベンチマークである。
SOTA LLMを演算子としてRAVELを増強することにより、そのようなエージェントテキスト合成はLLMの推論能力に支配されていることがわかった。
論文 参考訳(メタデータ) (2026-02-28T14:47:34Z) - From Brute Force to Semantic Insight: Performance-Guided Data Transformation Design with LLMs [48.83701310501069]
大規模言語モデル(LLM)は、コード合成において顕著な性能を達成した。
本稿では,LLMが最適変換を自律的に設計できる性能対応クローズドループソリューションを提案する。
6,000以上のPyTorch拡張関数を実験的に評価した新しいリポジトリ上で,低ランク適応型LPMを微調整する。
論文 参考訳(メタデータ) (2026-01-07T11:13:02Z) - RoSE: Round-robin Synthetic Data Evaluation for Selecting LLM Generators without Human Test Sets [9.781880183454502]
ラウンドロビン合成データ評価(RoSE)は、人間のテストセットなしで最適なジェネレータを選択するためのプロキシメトリックである。
6言語、11言語、および3つのタスクにわたって、RoSEは他のどの言語よりも最適なジェネレータを特定する。
RoSEは、人間のテストデータのパフォーマンスと正の相関を達成できる唯一の指標である。
論文 参考訳(メタデータ) (2025-10-07T17:17:14Z) - SLR: Automated Synthesis for Scalable Logical Reasoning [23.14914698597022]
大規模言語モデル(LLM)の体系的評価と訓練のためのエンドツーエンドフレームワークであるSLRを紹介する。
ユーザのタスク仕様を前提として、SLRは帰納的推論タスクの命令プロンプトを自動で生成する。
SLRを用いて、20のカリキュラムレベルに分類した19kプロンプトからなるベンチマークであるSLR-Benchを作成する。
論文 参考訳(メタデータ) (2025-06-18T18:10:30Z) - AIME: AI System Optimization via Multiple LLM Evaluators [79.03422337674664]
AIME は複数の LLM を利用した評価プロトコルであり、それぞれが独立した基準で評価を生成し、結合を通してそれらを結合する。
コード生成タスクにおける AIME のベースラインメソッドのパフォーマンスは,LeetCodeHard と HumanEval データセットの単一 LLM 評価プロトコルよりも最大 62% 高いエラー検出率,最大 16% 高い成功率で向上している。
論文 参考訳(メタデータ) (2024-10-04T04:03:24Z) - DARG: Dynamic Evaluation of Large Language Models via Adaptive Reasoning Graph [70.79413606968814]
本稿では,適応推論グラフ展開(DARG)によるLCMの動的評価を導入し,複雑性と多様性を制御した現在のベンチマークを動的に拡張する。
具体的には、まず現在のベンチマークでデータポイントの推論グラフを抽出し、それから推論グラフを摂動させて新しいテストデータを生成する。
このような新しく生成されたテストサンプルは、元のベンチマークと同様の言語的多様性を維持しながら、複雑さのレベルが異なる可能性がある。
論文 参考訳(メタデータ) (2024-06-25T04:27:53Z) - Revisiting Large Language Models as Zero-shot Relation Extractors [8.953462875381888]
リレーショナル抽出(RE)は、ゼロショット設定下であっても、一定のラベル付きまたはラベルなしのデータを一貫して含む。
近年の研究では、大きな言語モデル(LLM)が、単に自然言語のプロンプトを与えられただけで、新しいタスクにうまく移行していることが示されている。
本研究はゼロショット関係抽出器としてLLMを探索することに焦点を当てる。
論文 参考訳(メタデータ) (2023-10-08T06:17:39Z) - LLMs as Factual Reasoners: Insights from Existing Benchmarks and Beyond [135.8013388183257]
そこで我々は,SummEditsと呼ばれる10ドメインのベンチマークで不整合検出ベンチマークを作成し,実装する新しいプロトコルを提案する。
ほとんどのLLMはSummEditsで苦労しており、パフォーマンスはランダムに近い。
最も優れたモデルであるGPT-4は、推定された人間のパフォーマンスよりも8%低い。
論文 参考訳(メタデータ) (2023-05-23T21:50:06Z) - Rethinking Reinforcement Learning based Logic Synthesis [13.18408482571087]
我々は,重要な演算子を自動的に認識し,未知の回路に一般化可能な共通演算子列を生成するRLベースの新しい手法を開発した。
本アルゴリズムは,EPFLベンチマーク,プライベートデータセット,産業規模での回路で検証する。
論文 参考訳(メタデータ) (2022-05-16T12:15:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。