論文の概要: Mutation Without Variation: Convergence Dynamics in LLM-Driven Program Evolution

• arxiv url: http://arxiv.org/abs/2606.05408v1
• Date: Wed, 03 Jun 2026 20:22:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-05 22:39:44.386248
• Title: Mutation Without Variation: Convergence Dynamics in LLM-Driven Program Evolution
• Title（参考訳）: 変異のない変異:LLM駆動プログラム進化における収束ダイナミクス
• Authors: Can Gurkan, Forrest Stonedahl, Uri Wilensky,
• Abstract要約: ドメイン固有言語における選択圧の欠如によるLPMによる突然変異連鎖の解析を行った。 LLMに基づく突然変異はプログラム空間内の制限された誘引領域へ連続的に収束する。 収束性は構造レベルでは特に深刻である。
• 参考スコア（独自算出の注目度）: 1.3533469930432178
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: When an LLM repeatedly mutates a program, does it explore new forms or circle back to the same ones? We study this question by analyzing LLM-driven mutation chains in the absence of selection pressure within a domain-specific language, varying prompt design, model family, and stochastic replication. We find that LLM-based mutation consistently converges toward restricted attractor regions in program space. Convergence is especially severe at the structural level: in 87% of chains, over 93% of mutations revisit a previously seen structural form, with most variation confined to terminal substitutions within recurring templates. Cycle analysis reveals short cycles and self-loops dominating the transition structure. The rate of convergence varies with prompt wording and model choice, but the phenomenon is robust across conditions. A classical GP subtree mutation operator does not exhibit comparable convergence, suggesting that the effect is intrinsic to the LLM mutation pipeline. These findings reveal a tension at the heart of LLM-driven program evolution: the same capabilities that enable semantics-aware program transformation also carry a systematic bias toward structural homogeneity that must be accounted for if such systems are to sustain open-ended exploration. Source code is available at https://github.com/can-gurkan/lmca.
• Abstract（参考訳）: LLMがプログラムを繰り返すと、新しいフォームや円を同じプログラムに戻すことができるのか? 本研究では,LLMによる変異連鎖の解析を行い,ドメイン固有言語における選択圧力の欠如,プロンプト設計,モデルファミリー,確率的複製について検討した。 LLMに基づく突然変異はプログラム空間内の制限された誘引領域へ連続的に収束する。 連鎖の87%では、突然変異の93%以上が以前に見られた構造体を再考しており、ほとんどの変異は繰り返しテンプレート内の終端置換に限られている。 サイクル解析は、遷移構造を支配する短いサイクルと自己ループを明らかにする。 収束の速度は、素早い言い回しとモデル選択によって異なるが、その現象は条件によって堅牢である。 古典的なGPサブツリー変異オペレーターは、LLM突然変異パイプラインに固有の効果があることを示唆している。 セマンティックス・アウェア・プログラム・トランスフォーメーションを可能にするのと同じ能力は、構造的均質性に対して体系的なバイアスを持ち、そのようなシステムがオープンエンド探索を継続するかどうかを考慮しなければならない。 ソースコードはhttps://github.com/can-gurkan/lmca.comで入手できる。

関連論文リスト

• Towards A Generative Protein Evolution Machine with DPLM-Evo [73.57855006698269]
  本報告では,denoising中の置換,挿入,削除操作を明示的に予測する進化的離散拡散フレームワークDPLM-Evoについて述べる。 DPLM-Evoは、単一シーケンス設定におけるProteinGymのシーケンス理解と最先端の突然変異効果予測性能を改善した。
  論文  参考訳（メタデータ） (2026-04-30T19:59:07Z)
• OrthoFormer: Instrumental Variable Estimation in Transformer Hidden States via Neural Control Functions [0.0]
  シーケンシャルなモデリングにおいて優れたトランスフォーマーアーキテクチャは、相関学習によって基本的に制限される。 そこで我々はOrthoFormerを提案する。OrthoFormerは機械的変数推定をニューラル制御機能を介してTransformerブロックに直接組み込む因果的基底アーキテクチャである。
  論文  参考訳（メタデータ） (2026-03-08T03:05:16Z)
• Rethinking Diffusion Models with Symmetries through Canonicalization with Applications to Molecular Graph Generation [56.361076943802594]
  CanonFlowは、挑戦的なGEOM-DRUGデータセット上で最先端のパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2026-02-16T18:58:55Z)
• Continuous Program Search [4.198653054660764]
  潜在距離が振る舞いの意味を持つ連続的なプログラム空間を学習し、進化的アルゴリズムを変更することなくこの構造を利用する突然変異演算子を設計する。 制御された潜在摂動下での行動レベルのばらつきを追跡することで局所性を計測し,行動-局所的連続的な変動に対する経験的信頼領域を同定する。 等方的突然変異は時折高いピーク性能を達成するが、幾何コンパイルされた突然変異はより速く、より信頼性の高い進行をもたらす。
  論文  参考訳（メタデータ） (2026-02-07T18:41:14Z)
• EvoLattice: Persistent Internal-Population Evolution through Multi-Alternative Quality-Diversity Graph Representations for LLM-Guided Program Discovery [2.1756081703276]
  EvoLatticeは、単一の非巡回グラフ内の候補プログラムやエージェントの行動の全集団を表すフレームワークである。 各ノードは複数の永続的な選択肢を格納し、グラフを通る有効なパスは、それぞれ別の候補を定義する。 EvoLatticeは、ローカルデザインの選択がグローバルパフォーマンスにどのように影響するかを示す統計データを生成する。
  論文  参考訳（メタデータ） (2025-12-15T19:43:06Z)
• Score-based Causal Representation Learning with Interventions [54.735484409244386]
  本稿では,潜在因果変数を間接的に観察する際の因果表現学習問題について検討する。 目的は、 (i) 未知の線形変換(スケーリングまで)を回復し、 (ii) 潜在変数の下の有向非巡回グラフ(DAG)を決定することである。
  論文  参考訳（メタデータ） (2023-01-19T18:39:48Z)
• Recurrence Boosts Diversity! Revisiting Recurrent Latent Variable in Transformer-Based Variational AutoEncoder for Diverse Text Generation [85.5379146125199]
  変分自動エンコーダ(VAE)はテキスト生成において広く採用されている。 本稿ではトランスフォーマーをベースとしたリカレントVAE構造であるTRACEを提案する。
  論文  参考訳（メタデータ） (2022-10-22T10:25:35Z)
• Diffusion-LM Improves Controllable Text Generation [80.50044830018442]
  言語モデル(LM)の振る舞いを再学習せずに制御することは、自然言語生成において大きな問題である。 拡散-LMと呼ばれる連続拡散に基づく非自己回帰型言語モデルを開発した。 本研究では,6つのきめ細粒度制御タスクに対してDiffusion-LMの制御に成功したことを実証した。
  論文  参考訳（メタデータ） (2022-05-27T20:12:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。