論文の概要: ELMER: Evolutionary Language Model that Explores and Refines
- arxiv url: http://arxiv.org/abs/2608.10196v1
- Date: Mon, 10 Aug 2026 20:14:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-12 19:14:45.804409
- Title: ELMER: Evolutionary Language Model that Explores and Refines
- Title(参考訳): ELMER: 進化的言語モデル
- Abstract要約: 本稿では,自然言語のポリシー記述を探索し,実行プログラムをコンパイルする進化型言語モデルを提案する。
完全に微調整されたQwen3-8Bモデルは、条件付き意味突然変異、自然言語からドメイン固有言語(GPTL)コンパイル、GPTLから自然言語への3つのタスク条件付き操作を学習する。
解析の結果, 条件入力(変異強度)は意味的編集組成を体系的に変化させ, 言語変異は小・小・小の行動変位における親の適合性を保っていることがわかった。
- 参考スコア(独自算出の注目度): 3.899863694644006
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Program evolution can measure whether a mutation helped, but it rarely controls how far the mutation moves in behavior space. Syntactic edit size is an unreliable proxy: a small code change can alter nearly every action, while a larger rewrite can preserve the same execution trace. We introduce an Evolutionary Language Model that searches over natural-language policy descriptions and compiles typed programs for execution. A fully fine-tuned Qwen3-8B model learns three task-conditioned operations: conditional semantic mutation, natural language to domain-specific language (GPTL) compilation, and GPTL to natural language translation. The model is fine-tuned with conditional input on the mutation strength (low, medium, high) using Direct Preference Optimization (oDPO). Across 252 fixed-budget evolutionary searches, oDPO improves both behavioral calibration and finite-budget search efficiency. Natural-language attains the highest observed held-out fitness. Our analysis shows that the condition input (mutation strength) systematically changes semantic edit composition and that language mutations preserve more parent fitness at matched small-to-moderate behavioral displacement. These results show that language can serve as a steerable, execution-grounded search representation over executable program space.
- Abstract(参考訳): プログラムの進化は、突然変異が助けになったかどうかを測定することができるが、その変異が行動空間内でどこまで動くかを制御することは滅多にない。
構文的編集サイズは信頼性の低いプロキシであり、小さなコード変更はすべてのアクションを変更することができ、大きな書き直しは同じ実行トレースを保持することができる。
本稿では,自然言語のポリシー記述を探索し,型付きプログラムをコンパイルする進化型言語モデルを提案する。
完全に微調整されたQwen3-8Bモデルは、条件付き意味突然変異、自然言語からドメイン固有言語(GPTL)コンパイル、GPTLから自然言語への3つのタスク条件付き操作を学習する。
このモデルは、直接選好最適化(oDPO)を用いて、突然変異強度(低、中、高)の条件入力で微調整される。
252以上の固定予算進化探索において、oDPOは行動キャリブレーションと有限予算探索効率の両方を改善している。
自然言語は、最も観察された持久力に達する。
解析の結果, 条件入力(変異強度)は意味的編集組成を体系的に変化させ, 言語変異は小・小・小の行動変位における親の適合性を保っていることがわかった。
これらの結果から,言語は実行可能プログラム空間上で実行可能な検索表現として機能することが示された。
関連論文リスト
- Dictionary-Guided Mutation Operators for Automated HDL Repair [0.8450904497835263]
本稿では,ANTLR由来のDUT固有突然変異語彙とシミュレーション分割故障局所化モジュールを組み合わせた辞書誘導型HDL修復システムを提案する。
提案手法は,CirFixでは修正できない6桁のマルチバグインスタンスを含む,14のバグ変種に対して,正しいオラクルパスの修正を生成する。
論文 参考訳(メタデータ) (2026-09-01T18:43:53Z) - Round-Trip Mutation Testing: Translating Code to Natural Language Intent and back [5.4804081616439975]
本稿では,ラウンド・トリップ・ミューテーション・テスト(RTM)について述べる。
RTMは、プログラムコードとその意図の間のLLMの誤訳から突然変異を生成する。
本研究は, より多種多様な変異体を生産するラウンドトリップ変異試験の可能性を示すものである。
論文 参考訳(メタデータ) (2026-07-03T11:35:58Z) - FormalEvolve: Neuro-Symbolic Evolutionary Search for Diverse and Prover-Effective Autoformalization [7.641987396532518]
我々は、意味的に一貫性のあるレパートリーの予算付きテストタイム検索として、オートフォーマル化を定式化する。
本稿では,コンパイル型ニューロシンボリック進化フレームワークであるFormalEvolveを提案する。
CombiBenchとProofNetでは、FormalEvolveは58.0%と84.9%のセマンティックヒット率(SH@100)に達し、セマンティック成功のクロスプロブレム濃度を低下させる。
論文 参考訳(メタデータ) (2026-03-20T10:14:00Z) - Transducing Language Models [52.080921891265255]
決定論的文字列から文字列への変換から導かれる言語モデルのためのフレームワークを提案する。
本研究では,FSTを用いた言語モデルを構成するアルゴリズムを開発した。
本稿では,正確なアルゴリズム,効率的な近似,理論的解析について述べる。
論文 参考訳(メタデータ) (2026-03-05T14:04:08Z) - Continuous Program Search [4.198653054660764]
潜在距離が振る舞いの意味を持つ連続的なプログラム空間を学習し、進化的アルゴリズムを変更することなくこの構造を利用する突然変異演算子を設計する。
制御された潜在摂動下での行動レベルのばらつきを追跡することで局所性を計測し,行動-局所的連続的な変動に対する経験的信頼領域を同定する。
等方的突然変異は時折高いピーク性能を達成するが、幾何コンパイルされた突然変異はより速く、より信頼性の高い進行をもたらす。
論文 参考訳(メタデータ) (2026-02-07T18:41:14Z) - Minimal-Edit Instruction Tuning for Low-Resource Indic GEC [0.0]
Indic言語の文法的誤り訂正は、限られた監督、多種多様なスクリプト、豊富な形態に直面する。
命令調整された大規模言語モデルと保守的復号化を用いた拡張不要なセットアップを提案する。
論文 参考訳(メタデータ) (2025-11-28T21:38:27Z) - SSVD: Structured SVD for Parameter-Efficient Fine-Tuning and Benchmarking under Domain Shift in ASR [65.90944188787786]
ローランク適応(LoRA)は、音声アプリケーションで広く使われているが、VeRA、DoRA、PiSSA、SVFTといった最先端の変種は、主に言語や視覚タスクのために開発されており、音声による検証は限られている。
本研究は,これらのPEFTメソッドをESPnet内での総合的な統合とベンチマークを行う。
本研究では、0.1Bから2Bまでのモデルスケールで、幼児の発話や方言の変化を含むドメインシフト音声認識タスクに関するすべての手法を評価する。
論文 参考訳(メタデータ) (2025-09-02T20:51:17Z) - Can Language Models Discover Scaling Laws? [57.794209392781845]
本稿では,拡張法則モデルとパラメータを協調的に最適化し,変数間の複雑な関係を自律的に探索する進化型エージェントSLDAgentを紹介する。
SLDAgentが、確立された人間由来の法則よりも、一貫して正確な外挿を示す法則を自動的に発見できることを、初めて実証した。
論文 参考訳(メタデータ) (2025-07-27T05:45:26Z) - Transformer Working Memory Enables Regular Language Reasoning and
Natural Language Length Extrapolation [72.71398034617607]
そこで我々はRegularGPTというトランスフォーマーの変種を提案する。
ウェイトシェア、アダプティブディープス、スライディングディレイテッド・アテンションの新たな組み合わせにより、RegularGPTは深さ次元に沿ってワーキングメモリを構成する。
自然言語長外挿作業においてRegularGPTを試験した結果,局所的な窓の注意効果を再検討することがわかった。
論文 参考訳(メタデータ) (2023-05-05T18:54:40Z) - Natural Language to Code Translation with Execution [82.52142893010563]
実行結果-プログラム選択のための最小ベイズリスク復号化。
そこで本研究では,自然言語からコードへのタスクにおいて,事前訓練されたコードモデルの性能を向上することを示す。
論文 参考訳(メタデータ) (2022-04-25T06:06:08Z) - SML: a new Semantic Embedding Alignment Transformer for efficient
cross-lingual Natural Language Inference [71.57324258813674]
トランスフォーマーが質問応答、自然言語推論(NLI)、要約といった様々なタスクを精度良く実行できることは、現在この種のタスクに対処するための最良のパラダイムの1つとしてランク付けすることができる。
nliは、複雑な文を理解するための知識が必要であり、仮説と前提の関係を確立するため、これらのアーキテクチャをテストする最良のシナリオの1つである。
本稿では,自然言語推論のための多言語組込みを効率的にアライメントするための新しいアーキテクチャ siamese multilingual transformer を提案する。
論文 参考訳(メタデータ) (2021-03-17T13:23:53Z) - Inducing Language-Agnostic Multilingual Representations [61.97381112847459]
言語間の表現は、世界中のほとんどの言語でNLP技術が利用可能になる可能性がある。
i) 対象言語のベクトル空間をピボットソース言語に再配置すること、(ii) 言語固有の手段と分散を取り除くこと、(ii) 副産物としての埋め込みの識別性を向上すること、(iii) 形態的制約や文の並べ替えを除去することによって言語間の入力類似性を高めること、の3つのアプローチを検討する。
論文 参考訳(メタデータ) (2020-08-20T17:58:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。