論文の概要: Component-Aware Feedback for Self-Evolving Programs
- arxiv url: http://arxiv.org/abs/2609.38639v1
- Date: Tue, 29 Sep 2026 22:55:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:26.819658
- Title: Component-Aware Feedback for Self-Evolving Programs
- Title(参考訳): 自己進化型プログラムのためのコンポーネント認識フィードバック
- Abstract要約: 既存の手法では、ミューテータ LLM は乱雑な履歴から事前編集の効果を推測し、プログラムの探索を遅く不安定にする。
本稿では,各評価プログラムを親プログラムと比較し,変更したコンポーネントを識別し,関連するメトリック差とログするコンポーネント認識フィードバックを提案する。
本研究では,多段パイプラインが品質とサービスコストのバランスを取らなければならない多段最適化問題であるLLMリグレードについて検討する。
- 参考スコア(独自算出の注目度): 7.36516260607469
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: LLM-guided evolutionary search can discover complex programs, but existing methods mostly only save candidate programs and fitness scores while discarding which component edits produced which fitness metric changes. Existing methods force the mutator LLM to infer the effect of prior edits from cluttered histories, making program search slow and unstable. This is especially true for locally servable LLMs to evolve multi-component systems. We introduce component-aware feedback, which compares each evaluated program with its parent, identifies the components that changed, and logs them with the associated metric differences into an attribution memory that later mutations read. The memory keeps each change in two reference frames, local against the parent it came from and global against the seed program, which shows both the immediate effect of a change and the cumulative progress made since the seed. We study this on LLM reranking, a multi-objective optimization problem where a multi-stage pipeline must balance quality against serving cost. Across twelve \textsc{Bright} datasets, our method reaches the strongest baseline's final quality after a median of one third of the search budget and ends 7.2\% higher in held-out nDCG@10, and under a cost-aware objective it finds pipelines that are on average more accurate while using 11\% fewer tokens per query, showing component-aware feedback to be a promising direction for more efficient self-evolving systems.
- Abstract(参考訳): LLM誘導の進化的探索は複雑なプログラムを発見できるが、既存の手法はほとんどが候補プログラムと適合度スコアだけを保存し、どのコンポーネントがどのコンポーネントを編集して適合度が変化するかを破棄する。
既存の手法では、ミューテータ LLM は乱雑な履歴から事前編集の効果を推測し、プログラムの探索を遅く不安定にする。
これは、ローカルな可観測LSMがマルチコンポーネントシステムを進化させるのに特に当てはまる。
本稿では,各評価プログラムを親プログラムと比較し,変更したコンポーネントを識別し,関連するメトリクス差とログし,後続の突然変異を読み取る属性メモリに記録するコンポーネント認識フィードバックを提案する。
メモリは、それぞれの変更を2つの参照フレームに保持し、その変更がシードプログラムから生まれた親に対して局所的に、そしてグローバル的に、変更の即時効果と、シード以降に行われた累積的な進歩の両方を示す。
本研究では,多段階パイプラインが品質とサービスコストのバランスを取らなければならない多目的最適化問題であるLLMリグレードについて検討する。
12個の \textsc{Bright} データセットにまたがって,検索予算の3分の1の中央値で最強の基準値に達し,nDCG@10で7.2\%高くなる。
関連論文リスト
- Overcoming the Weakest-Link Effect in LLM-Driven Program Optimization via Heterogeneous Edit Recombination [59.679182823718556]
HEROは、多様で重複しない原子編集を生成し、それから体系的に選択し、評価器スコアを用いてコヒーレントなプログラム改善に構成するプログラムである。
我々は,アルゴリズム問題,戦略ゲーム,LSMに基づくエージェントシステムの設計,ロボット経路計画などにわたるHEROを評価する。
論文 参考訳(メタデータ) (2026-07-31T02:05:45Z) - Memory-Guided Tree Search with Cross-Branch Knowledge Transfer for LLM Solver Synthesis [3.0663322946413287]
メモリ誘導型ツリー検索フレームワークであるMEMOIRを2レベルメモリ階層で導入する。
組合せ最適化の7つの問題の中で、MEMOIRは96.7%の解の有効性を達成している。
MeMOIRのラン・トゥ・ランの妥当性標準偏差は、評価したベースライン毎の1桁以下である。
論文 参考訳(メタデータ) (2026-05-17T16:47:31Z) - Training LLMs for Multi-Step Tool Orchestration with Constrained Data Synthesis and Graduated Rewards [76.49428173793386]
LLMは、中間出力を伝搬しながら、正しい順序で複数の依存APIを呼び出す必要がある。
既存の環境は、シミュレーションデータを使った単純なターン毎の関数呼び出しとバイナリ報酬に重点を置いている。
まず、実APIレスポンスの大規模キャッシュを背景とした強化学習環境を構築し、有効なマルチステップオーケストレーショントレースをサンプリングするデータ合成パイプラインを実現する。
第二に、正当性を原子の妥当性とオーケストレーションに分解する、段階的な報酬設計を提案する。
論文 参考訳(メタデータ) (2026-03-25T18:31:39Z) - EvoLattice: Persistent Internal-Population Evolution through Multi-Alternative Quality-Diversity Graph Representations for LLM-Guided Program Discovery [2.1756081703276]
EvoLatticeは、単一の非巡回グラフ内の候補プログラムやエージェントの行動の全集団を表すフレームワークである。
各ノードは複数の永続的な選択肢を格納し、グラフを通る有効なパスは、それぞれ別の候補を定義する。
EvoLatticeは、ローカルデザインの選択がグローバルパフォーマンスにどのように影響するかを示す統計データを生成する。
論文 参考訳(メタデータ) (2025-12-15T19:43:06Z) - URaG: Unified Retrieval and Generation in Multimodal LLMs for Efficient Long Document Understanding [55.45331924836242]
MLLM内での検索と生成を統一するフレームワークであるURaGについて述べる。
URaGは,計算オーバーヘッドを44~56%削減し,最先端性能を実現する。
論文 参考訳(メタデータ) (2025-11-13T17:54:09Z) - LLM Program Optimization via Retrieval Augmented Search [71.40092732256252]
提案手法は,提案手法によって最適化されたビーム探索を行う検索アルゴリズムであるRetrieval Augmented Search (RAS) である。
我々は、RASが従来の最先端のブラックボックス適応戦略よりも1.8$times$パフォーマンスが高いことを示す。
また、トレーニング例を「アトミックな編集」に分解することで、解釈可能性を向上させるAEGISと呼ばれる手法を提案する。
論文 参考訳(メタデータ) (2025-01-31T06:34:47Z) - ALoRE: Efficient Visual Adaptation via Aggregating Low Rank Experts [71.91042186338163]
ALoREは、Kroneckerによって構築された超複素パラメータ化空間をAggregate Low Rank Expertsに再利用する新しいPETL法である。
巧妙な設計のおかげで、ALoREは無視できる余分なパラメータを保持し、凍ったバックボーンに強制的にマージできる。
論文 参考訳(メタデータ) (2024-12-11T12:31:30Z) - FIRST: Faster Improved Listwise Reranking with Single Token Decoding [56.727761901751194]
まず、第1生成識別子の出力ロジットを活用して、候補のランク付け順序を直接取得する新しいリストワイズLLMリグレードアプローチであるFIRSTを紹介する。
実験結果から、BEIRベンチマークの利得により、FIRSTはロバストなランキング性能を維持しつつ、推論を50%高速化することが示された。
以上の結果から,LLMリランカーはクロスエンコーダに比べて強い蒸留信号を提供できることが示唆された。
論文 参考訳(メタデータ) (2024-06-21T21:27:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。