論文の概要: EvoPool: Evolutionary Programmatic Annotation for Label-Efficient Specialized Supervision
- arxiv url: http://arxiv.org/abs/2606.01617v1
- Date: Mon, 01 Jun 2026 03:10:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:29.894092
- Title: EvoPool: Evolutionary Programmatic Annotation for Label-Efficient Specialized Supervision
- Title(参考訳): EvoPool: ラベル効率の良い特殊化スーパービジョンのための進化的プログラムアノテーション
- Authors: Tianyi Xu, Yaolun Zhang, Xuan Ouyang, Huazheng Wang,
- Abstract要約: EvoPoolはダーウィンの進化に触発された進化的マルチエージェントフレームワークである。
プール投票はテキスト認識アグリゲータであるEvoAggによってソフトトレーニングラベルにマップされる。
Poolは平均+0.141マクロF1で最強のLCMアノテーションベースラインを破り、ChemProtでは+0.301、PubMedでは+0.265に達した。
- 参考スコア(独自算出の注目度): 22.68938063823779
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models excel at general tasks but underperform smaller supervised models in specialized, high-stakes domains where training labels are costly. We address this regime with EvoPool, an evolutionary multi-agent framework inspired by Darwinian evolution. Three specialized agents iteratively propose executable annotator code, a small validation set provides a fitness signal, and a deterministic gate keeps only annotators that pass viability, diversity, and marginal-contribution checks across generations. Pool votes are mapped to soft training labels by EvoAgg, a text-aware aggregator combining semantic features with annotator-vote features. The authored pool runs at near-zero per-example cost and is 4500 to 31000x faster than LLM annotation on 100K examples. Across 7 of 8 LLM-weak specialized and complex tasks spanning biomedical relation extraction, legal-clause classification, complex reasoning, and dense multi-label biomedical classification, EvoPool beats the strongest LLM annotation baseline by an average +0.141 macro-F1, peaking at +0.301 on ChemProt and +0.265 on PubMed. Code is available at: https://github.com/tianyi0216/EvoPool
- Abstract(参考訳): 大規模言語モデルは、一般的なタスクでは優れているが、訓練ラベルが高価である専門的かつ高い領域において、より小さな教師付きモデルの性能を損なう。
我々は、ダーウィンの進化にインスパイアされた進化的マルチエージェントフレームワークであるEvoPoolでこの問題に対処する。
3つの専門エージェントが実行可能アノテータコードを反復的に提案し、小さな検証セットが適合信号を提供し、決定論的ゲートは世代毎に可視性、多様性、限界貢献性チェックをパスするアノテータのみを保持する。
プール投票は、セマンティック機能とアノテータ-ボイト機能を組み合わせたテキスト認識アグリゲータであるEvoAggによって、ソフトトレーニングラベルにマップされる。
The authored pool run at near-zero per-example cost, is 4500 to 31000x faster than LLM annotations on 100K example。
バイオメディカル関連抽出,法定クラス分類,複雑推論,高密度多ラベルバイオメディカル分類にまたがる8つの LLM-weak 専門・複雑タスクのうち7つで,EvoPool は ChemProt では 0.301 ,PubMed では +0.265 で最強の LLM アノテーションベースラインを平均 +0.141 マクロ F1 で破っている。
コードは、https://github.com/tianyi0216/EvoPoolで入手できる。
関連論文リスト
- Prompt Codebooks: Discrete Compositional Optimization for Language Model Instruction Refinement [10.441136483320205]
本稿では,新しい合成プロンプト最適化フレームワークであるPrompt Codebooksを提案する。
これは、APOを自然言語本能の有限語彙上の離散学習であると再認識する。
ゼロショット以上は+30.36ポイントまで改善され、HotpotQAでは+3.34、アグリゲートでは+1.11で最強のベースライン(GEPA)を超える。
論文 参考訳(メタデータ) (2026-05-27T11:57:12Z) - GRAPE: Let GPRO Supervise Query Rewriting by Ranking for Retrieval [19.73916326078242]
CLIPモデルは,テキストと画像データを統合埋め込み空間に整列させることにより,大規模検索システムの基盤となっている。
コストのかかるリトレーニングを避けるため、既存のメソッドは主に大規模言語モデル(LLM)によるクエリ書き換え戦略を採用している。
GRAPEは,検索誘導型クエリ書き換えにランキング信号を組み込むプラグイン・アンド・プレイ拡張手法である。
論文 参考訳(メタデータ) (2025-09-27T15:36:59Z) - Rewriting Pre-Training Data Boosts LLM Performance in Math and Code [21.587613905318705]
Llama 3.3 Community Licenseの下でリリースされた2つのデータセットを導入し、大きな言語モデル(LLM)のパフォーマンスを大幅に向上させる。
SwallowCodeはPythonスニペットを,構文検証,ピリントベースのスタイルフィルタリング,2段階の書き換えプロセスという,新しい4段階のパイプラインを通じて洗練する。
We show that continual pre-training of Llama-3.1-8B with SwallowCode boosts pass@1 by +17.0 on HumanEval and +17.7 on HumanEval+ than Stack-Edu。
論文 参考訳(メタデータ) (2025-05-05T07:38:43Z) - OpenCodeInstruct: A Large-scale Instruction Tuning Dataset for Code LLMs [62.68905180014956]
我々は,500万の多様なサンプルからなる最大オープンアクセス命令チューニングデータセットであるOpenCodeInstructを紹介した。
各サンプルには、プログラミング質問、ソリューション、テストケース、実行フィードバック、LLM生成の品質評価が含まれている。
LLaMAやQwenなど,さまざまなベースモデルを,データセットを使用して複数のスケール(1B+,3B+,7B+)にわたって微調整します。
論文 参考訳(メタデータ) (2025-04-05T02:52:16Z) - Collab: Controlled Decoding using Mixture of Agents for LLM Alignment [90.6117569025754]
人間のフィードバックからの強化学習は、大規模言語モデルを整合させる効果的な手法として現れてきた。
制御された復号化は、再訓練せずに推論時にモデルを整列するメカニズムを提供する。
本稿では,既存の既成のLCMポリシを活用するエージェントベースのデコーディング戦略の混合を提案する。
論文 参考訳(メタデータ) (2025-03-27T17:34:25Z) - Symbolic Mixture-of-Experts: Adaptive Skill-based Routing for Heterogeneous Reasoning [76.10639521319382]
シンボリックなテキストベースでグラデーションのないMixture-of-ExpertsフレームワークであるSybolic-MoEを提案する。
GPT4o-miniのような強力なLCMやマルチエージェントアプローチに勝るSymbolic-MoEは、最高のマルチエージェントベースラインよりも8.15%向上している。
論文 参考訳(メタデータ) (2025-03-07T18:03:13Z) - SemiReward: A General Reward Model for Semi-supervised Learning [58.47299780978101]
半教師付き学習(SSL)は、擬似ラベリングによる自己学習フレームワークの様々な改善により、大きな進歩をみせた。
主な課題は、高品質な擬似ラベルを確認バイアスと区別する方法である。
本稿では、報酬スコアを予測して高品質な擬似ラベルを評価・フィルタリングするセミ教師付きリワードフレームワーク(SemiReward)を提案する。
論文 参考訳(メタデータ) (2023-10-04T17:56:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。