論文の概要: Evolutionary Task Discovery: Advancing Reasoning Frontiers via Skill Composition and Complexity Scaling
- arxiv url: http://arxiv.org/abs/2605.11666v1
- Date: Tue, 12 May 2026 07:26:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-13 21:48:56.664208
- Title: Evolutionary Task Discovery: Advancing Reasoning Frontiers via Skill Composition and Complexity Scaling
- Title(参考訳): 進化的タスク発見: スキル構成と複雑さのスケーリングを通じて、フロンティアの推論を促進する
- Authors: Liqin Ye, Yanbin Yin, Michael Galarnyk, Yuzhao Heng, Sudheer Chava, Chao Zhang,
- Abstract要約: Evoutionary Task Discovery (EvoTD)は、アルゴリズムスキルと複雑度属性の2軸多様体上の有向探索としてデータを扱うフレームワークである。
多様性を高めるために新しいスキル構成を合成するクロスオーバー演算子と、構造制約をスケールするパラメトリック変異演算子を紹介する。
EvoTDは、モデルアーキテクチャ、事前学習体制、スケールを一貫して一般化する実質的な推論ゲインを提供します。
- 参考スコア(独自算出の注目度): 10.652489725330401
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The reasoning frontier of Large Language Models (LLMs) has advanced significantly through modern post-training paradigms (e.g., Reinforcement Learning from Verifiable Rewards (RLVR)). However, the efficacy of these methods remains fundamentally constrained by the diversity and complexity of the training data. One practical solution is data synthesis; yet, prevalent methods relying on unstructured mutation or exploration suffer from homogeneity collapse, failing to systematically expand the reasoning frontier. To overcome this, we propose Evoutionary Task Discovery (EvoTD), a framework that treats data synthesis as a directed search over a dual-axis manifold of Algorithmic Skills and Complexity Attributes. We introduce structured evolutionary operators to navigate this space: a Crossover operator that synthesizes novel skill compositions to enhance diversity, and a Parametric Mutation operator that scales structural constraints (e.g., input size, tree depth) to drive robust generalization. Crucially, we integrate a dynamic Zone of Proximal Development filter, ensuring tasks lie within the learnable region of the model. Empirically, EvoTD delivers substantial reasoning gains that generalize consistently across model architectures, pretraining regimes, and scales, demonstrating that structured evolutionary curricula can effectively support reasoning improvement. We release our code on https://github.com/liqinye/EvoTD.
- Abstract(参考訳): LLM(Large Language Models)の推論フロンティアは、現代のポストトレーニングパラダイム(例えば、RLVR(Reinforcement Learning from Verifiable Rewards))を通じて大きく進歩している。
しかし、これらの手法の有効性は、トレーニングデータの多様性と複雑さによって根本的に制約されているままである。
1つの実践的な解決策はデータ合成であり、しかし、非構造突然変異や探索に依存する一般的な手法は、均質性の崩壊に悩まされ、推論フロンティアを体系的に拡張することができない。
これを解決するために,アルゴリズムスキルと複雑度属性の2軸多様体上の有向探索としてデータ合成を扱うフレームワークであるEvoutionary Task Discovery (EvoTD)を提案する。
多様性を高めるために新しいスキル構成を合成するクロスオーバー演算子と、構造制約(例えば、入力サイズ、木の深さ)を拡大して堅牢な一般化を促進するパラメトリック変異演算子を導入する。
重要な点として、我々は、学習可能なモデルの領域内にタスクを確実に配置する、近似開発フィルタの動的ゾーンを統合する。
経験的に、EvoTDはモデルアーキテクチャ、事前学習体制、スケールにわたって一貫して一般化する実質的な推論ゲインを提供し、構造化された進化的カリキュラムが推論の改善を効果的に支援できることを実証している。
コードについてはhttps://github.com/liqinye/EvoTD.comで公開しています。
関連論文リスト
- A Deep Dive into Scaling RL for Code Generation with Synthetic Data and Curricula [39.433615386487126]
本稿では,教師モデルを用いたスケーラブルなマルチターン合成データ生成パイプラインを提案する。
シングルターン生成と比較して、このマルチターンアプローチは有効な合成問題の収量を大幅に改善する。
我々は,Llama3.1-8BインストラクションとQwen3-8Bベースモデルファミリ間のRLトレーニングにおいて,タスクの難易度,カリキュラムのスケジューリング,環境多様性がどう相互作用するかを体系的に研究する。
論文 参考訳(メタデータ) (2026-03-25T11:23:26Z) - Beyond Quantity: Trajectory Diversity Scaling for Code Agents [51.71414642763219]
Trajectory Diversity Scalingは、コードエージェントのためのデータ合成フレームワークである。
TDScalingは、(1)実際のサービスの論理的依存関係をキャプチャするBusiness Clusterメカニズム、(2)軌道コヒーレンスを強制するブループリント駆動のマルチエージェントパラダイム、(3)ロングテールシナリオを指向する適応的な進化メカニズムの4つの革新を統合しています。
論文 参考訳(メタデータ) (2026-02-03T07:43:03Z) - DeltaEvolve: Accelerating Scientific Discovery through Momentum-Driven Evolution [28.737322041874293]
LLM駆動の進化系は、自動科学発見の可能性を証明している。
AlphaEvolveのような既存のアプローチは、文脈非効率なフルコード履歴に依存している。
本稿では,完全なコード履歴を構造化セマンティックデルタに置き換える運動量駆動型進化的フレームワークDeltaEvolveを提案する。
論文 参考訳(メタデータ) (2026-02-02T23:47:54Z) - Top 10 Open Challenges Steering the Future of Diffusion Language Model and Its Variants [85.33837131101342]
本稿では,基盤基盤,アルゴリズム最適化,認知推論,統合マルチモーダルインテリジェンスという4つの柱で構成された戦略ロードマップを提案する。
この移行は、複雑な構造的推論、動的自己補正、シームレスなマルチモーダル統合が可能な次世代AIの開発に不可欠である、と我々は主張する。
論文 参考訳(メタデータ) (2026-01-20T14:58:23Z) - Learning to Evolve with Convergence Guarantee via Neural Unrolling [37.99564850768798]
両レベルのメタ最適化フレームワークであるL2E(Learning to Evolve)を導入する。
L2Eは、KM(Krasnosel'skii-Mann)固定点理論に基づくニューラルアンローリング過程として進化探索を再構成する。
実験では、高次元空間におけるL2Eのスケーラビリティと、合成および実世界の制御タスクにまたがる堅牢なゼロショット一般化が示される。
論文 参考訳(メタデータ) (2025-12-12T10:46:25Z) - Improving Deepfake Detection with Reinforcement Learning-Based Adaptive Data Augmentation [60.04281435591454]
CRDA(Curriculum Reinforcement-Learning Data Augmentation)は、マルチドメインの偽造機能を段階的にマスターするための検出器を導く新しいフレームワークである。
私たちのアプローチの中心は、強化学習と因果推論を統合することです。
提案手法は検出器の一般化性を大幅に向上し,複数のクロスドメインデータセット間でSOTA法より優れている。
論文 参考訳(メタデータ) (2025-11-10T12:45:52Z) - EvoSyn: Generalizable Evolutionary Data Synthesis for Verifiable Learning [63.03672166010434]
我々は、進化的、タスクに依存しない、戦略を導いた、実行可能検証可能なデータ合成フレームワークを紹介します。
問題、多様な候補解、検証成果物を共同で合成する。
これは、人間による注釈付きチェックと戦略によるチェックの合意を強制する一貫性に基づく評価器を通じて戦略を反復的に発見する。
論文 参考訳(メタデータ) (2025-10-20T11:56:35Z) - Spatial-Temporal-Spectral Unified Modeling for Remote Sensing Dense Prediction [20.1863553357121]
リモートセンシングのための現在のディープラーニングアーキテクチャは、基本的に堅固である。
本稿では,統合モデリングのための空間時間スペクトル統一ネットワーク(STSUN)について紹介する。
STSUNは任意の空間サイズ、時間長、スペクトル帯域で入力および出力データに適応することができる。
様々な密集した予測タスクと多様な意味クラス予測を統一する。
論文 参考訳(メタデータ) (2025-05-18T07:39:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。