論文の概要: EvoSkillRec: Skill-Genome Evolution for Recommender Architecture Discovery
- arxiv url: http://arxiv.org/abs/2609.34552v1
- Date: Mon, 28 Sep 2026 08:12:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 12:32:45.239813
- Title: EvoSkillRec: Skill-Genome Evolution for Recommender Architecture Discovery
- Title(参考訳): EvoSkillRec: Recommenderアーキテクチャ発見のためのスキルゲノム進化
- Abstract要約: EvoSkillRecは累積リコメンデータアーキテクチャ進化のためのプロモーション・アンド・リユースフレームワークである。
推奨者を原子実行可能なスキルに分解し、アーキテクチャを型付きスキルゲノムとして表現する。
まず、検証済みのスキルを変異、再結合、特殊化、再利用し、LLMプランナーとシンセサイザーが新しいスキルモジュールを発明するオープンエンドのコード空間を作る。
- 参考スコア(独自算出の注目度): 49.42532199240193
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Modern recommender systems advance not only by scaling data and parameters, but also by encoding task-specific inductive biases through architecture, including sparse feature interactions for click-through rate (CTR) prediction, temporal attention for sequential recommendation, and expert routing for multi-task learning. However, these biases are typically human expert designed or searched within predefined operator spaces. Although Recent LLM-driven code evolution expands this space, unconstrained edits often produce invalid or ineffective architectures, underuse established architecture design knowledge, and fail to preserve successful innovations for reuse. We introduce EvoSkillRec, a promotion-and-reuse framework for cumulative recommender architecture evolution. It first decomposes recommenders into atomic executable skills and represents architectures as typed skill genomes, with each skill equipped with input--output types, semantic annotations, and implementation code. We then evolve models with different tasks through two coupled spaces: a constrained skill--space that mutates, recombines, specializes, and reuses validated skills, and an open-ended code--space in which LLM planners and synthesizers invent new skill modules using prior evolution traces and accumulated experience. An autoresearch controller evaluates candidates, diagnoses failures, retrieves relevant skills, promotes validated innovations into the skill library, and adaptively allocates the proposal budget between the two spaces. Extensive experiments on CTR prediction, multi-task learning, and multi-domain learning, including resource-constrained co-optimization of predictive quality and model FLOPs utilization in generative ranking models, consistently demonstrate the effectiveness of our proposed EvoSkillRec.
- Abstract(参考訳): 現代のレコメンデータシステムは、データとパラメータをスケーリングするだけでなく、クリックスルーレート(CTR)予測のためのスパース機能相互作用、シーケンシャルなレコメンデーションのための時間的注意、マルチタスク学習のためのエキスパートルーティングなど、アーキテクチャを通してタスク固有の帰納バイアスを符号化することで進化する。
しかしながら、これらのバイアスは通常、事前に定義された演算子空間内で設計または探索される。
近年のLLM駆動のコード進化は、この領域を拡大するが、制約のない編集は、しばしば無効または非効率なアーキテクチャを生み出し、確立されたアーキテクチャ設計の知識を過小評価し、再利用のためのイノベーションを成功させるのに失敗する。
EvoSkillRecは、累積的なレコメンデータアーキテクチャ進化のためのプロモーション・アンド・リユースフレームワークである。
まず、レコメンダを原子実行可能なスキルに分解し、アーキテクチャを型付きスキルゲノムとして表現し、各スキルに入力出力型、セマンティックアノテーション、実装コードを備えた。次に、2つの結合された空間を通して異なるタスクを持つモデルを進化させます。それは、検証されたスキルを変更、再結合、特殊化、再利用する制約付きスキル空間と、LCMプランナーとシンセサイザーが、以前の進化トレースと蓄積された経験を使って新しいスキルモジュールを発明するオープンなコード空間です。
自動検索制御装置は、候補を評価し、失敗を診断し、関連するスキルを検索し、スキルライブラリに検証済みのイノベーションを推進し、2つのスペース間で提案予算を適応的に割り当てる。
CTR予測、マルチタスク学習、マルチドメイン学習に関する広範な実験を行い、予測品質のリソース制約による最適化と、生成的ランキングモデルにおけるFLOPsの利用について、提案したEvoSkillRecの有効性を一貫して実証した。
関連論文リスト
- Evo-Harness: Context-to-Harness Skill Compilation for Self-Evolving Agents [67.97365535829098]
経験から学ぶことは、有能で自己改善型の大規模言語モデル(LLM)エージェントの開発に不可欠である。
Evo-Harnessは、ノイズの多いシングルショット実行を、クロスドメインとトピックレベルの適応のための再利用可能なスキルハーネスに蒸留する。
本分析は,エボ・ハーネスの有効性を実証し,LLMエージェントがリアルタイムで効果的に学習する方法の原理的理解を提供する。
論文 参考訳(メタデータ) (2026-08-15T06:43:56Z) - Rethinking Self-Evolution: A Constrained Exploration-Exploitation Process for Mitigating Skill Overfitting [20.811638832981178]
大規模言語モデル(LLM)エージェントは、過去のインタラクションからの経験を蓄積し再利用する必要がある。
データ駆動のスキル最適化は、実際の環境から収集された限られた軌道に過度に適合する傾向がある。
リスクを緩和する3段階フレームワークであるSkillBoostを提案する。
論文 参考訳(メタデータ) (2026-07-29T09:05:40Z) - Skill-R1: Agent Skill Evolution via Reinforcement Learning [84.35984979949502]
Skill-R1は、検証可能な報酬からインスタンスレベルの繰り返しスキル最適化のための強化学習フレームワークである。
オープンソースモデルとクローズドソースモデルの両方とのブラックボックス互換性を維持しつつ、モデルレベルの更新よりも大幅に安価に適応できる。
論文 参考訳(メタデータ) (2026-05-10T06:19:15Z) - ARISE: Agent Reasoning with Intrinsic Skill Evolution in Hierarchical Reinforcement Learning [17.98540130851038]
ARISE(Agent Reasoning via Intrinsic Skill Evolution)は階層的な強化学習フレームワークである。
共有ポリシを使用して、ハイレベルなスキルを管理し、低レベルなレスポンスを生成する。
階層的な報酬設計は、推論能力と図書館品質の共進化を導く。
論文 参考訳(メタデータ) (2026-03-17T02:03:17Z) - Hierarchical Deep Counterfactual Regret Minimization [53.86223883060367]
本稿では,大規模な状態空間や深部ゲームツリーを含むタスクにおいて,学習効率を向上させる革新的な手法であるDeep CFRの最初の階層バージョンを紹介する。
HDCFRのこれまでの研究よりも顕著な利点は、事前に定義された(人間的な)専門知識による学習の促進と、同様のタスクに移行可能なスキルの獲得を促進する能力である。
論文 参考訳(メタデータ) (2023-05-27T02:05:41Z) - Pre-training Multi-task Contrastive Learning Models for Scientific
Literature Understanding [52.723297744257536]
事前学習言語モデル(LM)は、科学文献理解タスクにおいて有効であることを示す。
文献理解タスク間の共通知識共有を容易にするために,マルチタスクのコントラスト学習フレームワークであるSciMultを提案する。
論文 参考訳(メタデータ) (2023-05-23T16:47:22Z) - EvoPrompting: Language Models for Code-Level Neural Architecture Search [21.759268833999627]
進化的ニューラルアーキテクチャ探索アルゴリズムにおける適応突然変異とクロスオーバー演算子としての言語モデル(LM)の利用について検討する。
EvoPromptingと呼ばれる手法であるソフトプロンプトチューニングと進化的プロンプトエンジニアリングの組み合わせは、常に多様かつ高性能なモデルを見つける。
論文 参考訳(メタデータ) (2023-02-28T18:37:25Z) - AutoBERT-Zero: Evolving BERT Backbone from Scratch [94.89102524181986]
そこで本稿では,提案するハイブリッドバックボーンアーキテクチャを自動検索するOP-NASアルゴリズムを提案する。
提案するOP-NASの効率を向上させるために,探索アルゴリズムと候補モデルの評価を最適化する。
実験の結果、検索されたアーキテクチャ(AutoBERT-Zero)は、様々な下流タスクにおいてBERTとそのバリエーションの異なるモデル容量を著しく上回っていることがわかった。
論文 参考訳(メタデータ) (2021-07-15T16:46:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。