論文の概要: Learning Evolution via Optimization Knowledge Adaptation

• arxiv url: http://arxiv.org/abs/2501.02200v1
• Date: Sat, 04 Jan 2025 05:35:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-07 17:10:16.324732
• Title: Learning Evolution via Optimization Knowledge Adaptation
• Title（参考訳）: 最適化知識適応による学習進化
• Authors: Chao Wang, Licheng Jiao, Jiaxuan Zhao, Lingling Li, Fang Liu, Shuyuan Yang,
• Abstract要約: 進化的アルゴリズム(EA)は、複雑なタスクの解を見つけるために、進化的演算子を通して集団を維持する。 最適化知識適応進化モデル(okaEM)を導入し,最適化能力を向上する。 okaEMは、様々な知識伝達設定におけるパフォーマンス向上のために、事前知識を活用する。 自然選択と遺伝子組換えの原理をエミュレートすることができる。
• 参考スコア（独自算出の注目度）: 50.280704114978384
• License:
• Abstract: Evolutionary algorithms (EAs) maintain populations through evolutionary operators to discover diverse solutions for complex tasks while gathering valuable knowledge, such as historical population data and fitness evaluations. However, traditional EAs face challenges in dynamically adapting to expanding knowledge bases, hindering the efficient exploitation of accumulated information and limiting adaptability to new situations. To address these issues, we introduce an Optimization Knowledge Adaptation Evolutionary Model (OKAEM), which features dynamic parameter adjustment using accumulated knowledge to enhance its optimization capabilities. OKAEM employs attention mechanisms to model the interactions among individuals, fitness landscapes, and genetic components separately, thereby parameterizing the evolutionary operators of selection, crossover, and mutation. These powerful learnable operators enable OKAEM to benefit from pre-learned extensive prior knowledge and self-tune with real-time evolutionary insights. Experimental results demonstrate that OKAEM: 1) exploits prior knowledge for significant performance gains across various knowledge transfer settings; 2) achieves competitive performance through self-tuning alone, even without prior knowledge; 3) outperforms state-of-the-art black-box baselines in a vision-language model tuning case; 4) can improve its optimization capabilities with growing knowledge; 5) is capable of emulating principles of natural selection and genetic recombination.
• Abstract（参考訳）: 進化的アルゴリズム(EA)は、歴史的人口データやフィットネス評価などの貴重な知識を集めながら、複雑なタスクに対する多様な解決策を発見するために、進化的オペレータを通して人口を維持している。 しかし、従来のEAは、知識ベースの拡大に動的に対応し、蓄積した情報の効率的な活用を妨げ、新しい状況への適応性を制限するという課題に直面しています。 これらの問題に対処するため,最適化知識適応進化モデル(okaEM)を導入し,その最適化能力を高めるために蓄積した知識を用いた動的パラメータ調整を特徴とする。 okaEMは、個人、フィットネスランドスケープ、遺伝成分間の相互作用を個別にモデル化するために注意機構を使用し、選択、交叉、突然変異の進化的演算子をパラメータ化する。 これらの強力な学習可能な演算子により、OokaEMは事前学習された事前知識と、リアルタイムな進化的洞察を持つ自己学習の恩恵を受けることができる。 実験の結果、オカエムは: 1) 各種知識伝達設定における性能向上のために,事前知識を活用する。 2) 事前の知識がなくても,自己学習だけで競争力を発揮する。 3) ビジョン言語モデルチューニングケースにおいて,最先端のブラックボックスベースラインを上回ります。 4) 知識の増大によって最適化能力を向上させることができる。 5) 自然選択と遺伝子組換えの原理をエミュレートできる。

関連論文リスト

• ELENA: Epigenetic Learning through Evolved Neural Adaptation [0.0]
  ELENAは、エピジェネティックなメカニズムを取り入れ、コア進化アプローチの適応性を高める新しい進化フレームワークである。 3つのエピジェネティックタグは、よりインテリジェントな仮説のランドスケープ探索を促進するソリューションスペース探索の導出を支援する。 実験により、ELENAは、しばしばネットワーク最適化タスクにおける最先端の手法を超越して、競争結果を達成することが示された。
  論文  参考訳（メタデータ） (2025-01-10T06:04:32Z)
• EXAdam: The Power of Adaptive Cross-Moments [0.0]
  本稿では,広く使用されているAdamAdamアルゴリズムに基づく新しい最適化アルゴリズムであるEXAdamを紹介する。 EXAdamには、(1)モーメント推定を改善するための新しいデバイアス項、(2)勾配に基づく加速度機構、(3)動的ステップサイズ公式の3つの重要な拡張が含まれている。 EXAdamはAdamよりも優れており、48.07%の高速化と4.6%、4.13%、そして2.39%の改善を実現している。
  論文  参考訳（メタデータ） (2024-12-29T00:11:54Z)
• KBAlign: Efficient Self Adaptation on Specific Knowledge Bases [73.34893326181046]
  大規模言語モデル(LLM)は通常、知識材料を瞬時に活用するために、検索強化世代に依存している。 本稿では,知識ベースを含む下流タスクへの効率的な適応を目的としたKBAlignを提案する。 提案手法は,Q&Aペアやリビジョン提案などの自己注釈付きデータを用いて反復学習を行い,モデルが知識内容を効率的に把握できるようにする。
  論文  参考訳（メタデータ） (2024-11-22T08:21:03Z)
• Auto-selected Knowledge Adapters for Lifelong Person Re-identification [54.42307214981537]
  Lifelong Person Re-Identificationは、異なる時間と場所にわたる重複しないデータセットから継続的に学習するシステムを必要とする。 リハーサルのない、あるいはリハーサルベースの既存のアプローチは、依然として破滅的な忘れ込みの問題に悩まされている。 本稿では,知識アダプタを採用した新しいフレームワークであるAdalReIDと,生涯学習のためのパラメータフリー自動選択機構を提案する。
  論文  参考訳（メタデータ） (2024-05-29T11:42:02Z)
• Cognitive Evolutionary Learning to Select Feature Interactions for Recommender Systems [59.117526206317116]
  Cellはさまざまなタスクやデータに対して,さまざまなモデルに適応的に進化可能であることを示す。 4つの実世界のデータセットの実験では、細胞は最先端のベースラインを大幅に上回っている。
  論文  参考訳（メタデータ） (2024-05-29T02:35:23Z)
• Evolutionary Reinforcement Learning: A Systematic Review and Future Directions [18.631418642768132]
  進化強化学習(EvoRL)は、複雑な問題解決における強化学習と進化アルゴリズム(EA)の限界に対する解決策である。 EvoRLはEAと強化学習を統合し、知的エージェントを訓練するための有望な道を提供する。 この体系的なレビューは、EvoRLの現状に関する洞察を提供し、人工知能の進化を続ける風景において、その能力を向上させるためのガイドを提供する。
  論文  参考訳（メタデータ） (2024-02-20T02:07:57Z)
• Discovering Attention-Based Genetic Algorithms via Meta-Black-Box Optimization [13.131971623143622]
  全く新しい遺伝的アルゴリズムをデータ駆動方式で発見する。 我々は、選択と突然変異率の適応をクロスアテンションモジュールおよびセルフアテンションモジュールとしてパラメトリズする。 学習アルゴリズムは、未確認の最適化問題、探索次元、評価予算に適用できる。
  論文  参考訳（メタデータ） (2023-04-08T12:14:15Z)
• Learning to Optimize for Reinforcement Learning [58.01132862590378]
  強化学習(Reinforcement Learning, RL)は、教師付き学習とは本質的に異なり、実際、これらの学習は単純なRLタスクでもうまく機能しない。 エージェント勾配分布は非独立で同一分布であり、非効率なメタトレーニングをもたらす。 おもちゃのタスクでしか訓練されていないが、我々の学習はブラックスの目に見えない複雑なタスクを一般化できることを示した。
  論文  参考訳（メタデータ） (2023-02-03T00:11:02Z)
• Population-Based Evolution Optimizes a Meta-Learning Objective [0.6091702876917279]
  メタラーニングと適応的進化性は,一連の学習繰り返しの後,高い性能を最適化する。 我々は、この主張を単純な進化的アルゴリズム、Population-Based Meta Learningで実証する。
  論文  参考訳（メタデータ） (2021-03-11T03:45:43Z)
• Emergent Hand Morphology and Control from Optimizing Robust Grasps of Diverse Objects [63.89096733478149]
  多様な物体をつかむために、効果的なハンドデザインが自然に現れるデータ駆動型アプローチを紹介します。 形態と把持スキルを共同で効率的に設計するベイズ最適化アルゴリズムを開発した。 我々は,新しい物体をつかむための堅牢で費用効率のよい手形態を発見するためのアプローチの有効性を実証する。
  論文  参考訳（メタデータ） (2020-12-22T17:52:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。