論文の概要: Problem-solving benefits of down-sampled lexicase selection
- arxiv url: http://arxiv.org/abs/2106.06085v1
- Date: Thu, 10 Jun 2021 23:42:09 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-14 14:08:02.892637
- Title: Problem-solving benefits of down-sampled lexicase selection
- Title（参考訳）: ダウンサンプリングレキシケース選択の問題解決効果
- Authors: Thomas Helmuth and Lee Spector
- Abstract要約: ダウンサンプルのレキシケース選択の主な利点は、進化過程が同じ計算予算内でより多くの個人を調べることができるという事実から来ています。
しかし、ダウンサンプリングが役立つ理由は、まだ完全には理解されていない。
- 参考スコア（独自算出の注目度）: 0.20305676256390928
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: In genetic programming, an evolutionary method for producing computer
programs that solve specified computational problems, parent selection is
ordinarily based on aggregate measures of performance across an entire training
set. Lexicase selection, by contrast, selects on the basis of performance on
random sequences of training cases; this has been shown to enhance
problem-solving power in many circumstances. Lexicase selection can also be
seen as better reflecting biological evolution, by modeling sequences of
challenges that organisms face over their lifetimes. Recent work has
demonstrated that the advantages of lexicase selection can be amplified by
down-sampling, meaning that only a random subsample of the training cases is
used each generation. This can be seen as modeling the fact that individual
organisms encounter only subsets of the possible environments, and that
environments change over time. Here we provide the most extensive benchmarking
of down-sampled lexicase selection to date, showing that its benefits hold up
to increased scrutiny. The reasons that down-sampling helps, however, are not
yet fully understood. Hypotheses include that down-sampling allows for more
generations to be processed with the same budget of program evaluations; that
the variation of training data across generations acts as a changing
environment, encouraging adaptation; or that it reduces overfitting, leading to
more general solutions. We systematically evaluate these hypotheses, finding
evidence against all three, and instead draw the conclusion that down-sampled
lexicase selection's main benefit stems from the fact that it allows the
evolutionary process to examine more individuals within the same computational
budget, even though each individual is examined less completely.
- Abstract（参考訳）: 遺伝的プログラミングでは、特定の計算問題を解決するコンピュータプログラムを生成する進化的手法であり、親の選択は、通常、トレーニングセット全体のパフォーマンスの総合尺度に基づいて行われる。
対照的に、語彙選択は、訓練事例のランダムなシーケンスに基づくパフォーマンスに基づいて選択され、多くの状況において問題解決力を高めることが示されている。
レキシケースの選択は、生物が生涯にわたって直面する課題のシーケンスをモデル化することで、生物学的進化をより反映すると見なすこともできる。
近年の研究では、レキシケース選択の利点がダウンサンプリングによって増幅できることが示されており、トレーニングケースのランダムサブサンプルのみが各世代で使用される。
これは、個々の生物が可能な環境のサブセットにのみ遭遇し、時間とともに環境が変化するという事実をモデル化していると見なすことができる。
ここでは、現在までサンプルの少ないレキシケース選択の最も広範囲なベンチマークを行い、その利点がより精査されることを示す。
しかし、ダウンサンプリングが役立つ理由は、まだ完全には理解されていない。
ダウンサンプリングは、プログラム評価の同じ予算でより多くの世代を処理できる、世代間でのトレーニングデータのばらつきが変化環境として機能し、適応を促進する、あるいは過度な適合を減らし、より一般的な解決策をもたらす、という仮説がある。
我々はこれらの仮説を体系的に評価し、3つすべてに対して証拠を見いだし、代わりに、ダウンサンプルのレキシケース選択の主な利点は、各個体が完全に調べられなくても、進化過程が同じ計算予算内でより多くの個人を調べることができるという事実に由来するという結論を導いた。
関連論文リスト
- Lexicase-based Selection Methods with Down-sampling for Symbolic Regression Problems: Overview and Benchmark [0.8602553195689513]
本稿では, 広範囲の記号回帰問題に対して, 関連する語彙に基づく選択法と組み合わせて, ランダムかつ情報的なダウンサンプリングを評価する。
評価予算について,エプシロン・レキシケース選択とランダムあるいはインフォメーション・ダウンサンプリングの組み合わせにより,他の手法よりも優れた結果が得られた。
論文 参考訳（メタデータ） (2024-07-31T14:26:22Z) - Diversified Batch Selection for Training Acceleration [68.67164304377732]
オンラインバッチ選択として知られる一般的な研究ラインでは、トレーニングプロセス中の情報サブセットの選択について検討している。
バニラ参照モデルフリーメソッドは、独立してデータをサンプリング的にスコア付けし、選択する。
DivBS(Diversified Batch Selection)を提案する。
論文 参考訳（メタデータ） (2024-06-07T12:12:20Z) - DALex: Lexicase-like Selection via Diverse Aggregation [6.394522608656896]
DALex(Diversely Aggregated Lexicase)は,レキシケース選択とその緩和された変種に対して,大幅な高速化を実現することを示す。
プログラム合成, 深層学習, 記号回帰, 学習システムの結果から, DALexは語彙選択とその緩和された変種に対して, 大幅な高速化を実現することが示された。
論文 参考訳（メタデータ） (2024-01-23T01:20:15Z) - Untangling the Effects of Down-Sampling and Selection in Genetic Programming [40.05141985769286]
遺伝的プログラミングシステムは、選択のための候補解の品質を評価するために、しばしば大きなトレーニングセットを使用する。
近年の研究では、ランダム・ダウンサンプリングとインフォメーション・ダウンサンプリングの両方が問題解決の成功を大幅に改善できることが示されている。
論文 参考訳（メタデータ） (2023-04-14T12:21:19Z) - Informed Down-Sampled Lexicase Selection: Identifying productive
training cases for efficient problem solving [40.683810697551166]
遺伝的プログラミング(GP)は、しばしば大きなトレーニングセットを使用し、選択中にすべてのトレーニングケースですべての個人を評価する必要がある。
ランダムダウンサンプリングレキシケースの選択は、トレーニングケースのランダムなサブセットのみの個人を評価し、同じプログラム実行量でより多くの個人を探索できるようにする。
Informed Down-Sampled Lexicase Selectionでは、人口統計を用いて、より明瞭で情報的な訓練ケースを含むダウンサンプルを構築します。
論文 参考訳（メタデータ） (2023-01-04T08:47:18Z) - Adaptive Identification of Populations with Treatment Benefit in
Clinical Trials: Machine Learning Challenges and Solutions [78.31410227443102]
確定的臨床試験において,特定の治療の恩恵を受ける患者サブポピュレーションを適応的に同定する問題について検討した。
サブポピュレーション構築のためのメタアルゴリズムであるAdaGGIとAdaGCPIを提案する。
論文 参考訳（メタデータ） (2022-08-11T14:27:49Z) - The Environmental Discontinuity Hypothesis for Down-Sampled Lexicase
Selection [0.0]
ダウンサンプリングは、レキシケース親選択技術を利用した遺伝的プログラミング(GP)に有効であることが証明された。
我々は、世代毎に行われるランダムサンプリングが不連続を引き起こし、人口が変動する環境に適応できないという仮説を立てた。
環境変化を増進させることは、単純なランダムなダウンサンプリングよりも、プログラム合成問題を解くための進化的ソリューションにとって、それほど良くないことがわかった。
論文 参考訳（メタデータ） (2022-05-31T16:21:14Z) - Equivariance Allows Handling Multiple Nuisance Variables When Analyzing
Pooled Neuroimaging Datasets [53.34152466646884]
本稿では,構造空間上でインスタンス化された同変表現学習における最近の結果と,因果推論における古典的結果の簡易な利用が,いかに効果的に実現されたかを示す。
いくつかの仮定の下で、我々のモデルが複数のニュアンス変数を扱えることを実証し、そうでなければサンプルの大部分を取り除く必要のあるシナリオにおいて、プールされた科学データセットの分析を可能にする。
論文 参考訳（メタデータ） (2022-03-29T04:54:06Z) - SelectAugment: Hierarchical Deterministic Sample Selection for Data
Augmentation [72.58308581812149]
そこで我々は,SelectAugmentと呼ばれる効果的な手法を提案し,決定論的かつオンラインに拡張するサンプルを選択する。
具体的には、各バッチにおいて、まず増分比率を決定し、次にこの比で各トレーニングサンプルを増分するかを決定する。
これにより、サンプルを増量する際のランダム性による負の効果を効果的に軽減し、DAの有効性を向上させることができる。
論文 参考訳（メタデータ） (2021-12-06T08:38:38Z) - Robust Sampling in Deep Learning [62.997667081978825]
ディープラーニングは、オーバーフィッティングを減らし、一般化を改善するために正規化メカニズムを必要とする。
分散ロバスト最適化に基づく新しい正規化手法によりこの問題に対処する。
トレーニング中は、最悪のサンプルが最適化に最も貢献するものであるように、その正確性に応じてサンプルの選択が行われる。
論文 参考訳（メタデータ） (2020-06-04T09:46:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。