論文の概要: The Impact of Asynchrony on Parallel Model-Based EAs

• arxiv url: http://arxiv.org/abs/2303.15543v1
• Date: Mon, 27 Mar 2023 18:49:22 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-29 17:25:36.276114
• Title: The Impact of Asynchrony on Parallel Model-Based EAs
• Title（参考訳）: 並列モデルに基づくEAにおける非同期性の影響
• Authors: Arthur Guijt, Dirk Thierens, Tanja Alderliesten, Peter A.N. Bosman
• Abstract要約: 非同期並列化設定において,MBEAに対する評価時間バイアスの影響と存在について検討する。 現代のMBEAであるGOMEAが評価時間バイアスの影響を受けていないのに対して、より古典的なMBEAであるECGAはGAのように影響を受けています。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: In a parallel EA one can strictly adhere to the generational clock, and wait for all evaluations in a generation to be done. However, this idle time limits the throughput of the algorithm and wastes computational resources. Alternatively, an EA can be made asynchronous parallel. However, EAs using classic recombination and selection operators (GAs) are known to suffer from an evaluation time bias, which also influences the performance of the approach. Model-Based Evolutionary Algorithms (MBEAs) are more scalable than classic GAs by virtue of capturing the structure of a problem in a model. If this model is learned through linkage learning based on the population, the learned model may also capture biases. Thus, if an asynchronous parallel MBEA is also affected by an evaluation time bias, this could result in learned models to be less suited to solving the problem, reducing performance. Therefore, in this work, we study the impact and presence of evaluation time biases on MBEAs in an asynchronous parallelization setting, and compare this to the biases in GAs. We find that a modern MBEA, GOMEA, is unaffected by evaluation time biases, while the more classical MBEA, ECGA, is affected, much like GAs are.
• Abstract（参考訳）: 並列EAでは、生成クロックに厳密に準拠し、世代内のすべての評価が実行されるのを待つことができる。 しかし、このアイドル時間はアルゴリズムのスループットを制限し、計算資源を浪費する。 あるいは、EAを非同期並列化することもできる。 しかし、古典的な組換えと選択演算子(GA)を用いたEAは評価時間バイアスに悩まされ、アプローチの性能にも影響を及ぼすことが知られている。 モデルベース進化アルゴリズム(MBEA)は、モデル内の問題の構造を捉えることによって、従来のGAよりもスケーラブルである。 このモデルが集団に基づいてリンク学習によって学習されると、学習モデルはバイアスも捉えることができる。 したがって、非同期並列MBEAも評価時間バイアスの影響を受ければ、学習モデルは問題の解決にはあまり適さないため、性能が低下する可能性がある。 そこで本研究では,MBEAの並列化環境における評価時間バイアスの影響と存在について検討し,これをGAのバイアスと比較する。 現代のMBEAであるGOMEAが評価時間バイアスの影響を受けていないのに対して、より古典的なMBEAであるECGAはGAのように影響を受けています。

関連論文リスト

• Language Model Preference Evaluation with Multiple Weak Evaluators [78.53743237977677]
  GED(Preference Graph Ensemble and Denoise)は、複数のモデルベースの評価器を活用して嗜好グラフを構築する新しいアプローチである。 GEDは,モデルランキング,応答選択,モデルアライメントタスクにおいて,ベースライン手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-10-14T01:57:25Z)
• Time-series Generation by Contrastive Imitation [87.51882102248395]
  モーメントマッチングの目的によってモチベーションされ、複合的エラーを軽減し、局所的(しかし前方的な)遷移ポリシーを最適化する。 推論において、学習されたポリシーは反復的なサンプリングのジェネレータとして機能し、学習されたエネルギーはサンプルの品質を評価するための軌道レベル尺度として機能する。
  論文  参考訳（メタデータ） (2023-11-02T16:45:25Z)
• Generative Modeling of Regular and Irregular Time Series Data via Koopman VAEs [50.25683648762602]
  モデルの新しい設計に基づく新しい生成フレームワークであるKoopman VAEを紹介する。 クープマン理論に触発され、線形写像を用いて潜在条件事前力学を表現する。 KoVAEは、いくつかの挑戦的な合成および実世界の時系列生成ベンチマークにおいて、最先端のGANおよびVAEメソッドより優れている。
  論文  参考訳（メタデータ） (2023-10-04T07:14:43Z)
• Towards Understanding the Generalizability of Delayed Stochastic Gradient Descent [63.43247232708004]
  非同期で実行される勾配降下は、大規模機械学習モデルのトレーニングにおいて重要な役割を果たす。 既存の一般化誤差境界は悲観的であり、非同期遅延と一般化の相関を明らかにすることはできない。 我々の理論的結果は、非同期遅延は遅延SGDアルゴリズムの一般化誤差を低減することを示唆している。
  論文  参考訳（メタデータ） (2023-08-18T10:00:27Z)
• IVP-VAE: Modeling EHR Time Series with Initial Value Problem Solvers [20.784780497613557]
  状態進化をIPPによって直接近似できる連続プロセスを用いて、時系列を純粋にモデル化することを提案する。 これにより、リカレント計算が不要になり、複数の状態が並列に進化することが可能になる。 実世界の3つのデータセットの実験から,提案手法は先進国を体系的に上回り,最先端の結果が得られ,データ効率の面で大きな優位性を持つことが示された。
  論文  参考訳（メタデータ） (2023-05-11T11:53:31Z)
• Learning to Estimate Without Bias [57.82628598276623]
  ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。 本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。 BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
  論文  参考訳（メタデータ） (2021-10-24T10:23:51Z)
• A Frequency-based Parent Selection for Reducing the Effect of Evaluation Time Bias in Asynchronous Parallel Multi-objective Evolutionary Algorithms [0.6853165736531939]
  本稿では,評価時間バイアスをシミュレートする多目的最適化問題の実験を行う。 提案手法は,並列NSGA-IIIの計算時間を削減しつつ,評価時間バイアスの効果を低減することができる。
  論文  参考訳（メタデータ） (2021-07-26T09:20:55Z)
• DEALIO: Data-Efficient Adversarial Learning for Imitation from Observation [57.358212277226315]
  観察ifoからの模倣学習において、学習エージェントは、実演者の生成した制御信号にアクセスせずに、実演行動の観察のみを用いて実演エージェントを模倣しようとする。 近年、逆模倣学習に基づく手法は、ifO問題に対する最先端のパフォーマンスをもたらすが、データ非効率でモデルなしの強化学習アルゴリズムに依存するため、サンプルの複雑さに悩まされることが多い。 この問題は、サンプルの収集が時間、エネルギー、およびリスクの面で高いコストを被る可能性がある現実世界の設定に展開することは非現実的です。 よりデータ効率の高いifOアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-03-31T23:46:32Z)
• Temporal-Structure-Assisted Gradient Aggregation for Over-the-Air Federated Edge Learning [24.248673415586413]
  本稿では,モデル集約系列の固有時間構造を特徴付けるマルコフ確率モデルを提案する。 本研究では,時間構造支援勾配集約(TSA-GA)と呼ばれるメッセージパッシングアルゴリズムを開発し,この推定課題を満たす。 提案するtsagaアルゴリズムは最先端技術を大幅に上回り,同等の学習性能を達成可能であることを示す。
  論文  参考訳（メタデータ） (2021-03-03T09:13:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。