論文の概要: Re-purposing Heterogeneous Generative Ensembles with Evolutionary Computation

• arxiv url: http://arxiv.org/abs/2003.13532v2
• Date: Mon, 3 Aug 2020 17:48:34 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-18 06:24:22.271955
• Title: Re-purposing Heterogeneous Generative Ensembles with Evolutionary Computation
• Title（参考訳）: 進化計算による不均一な生成アンサンブルの再構成
• Authors: Jamal Toutouh, Erik Hemberg, and Una-May O'Reilly
• Abstract要約: 機械学習では、予測器のアンサンブルは多くのタスクに対して単一の予測器よりも優れた結果を示す。 本研究では、2つの進化的アルゴリズムを応用して、再目的生成モデルにアンサンブルを生成する。 MNIST画像ベンチマークの実験解析により、両方のEAアンサンブル生成法がモデルを再使用できることが示されている。
• 参考スコア（独自算出の注目度）: 8.198369743955528
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Generative Adversarial Networks (GANs) are popular tools for generative modeling. The dynamics of their adversarial learning give rise to convergence pathologies during training such as mode and discriminator collapse. In machine learning, ensembles of predictors demonstrate better results than a single predictor for many tasks. In this study, we apply two evolutionary algorithms (EAs) to create ensembles to re-purpose generative models, i.e., given a set of heterogeneous generators that were optimized for one objective (e.g., minimize Frechet Inception Distance), create ensembles of them for optimizing a different objective (e.g., maximize the diversity of the generated samples). The first method is restricted by the exact size of the ensemble and the second method only restricts the upper bound of the ensemble size. Experimental analysis on the MNIST image benchmark demonstrates that both EA ensembles creation methods can re-purpose the models, without reducing their original functionality. The EA-based demonstrate significantly better performance compared to other heuristic-based methods. When comparing both evolutionary, the one with only an upper size bound on the ensemble size is the best.
• Abstract（参考訳）: Generative Adversarial Networks (GAN) はジェネレーティブモデリングの一般的なツールである。 敵対的学習のダイナミクスは、訓練中のモードや判別器の崩壊などの収束病理を生じさせる。 機械学習では、予測器のアンサンブルは多くのタスクの単一の予測器よりも優れた結果を示す。 本研究では,2つの進化的アルゴリズム(eas)を適用し,1つの目的に最適化された不均一生成器群(フレシェインセプション距離を最小化するなど)を与えられた場合,異なる目的(例えば,生成したサンプルの多様性を最大化する)を最適化するためのアンサンブルを作成する。 第1の方法はアンサンブルの正確なサイズによって制限され、第2の方法はアンサンブルサイズの上限のみを制限する。 MNISTイメージベンチマークの実験分析では、両方のEAアンサンブル生成手法が元の機能を低下させることなくモデルを再使用できることが示されている。 EAベースの手法は、他のヒューリスティックな手法に比べて非常に優れたパフォーマンスを示している。 両方の進化を比較するとき、アンサンブルサイズに束縛された上サイズのみを持つものが最良である。

関連論文リスト

• Improving Out-of-Distribution Robustness of Classifiers via Generative Interpolation [56.620403243640396]
  ディープニューラルネットワークは、独立かつ同一に分散されたデータ(すなわち、d)から学習する上で、優れたパフォーマンスを達成する。 しかし、アウト・オブ・ディストリビューション(OoD)データを扱う場合、その性能は著しく低下する。 多様なOoDサンプルを合成するために,複数のドメインから学習した生成モデルを融合するための生成補間法(Generative Interpolation)を開発した。
  論文  参考訳（メタデータ） (2023-07-23T03:53:53Z)
• Protein Design with Guided Discrete Diffusion [67.06148688398677]
  タンパク質設計における一般的なアプローチは、生成モデルと条件付きサンプリングのための識別モデルを組み合わせることである。 離散拡散モデルのためのガイダンス手法であるdiffusioN Optimized Smpling (NOS)を提案する。 NOSは、構造に基づく手法の重要な制限を回避し、シーケンス空間で直接設計を行うことができる。
  論文  参考訳（メタデータ） (2023-05-31T16:31:24Z)
• Mutual Exclusivity Training and Primitive Augmentation to Induce Compositionality [84.94877848357896]
  最近のデータセットは、標準的なシーケンス・ツー・シーケンスモデルにおける体系的な一般化能力の欠如を露呈している。 本稿では,セq2seqモデルの振る舞いを分析し,相互排他バイアスの欠如と全例を記憶する傾向の2つの要因を同定する。 広範に使用されている2つの構成性データセット上で、標準的なシーケンス・ツー・シーケンスモデルを用いて、経験的改善を示す。
  論文  参考訳（メタデータ） (2022-11-28T17:36:41Z)
• DORE: Document Ordered Relation Extraction based on Generative Framework [56.537386636819626]
  本稿では,既存のDocREモデルの根本原因について検討する。 本稿では,モデルが学習しやすく,決定論的な関係行列から記号列と順序列を生成することを提案する。 4つのデータセットに対する実験結果から,提案手法は生成型DocREモデルの性能を向上させることができることが示された。
  論文  参考訳（メタデータ） (2022-10-28T11:18:10Z)
• A Pareto-optimal compositional energy-based model for sampling and optimization of protein sequences [55.25331349436895]
  深層生成モデルは、生命科学における逆問題に対する一般的な機械学習ベースのアプローチとして登場した。 これらの問題は、データ分布の学習に加えて、興味のある複数の特性を満たす新しい設計をサンプリングする必要があることが多い。
  論文  参考訳（メタデータ） (2022-10-19T19:04:45Z)
• Instability and Local Minima in GAN Training with Kernel Discriminators [20.362912591032636]
  GAN(Generative Adversarial Networks)は、複雑なデータの生成モデリングに広く使われているツールである。 実験的な成功にもかかわらず、ジェネレータと判別器のmin-max最適化のため、GANの訓練は十分には理解されていない。 本稿では、真のサンプルと生成されたサンプルが離散有限集合であり、判別器がカーネルベースである場合に、これらの関節力学を解析する。
  論文  参考訳（メタデータ） (2022-08-21T18:03:06Z)
• Consensual Aggregation on Random Projected High-dimensional Features for Regression [0.0]
  本稿では,ランダムに投影された回帰予測の高次元的特徴に対するカーネルベースの合意アグリゲーションについて検討する。 集約方式は, 非常に大きく, 高い相関性を持つ特徴に対して, その性能を保っていることを数値的に説明する。 提案手法の効率性は,様々な種類の合成データセットと実データセットで評価されたいくつかの実験を通して説明される。
  論文  参考訳（メタデータ） (2022-04-06T06:35:47Z)
• Combination of digital signal processing and assembled predictive models facilitates the rational design of proteins [0.0]
  タンパク質の突然変異の影響を予測することは、タンパク質工学における最も重要な課題の1つである。 符号化段階での物理化学的特性の組み合わせを選択するために,クラスタリング,埋め込み,次元還元技術を用いている。 次に、各プロパティセットで最高のパフォーマンス予測モデルを選択し、組み立てたモデルを作成します。
  論文  参考訳（メタデータ） (2020-10-07T16:35:02Z)
• AdaLead: A simple and robust adaptive greedy search algorithm for sequence design [55.41644538483948]
  我々は、容易で、拡張性があり、堅牢な進化的欲求アルゴリズム(AdaLead)を開発した。 AdaLeadは、様々な生物学的に動機づけられたシーケンスデザインの課題において、アートアプローチのより複雑な状態を克服する、驚くほど強力なベンチマークである。
  論文  参考訳（メタデータ） (2020-10-05T16:40:38Z)
• Collegial Ensembles [11.64359837358763]
  我々は,群畳み込みと対角線ブロックを用いた実用的アーキテクチャにおいて,コレギアルアンサンブルを効率的に実装可能であることを示す。 また、一つのモデルをトレーニングすることなく、最適なグループ畳み込みモジュールを解析的に導き出すために、我々のフレームワークをどのように利用できるかを示す。
  論文  参考訳（メタデータ） (2020-06-13T16:40:26Z)
• Large Scale Many-Objective Optimization Driven by Distributional Adversarial Networks [1.2461503242570644]
  本稿では, RVEA フレームワークに基づく新しいアルゴリズムを提案し, 分散適応ネットワーク (DAN) を用いて新たな子孫を生成する。 大規模多目的問題(LSMOP)における9つのベンチマーク問題に対して,新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-03-16T04:14:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。