論文の概要: Evolutionary Optimization Trumps Adam Optimization on Embedding Space Exploration

• arxiv url: http://arxiv.org/abs/2511.03913v1
• Date: Wed, 05 Nov 2025 23:31:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-07 20:17:53.239248
• Title: Evolutionary Optimization Trumps Adam Optimization on Embedding Space Exploration
• Title（参考訳）: 進化的最適化、アダム氏を「宇宙探査を埋め込む」と批判
• Authors: Domício Pereira Neto, João Correia, Penousal Machado,
• Abstract要約: 我々は,広く採用されている適応モーメント推定(Adam)に対する分離共分散行列適応進化戦略(sep-CMA-ES)の進化的最適化手法の性能について検討した。 提案手法は, 拡散モデルに対して効率よく勾配のない最適化を行い, 微調整を必要とせずに制御性を向上させることを示唆する。
• 参考スコア（独自算出の注目度）: 1.529342790344802
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Deep generative models, especially diffusion architectures, have transformed image generation; however, they are challenging to control and optimize for specific goals without expensive retraining. Embedding Space Exploration, especially with Evolutionary Algorithms (EAs), has been shown to be a promising method for optimizing image generation, particularly within Diffusion Models. Therefore, in this work, we study the performance of an evolutionary optimization method, namely Separable Covariance Matrix Adaptation Evolution Strategy (sep-CMA-ES), against the widely adopted Adaptive Moment Estimation (Adam), applied to Stable Diffusion XL Turbo's prompt embedding vector. The evaluation of images combines the LAION Aesthetic Predictor V2 with CLIPScore into a weighted fitness function, allowing flexible trade-offs between visual appeal and adherence to prompts. Experiments on a subset of the Parti Prompts (P2) dataset showcase that sep-CMA-ES consistently yields superior improvements in aesthetic and alignment metrics in comparison to Adam. Results indicate that the evolutionary method provides efficient, gradient-free optimization for diffusion models, enhancing controllability without the need for fine-tuning. This study emphasizes the potential of evolutionary methods for embedding space exploration of deep generative models and outlines future research directions.
• Abstract（参考訳）: 深層生成モデル、特に拡散アーキテクチャは、画像生成を変換しているが、高価な再トレーニングなしに特定の目標に対して制御し最適化することは困難である。 宇宙探査の埋め込み、特に進化的アルゴリズム(EA)は、特に拡散モデルにおいて画像生成を最適化するための有望な方法であることが示されている。 そこで本研究では, 安定拡散XLターボの急速埋め込みベクトルに適用された適応モーメント推定(Adam)に対して, 分離共分散行列適応進化戦略(sep-CMA-ES)という進化的最適化手法の性能について検討する。 画像の評価は、LAION Aesthetic Predictor V2とCLIPScoreを重み付けされたフィットネス機能に組み合わせ、視覚的魅力とプロンプトへの付着の間の柔軟なトレードオフを可能にする。 Parti Prompts (P2)データセットのサブセットの実験では、セプティCMA-ESはAdamと比較して、審美的およびアライメント的指標において一貫して優れた改善をもたらすことが示された。 提案手法は, 拡散モデルに対して効率よく勾配のない最適化を行い, 微調整を必要とせずに制御性を向上させることを示唆する。 本研究は、深部生成モデルの空間探索を埋め込む進化的手法の可能性を強調し、今後の研究方向性を概説する。

関連論文リスト

• Divergence Minimization Preference Optimization for Diffusion Model Alignment [66.31417479052774]
  Divergence Minimization Preference Optimization (DMPO) は、逆KL分散を最小化して拡散モデルを整列する原理的手法である。 DMPOは、異なるベースモデルとテストセットで既存のテクニックを一貫して上回り、適合させることができる。
  論文  参考訳（メタデータ） (2025-07-10T07:57:30Z)
• Heuristically Adaptive Diffusion-Model Evolutionary Strategy [1.8299322342860518]
  拡散モデル(Diffusion Models)は、生成モデルにおいて重要な進歩を示す。 本研究は,拡散モデルと進化的アルゴリズムの基本的な関係を明らかにする。 我々のフレームワークは、進化的最適化プロセスにおいて、柔軟性、精度、制御性を高めたアルゴリズム上の大きな遷移を示す。
  論文  参考訳（メタデータ） (2024-11-20T16:06:28Z)
• Variational Stochastic Gradient Descent for Deep Neural Networks [16.96187187108041]
  変分勾配Descent (VSGD) は、効率的な勾配に基づく画像最適化手法である。 我々は、VSGDがAdamとSGDを2つの分類データセットと4つのディープニューラルネットワークアーキテクチャで上回っていることを示す。
  論文  参考訳（メタデータ） (2024-04-09T18:02:01Z)
• Molecule Design by Latent Prompt Transformer [76.2112075557233]
  本研究は、分子設計の課題を条件付き生成モデリングタスクとしてフレーミングすることによって検討する。 本研究では,(1)学習可能な事前分布を持つ潜伏ベクトル,(2)プロンプトとして潜伏ベクトルを用いる因果トランスフォーマーに基づく分子生成モデル,(3)潜在プロンプトを用いた分子の目標特性および/または制約値を予測する特性予測モデルからなる新しい生成モデルを提案する。
  論文  参考訳（メタデータ） (2024-02-27T03:33:23Z)
• Bidirectional Looking with A Novel Double Exponential Moving Average to Adaptive and Non-adaptive Momentum Optimizers [109.52244418498974]
  我々は,新しいtextscAdmeta(textbfADouble指数textbfMov averagtextbfE textbfAdaptiveおよび非適応運動量)フレームワークを提案する。 我々は、textscAdmetaR と textscAdmetaS の2つの実装を提供し、前者は RAdam を、後者は SGDM をベースとしています。
  論文  参考訳（メタデータ） (2023-07-02T18:16:06Z)
• Protein Design with Guided Discrete Diffusion [67.06148688398677]
  タンパク質設計における一般的なアプローチは、生成モデルと条件付きサンプリングのための識別モデルを組み合わせることである。 離散拡散モデルのためのガイダンス手法であるdiffusioN Optimized Smpling (NOS)を提案する。 NOSは、構造に基づく手法の重要な制限を回避し、シーケンス空間で直接設計を行うことができる。
  論文  参考訳（メタデータ） (2023-05-31T16:31:24Z)
• Better call Surrogates: A hybrid Evolutionary Algorithm for Hyperparameter optimization [18.359749929678635]
  機械学習(ML)モデルのハイパーパラメータ最適化のための代理支援進化アルゴリズム(EA)を提案する。 提案したSTEADEモデルは,まずRadialBasis関数を用いて目的関数のランドスケープを推定し,その知識を微分進化(differial Evolution)と呼ばれるEA技術に伝達する。 NeurIPS 2020のブラックボックス最適化課題の一環として、ハイパーパラメータ最適化問題に関するモデルを実証的に評価し、STEADEがバニラEAにもたらした改善を実証しました。
  論文  参考訳（メタデータ） (2020-12-11T16:19:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。