論文の概要: Covariance Matrix Adaptation Evolution Strategy without a matrix

• arxiv url: http://arxiv.org/abs/2601.00102v1
• Date: Wed, 31 Dec 2025 20:35:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-05 15:04:33.259748
• Title: Covariance Matrix Adaptation Evolution Strategy without a matrix
• Title（参考訳）: 行列を持たない共分散行列適応進化戦略
• Authors: Jarosław Arabas, Adam Stelmaszczyk, Eryk Warchulski, Dariusz Jagodziński, Rafał Biedrzycki,
• Abstract要約: 共分散行列を全く使用しないCMA-ESのバージョンを導入する。 提案手法により生成された個体の確率分布は標準CMA-ESと同一であることを示す。 行列のない CMA-ES は行列ベースよりも早く収束し、通常、同等または優れた品質の結果が得られる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Covariance Matrix Adaptation Evolution Strategy (CMA-ES) is a highly effective optimization technique. A primary challenge when applying CMA-ES in high dimensionality is sampling from a multivariate normal distribution with an arbitrary covariance matrix, which involves its decomposition. The cubic complexity of this process is the main obstacle to applying CMA-ES in highdimensional spaces. We introduce a version of CMA-ES that uses no covariance matrix at all. In the proposed matrix-free CMA-ES, an archive stores the vectors of differences between individuals and the midpoint, normalized by the step size. New individuals are generated as the weighted combinations of the vectors from the archive. We prove that the probability distribution of individuals generated by the proposed method is identical to that of the standard CMA-ES. Experimental results show that reducing the archive size to store only a fixed number of the most recent populations is sufficient, without compromising optimization efficiency. The matrix-free and matrix-based CMA-ES achieve comparable results on the quadratic function when the step-size adaptation is turned off. When coupled with the step-size adaptation method, the matrix-free CMA-ES converges faster than the matrix-based, and usually yields the results of a comparable or superior quality, according to the results obtained for the CEC'2017 benchmark suite. Presented approach simplifies the algorithm, offers a novel perspective on covariance matrix adaptation, and serves as a stepping stone toward even more efficient methods.
• Abstract（参考訳）: Covariance Matrix Adaptation Evolution Strategy (CMA-ES) は高効率な最適化手法である。 高次元でCMA-ESを適用する際の主な課題は、その分解を伴う任意の共分散行列を持つ多変量正規分布からサンプリングすることである。 この過程の立方的複雑さは、高次元空間にCMA-ESを適用する主な障害である。 共分散行列を全く使用しないCMA-ESのバージョンを導入する。 提案した行列のないCMA-ESでは、ステップサイズによって正規化された個人と中間点の差分ベクトルを格納する。 新しい個人は、アーカイブからベクターの重み付けされた組み合わせとして生成される。 提案手法により生成された個体の確率分布は標準CMA-ESと同一であることを示す。 実験結果から, アーカイブサイズを減らして, 最適化効率を損なうことなく, 最新の人口の一定個しか保存できないことがわかった。 行列フリーおよび行列ベースCMA-ESは、ステップサイズ適応をオフにするときに二次関数に対して比較結果を得る。 ステップサイズ適応法と組み合わせると、行列のないCMA-ESは行列ベースよりも早く収束し、CEC'2017ベンチマークスイートで得られた結果によると、通常、同等または優れた品質の結果が得られる。 提案手法はアルゴリズムを単純化し、共分散行列適応の新しい視点を提供し、より効率的な方法へのステップストーンとして機能する。

関連論文リスト

• Efficient Adaptation of Pre-trained Vision Transformer via Householder Transformation [53.88562288388169]
  一般的な戦略である。 事前訓練された視覚変換器(ViT)のPEFT(Efficient Fine-Tuning)は、下流タスクにモデルを適応させる。 適応行列を表現するために,Singular Value Decomposition (SVD) にインスパイアされた新しいPEFT手法を提案する。 SVDは行列を左ユニタリ行列、スケーリング値の対角行列、右ユニタリ行列の積に分解する。
  論文  参考訳（メタデータ） (2024-10-30T12:08:30Z)
• CatCMA : Stochastic Optimization for Mixed-Category Problems [9.13074910982872]
  ブラックボックス最適化の問題は、連続変数、整数変数、カテゴリー変数など、異なるタイプの変数を同時に最適化する必要があることが多い。 いくつかのベイズ最適化手法は混合カテゴリブラックボックス最適化(MC-BBO)を扱うことができるが、高次元問題へのスケーラビリティの欠如と内部計算コストに悩まされている。 本稿では,MC-BBO問題に対する新しい最適化手法であるCatCMAを提案する。
  論文  参考訳（メタデータ） (2024-05-16T10:11:18Z)
• An Efficient Algorithm for Clustered Multi-Task Compressive Sensing [60.70532293880842]
  クラスタ化マルチタスク圧縮センシングは、複数の圧縮センシングタスクを解決する階層モデルである。 このモデルに対する既存の推論アルゴリズムは計算コストが高く、高次元ではうまくスケールしない。 本稿では,これらの共分散行列を明示的に計算する必要をなくし,モデル推論を大幅に高速化するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-09-30T15:57:14Z)
• Improved Privacy-Preserving PCA Using Optimized Homomorphic Matrix Multiplication [0.0]
  主成分分析(英: principal Component Analysis、PCA)は、機械学習とデータ分析の領域で広く利用されている重要な技術である。 近年,セキュアなクラウドコンピューティングシナリオにおいて,プライバシ保護型PCAアルゴリズムの同型暗号化を活用する取り組みが進められている。 本稿では,これらの制約に対処するプライバシー保護PCAに対して,従来の手法に比べて効率,精度,拡張性に優れる新たなアプローチを提案する。
  論文  参考訳（メタデータ） (2023-05-27T02:51:20Z)
• Asymmetric Scalable Cross-modal Hashing [51.309905690367835]
  クロスモーダルハッシュは、大規模なマルチメディア検索問題を解決する方法として成功している。 これらの問題に対処する新しい非対称スケーラブルクロスモーダルハッシュ(ASCMH)を提案する。 我々のASCMHは、最先端のクロスモーダルハッシュ法よりも精度と効率の点で優れています。
  論文  参考訳（メタデータ） (2022-07-26T04:38:47Z)
• Covariance Matrix Adaptation MAP-Annealing [5.5216935362914485]
  我々はCMA-MAE(Covariance Matrix Adaptation MAP-Annealing)という新しい品質多様性アルゴリズムを提案する。 我々は,各制限について,新しいアルゴリズムの理論的正当性を提供する。 我々の理論は、CMA-MAEが最先端の性能と堅牢性を達成することを示す実験を報告している。
  論文  参考訳（メタデータ） (2022-05-22T06:01:02Z)
• Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature Selection [138.97647716793333]
  再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。 提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
  論文  参考訳（メタデータ） (2020-12-29T04:08:38Z)
• Effective Dimension Adaptive Sketching Methods for Faster Regularized Least-Squares Optimization [56.05635751529922]
  スケッチに基づくL2正規化最小二乗問題の解法を提案する。 我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
  論文  参考訳（メタデータ） (2020-06-10T15:00:09Z)
• Multi-Objective Matrix Normalization for Fine-grained Visual Recognition [153.49014114484424]
  双線形プールは細粒度視覚認識(FGVC)において大きな成功を収める 近年,行列パワー正規化は双線形特徴量において2次情報を安定化させることができることが示されている。 両線形表現を同時に正規化できる効率的な多目的行列正規化法(MOMN)を提案する。
  論文  参考訳（メタデータ） (2020-03-30T08:40:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。