論文の概要: Multi-Modal Learning meets Genetic Programming: Analyzing Alignment in Latent Space Optimization

• arxiv url: http://arxiv.org/abs/2604.08324v1
• Date: Thu, 09 Apr 2026 14:55:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-10 18:34:05.975189
• Title: Multi-Modal Learning meets Genetic Programming: Analyzing Alignment in Latent Space Optimization
• Title（参考訳）: 遺伝的プログラミングとマルチモーダル学習:潜在空間最適化におけるアライメントの分析
• Authors: Benjamin Léger, Kazem Meidani, Christian Gagné,
• Abstract要約: 記号回帰は、データから数学的表現を発見することを目的としている。 ラテント空間最適化法は、記号表現を連続空間にマッピングするためにニューラルエンコーダを使用する。 SNIPはマルチモーダルなアプローチを導入してLSOを前進させ、シンボル型と数値エンコーダを共有潜在空間に整列させ、表現型と遺伝子型のマッピングを学習する。 これは細粒度のクロスモーダルアライメントに依存しているのに対して、CLIPのような類似モデルでは、そのようなアライメントは通常粗い粒度である。
• 参考スコア（独自算出の注目度）: 8.749115213097555
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Symbolic regression (SR) aims to discover mathematical expressions from data, a task traditionally tackled using Genetic Programming (GP) through combinatorial search over symbolic structures. Latent Space Optimization (LSO) methods use neural encoders to map symbolic expressions into continuous spaces, transforming the combinatorial search into continuous optimization. SNIP (Meidani et al., 2024), a contrastive pre-training model inspired by CLIP, advances LSO by introducing a multi-modal approach: aligning symbolic and numeric encoders in a shared latent space to learn the phenotype-genotype mapping, enabling optimization in the numeric space to implicitly guide symbolic search. However, this relies on fine-grained cross-modal alignment, whereas literature on similar models like CLIP reveals that such an alignment is typically coarse-grained. In this paper, we investigate whether SNIP delivers on its promise of effective bi-modal optimization for SR. Our experiments show that: (1) cross-modal alignment does not improve during optimization, even as fitness increases, and (2) the alignment learned by SNIP is too coarse to efficiently conduct principled search in the symbolic space. These findings reveal that while multi-modal LSO holds significant potential for SR, effective alignment-guided optimization remains unrealized in practice, highlighting fine-grained alignment as a critical direction for future work.
• Abstract（参考訳）: シンボリック回帰(SR)は、伝統的に遺伝的プログラミング(GP)を用いて、シンボル構造上の組合せ探索によって取り組まれてきたデータから数学的表現を発見することを目的としている。 遅延空間最適化(LSO)法は、ニューラルネットワークを用いて記号表現を連続空間にマッピングし、組合せ探索を連続最適化に変換する。 SNIP (Meidani et al , 2024)は、CLIPにインスパイアされた対照的な事前学習モデルであり、シンボル型と数値エンコーダを共有潜在空間に整列させ、表現型と遺伝子型のマッピングを学習し、数値空間における最適化を可能にし、暗黙的に記号探索を導出する多モードアプローチを導入してLSOを前進させる。 しかし、これは粒度の細かいクロスモーダルアライメントに依存しているのに対して、CLIPのような類似モデルに関する文献では、そのようなアライメントは通常粗い粒度であることが示されている。 本稿では,SNIP が SR に対して効果的なバイモーダル最適化を約束するかどうかを検討する。 実験の結果,(1) 適応度が向上しても, クロスモーダルアライメントは最適化中に改善せず, (2) SNIP が学習したアライメントは粗いので, 記号空間での探索を効率的に行うことができないことがわかった。 これらの結果から, マルチモーダル LSO は SR に有意な可能性を秘めているが, 効果的なアライメント誘導最適化は実現されていないことが判明した。

関連論文リスト

• Q-BIOLAT: Binary Latent Protein Fitness Landscapes for QUBO-Based Optimization [8.081417415802443]
  Q-BIOLATは、コンパクトなバイナリ潜在空間におけるタンパク質のフィットネスランドスケープをモデル化し、最適化するためのフレームワークである。 この目的をQUBO形式で表現することで、現代の機械学習と離散的および量子的に着想を得た最適化を結びつける。
  論文  参考訳（メタデータ） (2026-03-29T05:33:55Z)
• Unlocking Symbol-Level Precoding Efficiency Through Tensor Equivariant Neural Network [84.22115118596741]
  シンボルレベルのプリコーディングにおいて,推論の複雑さの低いエンドツーエンドディープラーニング(DL)フレームワークを提案する。 提案手法は,従来の手法よりも約80倍の高速化を実現しつつ,SLPの大幅な性能向上を達成できることを示す。
  論文  参考訳（メタデータ） (2025-10-02T15:15:50Z)
• L-SR1: Learned Symmetric-Rank-One Preconditioning [5.421390145168128]
  エンドツーエンドのディープラーニングは目覚ましい結果を得たが、大きなラベル付きデータセットに依存しているため、依然として制限されている。 対照的に、古典最適化法はデータ効率が高く軽量であるが、しばしば収束が遅い。 そこで本研究では,古典的シンメトリー・ランクワンアルゴリズムを強化するために,トレーニング可能なプレコンディショニングユニットを導入した新しい2次ベクトルを提案する。
  論文  参考訳（メタデータ） (2025-08-17T07:37:29Z)
• Deep Symbolic Optimization: Reinforcement Learning for Symbolic Mathematics [43.622135148720886]
  ディープシンボリック最適化(Deep Symbolic Optimization, DSO)は、科学的な発見のためのシンボリック最適化を可能にする新しい計算フレームワークである。 1つの顕著な例は方程式発見であり、記号形式で表される数学的モデルを自動的に導出することを目的としている。 本章では、DSOフレームワークの概要を概観し、科学的な発見においてシンボル最適化を自動化するための変換可能性について説明する。
  論文  参考訳（メタデータ） (2025-05-16T00:31:19Z)
• Federated Conditional Stochastic Optimization [110.513884892319]
  条件付き最適化は、不変学習タスク、AUPRC、AMLなど、幅広い機械学習タスクで見られる。 本稿では,分散フェデレーション学習のためのアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-10-04T01:47:37Z)
• Performance Embeddings: A Similarity-based Approach to Automatic Performance Optimization [71.69092462147292]
  パフォーマンス埋め込みは、アプリケーション間でパフォーマンスチューニングの知識伝達を可能にする。 本研究では, 深層ニューラルネットワーク, 密度およびスパース線形代数合成, および数値風速予測ステンシルのケーススタディにおいて, この伝達チューニング手法を実証する。
  論文  参考訳（メタデータ） (2023-03-14T15:51:35Z)
• CR-LSO: Convex Neural Architecture Optimization in the Latent Space of Graph Variational Autoencoder with Input Convex Neural Networks [6.026956571669411]
  潜時空間最適化(LSO)に基づくニューラルアーキテクチャ探索(NAS)法では、離散的ニューラルアーキテクチャを連続潜時空間に埋め込むために深層生成モデルを訓練する。 本稿では,空間の学習過程を正規化することを目的とした凸性アーキテクチャ正規化空間(CRLSO)法について述べる。 3つのNASベンチマークによる実験結果から,CR-LSOは計算複雑性と性能の両面で競合評価結果が得られることが示された。
  論文  参考訳（メタデータ） (2022-11-11T01:55:11Z)
• Tree ensemble kernels for Bayesian optimization with known constraints over mixed-feature spaces [54.58348769621782]
  木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。 ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。 我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
  論文  参考訳（メタデータ） (2022-07-02T16:59:37Z)
• Meta-Learning with Neural Tangent Kernels [58.06951624702086]
  メタモデルのニューラルタンジェントカーネル(NTK)によって誘導される再生カーネルヒルベルト空間(RKHS)における最初のメタラーニングパラダイムを提案する。 このパラダイムでは,MAMLフレームワークのように,最適な反復内ループ適応を必要としない2つのメタ学習アルゴリズムを導入する。 本研究の目的は,1) 適応をRKHSの高速適応正則化器に置き換えること,2) NTK理論に基づいて解析的に適応を解くことである。
  論文  参考訳（メタデータ） (2021-02-07T20:53:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。