Fugu-MT 論文翻訳(概要): Learning Low-Dimensional Embeddings for Black-Box Optimization

論文の概要: Learning Low-Dimensional Embeddings for Black-Box Optimization

arxiv url: http://arxiv.org/abs/2505.01112v1
Date: Fri, 02 May 2025 08:46:14 GMT
ステータス: 翻訳完了
システム内更新日: 2025-05-05 17:21:19.97266
Title: Learning Low-Dimensional Embeddings for Black-Box Optimization
Title（参考訳）: ブラックボックス最適化のための低次元埋め込み学習
Authors: Riccardo Busetto, Manas Mejari, Marco Forgione, Alberto Bemporad, Dario Piga,
Abstract要約: Black-box Optimization (BBO) は勾配に基づく手法の代替として有用である。 BBOは高次元問題や限られた裁判予算に苦しむことが多い。本稿ではメタラーニングに基づく新しい手法を提案する。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: When gradient-based methods are impractical, black-box optimization (BBO) provides a valuable alternative. However, BBO often struggles with high-dimensional problems and limited trial budgets. In this work, we propose a novel approach based on meta-learning to pre-compute a reduced-dimensional manifold where optimal points lie for a specific class of optimization problems. When optimizing a new problem instance sampled from the class, black-box optimization is carried out in the reduced-dimensional space, effectively reducing the effort required for finding near-optimal solutions.
Abstract（参考訳）: 勾配法が実用的でない場合、ブラックボックス最適化(BBO)は重要な代替手段となる。しかし、BBOは高次元問題と限られた裁判予算に苦しむことが多い。そこで本研究では,メタラーニングをベースとした,特定の最適化問題に対して最適点が配置される縮小次元多様体の事前計算手法を提案する。クラスからサンプリングされた新しい問題インスタンスを最適化する場合、縮小次元空間でブラックボックス最適化を行い、ほぼ最適解を見つけるのに要する労力を効果的に削減する。

関連論文リスト

An Adaptive Dropout Approach for High-Dimensional Bayesian Optimization [0.0]
本稿では,AdaDropoutを提案する。最先端の高次元ベイズ最適化手法と比較して優れた結果が得られる。
論文参考訳（メタデータ） (2025-04-15T16:23:25Z)
Scalable Min-Max Optimization via Primal-Dual Exact Pareto Optimization [66.51747366239299]
拡張ラグランジアンに基づくmin-max問題のスムーズな変種を提案する。提案アルゴリズムは, 段階的戦略よりも目的数で拡張性が高い。
論文参考訳（メタデータ） (2025-03-16T11:05:51Z)
Posterior Inference with Diffusion Models for High-dimensional Black-box Optimization [17.92257026306603]
生成モデルはブラックボックス最適化の問題を解決するために登場した。我々は、高次元のブラックボックス最適化問題を解決するための新しいフレームワーク、textbfDiBOを紹介する。提案手法は,様々な合成および実世界のブラックボックス最適化タスクにおいて,最先端のベースラインよりも優れる。
論文参考訳（メタデータ） (2025-02-24T04:19:15Z)
I3S: Importance Sampling Subspace Selection for Low-Rank Optimization in LLM Pretraining [50.89661053183944]
低ランク最適化は、大規模言語モデル(LLM)のメモリ効率のトレーニングを可能にするための有望なアプローチとして登場した。既存の低ランク最適化手法は、通常、低ランクのサブスペースに勾配を投影し、状態を保存する際のメモリコストを低減させる。低ランク最適化のための重要サンプリング部分空間選択(I3S)を提案し、理論的には支配的部分空間アプローチに匹敵する収束率を提供する。
論文参考訳（メタデータ） (2025-02-09T06:30:19Z)
High-Dimensional Bayesian Optimization Using Both Random and Supervised Embeddings [0.6291443816903801]
本稿では,小さな次元の線形埋め込み部分空間を組み込んだ高次元最適化手法を提案する。結果のBO法は、ランダムおよび教師付き線形埋め込みの両方を適応的に組み合わせる。その結果,高次元ブラックボックス最適化問題に対するEGORSEの有効性が示された。
論文参考訳（メタデータ） (2025-02-02T16:57:05Z)
BOIDS: High-dimensional Bayesian Optimization via Incumbent-guided Direction Lines and Subspace Embeddings [14.558601519561721]
BOIDSは,一次元方向線列による最適化を導く新しい高次元BOアルゴリズムである。また,各ラウンドのラインベース最適化に対して最適な行を特定するための適応的選択手法を提案する。実験の結果,BOIDSは様々な総合的および実世界のベンチマーク問題において,最先端のベースラインよりも優れていた。
論文参考訳（メタデータ） (2024-12-17T13:51:24Z)
Sharpness-Aware Black-Box Optimization [47.95184866255126]
シャープネスを考慮したブラックボックス最適化(SABO)アルゴリズムを提案する。実験により, モデル一般化性能向上のためのSABO法の有効性が実証された。
論文参考訳（メタデータ） (2024-10-16T11:08:06Z)
Learning Joint Models of Prediction and Optimization [56.04498536842065]
Predict-Then-Thenフレームワークは、機械学習モデルを使用して、最適化問題の未知のパラメータを、解決前の機能から予測する。本稿では,共同予測モデルを用いて観測可能特徴から最適解を直接学習する手法を提案する。
論文参考訳（メタデータ） (2024-09-07T19:52:14Z)
Discovering Preference Optimization Algorithms with and for Large Language Models [50.843710797024805]
オフライン優先最適化は、LLM(Large Language Model)出力の品質を向上・制御するための重要な手法である。我々は、人間の介入なしに、新しい最先端の選好最適化アルゴリズムを自動で発見する客観的発見を行う。実験は、ロジスティックと指数的損失を適応的にブレンドする新しいアルゴリズムであるDiscoPOPの最先端性能を示す。
論文参考訳（メタデータ） (2024-06-12T16:58:41Z)
End-to-End Learning for Fair Multiobjective Optimization Under Uncertainty [55.04219793298687]
機械学習における予測-Then-Forecast(PtO)パラダイムは、下流の意思決定品質を最大化することを目的としている。本稿では,PtO法を拡張して,OWA(Nondifferentiable Ordered Weighted Averaging)の目的を最適化する。この結果から,不確実性の下でのOWA関数の最適化とパラメトリック予測を効果的に統合できることが示唆された。
論文参考訳（メタデータ） (2024-02-12T16:33:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。