論文の概要: Mitigating over-exploration in latent space optimization using LES

• arxiv url: http://arxiv.org/abs/2406.09657v2
• Date: Fri, 21 Feb 2025 23:00:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-25 15:50:04.185278
• Title: Mitigating over-exploration in latent space optimization using LES
• Title（参考訳）: LESを用いた潜時空間最適化における過剰探索の軽減
• Authors: Omer Ronen, Ahmed Imtiaz Humayun, Richard Baraniuk, Randall Balestriero, Bin Yu,
• Abstract要約: 潜時空間最適化(LSO)における過度探索を緩和するための潜時探索スコア(LES)を開発した。 LSOは変分オートエンコーダ(VAE)の潜在空間内での連続的な最適化を利用しており、過剰探索の影響を受けやすいことが知られている。 LESは、追加のトレーニングやアーキテクチャの変更、トレーニングデータへのアクセスなしに、任意のVAEデコーダで使用することができる。
• 参考スコア（独自算出の注目度）: 18.7112204710545
• License:
• Abstract: We develop Latent Exploration Score (LES) to mitigate over-exploration in Latent Space Optimization (LSO), a popular method for solving black-box discrete optimization problems. LSO utilizes continuous optimization within the latent space of a Variational Autoencoder (VAE) and is known to be susceptible to over-exploration, which manifests in unrealistic solutions that reduce its practicality. LES leverages the trained decoder's approximation of the data distribution, and can be employed with any VAE decoder - including pretrained ones - without additional training, architectural changes or access to the training data. Our evaluation across five LSO benchmark tasks and twenty-two VAE models demonstrates that LES always enhances the quality of the solutions while maintaining high objective values, leading to improvements over existing solutions in most cases. We believe that new avenues to LSO will be opened by LES' ability to identify out of distribution areas, differentiability, and computational tractability. Open source code for LES is available at https://github.com/OmerRonen/les.
• Abstract（参考訳）: 我々は、ブラックボックス離散最適化問題の解法であるLatent Space Optimization (LSO)における過剰探索を軽減するために、Latent Exploration Score (LES) を開発した。 LSOは変分オートエンコーダ(VAE)の潜在空間内での連続的な最適化を利用しており、その実用性を低下させる非現実的な解において過剰探索の影響を受けやすいことが知られている。 LESは、トレーニング済みのデコーダによるデータ分散の近似を活用し、トレーニングやアーキテクチャの変更、トレーニングデータへのアクセスなしに、事前トレーニング済みのデコーダを含む任意のVAEデコーダで使用することができる。 5つのLSOベンチマークタスクと2つのVAEモデルによる評価は、LESが常に高い目標値を維持しながらソリューションの品質を向上し、ほとんどの場合において既存のソリューションよりも改善されていることを示す。 LSOへの新たな道は、分散領域、微分可能性、計算的トラクタビリティからLESを識別する能力によって開くと信じている。 LESのオープンソースコードはhttps://github.com/OmerRonen/lesで公開されている。

関連論文リスト

• GDSG: Graph Diffusion-based Solution Generator for Optimization Problems in MEC Networks [109.17835015018532]
  グラフ拡散型ソリューション生成(GDSG)法を提案する。 このアプローチは、おそらく最適な解に収束しながら、最適以下のデータセットを扱うように設計されている。 グラフニューラルネットワーク(GNN)を用いたマルチタスク拡散モデルとしてGDSGを構築し,高品質な解の分布を求める。
  論文  参考訳（メタデータ） (2024-12-11T11:13:43Z)
• A Fresh Take on Stale Embeddings: Improving Dense Retriever Training with Corrector Networks [81.2624272756733]
  密集検索では、ディープエンコーダは入力とターゲットの両方に埋め込みを提供する。 我々は、古いキャッシュされたターゲット埋め込みを調整できる小さなパラメトリック補正ネットワークを訓練する。 私たちのアプローチは、トレーニング中にターゲット埋め込み更新が行われなくても、最先端の結果と一致します。
  論文  参考訳（メタデータ） (2024-09-03T13:29:13Z)
• Memory-Enhanced Neural Solvers for Efficient Adaptation in Combinatorial Optimization [6.713974813995327]
  本稿では、メモリを活用してニューラルネットワークの適応性を向上させるアプローチであるMementOを提案する。 我々は,大規模インスタンス上で全RL自動回帰解法をトレーニングし,MementOが拡張可能で,データ効率がよいことを示す。 全体として、MementOは評価された12のタスクのうち11に最先端のタスクをプッシュすることができる。
  論文  参考訳（メタデータ） (2024-06-24T08:18:19Z)
• Quantization Avoids Saddle Points in Distributed Optimization [1.579622195923387]
  分散非最適化は、多くの分散システムの重要な機能を支える。 本研究の目的は,サドル点収束を2次定常点収束に効果的に回避できることを示すことである。 簡単に調整可能な量子化により、ユーザの制御により、通信オーバーヘッドを積極的に削減できる。
  論文  参考訳（メタデータ） (2024-03-15T15:58:20Z)
• STEERING: Stein Information Directed Exploration for Model-Based Reinforcement Learning [111.75423966239092]
  遷移モデルの現在の推定値と未知の最適値との間の積分確率距離(IPM)の観点から探索インセンティブを提案する。 KSDに基づく新しいアルゴリズムを開発した。 textbfSTEin information dirtextbfEcted Explor for model-based textbfReinforcement Learntextbfing。
  論文  参考訳（メタデータ） (2023-01-28T00:49:28Z)
• Learning To Dive In Branch And Bound [95.13209326119153]
  グラフニューラルネットワークを用いて特定の潜水構造を学習するためのL2Diveを提案する。 我々は、変数の割り当てを予測するために生成モデルを訓練し、線形プログラムの双対性を利用して潜水決定を行う。
  論文  参考訳（メタデータ） (2023-01-24T12:01:45Z)
• Generalized Differentiable RANSAC [95.95627475224231]
  $nabla$-RANSACは、ランダム化された堅牢な推定パイプライン全体を学ぶことができる、微分可能なRANSACである。 $nabla$-RANSACは、精度という点では最先端のシステムよりも優れているが、精度は低い。
  論文  参考訳（メタデータ） (2022-12-26T15:13:13Z)
• Accelerating Inverse Learning via Intelligent Localization with Exploratory Sampling [1.5976506570992293]
  逆問題の解決は 物質と薬物発見の 長年の課題です 近年,逆問題の解法として深部生成モデルが提案されている。 逆学習を高速化する新しい手法(iPage)を提案する。
  論文  参考訳（メタデータ） (2022-12-02T08:00:04Z)
• Learning to Optimize Permutation Flow Shop Scheduling via Graph-based Imitation Learning [70.65666982566655]
  置換フローショップスケジューリング(PFSS)は製造業で広く使われている。 我々は,より安定かつ正確に収束を加速する専門家主導の模倣学習を通じてモデルを訓練することを提案する。 我々のモデルのネットワークパラメータはわずか37%に減少し、エキスパートソリューションに対する我々のモデルの解のギャップは平均6.8%から1.3%に減少する。
  論文  参考訳（メタデータ） (2022-10-31T09:46:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。