論文の概要: ADO-LLM: Analog Design Bayesian Optimization with In-Context Learning of Large Language Models
- arxiv url: http://arxiv.org/abs/2406.18770v1
- Date: Wed, 26 Jun 2024 21:42:50 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-28 15:47:01.275954
- Title: ADO-LLM: Analog Design Bayesian Optimization with In-Context Learning of Large Language Models
- Title（参考訳）: ADO-LLM:大規模言語モデルの文脈学習によるアナログ設計ベイズ最適化
- Authors: Yuxuan Yin, Yu Wang, Boxun Xu, Peng Li,
- Abstract要約: 本稿では,大規模言語モデル(LLM)とベイジアン最適化を統合したアナログ設計最適化手法であるADO-LLMを提案する。
ADO-LLMは、LLMのドメイン知識を注入して実行可能な設計ポイントを迅速に生成し、高価値な設計領域を見つけるためのBOの非効率性を改善する能力を活用している。
提案手法を2種類のアナログ回路上で評価し,設計効率と性能の顕著な向上を実証した。
- 参考スコア（独自算出の注目度）: 5.642568057913696
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Analog circuit design requires substantial human expertise and involvement, which is a significant roadblock to design productivity. Bayesian Optimization (BO), a popular machine learning based optimization strategy, has been leveraged to automate analog design given its applicability across various circuit topologies and technologies. Traditional BO methods employ black box Gaussian Process surrogate models and optimized labeled data queries to find optimization solutions by trading off between exploration and exploitation. However, the search for the optimal design solution in BO can be expensive from both a computational and data usage point of view, particularly for high dimensional optimization problems. This paper presents ADO-LLM, the first work integrating large language models (LLMs) with Bayesian Optimization for analog design optimization. ADO-LLM leverages the LLM's ability to infuse domain knowledge to rapidly generate viable design points to remedy BO's inefficiency in finding high value design areas specifically under the limited design space coverage of the BO's probabilistic surrogate model. In the meantime, sampling of design points evaluated in the iterative BO process provides quality demonstrations for the LLM to generate high quality design points while leveraging infused broad design knowledge. Furthermore, the diversity brought by BO's exploration enriches the contextual understanding of the LLM and allows it to more broadly search in the design space and prevent repetitive and redundant suggestions. We evaluate the proposed framework on two different types of analog circuits and demonstrate notable improvements in design efficiency and effectiveness.
- Abstract（参考訳）: アナログ回路設計には人間の専門知識と関与がかなり必要であり、これは生産性を設計するための重要な障害である。
一般的な機械学習ベースの最適化戦略であるBayesian Optimization (BO)は、様々な回路トポロジや技術で適用可能なアナログ設計を自動化するために利用されてきた。
従来のBOメソッドではブラックボックスのガウシアンプロセスサロゲートモデルとラベル付きデータクエリを最適化し、探索とエクスプロイトのトレードオフによって最適化ソリューションを見つける。
しかし、BOにおける最適設計ソリューションの探索は、特に高次元最適化問題において、計算およびデータ利用の観点から、コストがかかる可能性がある。
本稿では,大規模言語モデル(LLM)とベイジアン最適化を統合したアナログ設計最適化手法であるADO-LLMを提案する。
ADO-LLM は LLM のドメイン知識を注入して実行可能な設計ポイントを迅速に生成する能力を活用し、BO の確率的サロゲートモデルの限られた設計空間で高価値な設計領域を見つけるのに、BO の非効率性を改善する。
一方、反復BOプロセスで評価された設計点のサンプリングは、LLMが注入された幅広い設計知識を活用しながら高品質な設計点を生成するための品質実証を提供する。
さらに、BOの探索によってもたらされる多様性は、LLMの文脈的理解を豊かにし、デザイン空間をより広く探索し、反復的かつ冗長な提案を防ぐことができる。
提案手法を2種類のアナログ回路上で評価し,設計効率と性能の顕著な向上を実証した。
関連論文リスト
- Accelerated Gradient-based Design Optimization Via Differentiable Physics-Informed Neural Operator: A Composites Autoclave Processing Case Study [0.0]
本稿では,複雑な工学系の非線形挙動を効果的にモデル化する物理インフォームドディープONet(PIDON)アーキテクチャを提案する。
3倍の高速化を実現した航空宇宙グレード複合材料硬化プロセスの最適化における本フレームワークの有効性を実証する。
提案モデルには,高度工学およびディジタルツインシステムにおける幅広い応用のための,スケーラブルで効率的な最適化ツールとして使用される可能性がある。
論文 参考訳（メタデータ） (2025-02-17T07:11:46Z) - LLM-USO: Large Language Model-based Universal Sizing Optimizer [4.223946773134886]
本稿では,構造化テキスト形式で回路設計知識を符号化する知識表現手法を提案する。
この表現は、類似のサブ構造を持つ回路の最適化インサイトを体系的に再利用することを可能にする。
i)ドメイン固有の知識をBOプロセスに注入し、(ii)回路間の知識伝達を促進し、専門家デザイナーの認知戦略を反映する。
論文 参考訳（メタデータ） (2025-02-04T23:08:03Z) - A Survey on Inference Optimization Techniques for Mixture of Experts Models [50.40325411764262]
大規模Mixture of Experts(MoE)モデルは、条件計算によるモデル容量と計算効率の向上を提供する。
これらのモデル上で推論をデプロイし実行することは、計算資源、レイテンシ、エネルギー効率において大きな課題を示す。
本調査では,システムスタック全体にわたるMoEモデルの最適化手法について分析する。
論文 参考訳（メタデータ） (2024-12-18T14:11:15Z) - Latent Energy-Based Odyssey: Black-Box Optimization via Expanded Exploration in the Energy-Based Latent Space [65.44449711359724]
ブラックボックス関数の高次元かつ高マルチモーダルな入力設計空間は、既存の手法に固有の課題をもたらす。
設計値の結合空間の圧縮的かつ正確な表現として機能する潜在空間の発見を検討する。
本稿では, 高精度潜時空間モデルの変分学習のための雑音強調型テレスコープ密度比推定法を提案する。
論文 参考訳（メタデータ） (2024-05-27T00:11:53Z) - Diffusion Model for Data-Driven Black-Box Optimization [54.25693582870226]
我々は、強力な生成AI技術である拡散モデルに注目し、ブラックボックス最適化の可能性について検討する。
本研究では,1)実数値報酬関数のノイズ測定と,2)対比較に基づく人間の嗜好の2種類のラベルについて検討する。
提案手法は,設計最適化問題を条件付きサンプリング問題に再構成し,拡散モデルのパワーを有効活用する。
論文 参考訳（メタデータ） (2024-03-20T00:41:12Z) - Enhanced Bayesian Optimization via Preferential Modeling of Abstract
Properties [49.351577714596544]
本研究では,非測定抽象特性に関する専門家の嗜好を代理モデルに組み込むための,人間とAIの協調型ベイズフレームワークを提案する。
優先判断において、誤った/誤解を招く専門家バイアスを処理できる効率的な戦略を提供する。
論文 参考訳（メタデータ） (2024-02-27T09:23:13Z) - Compositional Generative Inverse Design [69.22782875567547]
入力変数を設計して目的関数を最適化する逆設計は重要な問題である。
拡散モデルにより得られた学習エネルギー関数を最適化することにより、そのような逆例を避けることができることを示す。
N-body 相互作用タスクと2次元多面体設計タスクにおいて,実験時に学習した拡散モデルを構成することにより,初期状態と境界形状を設計できることを示す。
論文 参考訳（メタデータ） (2024-01-24T01:33:39Z) - Performance Comparison of Design Optimization and Deep Learning-based
Inverse Design [15.620304857903069]
本稿では,従来の設計最適化手法とディープラーニングに基づく逆設計手法を比較した。
ディープラーニングベースの逆設計の今後の活用を考慮に入れたガイドラインを提供する。
論文 参考訳（メタデータ） (2023-08-23T06:04:54Z) - Fusion of ML with numerical simulation for optimized propeller design [0.6767885381740952]
設計プロセスのサロゲートにMLモデルを使用する方法を提案する。
このトレーニングされたサロゲートモデルと従来の最適化手法を用いることで、両方の世界の長所を得られる。
プロペラ設計問題に対する実証的な評価は、SAOを用いたより少ない評価でより効率的な設計を見出すことができることを示している。
論文 参考訳（メタデータ） (2023-02-28T16:42:07Z) - Conservative Objective Models for Effective Offline Model-Based
Optimization [78.19085445065845]
計算設計の問題は、合成生物学からコンピュータアーキテクチャまで、様々な場面で発生している。
本研究では,分布外入力に対する接地的目標の実際の値を低くする目的関数のモデルを学習する手法を提案する。
COMは、様々なMBO問題に対して、既存のメソッドの実装と性能の面では単純である。
論文 参考訳（メタデータ） (2021-07-14T17:55:28Z) - Generative Design by Reinforcement Learning: Enhancing the Diversity of
Topology Optimization Designs [5.8010446129208155]
本研究では、トポロジ設計の多様性を最大化する報酬関数を備えた強化学習に基づく生成設計プロセスを提案する。
RLをベースとした生成設計は,GPUを完全自動で活用することにより,短時間で多数の多様な設計を生成できることを示す。
論文 参考訳（メタデータ） (2020-08-17T06:50:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。