論文の概要: ADO-LLM: Analog Design Bayesian Optimization with In-Context Learning of Large Language Models

• arxiv url: http://arxiv.org/abs/2406.18770v1
• Date: Wed, 26 Jun 2024 21:42:50 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-28 15:47:01.275954
• Title: ADO-LLM: Analog Design Bayesian Optimization with In-Context Learning of Large Language Models
• Title（参考訳）: ADO-LLM:大規模言語モデルの文脈学習によるアナログ設計ベイズ最適化
• Authors: Yuxuan Yin, Yu Wang, Boxun Xu, Peng Li,
• Abstract要約: 本稿では,大規模言語モデル(LLM)とベイジアン最適化を統合したアナログ設計最適化手法であるADO-LLMを提案する。 ADO-LLMは、LLMのドメイン知識を注入して実行可能な設計ポイントを迅速に生成し、高価値な設計領域を見つけるためのBOの非効率性を改善する能力を活用している。 提案手法を2種類のアナログ回路上で評価し,設計効率と性能の顕著な向上を実証した。
• 参考スコア（独自算出の注目度）: 5.642568057913696
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Analog circuit design requires substantial human expertise and involvement, which is a significant roadblock to design productivity. Bayesian Optimization (BO), a popular machine learning based optimization strategy, has been leveraged to automate analog design given its applicability across various circuit topologies and technologies. Traditional BO methods employ black box Gaussian Process surrogate models and optimized labeled data queries to find optimization solutions by trading off between exploration and exploitation. However, the search for the optimal design solution in BO can be expensive from both a computational and data usage point of view, particularly for high dimensional optimization problems. This paper presents ADO-LLM, the first work integrating large language models (LLMs) with Bayesian Optimization for analog design optimization. ADO-LLM leverages the LLM's ability to infuse domain knowledge to rapidly generate viable design points to remedy BO's inefficiency in finding high value design areas specifically under the limited design space coverage of the BO's probabilistic surrogate model. In the meantime, sampling of design points evaluated in the iterative BO process provides quality demonstrations for the LLM to generate high quality design points while leveraging infused broad design knowledge. Furthermore, the diversity brought by BO's exploration enriches the contextual understanding of the LLM and allows it to more broadly search in the design space and prevent repetitive and redundant suggestions. We evaluate the proposed framework on two different types of analog circuits and demonstrate notable improvements in design efficiency and effectiveness.
• Abstract（参考訳）: アナログ回路設計には人間の専門知識と関与がかなり必要であり、これは生産性を設計するための重要な障害である。 一般的な機械学習ベースの最適化戦略であるBayesian Optimization (BO)は、様々な回路トポロジや技術で適用可能なアナログ設計を自動化するために利用されてきた。 従来のBOメソッドではブラックボックスのガウシアンプロセスサロゲートモデルとラベル付きデータクエリを最適化し、探索とエクスプロイトのトレードオフによって最適化ソリューションを見つける。 しかし、BOにおける最適設計ソリューションの探索は、特に高次元最適化問題において、計算およびデータ利用の観点から、コストがかかる可能性がある。 本稿では,大規模言語モデル(LLM)とベイジアン最適化を統合したアナログ設計最適化手法であるADO-LLMを提案する。 ADO-LLM は LLM のドメイン知識を注入して実行可能な設計ポイントを迅速に生成する能力を活用し、BO の確率的サロゲートモデルの限られた設計空間で高価値な設計領域を見つけるのに、BO の非効率性を改善する。 一方、反復BOプロセスで評価された設計点のサンプリングは、LLMが注入された幅広い設計知識を活用しながら高品質な設計点を生成するための品質実証を提供する。 さらに、BOの探索によってもたらされる多様性は、LLMの文脈的理解を豊かにし、デザイン空間をより広く探索し、反復的かつ冗長な提案を防ぐことができる。 提案手法を2種類のアナログ回路上で評価し,設計効率と性能の顕著な向上を実証した。

関連論文リスト

• Latent Energy-Based Odyssey: Black-Box Optimization via Expanded Exploration in the Energy-Based Latent Space [65.44449711359724]
  ブラックボックス関数の高次元かつ高マルチモーダルな入力設計空間は、既存の手法に固有の課題をもたらす。 設計値の結合空間の圧縮的かつ正確な表現として機能する潜在空間の発見を検討する。 本稿では, 高精度潜時空間モデルの変分学習のための雑音強調型テレスコープ密度比推定法を提案する。
  論文  参考訳（メタデータ） (2024-05-27T00:11:53Z)
• Diffusion Model for Data-Driven Black-Box Optimization [54.25693582870226]
  我々は、強力な生成AI技術である拡散モデルに注目し、ブラックボックス最適化の可能性について検討する。 本研究では,1)実数値報酬関数のノイズ測定と,2)対比較に基づく人間の嗜好の2種類のラベルについて検討する。 提案手法は,設計最適化問題を条件付きサンプリング問題に再構成し,拡散モデルのパワーを有効活用する。
  論文  参考訳（メタデータ） (2024-03-20T00:41:12Z)
• Enhanced Bayesian Optimization via Preferential Modeling of Abstract Properties [49.351577714596544]
  本研究では,非測定抽象特性に関する専門家の嗜好を代理モデルに組み込むための,人間とAIの協調型ベイズフレームワークを提案する。 優先判断において、誤った/誤解を招く専門家バイアスを処理できる効率的な戦略を提供する。
  論文  参考訳（メタデータ） (2024-02-27T09:23:13Z)
• Compositional Generative Inverse Design [69.22782875567547]
  入力変数を設計して目的関数を最適化する逆設計は重要な問題である。 拡散モデルにより得られた学習エネルギー関数を最適化することにより、そのような逆例を避けることができることを示す。 N-body 相互作用タスクと2次元多面体設計タスクにおいて,実験時に学習した拡散モデルを構成することにより,初期状態と境界形状を設計できることを示す。
  論文  参考訳（メタデータ） (2024-01-24T01:33:39Z)
• ECoDe: A Sample-Efficient Method for Co-Design of Robotic Agents [11.449817465618658]
  自律ロボットエージェントを共同設計するには、エージェントのコントローラと物理的設計を同時に最適化する必要がある。 デザインスペースが大きくなると、これは難しくなります。 共設計のサンプル効率を向上させるための多要素探索手法を提案する。
  論文  参考訳（メタデータ） (2023-09-08T02:54:31Z)
• Performance Comparison of Design Optimization and Deep Learning-based Inverse Design [15.620304857903069]
  本稿では,従来の設計最適化手法とディープラーニングに基づく逆設計手法を比較した。 ディープラーニングベースの逆設計の今後の活用を考慮に入れたガイドラインを提供する。
  論文  参考訳（メタデータ） (2023-08-23T06:04:54Z)
• Fusion of ML with numerical simulation for optimized propeller design [0.6767885381740952]
  設計プロセスのサロゲートにMLモデルを使用する方法を提案する。 このトレーニングされたサロゲートモデルと従来の最適化手法を用いることで、両方の世界の長所を得られる。 プロペラ設計問題に対する実証的な評価は、SAOを用いたより少ない評価でより効率的な設計を見出すことができることを示している。
  論文  参考訳（メタデータ） (2023-02-28T16:42:07Z)
• Transfer Learning for Bayesian Optimization: A Survey [29.229660973338145]
  ブラックボックス最適化は、このような高価なブラックボックス機能をモデル化し、最適化する強力なツールである。 BOコミュニティの研究者たちは、最適化プロセスの高速化にトランスファーラーニングの精神を取り入れることを提案する。
  論文  参考訳（メタデータ） (2023-02-12T14:37:25Z)
• Conservative Objective Models for Effective Offline Model-Based Optimization [78.19085445065845]
  計算設計の問題は、合成生物学からコンピュータアーキテクチャまで、様々な場面で発生している。 本研究では,分布外入力に対する接地的目標の実際の値を低くする目的関数のモデルを学習する手法を提案する。 COMは、様々なMBO問題に対して、既存のメソッドの実装と性能の面では単純である。
  論文  参考訳（メタデータ） (2021-07-14T17:55:28Z)
• Machine Learning Framework for Quantum Sampling of Highly-Constrained, Continuous Optimization Problems [101.18253437732933]
  本研究では,連続空間の逆設計問題を,制約のないバイナリ最適化問題にマッピングする,汎用的な機械学習ベースのフレームワークを開発する。 本研究では, 熱発光トポロジを熱光応用に最適化し, (ii) 高効率ビームステアリングのための拡散メタグレーティングを行うことにより, 2つの逆設計問題に対するフレームワークの性能を示す。
  論文  参考訳（メタデータ） (2021-05-06T02:22:23Z)
• Generative Design by Reinforcement Learning: Enhancing the Diversity of Topology Optimization Designs [5.8010446129208155]
  本研究では、トポロジ設計の多様性を最大化する報酬関数を備えた強化学習に基づく生成設計プロセスを提案する。 RLをベースとした生成設計は,GPUを完全自動で活用することにより,短時間で多数の多様な設計を生成できることを示す。
  論文  参考訳（メタデータ） (2020-08-17T06:50:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。