論文の概要: Bayesian Optimization Augmented with Actively Elicited Expert Knowledge

• arxiv url: http://arxiv.org/abs/2208.08742v1
• Date: Thu, 18 Aug 2022 09:49:21 GMT
• ステータス: 処理完了
• システム内更新日: 2022-08-19 13:02:53.815168
• Title: Bayesian Optimization Augmented with Actively Elicited Expert Knowledge
• Title（参考訳）: 専門知識を有効活用したベイズ最適化
• Authors: Daolang Huang, Louis Filstroff, Petrus Mikkola, Runkai Zheng, Samuel Kaski
• Abstract要約: 我々は、最適化をさらに加速することを目的として、専門家の知識をBOに組み込むという課題に取り組む。 本研究では,この課題に対するマルチタスク学習アーキテクチャを設計し,専門家の知識を共同で抽出し,目的関数を最小化することを目的とする。 シミュレーションと実際の人間の専門家による様々なベンチマーク関数の実験では、専門家の知識が偏っている場合でも、提案手法はBOを著しく高速化することが示された。
• 参考スコア（独自算出の注目度）: 13.551210295284733
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Bayesian optimization (BO) is a well-established method to optimize black-box functions whose direct evaluations are costly. In this paper, we tackle the problem of incorporating expert knowledge into BO, with the goal of further accelerating the optimization, which has received very little attention so far. We design a multi-task learning architecture for this task, with the goal of jointly eliciting the expert knowledge and minimizing the objective function. In particular, this allows for the expert knowledge to be transferred into the BO task. We introduce a specific architecture based on Siamese neural networks to handle the knowledge elicitation from pairwise queries. Experiments on various benchmark functions with both simulated and actual human experts show that the proposed method significantly speeds up BO even when the expert knowledge is biased compared to the objective function.
• Abstract（参考訳）: ベイズ最適化(英: Bayesian Optimization, BO)は、直接評価を行うブラックボックス関数を最適化する手法である。 本稿では,これまでにほとんど注目されていない最適化をさらに加速することを目的として,boに専門家の知識を組み込むことの問題に取り組む。 我々は,専門家の知識を抽出し,目的関数を最小化することを目的として,タスクのためのマルチタスク学習アーキテクチャを設計した。 特に、これは専門家の知識をBOタスクに転送することを可能にする。 我々は、ペアワイズクエリから知識を引き出すために、Siameseニューラルネットワークに基づく特定のアーキテクチャを導入する。 シミュレーションと実際の人間のエキスパートによる様々なベンチマーク関数の実験では、専門家の知識が客観的な関数に偏っていても、提案手法はboを著しく高速化することが示された。

関連論文リスト

• KBAlign: Efficient Self Adaptation on Specific Knowledge Bases [75.78948575957081]
  大規模言語モデル(LLM)は通常、知識材料を瞬時に活用するために、検索強化世代に依存している。 本稿では,知識ベースを含む下流タスクへの効率的な適応を目的としたKBAlignを提案する。 提案手法は,Q&Aペアやリビジョン提案などの自己注釈付きデータを用いて反復学習を行い,モデルが知識内容を効率的に把握できるようにする。
  論文  参考訳（メタデータ） (2024-11-22T08:21:03Z)
• TeamLoRA: Boosting Low-Rank Adaptation with Expert Collaboration and Competition [61.91764883512776]
  我々は,専門家のためのコラボレーション・コンペティション・モジュールからなる,革新的なPEFT手法であるTeamLoRAを紹介する。 そうすることで、TeamLoRAは専門家を"チーム"として内部のコラボレーションや競争に結び付け、マルチタスク学習のためのより高速で正確なPEFTパラダイムを可能にします。
  論文  参考訳（メタデータ） (2024-08-19T09:58:53Z)
• Diversifying the Expert Knowledge for Task-Agnostic Pruning in Sparse Mixture-of-Experts [75.85448576746373]
  本稿では,モデルのパラメータ効率を向上させるために,類似の専門家をグループ化し,グループ化する方法を提案する。 提案手法の有効性を3つの最先端MoEアーキテクチャを用いて検証する。 評価の結果,本手法は自然言語タスクにおいて,他のモデルプルーニング手法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2024-07-12T17:25:02Z)
• Human-Algorithm Collaborative Bayesian Optimization for Engineering Systems [0.0]
  我々は、協調ベイズ最適化のためのアプローチを概説することで、データ駆動意思決定ループに人間を再導入する。 我々の手法は、人間は連続的な選択よりも離散的な選択をより効率的に行うことができるという仮説を生かしている。 本稿では, バイオプロセス最適化やリアクトル幾何設計を含む, 応用および数値ケーススタディにまたがるアプローチを実証する。
  論文  参考訳（メタデータ） (2024-04-16T23:17:04Z)
• Enhanced Bayesian Optimization via Preferential Modeling of Abstract Properties [49.351577714596544]
  本研究では,非測定抽象特性に関する専門家の嗜好を代理モデルに組み込むための,人間とAIの協調型ベイズフレームワークを提案する。 優先判断において、誤った/誤解を招く専門家バイアスを処理できる効率的な戦略を提供する。
  論文  参考訳（メタデータ） (2024-02-27T09:23:13Z)
• Domain Knowledge Injection in Bayesian Search for New Materials [0.0]
  探索空間における探索を調整するためのドメイン知識に対応するベイズ最適化(BO)アルゴリズムであるDKIBOを提案する。 材料設計タスクにおいて,ドメイン知識をうまく注入することで,提案手法の実用性を実証的に実証する。
  論文  参考訳（メタデータ） (2023-11-26T01:55:55Z)
• PromptAgent: Strategic Planning with Language Models Enables Expert-level Prompt Optimization [60.00631098364391]
  PromptAgentは、エキスパートレベルのプロンプトを、専門家による手工芸品と同等の品質で作成する最適化手法である。 PromptAgentは人間のような試行錯誤の探索にインスパイアされ、専門家レベルの正確な洞察と詳細な指示を誘導する。 PromptAgentを3つの実践領域にまたがる12のタスクに適用する。
  論文  参考訳（メタデータ） (2023-10-25T07:47:01Z)
• Incorporating Expert Prior Knowledge into Experimental Design via Posterior Sampling [58.56638141701966]
  実験者は、グローバルな最適な場所に関する知識を得ることができる。 グローバル最適化に関する専門家の事前知識をベイズ最適化に組み込む方法は不明である。 効率の良いベイズ最適化手法は、大域的最適の後方分布の後方サンプリングによって提案されている。
  論文  参考訳（メタデータ） (2020-02-26T01:57:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。