論文の概要: Collaborative and Distributed Bayesian Optimization via Consensus: Showcasing the Power of Collaboration for Optimal Design

• arxiv url: http://arxiv.org/abs/2306.14348v2
• Date: Sat, 9 Mar 2024 23:37:40 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-13 17:10:33.602482
• Title: Collaborative and Distributed Bayesian Optimization via Consensus: Showcasing the Power of Collaboration for Optimal Design
• Title（参考訳）: コンセンサスによる協調的分散ベイズ最適化:最適な設計のための協調の力を示す
• Authors: Xubo Yue, Raed Al Kontar, Albert S. Berahas, Yang Liu, Blake N. Johnson
• Abstract要約: ベイズ最適化のための新しい協調パラダイムを提案する。 私たちのアプローチは、さまざまなコラボレーションメカニズムを組み込むことのできる、汎用的で柔軟なフレームワークを提供します。 我々のフレームワークは、最適な設計プロセスを効果的に加速し、改善し、すべての参加者に利益をもたらすことを示しています。
• 参考スコア（独自算出の注目度）: 7.066023612489374
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Optimal design is a critical yet challenging task within many applications. This challenge arises from the need for extensive trial and error, often done through simulations or running field experiments. Fortunately, sequential optimal design, also referred to as Bayesian optimization when using surrogates with a Bayesian flavor, has played a key role in accelerating the design process through efficient sequential sampling strategies. However, a key opportunity exists nowadays. The increased connectivity of edge devices sets forth a new collaborative paradigm for Bayesian optimization. A paradigm whereby different clients collaboratively borrow strength from each other by effectively distributing their experimentation efforts to improve and fast-track their optimal design process. To this end, we bring the notion of consensus to Bayesian optimization, where clients agree (i.e., reach a consensus) on their next-to-sample designs. Our approach provides a generic and flexible framework that can incorporate different collaboration mechanisms. In lieu of this, we propose transitional collaborative mechanisms where clients initially rely more on each other to maneuver through the early stages with scant data, then, at the late stages, focus on their own objectives to get client-specific solutions. Theoretically, we show the sub-linear growth in regret for our proposed framework. Empirically, through simulated datasets and a real-world collaborative sensor design experiment, we show that our framework can effectively accelerate and improve the optimal design process and benefit all participants.
• Abstract（参考訳）: 最適設計は多くのアプリケーションにおいて重要な課題である。 この課題は広範囲な試行錯誤が必要であり、しばしばシミュレーションやフィールド実験を通じて行われる。 幸いなことに、ベイズ風味のサロゲートを使用する際にベイズ最適化とも呼ばれるシーケンシャル最適設計は、効率的なシーケンシャルサンプリング戦略を通じて設計プロセスの加速に重要な役割を果たしている。 しかし、現在では重要な機会が存在している。 エッジデバイスの接続性が高まり、ベイズ最適化のための新しいコラボレーティブパラダイムが確立された。 最適な設計プロセスを改善し、迅速に追跡するために、実験を効果的に分散することで、異なるクライアントが互いに協力して力を借りるパラダイム。 この目的のために、我々はベイズ最適化にコンセンサスの概念をもたらし、クライアントは次のサンプル設計で合意する(すなわちコンセンサスに達する)。 私たちのアプローチは、異なるコラボレーションメカニズムを組み込める汎用的で柔軟なフレームワークを提供します。 これの代わりに、私たちは、クライアントが当初、スキャンされたデータで早期に操作するために、より多くのクライアントに依存する過渡的協調メカニズムを提案し、そして、後期には、クライアント固有のソリューションを得るために、それぞれの目標に焦点を当てる。 理論的には,提案フレームワークに対する後悔のサブ線形成長を示す。 実験により,シミュレーションデータセットと実世界の協調センサ設計実験を通じて,我々のフレームワークが最適な設計プロセスを効果的に加速し,改善し,すべての参加者に利益をもたらすことを示す。

関連論文リスト

• CoBo: Collaborative Learning via Bilevel Optimization [36.8801794168583]
  協調学習は、複数のクライアント間のコミュニケーションを有効にすることで、複数のクライアントをより効果的に訓練するための重要なツールである。 本稿では,クライアント選択とモデル学習を2つの相互接続最適化問題としてモデル化する。 本稿では,これらの問題を理論的収束保証で効率的に処理する,スケーラブルで柔軟なSGD型交互最適化アルゴリズムであるCoBoを紹介する。
  論文  参考訳（メタデータ） (2024-09-09T11:59:42Z)
• Emulating Full Client Participation: A Long-Term Client Selection Strategy for Federated Learning [48.94952630292219]
  本稿では,クライアントの完全参加によって達成されるパフォーマンスをエミュレートする新しいクライアント選択戦略を提案する。 1ラウンドで、クライアントサブセットとフルクライアントセット間の勾配空間推定誤差を最小化し、クライアントを選択する。 複数ラウンド選択において、類似したデータ分布を持つクライアントが選択される頻度に類似することを保証する、新しい個性制約を導入する。
  論文  参考訳（メタデータ） (2024-05-22T12:27:24Z)
• Enhanced Bayesian Optimization via Preferential Modeling of Abstract Properties [49.351577714596544]
  本研究では,非測定抽象特性に関する専門家の嗜好を代理モデルに組み込むための,人間とAIの協調型ベイズフレームワークを提案する。 優先判断において、誤った/誤解を招く専門家バイアスを処理できる効率的な戦略を提供する。
  論文  参考訳（メタデータ） (2024-02-27T09:23:13Z)
• ECoDe: A Sample-Efficient Method for Co-Design of Robotic Agents [11.449817465618658]
  自律ロボットエージェントを共同設計するには、エージェントのコントローラと物理的設計を同時に最適化する必要がある。 デザインスペースが大きくなると、これは難しくなります。 共設計のサンプル効率を向上させるための多要素探索手法を提案する。
  論文  参考訳（メタデータ） (2023-09-08T02:54:31Z)
• CO-BED: Information-Theoretic Contextual Optimization via Bayesian Experimental Design [31.247108087199095]
  CO-BEDは、情報理論の原理を用いて文脈実験を設計するためのモデルに依存しないフレームワークである。 その結果、CO-BEDは、幅広い文脈最適化問題に対して、汎用的で自動化されたソリューションを提供する。
  論文  参考訳（メタデータ） (2023-02-27T18:14:13Z)
• Differentiable Multi-Target Causal Bayesian Experimental Design [43.76697029708785]
  本稿では,ベイズ最適設計問題に対する勾配に基づくアプローチを導入し,バッチ環境で因果モデルを学習する。 既存の手法は、一連の実験を構築するためにグリーディ近似に依存している。 そこで本稿では,最適介入対象ペアの集合を取得するための,概念的にシンプルな勾配に基づく最適化手法を提案する。
  論文  参考訳（メタデータ） (2023-02-21T11:32:59Z)
• Accelerated Federated Learning with Decoupled Adaptive Optimization [53.230515878096426]
  フェデレートドラーニング(FL)フレームワークは、クライアント上のトレーニングデータのプライバシを維持しながら、共有モデルを協調的に学習することを可能にする。 近年,SGDM,Adam,AdaGradなどの集中型適応最適化手法をフェデレートした設定に一般化するためのイテレーションが多数実施されている。 本研究は、常微分方程式(ODE)のダイナミクスの観点から、FLの新しい適応最適化手法を開発することを目的としている。
  論文  参考訳（メタデータ） (2022-07-14T22:46:43Z)
• Investigating Positive and Negative Qualities of Human-in-the-Loop Optimization for Designing Interaction Techniques [55.492211642128446]
  設計者は、与えられた目的の集合を最大化する設計パラメータの組み合わせを見つけるよう求められる設計最適化タスクに苦労すると言われている。 モデルベースの計算設計アルゴリズムは、設計中に設計例を生成することでデザイナを支援する。 一方、補助のためのブラックボックスメソッドは、あらゆる設計問題に対処できる。
  論文  参考訳（メタデータ） (2022-04-15T20:40:43Z)
• Optimizer Amalgamation [124.33523126363728]
  私たちは、Amalgamationという新しい問題の研究を動機付けています。"Teacher"アマルガメーションのプールを、より強力な問題固有のパフォーマンスを持つ単一の"学生"にどのように組み合わせるべきなのでしょうか? まず、勾配降下による解析のプールをアマルガメートする3つの異なるメカニズムを定義する。 また, プロセスの分散を低減するため, 目標を摂動させることでプロセスの安定化を図る。
  論文  参考訳（メタデータ） (2022-03-12T16:07:57Z)
• Incorporating Expert Prior Knowledge into Experimental Design via Posterior Sampling [58.56638141701966]
  実験者は、グローバルな最適な場所に関する知識を得ることができる。 グローバル最適化に関する専門家の事前知識をベイズ最適化に組み込む方法は不明である。 効率の良いベイズ最適化手法は、大域的最適の後方分布の後方サンプリングによって提案されている。
  論文  参考訳（メタデータ） (2020-02-26T01:57:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。