論文の概要: Collaborative Bayesian Optimization via Wasserstein Barycenters
- arxiv url: http://arxiv.org/abs/2504.10770v1
- Date: Tue, 15 Apr 2025 00:15:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-16 22:06:10.855654
- Title: Collaborative Bayesian Optimization via Wasserstein Barycenters
- Title(参考訳): Wasserstein Barycentersによる協調ベイズ最適化
- Authors: Donglin Zhan, Haoting Zhang, Rhonda Righter, Zeyu Zheng, James Anderson,
- Abstract要約: 我々は,ブラックボックス最適化とデータプライバシ問題に対処する協調ベイズ最適化(BO)フレームワークを導入する。
このフレームワークでは、エージェントはオラクルしかアクセスできない機能を最適化するために協力して働く。
我々は,提案アルゴリズムが数値的に一貫したものであり,モンテカルロ法による実装が正確であることを証明した。
- 参考スコア(独自算出の注目度): 11.41081495236219
- License:
- Abstract: Motivated by the growing need for black-box optimization and data privacy, we introduce a collaborative Bayesian optimization (BO) framework that addresses both of these challenges. In this framework agents work collaboratively to optimize a function they only have oracle access to. In order to mitigate against communication and privacy constraints, agents are not allowed to share their data but can share their Gaussian process (GP) surrogate models. To enable collaboration under these constraints, we construct a central model to approximate the objective function by leveraging the concept of Wasserstein barycenters of GPs. This central model integrates the shared models without accessing the underlying data. A key aspect of our approach is a collaborative acquisition function that balances exploration and exploitation, allowing for the optimization of decision variables collaboratively in each iteration. We prove that our proposed algorithm is asymptotically consistent and that its implementation via Monte Carlo methods is numerically accurate. Through numerical experiments, we demonstrate that our approach outperforms other baseline collaborative frameworks and is competitive with centralized approaches that do not consider data privacy.
- Abstract(参考訳): ブラックボックス最適化とデータプライバシの必要性が高まっているため、これらの課題に対処する協調ベイズ最適化(BO)フレームワークを導入しました。
このフレームワークでは、エージェントはオラクルしかアクセスできない機能を最適化するために協力して働く。
通信とプライバシーの制約を緩和するために、エージェントはデータを共有することはできないが、ガウスプロセス(GP)サロゲートモデルを共有することができる。
これらの制約の下での協調を可能にするため、GPのワッサーシュタイン・バリセンタの概念を利用して目的関数を近似する中心モデルを構築した。
この中心的なモデルは、基礎となるデータにアクセスせずに共有モデルを統合する。
このアプローチの重要な側面は、探索とエクスプロイトのバランスを保ち、各イテレーションで共同で決定変数の最適化を可能にする、協調的な獲得機能です。
我々は,提案アルゴリズムが漸近的に一貫したものであり,モンテカルロ法による実装が数値的に正確であることを証明した。
数値実験により,本手法が他のベースライン協調フレームワークより優れており,データプライバシを考慮しない集中型アプローチと競合することを示した。
関連論文リスト
- Bridging and Modeling Correlations in Pairwise Data for Direct Preference Optimization [75.1240295759264]
本稿では,BMC という名前のペアデータにおけるブリッジ・アンド・モデリングの効果的なフレームワークを提案する。
目的の修正によって、ペアの選好信号の一貫性と情報性が向上する。
DPOだけではこれらの相関をモデル化し、ニュアンス付き変動を捉えるには不十分である。
論文 参考訳(メタデータ) (2024-08-14T11:29:47Z) - MAP: Low-compute Model Merging with Amortized Pareto Fronts via Quadratic Approximation [80.47072100963017]
Amortized Pareto Front (MAP) を用いた新しい低演算アルゴリズム Model Merging を導入する。
MAPは、複数のモデルをマージするためのスケーリング係数のセットを効率的に識別し、関連するトレードオフを反映する。
また,タスク数が比較的少ないシナリオではベイジアンMAP,タスク数の多い状況ではNested MAPを導入し,計算コストを削減した。
論文 参考訳(メタデータ) (2024-06-11T17:55:25Z) - Decentralized Directed Collaboration for Personalized Federated Learning [39.29794569421094]
我々は分散トレーニングモデル計算を行う分散パーソナライズドラーニング(DPFL)に集中する。
我々は, textbfDecentralized textbfFederated textbfPartial textbfGradient textbfPedGP を組み込んだ協調型フレームワークを提案する。
論文 参考訳(メタデータ) (2024-05-28T06:52:19Z) - Balancing Similarity and Complementarity for Federated Learning [91.65503655796603]
フェデレートラーニング(FL)は、モバイルとIoTシステムにおいてますます重要になっている。
FLの重要な課題の1つは、非i.d.データのような統計的不均一性を管理することである。
FL協調における類似性と相補性のバランスをとる新しいフレームワークである texttFedSaC を導入する。
論文 参考訳(メタデータ) (2024-05-16T08:16:19Z) - Bridging Data Barriers among Participants: Assessing the Potential of Geoenergy through Federated Learning [2.8498944632323755]
本研究では,XGBoostモデルに基づく新しい連邦学習(FL)フレームワークを提案する。
FLモデルは、異なるモデルと比較して精度と一般化能力が優れていることを示す。
本研究は, 協調型・プライバシー保護型FL技術により, 従来と異なる貯水池を評価するための新たな道を開くものである。
論文 参考訳(メタデータ) (2024-04-29T09:12:31Z) - What Makes Good Collaborative Views? Contrastive Mutual Information Maximization for Multi-Agent Perception [52.41695608928129]
マルチエージェント認識(MAP)は、複数のソースからのデータを解釈することで、自律システムが複雑な環境を理解することを可能にする。
本稿では,MAPにおける協調的視点の「良い」特性を探求することに焦点を当てた中間的協調について検討する。
中間コラボレーションのための新しいフレームワークCMiMCを提案する。
論文 参考訳(メタデータ) (2024-03-15T07:18:55Z) - Cooperative Bayesian Optimization for Imperfect Agents [32.15315995944448]
2つのエージェントは、関数を問合せするポイントを一緒に選ぶが、それぞれ1つの変数だけを制御する。
提案手法を逐次意思決定として定式化し,制御するエージェントは,関数に関する事前知識を持つ計算的合理的なエージェントとしてユーザをモデル化する。
本研究では,ユーザが過剰な探索を避ける限り,クエリの戦略的計画により,関数のグローバルな最大値の同定がより容易であることを示す。
論文 参考訳(メタデータ) (2024-03-07T12:16:51Z) - CoDream: Exchanging dreams instead of models for federated aggregation
with heterogeneous models [8.85591781936764]
我々はCoDreamという新しいフレームワークを提案し、クライアントはランダムなデータを協調的に最適化する。
私たちの重要な洞察は、このデータを共同で最適化することで、グローバルなデータ分布の特性を効果的に捉えることができるということです。
モデルパラメータを共有しないにもかかわらず、標準的なFLタスクでCoDreamを実証的に検証し、競争性能を実証する。
論文 参考訳(メタデータ) (2024-02-25T03:07:32Z) - Estimating Barycenters of Distributions with Neural Optimal Transport [93.28746685008093]
本稿では,Wasserstein Barycenter問題を解くための新しいスケーラブルなアプローチを提案する。
我々の手法は最近のNeural OTソルバをベースとしている。
また,提案手法の理論的誤差境界も確立する。
論文 参考訳(メタデータ) (2024-02-06T09:17:07Z) - Approximate Bayesian Optimisation for Neural Networks [6.921210544516486]
モデル選択の重要性を強調するために、機械学習アルゴリズムを自動化するための一連の作業が行われた。
理想主義的な方法で解析的トラクタビリティと計算可能性を解決する必要性は、効率と適用性を確保することを可能にしている。
論文 参考訳(メタデータ) (2021-08-27T19:03:32Z) - Decentralized MCTS via Learned Teammate Models [89.24858306636816]
本稿では,モンテカルロ木探索に基づくトレーニング可能なオンライン分散計画アルゴリズムを提案する。
深層学習と畳み込みニューラルネットワークを用いて正確なポリシー近似を作成可能であることを示す。
論文 参考訳(メタデータ) (2020-03-19T13:10:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。