論文の概要: Active Learning and Bayesian Optimization: a Unified Perspective to
Learn with a Goal
- arxiv url: http://arxiv.org/abs/2303.01560v1
- Date: Thu, 2 Mar 2023 20:22:40 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-06 17:05:37.872431
- Title: Active Learning and Bayesian Optimization: a Unified Perspective to
Learn with a Goal
- Title(参考訳): アクティブラーニングとベイズ最適化:ゴールで学ぶための統一的な視点
- Authors: Francesco Di Fiore, Michela Nardelli and Laura Mainini
- Abstract要約: ベイズ最適化とアクティブラーニングは、特定の学習目標を達成するための適応的なサンプリングスキームを実現する。
ベイズ最適化とアクティブラーニングの統一的な視点を、サンプリングポリシーを駆動する原則間の相乗効果に基づいて論じる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Both Bayesian optimization and active learning realize an adaptive sampling
scheme to achieve a specific learning goal. However, while the two fields have
seen an exponential growth in popularity in the past decade, their dualism has
received relatively little attention. In this position paper, we argue for an
original unified perspective of Bayesian optimization and active learning based
on the synergy between the principles driving the sampling policies. This
symbiotic relationship is demonstrated through the substantial analogy between
the infill criteria of Bayesian optimization and the learning criteria in
active learning, and is formalized for the case of single information source
and when multiple sources at different levels of fidelity are available. We
further investigate the capabilities of each infill criteria both individually
and in combination on a variety of analytical benchmark problems, to highlight
benefits and limitations over mathematical properties that characterize
real-world applications.
- Abstract(参考訳): ベイズ最適化とアクティブラーニングは、特定の学習目標を達成するための適応的なサンプリングスキームを実現する。
しかし、この2つの分野は過去10年間に急速に人気が高まってきたが、その双対性は比較的注目されていない。
本稿では,サンプリングポリシを駆動する原理間の相乗効果に基づくベイズ最適化とアクティブラーニングの統一的な視点を論じる。
この共生関係は、ベイズ最適化のインフィル基準とアクティブラーニングにおける学習基準の実質的な類似性を通じて証明され、単一の情報ソースの場合や、異なるレベルの忠実度で複数のソースが利用できる場合に形式化される。
我々は,実世界の応用を特徴付ける数学的性質の利点と限界を強調するために,各インフィル基準の能力について,様々な解析ベンチマーク問題に対して個別および組み合わせで検討する。
関連論文リスト
- BOtied: Multi-objective Bayesian optimization with tied multivariate
ranks [49.85896045032822]
非支配解と最高多変量階との自然な関係を示し、これは合同累積分布関数(CDF)の最外層線と一致する。
我々はCDFインジケータに基づくBOtiedと呼ばれる取得関数を提案する。
論文 参考訳(メタデータ) (2023-06-01T04:50:06Z) - Agent-based Collaborative Random Search for Hyper-parameter Tuning and
Global Function Optimization [0.0]
本稿では,機械学習モデルにおける任意のハイパーパラメータの任意の集合に対する近似値を求めるためのエージェントベース協調手法を提案する。
提案モデルの動作,特に設計パラメータの変化に対して,機械学習およびグローバル関数最適化アプリケーションの両方で検討する。
論文 参考訳(メタデータ) (2023-03-03T21:10:17Z) - Scalable PAC-Bayesian Meta-Learning via the PAC-Optimal Hyper-Posterior:
From Theory to Practice [54.03076395748459]
メタラーニング文学の中心的な疑問は、目に見えないタスクへの一般化を保証するために、いかに正規化するかである。
本稿では,Rothfussらによって最初に導かれたメタラーニングの一般化について述べる。
PAC-Bayesian per-task 学習境界におけるメタラーニングの条件と程度について,理論的解析および実証事例研究を行った。
論文 参考訳(メタデータ) (2022-11-14T08:51:04Z) - Multiobjective Ranking and Selection Using Stochastic Kriging [0.0]
我々は,複数の矛盾する目的を同時に最適化し,シミュレーションによってのみ観測できる多目的シミュレーション最適化問題を考察する。
最適性は、他の目的の質を損なうことなく、目的を改善できないことを意味する。
提案手法は, 最適性能の解を同定する際の誤差を減らすため, 多目的ランキングと選択法を提案する。
論文 参考訳(メタデータ) (2022-09-05T23:51:07Z) - HyperImpute: Generalized Iterative Imputation with Automatic Model
Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。
既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文 参考訳(メタデータ) (2022-06-15T19:10:35Z) - Multi-objective robust optimization using adaptive surrogate models for
problems with mixed continuous-categorical parameters [0.0]
ロバスト設計の最適化は、不確実性が主に目的関数に影響を与える場合、伝統的に考慮されている。
結果として生じるネスト最適化問題は、非支配的ソート遺伝的アルゴリズム(NSGA-II)において、汎用的な解法を用いて解決することができる。
提案手法は、適応的に構築されたKrigingモデルを用いて、NSGA-IIを順次実行し、量子を推定する。
論文 参考訳(メタデータ) (2022-03-03T20:23:18Z) - A Field Guide to Federated Optimization [161.3779046812383]
フェデレートされた学習と分析は、分散化されたデータからモデル(あるいは統計)を協調的に学習するための分散アプローチである。
本稿では、フェデレート最適化アルゴリズムの定式化、設計、評価、分析に関する勧告とガイドラインを提供する。
論文 参考訳(メタデータ) (2021-07-14T18:09:08Z) - Resource Aware Multifidelity Active Learning for Efficient Optimization [0.8717253904965373]
本稿では,ブラックボックス関数の最適化を高速化するためのリソース・アウェア・アクティブ・ラーニング(RAAL)戦略を紹介する。
RAAL戦略は最適化タスクの大幅な高速化を可能にするために、最適に複数のポイントを投入する。
論文 参考訳(メタデータ) (2020-07-09T10:01:32Z) - On the Global Optimality of Model-Agnostic Meta-Learning [133.16370011229776]
モデル・ア・メタラーニング(MAML)は、メタラーニングを二段階最適化問題として定式化し、内部レベルが各サブタスクを、共有された事前に基づいて解決する。
学習と教師あり学習の両方においてMAMLが達成した定常点の最適性を特徴付ける。
論文 参考訳(メタデータ) (2020-06-23T17:33:14Z) - Stochastic batch size for adaptive regularization in deep network
optimization [63.68104397173262]
ディープラーニングフレームワークにおける機械学習問題に適用可能な適応正規化を取り入れた一階最適化アルゴリズムを提案する。
一般的なベンチマークデータセットに適用した従来のネットワークモデルに基づく画像分類タスクを用いて,提案アルゴリズムの有効性を実証的に実証した。
論文 参考訳(メタデータ) (2020-04-14T07:54:53Z) - Bayesian task embedding for few-shot Bayesian optimization [2.722899166098863]
本稿では,ベイズ最適化の手法について述べる。
システムの一般的な(非現実的な)機能はすべて、システム応答面を同時に学習する単一のメタモデルに関連付けられた入力として関連付けられている。
ベイジアン最適化タスクにおいて,得られた確率的メタモデルがどのように用いられるのかを説明し,その実装を様々な合成および実世界の例で実証する。
論文 参考訳(メタデータ) (2020-01-02T21:46:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。