論文の概要: A Robust Asymmetric Kernel Function for Bayesian Optimization, with
Application to Image Defect Detection in Manufacturing Systems
- arxiv url: http://arxiv.org/abs/2109.10898v1
- Date: Wed, 22 Sep 2021 17:59:05 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-23 13:53:54.339284
- Title: A Robust Asymmetric Kernel Function for Bayesian Optimization, with
Application to Image Defect Detection in Manufacturing Systems
- Title(参考訳): ベイズ最適化のためのロバスト不対称カーネル関数と製造システムにおける画像欠陥検出への応用
- Authors: Areej AlBahar and Inyoung Kim and Xiaowei Yue
- Abstract要約: 我々は、ロバストなカーネル関数、非対称な弾性ネットラジアル基底関数(AEN-RBF)を提案する。
理論的には、AEN-RBFは穏やかな条件下でより小さな平均2乗予測誤差を実現できることを示す。
また、AEN-RBFカーネル関数は、外れ値に対する感度が低いことも示している。
- 参考スコア(独自算出の注目度): 2.4278445972594525
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Some response surface functions in complex engineering systems are usually
highly nonlinear, unformed, and expensive-to-evaluate. To tackle this
challenge, Bayesian optimization, which conducts sequential design via a
posterior distribution over the objective function, is a critical method used
to find the global optimum of black-box functions. Kernel functions play an
important role in shaping the posterior distribution of the estimated function.
The widely used kernel function, e.g., radial basis function (RBF), is very
vulnerable and susceptible to outliers; the existence of outliers is causing
its Gaussian process surrogate model to be sporadic. In this paper, we propose
a robust kernel function, Asymmetric Elastic Net Radial Basis Function
(AEN-RBF). Its validity as a kernel function and computational complexity are
evaluated. When compared to the baseline RBF kernel, we prove theoretically
that AEN-RBF can realize smaller mean squared prediction error under mild
conditions. The proposed AEN-RBF kernel function can also realize faster
convergence to the global optimum. We also show that the AEN-RBF kernel
function is less sensitive to outliers, and hence improves the robustness of
the corresponding Bayesian optimization with Gaussian processes. Through
extensive evaluations carried out on synthetic and real-world optimization
problems, we show that AEN-RBF outperforms existing benchmark kernel functions.
- Abstract(参考訳): 複雑な工学系における応答曲面関数は、通常非常に非線形で、非形式的で、高く評価される。
この課題に取り組むために、目的関数の後方分布を介してシーケンシャルな設計を行うベイズ最適化は、ブラックボックス関数のグローバル最適化を見つけるために用いられる重要な手法である。
カーネル関数は推定関数の後方分布を形成する上で重要な役割を果たす。
広く使われているカーネル関数(例えば、放射基底関数(RBF))は、非常に脆弱で、外れ値の影響を受けやすい。
本稿では、AEN-RBF(Asymmetric Elastic Net Radial Basis Function)という、堅牢なカーネル関数を提案する。
カーネル関数としての妥当性と計算複雑性を評価する。
ベースラインのRBFカーネルと比較すると、AEN-RBFは穏やかな条件下でより小さな平均2乗予測誤差を実現できることが理論的に証明されている。
提案したAEN-RBFカーネル関数は,グローバル最適化への高速収束を実現する。
また,AEN-RBFカーネル関数は外れ値に対する感度が低く,ガウス過程によるベイズ最適化の堅牢性も向上することを示した。
合成および実世界の最適化問題に関する広範囲な評価を通じて、aen-rbfが既存のベンチマークカーネル関数よりも優れていることを示す。
関連論文リスト
- Kernel-Based Function Approximation for Average Reward Reinforcement Learning: An Optimist No-Regret Algorithm [11.024396385514864]
無限水平平均報酬設定における近似RLのカーネル関数について考察する。
本稿では,バンディットの特別な場合において,取得関数に基づくアルゴリズムと類似した楽観的なアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-10-30T23:04:10Z) - Global Optimization of Gaussian Process Acquisition Functions Using a Piecewise-Linear Kernel Approximation [2.3342885570554652]
本稿では,プロセスカーネルに対する一括近似と,取得関数に対するMIQP表現を紹介する。
我々は,合成関数,制約付きベンチマーク,ハイパーチューニングタスクに関するフレームワークを実証的に実証した。
論文 参考訳(メタデータ) (2024-10-22T10:56:52Z) - An appointment with Reproducing Kernel Hilbert Space generated by
Generalized Gaussian RBF as $L^2-$measure [3.9931474959554496]
Generalized Gaussian Radial Basis Function (RBF) Kernelsは、人工知能と機械学習ルーチンにおいて最も多く採用されているカーネルである。
この原稿は、前述の機械学習ルーチンに対する一般化ガウスRBFのカーネルセンスへの応用と、上記の関数との比較を実証している。
論文 参考訳(メタデータ) (2023-12-17T12:02:10Z) - Equation Discovery with Bayesian Spike-and-Slab Priors and Efficient Kernels [57.46832672991433]
ケルネル学習とBayesian Spike-and-Slab pres (KBASS)に基づく新しい方程式探索法を提案する。
カーネルレグレッションを用いてターゲット関数を推定する。これはフレキシブルで表現力があり、データ空間やノイズに対してより堅牢である。
我々は,効率的な後部推論と関数推定のための予測伝搬予測最大化アルゴリズムを開発した。
論文 参考訳(メタデータ) (2023-10-09T03:55:09Z) - Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。
ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
論文 参考訳(メタデータ) (2023-04-17T14:23:43Z) - Surrogate modeling for Bayesian optimization beyond a single Gaussian
process [62.294228304646516]
本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。
拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。
提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
論文 参考訳(メタデータ) (2022-05-27T16:43:10Z) - Meta-Learning Hypothesis Spaces for Sequential Decision-making [79.73213540203389]
オフラインデータ(Meta-KeL)からカーネルをメタ学習することを提案する。
穏やかな条件下では、推定されたRKHSが有効な信頼セットを得られることを保証します。
また,ベイズ最適化におけるアプローチの有効性を実証的に評価した。
論文 参考訳(メタデータ) (2022-02-01T17:46:51Z) - Hybrid Random Features [60.116392415715275]
ハイブリッドランダム特徴(HRF)と呼ばれるソフトマックスとガウス核の線形化のための新しいランダム特徴法を提案する。
HRFは、カーネル推定の品質を自動的に適応し、定義された関心領域の最も正確な近似を提供する。
論文 参考訳(メタデータ) (2021-10-08T20:22:59Z) - Flow-based Kernel Prior with Application to Blind Super-Resolution [143.21527713002354]
カーネル推定は一般にブラインド画像超解像(SR)の鍵となる問題の一つである
本稿では,カーネルモデリングのための正規化フローベースカーネルプリレント(fkp)を提案する。
合成および実世界の画像の実験により、提案したFKPがカーネル推定精度を大幅に向上することを示した。
論文 参考訳(メタデータ) (2021-03-29T22:37:06Z) - From Majorization to Interpolation: Distributionally Robust Learning
using Kernel Smoothing [1.2891210250935146]
確率指標に基づく分布的ロバスト最適化(DRO)の関数近似の側面を検討する。
本稿では,滑らかな関数近似と畳み込みに基づく堅牢な学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-02-16T22:25:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。