論文の概要: Kernel-based guarantees for nonlinear parametric models in Bayesian optimization
- arxiv url: http://arxiv.org/abs/2605.13160v1
- Date: Wed, 13 May 2026 08:24:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-14 23:30:27.909205
- Title: Kernel-based guarantees for nonlinear parametric models in Bayesian optimization
- Title(参考訳): ベイズ最適化における非線形パラメトリックモデルのカーネルベース保証
- Authors: Rafael Oliveira,
- Abstract要約: 我々は、適応的に収集されたデータに基づいて訓練された正規化非線形パラメトリックモデルを解析するためのカーネルベースのフレームワークを開発する。
これらの境界が非線形獲得および代理モデルに対する収束保証をどのようにサポートするかを示す。
- 参考スコア(独自算出の注目度): 5.191484562883949
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern Bayesian optimization and adaptive sampling methods increasingly rely on nonlinear parametric models, yet theoretical guarantees for such models under adaptive data collection remain limited. Existing analyses largely focus on Gaussian processes, kernel machines, linear models, or linearized neural approximations, leaving a gap between theory and the nonlinear models used in practice. We develop a kernel based framework for analyzing regularized nonlinear parametric models trained on adaptively collected data. Our approach uses kernels over the parameter space to induce reproducing kernel Hilbert space structures over the corresponding model class, yielding confidence bounds for models trained with broad classes of regularized convex losses. We show how these bounds can support convergence guarantees for nonlinear acquisition and surrogate models, including randomized regularized policies that select points by maximizing a trained random model. These results provide a unified route to analyzing nonlinear parametric models in Bayesian optimization and related adaptive optimization settings.
- Abstract(参考訳): 現代のベイズ最適化と適応サンプリング手法は、非線形パラメトリックモデルにますます依存しているが、適応データ収集におけるそのようなモデルの理論的保証は限られている。
既存の分析は主にガウス過程、カーネルマシン、線形モデル、あるいは線形化ニューラル近似に焦点を合わせ、理論と実際に使われる非線形モデルの間にギャップを残した。
我々は、適応的に収集されたデータに基づいて訓練された正規化非線形パラメトリックモデルを解析するためのカーネルベースのフレームワークを開発する。
我々のアプローチでは、パラメータ空間上のカーネルを用いて、対応するモデルクラス上の再生カーネルヒルベルト空間構造を誘導し、正規化された凸損失の広いクラスで訓練されたモデルに対する信頼境界を得る。
これらの境界は、トレーニングされたランダムモデルを最大化することにより、ポイントを選択するランダム化された正規化ポリシーを含む、非線形取得および代理モデルに対する収束保証をサポートすることができることを示す。
これらの結果はベイズ最適化と関連する適応最適化設定において非線形パラメトリックモデルを解析するための統一的な経路を提供する。
関連論文リスト
- Nonparametric Data Attribution for Diffusion Models [57.820618036556084]
生成モデルのデータ属性は、個々のトレーニング例がモデル出力に与える影響を定量化する。
生成画像とトレーニング画像のパッチレベルの類似性によって影響を測定する非パラメトリック属性法を提案する。
論文 参考訳(メタデータ) (2025-10-16T03:37:16Z) - A Framework for Nonstationary Gaussian Processes with Neural Network Parameters [0.8057006406834466]
本稿では,パラメータが特徴空間によって異なる非定常カーネルを用いて,これらのパラメータをニューラルネットワークの出力としてモデル化するフレームワークを提案する。
提案手法は,非定常パラメータの挙動を明確に記述し,大規模データセットへのスケーリングのための近似手法と互換性がある。
いくつかの機械学習データセット上で,本手法の非定常変動と雑音変動を検証した結果,定常モデルと階層モデルの両方に近似して精度とログスコアが得られた。
論文 参考訳(メタデータ) (2025-07-16T14:09:49Z) - An Iterative Bayesian Approach for System Identification based on Linear Gaussian Models [70.75865595489691]
システム識別の問題に取り組み、入力を選択し、実際のシステムから対応する出力を観測し、データに最も合うようにモデルのパラメータを最適化する。
提案手法では,システムからの入力出力データとパラメータに関するモデルの1次情報のみを必要とする。
論文 参考訳(メタデータ) (2025-01-28T01:57:51Z) - Gaussian Process-Based Prediction and Control of Hammerstein-Wiener Systems [0.0]
データ駆動予測アルゴリズムは、ウィレムズの基本補題に基づく構造付き非線形システムに対して開発された。
既存のフレームワークは出力の非線形性を扱うことができず、ハマースタイン系の基底関数の辞書を必要とする。
本研究では,モデルの線形部分に対して,多段階ARX構造を利用する暗黙の予測器構造について検討する。
論文 参考訳(メタデータ) (2025-01-27T08:18:14Z) - Adaptive Conformal Inference by Betting [51.272991377903274]
データ生成プロセスについて仮定することなく適応型共形推論の問題を考察する。
適応型共形推論のための既存のアプローチは、オンライン勾配勾配の変種を用いたピンボール損失の最適化に基づいている。
本稿では,パラメータフリーなオンライン凸最適化手法を利用した適応型共形推論手法を提案する。
論文 参考訳(メタデータ) (2024-12-26T18:42:08Z) - Bayesian Inference for Consistent Predictions in Overparameterized Nonlinear Regression [0.0]
本研究では,ベイズフレームワークにおける過パラメータ化非線形回帰の予測特性について検討した。
リプシッツ連続活性化関数を持つ一般化線形および単一ニューロンモデルに対して後部収縮が成立する。
提案手法は数値シミュレーションと実データアプリケーションを用いて検証した。
論文 参考訳(メタデータ) (2024-04-06T04:22:48Z) - The Convex Landscape of Neural Networks: Characterizing Global Optima
and Stationary Points via Lasso Models [75.33431791218302]
ディープニューラルネットワーク(DNN)モデルは、プログラミング目的に使用される。
本稿では,凸型神経回復モデルについて検討する。
定常的非次元目的物はすべて,グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。
また, 静止非次元目的物はすべて, グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。
論文 参考訳(メタデータ) (2023-12-19T23:04:56Z) - Hessian Eigenspectra of More Realistic Nonlinear Models [73.31363313577941]
私たちは、非線形モデルの広いファミリーのためのヘッセン固有スペクトルの言語的特徴付けを行います。
我々の分析は、より複雑な機械学習モデルで観察される多くの顕著な特徴の起源を特定するために一歩前進する。
論文 参考訳(メタデータ) (2021-03-02T06:59:52Z) - LQF: Linear Quadratic Fine-Tuning [114.3840147070712]
本稿では,非線形微調整に匹敵する性能を実現する事前学習モデルの線形化手法を提案する。
LQFはアーキテクチャの単純な変更、損失関数、そして一般的に分類に使用される最適化で構成されている。
論文 参考訳(メタデータ) (2020-12-21T06:40:20Z) - Uncertainty Modelling in Risk-averse Supply Chain Systems Using
Multi-objective Pareto Optimization [0.0]
サプライチェーンモデリングにおける困難なタスクの1つは、不規則な変動に対して堅牢なモデルを構築することである。
我々は、不確実性を扱うためのパレート最適化(Pareto Optimization)という新しい手法を導入し、これらの不確実性のエントロピーをアプリオリ仮定の下で明示的にモデル化することで拘束する。
論文 参考訳(メタデータ) (2020-04-24T21:04:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。