論文の概要: ALAS: Additive Learnable Alpha-Stable Kernels for Flexible Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2607.18282v1
- Date: Tue, 30 Jun 2026 04:32:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 00:46:13.105425
- Title: ALAS: Additive Learnable Alpha-Stable Kernels for Flexible Bayesian Optimization
- Title(参考訳): ALAS:フレキシブルベイズ最適化のための付加学習型アルファ安定カーネル
- Abstract要約: ALASは、対称$$$-stableスペクトルコンポーネントで構築されたフレキシブルカーネルファミリーである。
ALASとALAS-Sepは分割可能な変種であり、ほぼ分解可能な目的に対して頑健性を改善するために寸法方向の尾の挙動を学習する。
- 参考スコア(独自算出の注目度): 2.566783196630642
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian Optimization is widely used for expensive black-box optimization, yet its success often depends on choosing a kernel that matches the objective's unknown structure. In this work, we propose ALAS, a flexible Gaussian Process kernel family built from symmetric $α$-stable spectral components. By learning the stability parameter $α$, ALAS adapts its effective smoothness from data, capturing both smooth trends and sharp irregularities. We present two parameterizations: ALAS, a single stationary component with joint spectral modulation, and ALAS-Sep, a separable variant that learns dimension-wise tail behavior to improve robustness on approximately decomposable objectives. Experiments on standard benchmarks and real-world surrogates demonstrate strong and robust performance across diverse settings.
- Abstract(参考訳): ベイズ最適化は高価なブラックボックス最適化に広く使われているが、その成功はしばしば目的の未知の構造にマッチするカーネルの選択に依存する。
本研究では、対称$α$-stableスペクトル成分から構築されたフレキシブルガウスプロセスカーネルファミリーであるALASを提案する。
α$の安定性パラメータを学習することで、ALASはデータから効果的な滑らかさに適応し、スムーズなトレンドと鋭い不規則の両方をキャプチャする。
ALASとALAS-Sepは分割可能な変種であり、ほぼ分解可能な目的に対して頑健性を改善するために寸法方向の尾の挙動を学習する。
標準ベンチマークと実世界のサロゲートの実験は、さまざまな設定で堅牢で堅牢なパフォーマンスを示している。
関連論文リスト
- Enhancing Bayesian Optimization and Active Learning Through Kernel Diversity [13.065036862403966]
本稿では, Ensemble Gaussian Processes (EGP) と不一致認識獲得戦略を統合した統合フレームワーク KENDO を提案する。
KENDO-BOは最先端の手法と比較して、競争力や優れた最適化性能を達成している。
論文 参考訳(メタデータ) (2026-08-25T15:35:47Z) - Learn2Splat: Extending the Horizon of Learned 3DGS Optimization [53.913063313338874]
補助機構を使わずに地平線上における劣化を回避できる3DGSの学習手法を提案する。
その結果、長い地平線上で安定しながら、新しいビュークオリティを向上し、ゼロショットの一般化により、見当たらないリコンストラクション設定を実現した。
論文 参考訳(メタデータ) (2026-05-15T09:21:29Z) - On Adaptivity in Zeroth-Order Optimization [16.620217856482377]
ZO-Adamのような適応ZO法は、よく調整されたZO-SGDに対して収束優位性を与えないことを示す。
本稿では,グローバルステップサイズ適応のための1つのスカラーのみを追跡するメモリ効率の高い適応ZOであるMEAZOを提案する。
論文 参考訳(メタデータ) (2026-05-05T15:29:11Z) - Anon: Extrapolating Adaptivity Beyond SGD and Adam [25.876261427108673]
Anonは、古典と近代のギャップを埋めることのできる、最初の統一的で信頼性の高いフレームワークを提供する。
Anonはハードトラックよりも柔軟で、ノイズに対する勾配の堅牢性を高める。
論文 参考訳(メタデータ) (2026-05-04T08:14:51Z) - Optimization with SpotOptim [0.304585143845864]
spotoptimパッケージはPythonのブラックボックス関数のサロゲートモデルに基づく最適化を実装している。
本稿では、Spotoptimのアーキテクチャとモジュール構造を説明し、実例を示し、BoTorch、Optuna、Ray Tune、BOHB、SMAC、Hyperoptと比較する。
論文 参考訳(メタデータ) (2026-04-15T09:39:46Z) - $γ$-weakly $θ$-up-concavity: Linearizable Non-Convex Optimization with Applications to DR-Submodular and OSS Functions [52.031993908548294]
このような関数の広範な近似を特徴付ける新しい一階述語条件である$-weakly $-up-concavityを導入する。
本フレームワークは,DR-サブモジュラークラスに対する最適係数を復元し,既存の近似係数を大幅に改善する。
論文 参考訳(メタデータ) (2026-02-13T22:34:44Z) - Neural Nonmyopic Bayesian Optimization in Dynamic Cost Settings [73.44599934855067]
LookaHESは、動的で履歴に依存したコスト環境のために設計された非心筋BOフレームワークである。
LookaHESは、$H$-Entropy Searchのマルチステップ版と、パスワイズサンプリングとニューラルポリシー最適化を組み合わせたものだ。
私たちの革新は、構造化されたドメイン固有のアクションスペースを効果的にナビゲートするために、大きな言語モデルを含むニューラルポリシーの統合です。
論文 参考訳(メタデータ) (2026-01-10T09:49:45Z) - Taming LLMs by Scaling Learning Rates with Gradient Grouping [49.91587150497186]
大きな言語モデル(LLM)のトレーニングは、その大規模で異質なアーキテクチャのため、課題を提起する。
SGG(Scaling with Gradient Grouping)は、動的グルーピングとグループ固有のスケーリングによる適応的な学習率推定を改善するグラデーションラッパーである。
論文 参考訳(メタデータ) (2025-06-01T15:30:37Z) - AlphaGrad: Non-Linear Gradient Normalization Optimizer [0.0]
我々は、Adamのような適応型メソッドのメモリオーバーヘッドと複雑さに対処するメモリ効率が高く、条件のないAlphaGradを紹介します。
AlphaGrad はテンソルワイド L2 正規化によってスケール不変性を強制し、その後スムーズな双曲タンジェント変換を行う。
Adamと比べ、AlphaGradは高度にコンテキストに依存したパフォーマンスプロファイルを示している。
論文 参考訳(メタデータ) (2025-04-22T16:33:14Z) - Make Optimization Once and for All with Fine-grained Guidance [78.14885351827232]
Learning to Optimize (L2O)は、統合ニューラルネットワークによる最適化効率を向上させる。
L2Oパラダイムは、例えば、リフィット、目に見えない解決策を反復的または直接的に生成するなど、大きな成果を達成する。
そこで本研究では,Diff-L2Oと呼ばれる学習最適化のための一般的なフレームワークについて検討した。
論文 参考訳(メタデータ) (2025-03-14T14:48:12Z) - Adaptive Preference Scaling for Reinforcement Learning with Human Feedback [103.36048042664768]
人間からのフィードバックからの強化学習(RLHF)は、AIシステムと人間の価値を合わせるための一般的なアプローチである。
本稿では,分散ロバスト最適化(DRO)に基づく適応的優先損失を提案する。
提案手法は多用途であり,様々な選好最適化フレームワークに容易に適用可能である。
論文 参考訳(メタデータ) (2024-06-04T20:33:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。