論文の概要: Combinatorial Bandit Bayesian Optimization for Tensor Outputs
- arxiv url: http://arxiv.org/abs/2602.00640v1
- Date: Sat, 31 Jan 2026 10:16:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-03 19:28:33.310392
- Title: Combinatorial Bandit Bayesian Optimization for Tensor Outputs
- Title(参考訳): テンソル出力に対する組合せ帯域ベイズ最適化
- Authors: Jingru Huang, Haijie Xu, Jie Guo, Manrui Jiang, Chen Zhang,
- Abstract要約: ブラックボックス関数を最適化する新しいテンソル出力BO法を提案する。
我々は、問合せ点を選択するための上限値(UCB)関数を開発する。
次に、クエリされた点と最適出力サブセットの両方を選択するために、新しいマルチアームバンディットUCB2基準を設計する。
- 参考スコア(独自算出の注目度): 8.313124340788512
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bayesian optimization (BO) has been widely used to optimize expensive and black-box functions across various domains. Existing BO methods have not addressed tensor-output functions. To fill this gap, we propose a novel tensor-output BO method. Specifically, we first introduce a tensor-output Gaussian process (TOGP) with two classes of tensor-output kernels as a surrogate model of the tensor-output function, which can effectively capture the structural dependencies within the tensor. Based on it, we develop an upper confidence bound (UCB) acquisition function to select the queried points. Furthermore, we introduce a more complex and practical problem setting, named combinatorial bandit Bayesian optimization (CBBO), where only a subset of the outputs can be selected to contribute to the objective function. To tackle this, we propose a tensor-output CBBO method, which extends TOGP to handle partially observed outputs, and accordingly design a novel combinatorial multi-arm bandit-UCB2 (CMAB-UCB2) criterion to sequentially select both the queried points and the optimal output subset. Theoretical regret bounds for the two methods are established, ensuring their sublinear performance. Extensive synthetic and real-world experiments demonstrate their superiority.
- Abstract(参考訳): ベイズ最適化(BO)は、様々な領域にわたる高価なブラックボックス関数の最適化に広く用いられている。
既存のBOメソッドはテンソル出力関数に対応していない。
このギャップを埋めるために,新しいテンソル出力BO法を提案する。
具体的には,テンソルアウトプット関数の代理モデルとして,テンソルアウトプットカーネルのクラスが2つあるテンソルアウトプットガウシアンプロセス(TOGP)を導入する。
そこで本研究では,問合せ点を選択するために,上位信頼度境界(UCB)取得関数を開発する。
さらに,出力のサブセットのみを選択すれば,目的関数に寄与するコンビナトリアル帯域ベイズ最適化 (CBBO) という,より複雑で実用的な問題設定を導入する。
そこで本研究では,TOGPを拡張して部分的に観測された出力を処理するテンソル出力CBBO法を提案し,それに基づいて,クエリポイントと最適出力サブセットの両方を逐次選択する,新しい組合せ型マルチアームBandit-UCB2(CMAB-UCB2)基準を設計する。
2つの方法に対する理論的後悔境界が確立され、そのサブ線形性能が保証される。
大規模な合成および実世界の実験は、その優位性を示している。
関連論文リスト
- Function-on-Function Bayesian Optimization [5.200476666831395]
本稿では,入力と出力の両方が関数である目的に対応するために,新しい関数オンファンクションベイズ最適化(FFBO)フレームワークを提案する。
合成および実世界のデータに関する実験は、既存の手法よりもFFBOの優れた性能を示している。
論文 参考訳(メタデータ) (2025-11-16T21:24:57Z) - Sample-efficient Bayesian Optimisation Using Known Invariances [56.34916328814857]
バニラと制約付きBOアルゴリズムは、不変目的を最適化する際の非効率性を示す。
我々はこれらの不変カーネルの最大情報ゲインを導出する。
核融合炉用電流駆動システムの設計に本手法を用い, 高性能溶液の探索を行った。
論文 参考訳(メタデータ) (2024-10-22T12:51:46Z) - Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳(メタデータ) (2024-02-05T02:54:50Z) - Gathering and Exploiting Higher-Order Information when Training Large Structured Models [0.0]
最適化に関係のある well-chosen 部分空間上で、ヘッセン微分および高階微分の射影の正確かつ明示的な計算を示す。
これらのテンソルを次数2でどのように使い、ヘッセン語に含まれる情報を利用する最適化法を構築するかを示す。
トレーニングされたニューラルネットワークの層間の長距離インタラクションを考慮する。
論文 参考訳(メタデータ) (2023-12-06T20:24:05Z) - Compacting Binary Neural Networks by Sparse Kernel Selection [58.84313343190488]
本稿は,BNNにおけるバイナリカーネルの分散化がほぼ不可能であることを示すものである。
我々は、選択過程をエンドツーエンドに最適化するだけでなく、選択したコードワードの非反復的占有を維持できる置換ストレートスルー推定器(PSTE)を開発した。
実験により,提案手法はモデルサイズとビット幅の計算コストの両方を削減し,同等の予算下での最先端のBNNと比較して精度の向上を実現する。
論文 参考訳(メタデータ) (2023-03-25T13:53:02Z) - Bayesian Kernelized Tensor Factorization as Surrogate for Bayesian
Optimization [13.896697187967545]
カーネル最適化(BO)は主にガウス過程(GP)をキーサロゲートモデルとして用いている。
本稿では,BOにおける新しい代理モデルとしてベイズ因子化(BKTF)を提案する。
BKTFは、不確実量化を伴う複素関数を特徴づけるための柔軟で効果的なアプローチを提供する。
論文 参考訳(メタデータ) (2023-02-28T12:00:21Z) - Regret Bounds for Noise-Free Cascaded Kernelized Bandits [45.551266812295005]
RKHS関数クラスを用いたノイズフリーグレーボックス設定において,関数ネットワークの最適化を検討する。
本研究では,(1)チェーン:スカラー値関数のカスケード,(2)マルチアウトプットチェーン:ベクトル値関数のカスケード,(3)フィードフォワードネットワーク:完全に接続されたスカラー値関数のフィードフォワードネットワークの3種類の構造について検討する。
論文 参考訳(メタデータ) (2022-11-10T09:12:55Z) - Sample-Then-Optimize Batch Neural Thompson Sampling [50.800944138278474]
我々はトンプソンサンプリング(TS)ポリシーに基づくブラックボックス最適化のための2つのアルゴリズムを提案する。
入力クエリを選択するには、NNをトレーニングし、トレーニングされたNNを最大化してクエリを選択するだけです。
我々のアルゴリズムは、大きなパラメータ行列を逆転する必要性を助長するが、TSポリシーの妥当性は保たれている。
論文 参考訳(メタデータ) (2022-10-13T09:01:58Z) - Surrogate modeling for Bayesian optimization beyond a single Gaussian
process [62.294228304646516]
本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。
拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。
提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
論文 参考訳(メタデータ) (2022-05-27T16:43:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。