論文の概要: Optuna Constrained Tree-Structured Parzen Estimator Is a Joint Density Generalization of c-TPE
- arxiv url: http://arxiv.org/abs/2606.09889v1
- Date: Wed, 03 Jun 2026 11:16:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-10 15:40:58.011487
- Title: Optuna Constrained Tree-Structured Parzen Estimator Is a Joint Density Generalization of c-TPE
- Title(参考訳): c-TPEの結合密度一般化としてのオプチュナ制約木構造パーゼン推定器
- Authors: Shuhei Watanabe, Kaichi Irie,
- Abstract要約: 我々は,オプトゥーナの制約付きTPEがジョイントc-TPEであることを示す。
結合したc-TPEは制約重複に不変であるのに対し、独立なc-TPEは積が重複因子を蓄積するにつれて劣化することを示した。
- 参考スコア(独自算出の注目度): 3.918927916284284
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Constrained hyperparameter optimization (HPO) is common in practice, yet Optuna's widely used constrained TPE lacks algorithmic analysis. While c-TPE proposes an expected constrained improvement (ECI) approach assuming independence between the objective and constraints, Optuna uses a single joint density over both. We show that Optuna's constrained TPE is joint c-TPE -- the same ECI acquisition function using a joint likelihood. We demonstrate joint c-TPE is invariant to constraint duplication whereas independent c-TPE degrades as the product accumulates duplicated factors. We outline practical tradeoffs between the formulations and directions for future study.
- Abstract(参考訳): 制約付きハイパーパラメータ最適化(HPO)は実際には一般的であるが、オプトゥーナの広く使われている制約付きTPEはアルゴリズム解析を欠いている。
c-TPEは、目的と制約の間の独立性を仮定する期待された制約付き改善(ECI)アプローチを提案するが、オプトゥーナは両方に単一の関節密度を使用する。
我々は,オプトゥーナの制約付きTPEが関節性c-TPEであることを示す。
結合したc-TPEは制約重複に不変であるのに対し、独立なc-TPEは積が重複因子を蓄積するにつれて劣化することを示した。
今後の研究に向けた定式化と方向性のトレードオフについて概説する。
関連論文リスト
- The Procrustean Bed of Time Series: The Optimization Bias of Point-wise Loss [53.542743390809356]
本稿では,最適化バイアス(EOB)の期待に関する第一原理解析を提案する。
時間列が決定論的で構造化されるほど、ポイントワイドの損失関数によるバイアスがより厳しくなる。
本稿では,DFTとDWTの両原理を同時に実現する具体的ソリューションを提案する。
論文 参考訳(メタデータ) (2025-12-21T06:08:22Z) - c-TPE: Tree-structured Parzen Estimator with Inequality Constraints for
Expensive Hyperparameter Optimization [45.67326752241075]
本稿では,この制約に対処するための制約付きTPE (c-TPE) を提案する。
提案するエクステンションは,既存の取得関数とオリジナルのTPEの単純な組み合わせに留まらず,パフォーマンスの低下の原因となる問題に対処する修正も含んでいる。
実験では,C-TPEは,不等式制約のある81のHPOに対して,統計的に有意な既存の手法の中で,最高の平均ランク性能を示すことを示した。
論文 参考訳(メタデータ) (2022-11-26T00:25:11Z) - A New Central Limit Theorem for the Augmented IPW Estimator: Variance
Inflation, Cross-Fit Covariance and Beyond [0.9172870611255595]
クロスフィッティングを用いたクロスフィッティング逆確率重み付け(AIPW)は、実際は一般的な選択肢である。
本研究では, 高次元状態における結果回帰モデルと確率スコアモデルを用いて, クロスフィット型AIPW推定器について検討する。
本研究は, メッセージパッシング理論, 決定論的等価性理論, 離脱一元的アプローチの3つの異なるツール間の新たな相互作用を利用する。
論文 参考訳(メタデータ) (2022-05-20T14:17:53Z) - Repulsive Mixture Models of Exponential Family PCA for Clustering [127.90219303669006]
指数関数型家族主成分分析(EPCA)の混合拡張は、従来のEPCAよりもデータ分布に関する構造情報を符号化するように設計された。
従来のEPCAの混合は、モデルの冗長性、すなわち混合成分間の重なりが問題であり、データクラスタリングの曖昧さを引き起こす可能性がある。
本稿では, 混合成分間での反発性増感前処理を導入し, ベイズ式に分散EPCA混合(DEPCAM)モデルを開発した。
論文 参考訳(メタデータ) (2020-04-07T04:07:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。