Fugu-MT 論文翻訳(概要): Optuna Constrained Tree-Structured Parzen Estimator Is a Joint Density Generalization of c-TPE

論文の概要: Optuna Constrained Tree-Structured Parzen Estimator Is a Joint Density Generalization of c-TPE

arxiv url: http://arxiv.org/abs/2606.09889v1
Date: Wed, 03 Jun 2026 11:16:59 GMT
ステータス: 翻訳完了
システム内更新日: 2026-06-10 15:40:58.011487
Title: Optuna Constrained Tree-Structured Parzen Estimator Is a Joint Density Generalization of c-TPE
Title（参考訳）: c-TPEの結合密度一般化としてのオプチュナ制約木構造パーゼン推定器
Abstract要約: 我々は,オプトゥーナの制約付きTPEがジョイントc-TPEであることを示す。結合したc-TPEは制約重複に不変であるのに対し、独立なc-TPEは積が重複因子を蓄積するにつれて劣化することを示した。
参考スコア（独自算出の注目度）: 3.918927916284284
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Constrained hyperparameter optimization (HPO) is common in practice, yet Optuna's widely used constrained TPE lacks algorithmic analysis. While c-TPE proposes an expected constrained improvement (ECI) approach assuming independence between the objective and constraints, Optuna uses a single joint density over both. We show that Optuna's constrained TPE is joint c-TPE -- the same ECI acquisition function using a joint likelihood. We demonstrate joint c-TPE is invariant to constraint duplication whereas independent c-TPE degrades as the product accumulates duplicated factors. We outline practical tradeoffs between the formulations and directions for future study.
Abstract（参考訳）: 制約付きハイパーパラメータ最適化(HPO)は実際には一般的であるが、オプトゥーナの広く使われている制約付きTPEはアルゴリズム解析を欠いている。 c-TPEは、目的と制約の間の独立性を仮定する期待された制約付き改善(ECI)アプローチを提案するが、オプトゥーナは両方に単一の関節密度を使用する。我々は,オプトゥーナの制約付きTPEが関節性c-TPEであることを示す。結合したc-TPEは制約重複に不変であるのに対し、独立なc-TPEは積が重複因子を蓄積するにつれて劣化することを示した。今後の研究に向けた定式化と方向性のトレードオフについて概説する。

関連論文リスト

Entanglement Quantification via Symmetric Extensions: A Resource Theory Hierarchy [3.662037602213926]
k対称PT拡張に基づく絡み合い尺度Ekの階層化を導入する。それぞれのEkは最小の固有値シフトによって定義され、自由操作の下で忠実で凸で単調である。階層構造は k = 1 で PPT-ロバスト性を厳密に洗練し、k = 2 で有界な絡み合いを検出し、分離性測度を k -> 無限大として正確に収束させる。
論文参考訳（メタデータ） (2026-07-18T20:39:35Z)
Decoupling the Effect of Chain-of-Thought Reasoning: A Human Label Variation Perspective [60.45433515408158]
長いチェーン・オブ・ソート(CoT)がトップオプションの決定的決定要因となるが、あいまいなタスクの粒度分布キャリブレータとして機能しないことを示す。 CoTは分布アライメントを改善するが、CoTの内容によって最終的な精度が決定される。
論文参考訳（メタデータ） (2026-01-06T16:26:40Z)
The Procrustean Bed of Time Series: The Optimization Bias of Point-wise Loss [53.542743390809356]
本稿では,最適化バイアス(EOB)の期待に関する第一原理解析を提案する。時間列が決定論的で構造化されるほど、ポイントワイドの損失関数によるバイアスがより厳しくなる。本稿では,DFTとDWTの両原理を同時に実現する具体的ソリューションを提案する。
論文参考訳（メタデータ） (2025-12-21T06:08:22Z)
Theoretical Bounds for Stable In-Context Learning [0.0]
In-context Learning (ICL) は柔軟性があるが、その信頼性は迅速な長さに敏感である。本稿では、最小数の実証とICL安定性を結びつける非漸近的下界を確立する。本稿では,1ショットキャリブレーションを施した2段階観測可能推定器を提案する。
論文参考訳（メタデータ） (2025-09-25T02:25:05Z)
Parameter-Efficient Fine-Tuning for Continual Learning: A Neural Tangent Kernel Perspective [125.00228936051657]
本稿では,タスク関連機能を適応的に生成しながら,タスク固有のパラメータ記憶を不要にする新しいフレームワークNTK-CLを紹介する。最適化可能なパラメータを適切な正規化で微調整することにより、NTK-CLは確立されたPEFT-CLベンチマーク上で最先端のパフォーマンスを達成する。
論文参考訳（メタデータ） (2024-07-24T09:30:04Z)
IPCC-TP: Utilizing Incremental Pearson Correlation Coefficient for Joint Multi-Agent Trajectory Prediction [73.25645602768158]
IPCC-TPはインクリメンタルピアソン相関係数に基づく新しい関連認識モジュールであり,マルチエージェントインタラクションモデリングを改善する。我々のモジュールは、既存のマルチエージェント予測手法に便利に組み込んで、元の動き分布デコーダを拡張することができる。
論文参考訳（メタデータ） (2023-03-01T15:16:56Z)
c-TPE: Tree-structured Parzen Estimator with Inequality Constraints for Expensive Hyperparameter Optimization [45.67326752241075]
本稿では,この制約に対処するための制約付きTPE (c-TPE) を提案する。提案するエクステンションは,既存の取得関数とオリジナルのTPEの単純な組み合わせに留まらず,パフォーマンスの低下の原因となる問題に対処する修正も含んでいる。実験では,C-TPEは,不等式制約のある81のHPOに対して,統計的に有意な既存の手法の中で,最高の平均ランク性能を示すことを示した。
論文参考訳（メタデータ） (2022-11-26T00:25:11Z)
A New Central Limit Theorem for the Augmented IPW Estimator: Variance Inflation, Cross-Fit Covariance and Beyond [0.9172870611255595]
クロスフィッティングを用いたクロスフィッティング逆確率重み付け(AIPW)は、実際は一般的な選択肢である。本研究では, 高次元状態における結果回帰モデルと確率スコアモデルを用いて, クロスフィット型AIPW推定器について検討する。本研究は, メッセージパッシング理論, 決定論的等価性理論, 離脱一元的アプローチの3つの異なるツール間の新たな相互作用を利用する。
論文参考訳（メタデータ） (2022-05-20T14:17:53Z)
Repulsive Mixture Models of Exponential Family PCA for Clustering [127.90219303669006]
指数関数型家族主成分分析(EPCA)の混合拡張は、従来のEPCAよりもデータ分布に関する構造情報を符号化するように設計された。従来のEPCAの混合は、モデルの冗長性、すなわち混合成分間の重なりが問題であり、データクラスタリングの曖昧さを引き起こす可能性がある。本稿では, 混合成分間での反発性増感前処理を導入し, ベイズ式に分散EPCA混合(DEPCAM)モデルを開発した。
論文参考訳（メタデータ） (2020-04-07T04:07:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。