論文の概要: Constrained Hyperparameter Optimization for Streaming Data
- arxiv url: http://arxiv.org/abs/2608.24712v1
- Date: Tue, 25 Aug 2026 15:29:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:35.063954
- Title: Constrained Hyperparameter Optimization for Streaming Data
- Title(参考訳): ストリーミングデータに対する制約付きハイパーパラメータ最適化
- Abstract要約: 本稿では,制約付き数値最適化問題における境界制約を効果的に管理するための戦略を提案する。
本研究は,オンライン最適化アルゴリズムにおける境界制約をナビゲートする4つの戦略を紹介する。
- 参考スコア(独自算出の注目度): 2.1349276532243153
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Optimization of hyperparameters is a critical factor to obtain optimal model performance. While existing research has predominantly concentrated on batch-learning scenarios, addressing the complexities inherent in data streams presents a challenge. The deployment of sophisticated methodologies to manage data streams becomes highly important. Consequently, the capacity for self-adjusting hyperparameters during on-line learning phases emerges as a goal. Many hyperparameters exhibit constraints and are confined within bounded search spaces, rendering specific solutions unacceptable upon applying optimization operators. To solve this issue, employing boundary constraint- handling techniques becomes imperative to rectify invalid solutions. This paper presents strategies for effectively managing boundary constraints within constrained numerical optimization problems. Recent methodologies, including heuristic and evolutionary-based optimization, employ a "boundary" strategy, wherein values that surpass boundary thresholds for a given hyperparameter are realigned to the respective limits. Our study introduces four strategies to navigate boundary constraints in online optimization algorithms. Through empirical investigations conducted on established datasets, we demonstrate that adopting boundary strategies outperforms the "boundary" strategy.
- Abstract(参考訳): ハイパーパラメータの最適化は最適なモデル性能を得るために重要な要素である。
既存の研究は主にバッチ学習のシナリオに集中しているが、データストリームに固有の複雑さに対処することが課題となっている。
データストリームを管理するための高度な方法論の展開は、非常に重要である。
その結果、オンライン学習フェーズにおける自己調整型ハイパーパラメータの能力がゴールとして現れる。
多くのハイパーパラメータは制約を示し、有界な探索空間に限られており、最適化演算子を適用すると受け入れられない特定の解を描画する。
この問題を解決するため、境界制約処理技術を用いることで、無効解の修正が必須となる。
本稿では,制約付き数値最適化問題における境界制約を効果的に管理するための戦略を提案する。
ヒューリスティックと進化に基づく最適化を含む最近の手法では、与えられたハイパーパラメータの境界しきい値を超える値をそれぞれの限界に合わせる「境界」戦略が採用されている。
本研究は,オンライン最適化アルゴリズムにおける境界制約をナビゲートする4つの戦略を紹介する。
確立されたデータセットに対する実証的研究を通じて,境界戦略の採用が境界戦略よりも優れていることを示す。
関連論文リスト
- Evolution of Optimization Methods: Algorithms, Scenarios, and Evaluations [98.44542103979735]
勾配勾配降下法(SGD)とアダム(Adam)による1次勾配勾配降下法は、現代の訓練パイプラインの基礎となる。
大規模モデルトレーニング、厳格なプライバシ要件、分散学習パラダイムは、プライバシ保護とメモリ効率に関する従来のアプローチにおける重要な制限を明らかにする。
深層学習最適化アルゴリズムの進化軌道を振り返って分析し、様々なモデルアーキテクチャやトレーニングシナリオの主流を包括的に評価する。
我々は、重要な新興トレンドと基本設計のトレードオフを抽出し、将来の研究の有望な方向性を示唆する。
論文 参考訳(メタデータ) (2026-04-14T17:01:36Z) - Deep Learning-Accelerated Surrogate Optimization for High-Dimensional Well Control in Stress-Sensitive Reservoirs [0.0]
応力に敏感な非伝統的な貯水池における生産最適化は, 圧力駆動流と破壊導電率低下とマトリックス透水率の非線形トレードオフによって制御される。
本研究では,高次元ウェルコントロールのためのディープラーニングに基づくサロゲート最適化フレームワークを提案する。
論文 参考訳(メタデータ) (2026-04-01T01:04:08Z) - The Offline-Frontier Shift: Diagnosing Distributional Limits in Generative Multi-Objective Optimization [56.39938641873341]
生成法は, 世代間距離などの他の指標に対して, 進化的オルタナティブを系統的に過小評価することを示す。
この制限を克服するには、客観空間における分配外サンプリングが必要であると論じる。
本研究は, オフラインMOOを分散シフト制限問題として位置づけ, 生成最適化手法が失敗する原因と原因を理解するための診断レンズを提供する。
論文 参考訳(メタデータ) (2026-02-11T18:38:40Z) - Online Inference of Constrained Optimization: Primal-Dual Optimality and Sequential Quadratic Programming [55.848340925419286]
等式制約と不等式制約を持つ2次最適化問題の解に対するオンライン統計的推測について検討した。
これらの問題を解決するための逐次プログラミング(SSQP)手法を開発し、目的の近似と制約の線形近似を逐次実行することでステップ方向を計算する。
本手法は,Hjek と Le Cam の意味での最適原始双対制限行列を用いて局所正規性を示す。
論文 参考訳(メタデータ) (2025-11-27T06:16:17Z) - LLM-guided Chemical Process Optimization with a Multi-Agent Approach [8.714038047141202]
本稿では,最小限のプロセス記述から動作制約を自律的に推論するマルチエージェントLLMフレームワークを提案する。
当社のAutoGenベースのフレームワークは、制約生成、パラメータ検証、シミュレーション、最適化ガイダンスのための特別なエージェントを備えたOpenAIのo3モデルを採用しています。
論文 参考訳(メタデータ) (2025-06-26T01:03:44Z) - Continual Optimization with Symmetry Teleportation for Multi-Task Learning [73.28772872740744]
マルチタスク学習(MTL)は、1つのモデルを用いて複数のタスクの同時学習を可能にする。
シンメトリ・テレポーテーション(COST)を用いた連続最適化に基づく新しい手法を提案する。
COSTは、競合の勾配を減らすために、損失ランドスケープに別の損失等価点を求める。
論文 参考訳(メタデータ) (2025-03-06T02:58:09Z) - A Re-solving Heuristic for Dynamic Assortment Optimization with Knapsack Constraints [13.796963984855863]
資源knapsack制約下でのMNLを用いたマルチステージ動的アソシエーション最適化問題について検討する。
正確な最適動的アソシエーション解を計算的に抽出可能とすることで、決定論的線形プログラムを周期的に最適化する再解法を実践的戦略として採用する。
目的の分母を制約に効果的に変換するエポックな新しい再解法を提案する。
論文 参考訳(メタデータ) (2024-07-08T02:40:20Z) - End-to-End Learning for Fair Multiobjective Optimization Under
Uncertainty [55.04219793298687]
機械学習における予測-Then-Forecast(PtO)パラダイムは、下流の意思決定品質を最大化することを目的としている。
本稿では,PtO法を拡張して,OWA(Nondifferentiable Ordered Weighted Averaging)の目的を最適化する。
この結果から,不確実性の下でのOWA関数の最適化とパラメトリック予測を効果的に統合できることが示唆された。
論文 参考訳(メタデータ) (2024-02-12T16:33:35Z) - Application of deep and reinforcement learning to boundary control
problems [0.6906005491572401]
目的は、囲まれたドメインが所望の状態値に達するように、ドメイン境界に対する最適な値を見つけることである。
本研究は,ディープラーニングと強化学習による境界制御問題の解決の可能性を探る。
論文 参考訳(メタデータ) (2023-10-21T10:56:32Z) - Neural Fields with Hard Constraints of Arbitrary Differential Order [61.49418682745144]
我々は、ニューラルネットワークに厳しい制約を課すための一連のアプローチを開発する。
制約は、ニューラルネットワークとそのデリバティブに適用される線形作用素として指定することができる。
私たちのアプローチは、広範囲の現実世界のアプリケーションで実証されています。
論文 参考訳(メタデータ) (2023-06-15T08:33:52Z) - Introduction to Online Control [31.67032731719622]
オンラインの非確率制御では、コスト関数と仮定された力学モデルからの摂動の両方が敵によって選択される。
目標は、ベンチマーククラスの政策から見て、最高の政策に対して低い後悔を得ることだ。
論文 参考訳(メタデータ) (2022-11-17T16:12:45Z) - A Surrogate Objective Framework for Prediction+Optimization with Soft
Constraints [29.962390392493507]
SPO+や直接最適化のような決定に焦点をあてた予測手法が、このギャップを埋めるために提案されている。
本稿では,実世界の線形および半定値負の二次計画問題に対して,解析的に微分可能な主観的フレームワークを提案する。
論文 参考訳(メタデータ) (2021-11-22T17:09:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。