論文の概要: Global Optimization Networks
- arxiv url: http://arxiv.org/abs/2202.01277v1
- Date: Wed, 2 Feb 2022 20:44:07 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-05 05:28:35.747446
- Title: Global Optimization Networks
- Title(参考訳): グローバル最適化ネットワーク
- Authors: Sen Zhao, Erez Louidor, Olexander Mangylov, Maya Gupta
- Abstract要約: 格子モデル上の線形不等式制約を用いて、可逆関数と不斉関数を構築する方法を示す。
また、他の次元の特定の入力に条件付き大域的最大値を求めるエンファン条件付きGONにも拡張する。
- 参考スコア(独自算出の注目度): 5.866813991223271
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider the problem of estimating a good maximizer of a black-box
function given noisy examples. To solve such problems, we propose to fit a new
type of function which we call a global optimization network (GON), defined as
any composition of an invertible function and a unimodal function, whose unique
global maximizer can be inferred in $\mathcal{O}(D)$ time. In this paper, we
show how to construct invertible and unimodal functions by using linear
inequality constraints on lattice models. We also extend to \emph{conditional}
GONs that find a global maximizer conditioned on specified inputs of other
dimensions. Experiments show the GON maximizers are statistically significantly
better predictions than those produced by convex fits, GPR, or DNNs, and are
more reasonable predictions for real-world problems.
- Abstract(参考訳): ノイズのある例として、ブラックボックス関数のよい最大値推定の問題を考える。
このような問題を解決するために,可逆関数とユニモーダル関数の任意の合成として定義される大域最適化ネットワーク (gon) と呼ばれる新しいタイプの関数に適合し,一意的な大域的最大化器を$\mathcal{o}(d)$ time で推定する。
本稿では,格子モデルに対する線形不等式制約を用いて,可逆関数と不斉関数を構築する方法を示す。
また、他の次元の特定の入力に条件付き大域的最大値を求める「emph{conditional} GON」にも拡張する。
実験により、GON最大化器は凸フィット、GPR、DNNによって生成されるものよりも統計的にかなり良い予測であり、現実世界の問題に対してより合理的な予測であることが示された。
関連論文リスト
- Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳(メタデータ) (2024-11-21T10:26:17Z) - ProGO: Probabilistic Global Optimizer [9.772380490791635]
本稿では,いくつかの温和な条件下でのグローバルオプティマに収束するアルゴリズムを開発する。
提案アルゴリズムは,従来の最先端手法よりも桁違いに優れていることを示す。
論文 参考訳(メタデータ) (2023-10-04T22:23:40Z) - Covariance Matrix Adaptation Evolutionary Strategy with Worst-Case
Ranking Approximation for Min--Max Optimization and its Application to
Berthing Control Tasks [19.263468901608785]
我々は mathbbX max_y in mathbbYf(x,y)$ の連続 min-max 最適化問題 $min_x を考える。
最悪の対象関数である$F(x) = max_y f(x,y)$を直接最小化する新しい手法を提案する。
論文 参考訳(メタデータ) (2023-03-28T15:50:56Z) - Balancing Utility and Fairness in Submodular Maximization (Technical
Report) [27.20340546154524]
実用性と公平性のバランスをとるために,emphBi Maxim Submodularization (BSM) と呼ばれる新しい問題を提案する。
BSMは任意の定数係数で近似できないため、効率的なインスタンス依存近似スキームの設計に焦点をあてる。
論文 参考訳(メタデータ) (2022-11-02T09:38:08Z) - Universal Online Convex Optimization Meets Second-order Bounds [74.0120666722487]
ユニバーサルオンライン凸最適化のための簡単な戦略を提案する。
主要なアイデアは、オリジナルのオンライン機能を処理するための専門家のセットを構築し、線形化された損失に対してメタアルゴリズムをデプロイすることである。
このようにして、私たちはブラックボックスの専門家として、既成のオンライン問題解決者をプラグインして、問題依存の後悔の限界を提供することができます。
論文 参考訳(メタデータ) (2021-05-08T11:43:49Z) - Offline Model-Based Optimization via Normalized Maximum Likelihood
Estimation [101.22379613810881]
データ駆動最適化の問題を検討し、一定の点セットでクエリのみを与えられた関数を最大化する必要がある。
この問題は、関数評価が複雑で高価なプロセスである多くの領域に現れる。
我々は,提案手法を高容量ニューラルネットワークモデルに拡張可能なトラクタブル近似を提案する。
論文 参考訳(メタデータ) (2021-02-16T06:04:27Z) - Finding Global Minima via Kernel Approximations [90.42048080064849]
関数評価のみに基づく滑らかな関数のグローバル最小化を考える。
本稿では,近似関数を共同でモデル化し,大域的最小値を求める手法を検討する。
論文 参考訳(メタデータ) (2020-12-22T12:59:30Z) - Convex Geometry and Duality of Over-parameterized Neural Networks [70.15611146583068]
有限幅2層ReLUネットワークの解析のための凸解析手法を開発した。
正規化学習問題に対する最適解が凸集合の極点として特徴づけられることを示す。
高次元では、トレーニング問題は無限に多くの制約を持つ有限次元凸問題としてキャストできることが示される。
論文 参考訳(メタデータ) (2020-02-25T23:05:33Z) - Better Theory for SGD in the Nonconvex World [2.6397379133308214]
大規模な非最適化問題は、現代の機械学習ではユビキタスである。
我々は, 広範囲の合成ミニバッチサイズがグラディエントDescent (SG) 問題に与える影響について実験を行った。
論文 参考訳(メタデータ) (2020-02-09T09:56:06Z) - Polynomial-Time Exact MAP Inference on Discrete Models with Global
Dependencies [83.05591911173332]
ジャンクションツリーアルゴリズムは、実行時の保証と正確なMAP推論のための最も一般的な解である。
本稿では,ノードのクローン化による新たなグラフ変換手法を提案する。
論文 参考訳(メタデータ) (2019-12-27T13:30:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。