論文の概要: Avoiding Traps in Nonconvex Problems
- arxiv url: http://arxiv.org/abs/2106.05206v1
- Date: Wed, 9 Jun 2021 16:47:53 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-10 18:45:29.126392
- Title: Avoiding Traps in Nonconvex Problems
- Title(参考訳): 非凸問題におけるトラップ回避
- Authors: Sean Deyo and Veit Elser
- Abstract要約: 反復射影法は、非制約集合が非制約であるときに非解に閉じ込められることがある。
この機能を避けるために、2種類のパラメータが利用可能だ。
- 参考スコア(独自算出の注目度): 7.056222499095849
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Iterative projection methods may become trapped at non-solutions when the
constraint sets are nonconvex. Two kinds of parameters are available to help
avoid this behavior and this study gives examples of both. The first kind of
parameter, called a hyperparameter, includes any kind of parameter that appears
in the definition of the iteration rule itself. The second kind comprises
metric parameters in the definition of the constraint sets, a feature that
arises when the problem to be solved has two or more kinds of variables.
Through examples we show the importance of properly tuning both kinds of
parameters and offer heuristic interpretations of the observed behavior.
- Abstract(参考訳): 反復射影法は、制約集合が凸でないときに非解に閉じ込められることがある。
この動作を避けるために2種類のパラメータが利用可能であり、本研究は両方の例を示す。
ハイパーパラメータと呼ばれる最初のパラメータには、イテレーションルール自体の定義に現れるパラメータが含まれています。
第2の種は、制約集合の定義におけるメトリックパラメータを含み、解決すべき問題が2つ以上の変数を持つ場合に生じる特徴である。
例を通して、両パラメータを適切に調整し、観察された振る舞いをヒューリスティックに解釈することの重要性を示す。
関連論文リスト
- Scaling Exponents Across Parameterizations and Optimizers [94.54718325264218]
本稿では,先行研究における重要な仮定を考察し,パラメータ化の新たな視点を提案する。
私たちの経験的調査には、3つの組み合わせでトレーニングされた数万のモデルが含まれています。
最高の学習率のスケーリング基準は、以前の作業の仮定から除外されることがよくあります。
論文 参考訳(メタデータ) (2024-07-08T12:32:51Z) - Overparameterized Multiple Linear Regression as Hyper-Curve Fitting [0.0]
線形モデルは, モデル仮定に反する非線形依存が存在する場合でも, 正確な予測を生成することが証明された。
ハイパーカーブのアプローチは、予測変数のノイズに関する問題を正規化するのに特に適しており、モデルからノイズや「不適切な」予測子を取り除くのに使うことができる。
論文 参考訳(メタデータ) (2024-04-11T15:43:11Z) - A solution for the mean parametrization of the von Mises-Fisher distribution [11.486989134315424]
フォン・ミーゼス・フィッシャー分布の正規化関数はその平均パラメータの観点からは閉形式では利用できないことを示す。
微分方程式の解に対する閉形式近似を提供する。
本稿では,Bregman Clustering を用いた von Mises-Fisher 分布の混合によるトピックモデリングへの応用について述べる。
論文 参考訳(メタデータ) (2024-04-10T21:28:54Z) - How Free is Parameter-Free Stochastic Optimization? [29.174036532175855]
パラメータフリー最適化の問題について検討し、パラメータフリーな手法が存在するかどうかを問う。
既存の手法は、真の問題パラメータに関するいくつかの非自明な知識を必要とするため、部分的にはパラメータフリーとみなすことができる。
単純なハイパーサーチ手法により、より洗練された最先端アルゴリズムより優れたパラメータフリーな手法が実現できることを実証する。
論文 参考訳(メタデータ) (2024-02-05T15:51:49Z) - Online Constraint Tightening in Stochastic Model Predictive Control: A
Regression Approach [49.056933332667114]
確率制約付き最適制御問題に対する解析解は存在しない。
制御中の制約強調パラメータをオンラインで学習するためのデータ駆動型アプローチを提案する。
提案手法は, 確率制約を厳密に満たす制約強調パラメータを導出する。
論文 参考訳(メタデータ) (2023-10-04T16:22:02Z) - A Variational Inference Approach to Inverse Problems with Gamma
Hyperpriors [60.489902135153415]
本稿では,ガンマハイパープライヤを用いた階層的逆問題に対する変分反復交替方式を提案する。
提案した変分推論手法は正確な再構成を行い、意味のある不確実な定量化を提供し、実装が容易である。
論文 参考訳(メタデータ) (2021-11-26T06:33:29Z) - On the Parameter Combinations That Matter and on Those That do Not [0.0]
モデルパラメータの非識別性を特徴付けるためのデータ駆動型手法を提案する。
Diffusion Mapsとその拡張を利用することで、動的出力の振る舞いを特徴づけるために必要なパラメータの最小の組み合わせを発見する。
論文 参考訳(メタデータ) (2021-10-13T13:46:23Z) - Online Hyperparameter Meta-Learning with Hypergradient Distillation [59.973770725729636]
勾配に基づくメタラーニング法は、内部最適化に関与しないパラメータのセットを仮定する。
知識蒸留による2次項の近似により,これらの限界を克服できる新しいHO法を提案する。
論文 参考訳(メタデータ) (2021-10-06T05:14:53Z) - Gaussian Process Uniform Error Bounds with Unknown Hyperparameters for
Safety-Critical Applications [71.23286211775084]
未知のハイパーパラメータを持つ設定において、ロバストなガウス過程の均一なエラー境界を導入する。
提案手法はハイパーパラメータの空間における信頼領域を計算し,モデル誤差に対する確率的上限を求める。
実験により、バニラ法やベイズ法よりもバニラ法の方がはるかに優れていることが示された。
論文 参考訳(メタデータ) (2021-09-06T17:10:01Z) - Implicit differentiation of Lasso-type models for hyperparameter
optimization [82.73138686390514]
ラッソ型問題に適した行列逆転のない効率的な暗黙微分アルゴリズムを提案する。
提案手法は,解の空間性を利用して高次元データにスケールする。
論文 参考訳(メタデータ) (2020-02-20T18:43:42Z) - One from many: Estimating a function of many parameters [0.0]
プロセスの多くのパラメータは未知であり、パラメータを制御せずにこれらのパラメータの特定の線形結合を推定する。
幾何学的推論は、基本的かつ達成可能な量子-プロセス境界を飽和させるために必要かつ十分な条件を示す。
論文 参考訳(メタデータ) (2020-02-07T16:55:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。