論文の概要: Reduction of the Number of Variables in Parametric Constrained
Least-Squares Problems
- arxiv url: http://arxiv.org/abs/2012.10423v1
- Date: Fri, 18 Dec 2020 18:26:40 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-01 21:24:03.073218
- Title: Reduction of the Number of Variables in Parametric Constrained
Least-Squares Problems
- Title(参考訳): パラメトリック制約最小二乗問題における変数数の削減
- Authors: Alberto Bemporad, Gionata Cimini
- Abstract要約: 本稿では,関連する最適化変数数を削減する手法を提案する。
本稿では, 非線形ベンチマークプロセスの数値実験および線形化MPC問題において, 提案手法の優れた性能を示す。
- 参考スコア(独自算出の注目度): 0.20305676256390928
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: For linearly constrained least-squares problems that depend on a vector of
parameters, this paper proposes techniques for reducing the number of involved
optimization variables. After first eliminating equality constraints in a
numerically robust way by QR factorization, we propose a technique based on
singular value decomposition (SVD) and unsupervised learning, that we call
$K$-SVD, and neural classifiers to automatically partition the set of parameter
vectors in $K$ nonlinear regions in which the original problem is approximated
by using a smaller set of variables. For the special case of parametric
constrained least-squares problems that arise from model predictive control
(MPC) formulations, we propose a novel and very efficient QR factorization
method for equality constraint elimination. Together with SVD or $K$-SVD, the
method provides a numerically robust alternative to standard condensing and
move blocking, and to other complexity reduction methods for MPC based on basis
functions. We show the good performance of the proposed techniques in numerical
tests and in a linearized MPC problem of a nonlinear benchmark process.
- Abstract(参考訳): 本稿では,パラメータのベクトルに依存する線形制約最小二乗問題に対して,関連する最適化変数の数を減らす手法を提案する。
QR分解法により数値的にロバストな方法で等式制約を除いた後、我々は特異値分解(SVD)と教師なし学習に基づく手法を提案し、これを$K$-SVDと呼び、ニューラル分類器によりパラメータベクトルの集合を、元の問題をより小さな変数の集合を用いて近似した$K$非線形領域に自動的に分割する。
モデル予測制御 (mpc) の定式化から生じるパラメトリック制約最小二乗問題の特別な場合に対し, 等式制約除去のための新規かつ非常に効率的なqr因子分解法を提案する。
svdまたは$k$-svdと共に、この方法は標準的な凝縮および移動ブロッキング、および基底関数に基づくmpcの他の複雑さ低減方法に対する数値的にロバストな代替手段を提供する。
本稿では, 非線形ベンチマークプロセスの数値実験および線形化MPC問題において, 提案手法の優れた性能を示す。
関連論文リスト
- Variable Substitution and Bilinear Programming for Aligning Partially Overlapping Point Sets [48.1015832267945]
本研究では,RPMアルゴリズムの最小化目的関数を用いて要求を満たす手法を提案する。
分岐とバウンド(BnB)アルゴリズムが考案され、パラメータのみに分岐し、収束率を高める。
実験による評価は,非剛性変形,位置雑音,外れ値に対する提案手法の高剛性を示す。
論文 参考訳(メタデータ) (2024-05-14T13:28:57Z) - Numerical Optimizations for Weighted Low-rank Estimation on Language
Model [73.12941276331316]
Singular value decomposition (SVD) は、より小さい行列でターゲット行列を近似する最も一般的な圧縮手法の1つである。
標準SVDは行列内のパラメータを同じ重要性で扱うが、これは単純だが非現実的な仮定である。
本手法は,ニューラルベース言語モデルにおいて,現在のSOTA法よりも優れた性能を示す。
論文 参考訳(メタデータ) (2022-11-02T00:58:02Z) - A Novel Maximum-Entropy-Driven Technique for Low-Rank Orthogonal
Nonnegative Matrix Factorization with $\ell_0$-Norm sparsity Constraint [0.0]
データ駆動制御と機械学習では、大きな行列を小さく、低ランクな要素に分解する、という一般的な要件がある。
本稿では,直交非負行列分解(ONMF)問題に対する革新的な解を提案する。
提案手法は,文献と同等あるいは改善された復元誤差を実現する。
論文 参考訳(メタデータ) (2022-10-06T04:30:59Z) - Partial Least Square Regression via Three-factor SVD-type Manifold
Optimization for EEG Decoding [4.0204191666595595]
双グラスマン多様体 (PLSRbiGr) の最適化による部分最小二乗回帰(PLSR)の解法を提案する。
qlPLSRbiGrは、運動画像(MI)における脳波信号を復号する様々な実験と、定常視覚誘発電位(SSVEP)タスクで検証される。
論文 参考訳(メタデータ) (2022-08-09T11:57:02Z) - Faster One-Sample Stochastic Conditional Gradient Method for Composite
Convex Minimization [61.26619639722804]
滑らかで非滑らかな項の和として形成される凸有限サム目標を最小化するための条件勾配法(CGM)を提案する。
提案手法は, 平均勾配 (SAG) 推定器を備え, 1回に1回のサンプルしか必要としないが, より高度な分散低減技術と同等の高速収束速度を保証できる。
論文 参考訳(メタデータ) (2022-02-26T19:10:48Z) - MARS via LASSO [1.5199437137239338]
我々はMARS法の自然変種を提案し,研究する。
提案手法は,関数の凸クラス上での少なくとも2乗推定に基づいている。
我々の推定器は有限次元凸最適化によって計算できる。
論文 参考訳(メタデータ) (2021-11-23T07:30:33Z) - Alternating Direction Method of Multipliers for Quantization [15.62692130672419]
量子化のための乗算器の交互方向法(texttADMM-Q$)アルゴリズムの性能について検討する。
不正確な更新ルールを処理できる$texttADMM-Q$のいくつかのバリエーションを開発しています。
提案手法の有効性を実証的に評価した。
論文 参考訳(メタデータ) (2020-09-08T01:58:02Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - Conditional gradient methods for stochastically constrained convex
minimization [54.53786593679331]
構造凸最適化問題に対する条件勾配に基づく2つの新しい解法を提案する。
私たちのフレームワークの最も重要な特徴は、各イテレーションで制約のサブセットだけが処理されることです。
提案アルゴリズムは, 条件勾配のステップとともに, 分散の低減と平滑化に頼り, 厳密な収束保証を伴っている。
論文 参考訳(メタデータ) (2020-07-07T21:26:35Z) - Effective Dimension Adaptive Sketching Methods for Faster Regularized
Least-Squares Optimization [56.05635751529922]
スケッチに基づくL2正規化最小二乗問題の解法を提案する。
我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
論文 参考訳(メタデータ) (2020-06-10T15:00:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。