論文の概要: Regularized Nonlinear Regression for Simultaneously Selecting and
Estimating Key Model Parameters
- arxiv url: http://arxiv.org/abs/2104.11426v1
- Date: Fri, 23 Apr 2021 06:17:57 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-26 12:56:20.371663
- Title: Regularized Nonlinear Regression for Simultaneously Selecting and
Estimating Key Model Parameters
- Title（参考訳）: 鍵モデルパラメータの選択と推定を同時に行う正規化非線形回帰
- Authors: Kyubaek Yoon, Hojun You, Wei-Ying Wu, Chae Young Lim, Jongeun Choi,
Connor Boss, Ahmed Ramadan, John M. Popovich Jr., Jacek Cholewicki, N. Peter
Reeves, Clark J. Radcliffe
- Abstract要約: システム同定では、限られた観測値を用いてモデルのパラメータを推定すると、識別性が低下する。
感度パラメータをキーモデルパラメータとして同時に選択および推定し、残りのパラメータを典型的な値の集合に固定する新しい方法を提案する。
- 参考スコア（独自算出の注目度）: 1.6122433144430324
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In system identification, estimating parameters of a model using limited
observations results in poor identifiability. To cope with this issue, we
propose a new method to simultaneously select and estimate sensitive parameters
as key model parameters and fix the remaining parameters to a set of typical
values. Our method is formulated as a nonlinear least squares estimator with
L1-regularization on the deviation of parameters from a set of typical values.
First, we provide consistency and oracle properties of the proposed estimator
as a theoretical foundation. Second, we provide a novel approach based on
Levenberg-Marquardt optimization to numerically find the solution to the
formulated problem. Third, to show the effectiveness, we present an application
identifying a biomechanical parametric model of a head position tracking task
for 10 human subjects from limited data. In a simulation study, the variances
of estimated parameters are decreased by 96.1% as compared to that of the
estimated parameters without L1-regularization. In an experimental study, our
method improves the model interpretation by reducing the number of parameters
to be estimated while maintaining variance accounted for (VAF) at above 82.5%.
Moreover, the variances of estimated parameters are reduced by 71.1% as
compared to that of the estimated parameters without L1-regularization. Our
method is 54 times faster than the standard simplex-based optimization to solve
the regularized nonlinear regression.
- Abstract（参考訳）: システム同定では、限られた観測値を用いてモデルのパラメータを推定すると、識別性が低下する。
そこで本研究では,感度の高いパラメータをキーモデルパラメータとして同時に選択し,推定し,残りのパラメータを典型的な値に固定する手法を提案する。
本手法は,一組の典型的な値からパラメータの偏差をl1正規化した非線形最小二乗推定器として定式化する。
まず,提案した推定器の整合性とオラクル特性を理論的基礎として提供する。
第二に,levenberg-marquardt最適化に基づく数値解を求める新しい手法を提案する。
第3に, 有効性を示すために, 限られたデータから, 頭部位置追跡タスクの生体力学的パラメトリックモデルを特定するアプリケーションを提案する。
シミュレーション研究では、L1規則化のない推定パラメータと比較して、推定パラメータの分散は96.1%減少する。
実験では, (vaf) に対する分散を82.5%以上維持しつつ, 推定すべきパラメータの数を削減し, モデル解釈を改善した。
さらに、推定パラメータの分散はL1正規化のない推定パラメータと比較して71.1%削減される。
本手法は,正規化非線形回帰を解くために,標準のsimplexに基づく最適化よりも54倍高速である。
関連論文リスト
- Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳（メタデータ） (2024-07-11T13:28:34Z) - Scaling Exponents Across Parameterizations and Optimizers [94.54718325264218]
本稿では,先行研究における重要な仮定を考察し,パラメータ化の新たな視点を提案する。
私たちの経験的調査には、3つの組み合わせでトレーニングされた数万のモデルが含まれています。
最高の学習率のスケーリング基準は、以前の作業の仮定から除外されることがよくあります。
論文 参考訳（メタデータ） (2024-07-08T12:32:51Z) - Variational Bayesian surrogate modelling with application to robust design optimisation [0.9626666671366836]
サロゲートモデルは複雑な計算モデルに対して素早く評価できる近似を提供する。
入力の不確かさと次元減少を伴う統計的代理を構築するためのベイズ推定について考察する。
コスト関数がモデル出力の平均および標準偏差の重み付け和に依存するような本質的で頑健な構造最適化問題を示す。
論文 参考訳（メタデータ） (2024-04-23T09:22:35Z) - Adaptive debiased machine learning using data-driven model selection
techniques [0.5735035463793007]
Adaptive Debiased Machine Learning (ADML)は、データ駆動型モデル選択と非バイアス型機械学習技術を組み合わせた非バイアス型フレームワークである。
ADMLはモデルの誤特定によるバイアスを回避し、パラメトリックモデルとセミモデルの制約から解放される。
適応的部分線形回帰モデルにおける平均処理効果を推定するためのADML推定器の幅広いクラスを提供する。
論文 参考訳（メタデータ） (2023-07-24T06:16:17Z) - Active-Learning-Driven Surrogate Modeling for Efficient Simulation of
Parametric Nonlinear Systems [0.0]
支配方程式がなければ、パラメトリック還元次代理モデルを非侵襲的に構築する必要がある。
我々の研究は、パラメータのスナップショットを効率的に表示するための非侵入的最適性基準を提供する。
カーネルベースの浅層ニューラルネットワークを用いた能動的学習駆動サロゲートモデルを提案する。
論文 参考訳（メタデータ） (2023-06-09T18:01:14Z) - An iterative multi-fidelity approach for model order reduction of
multi-dimensional input parametric PDE systems [0.0]
多次元入力パラメトリック空間を用いた大規模PDEシステムの縮小のためのサンプリングパラメトリック戦略を提案する。
これはパラメトリック空間全体の低忠実度モデルを効率的なサンプリング戦略を用いてサンプリングポイントに利用することで達成される。
提案手法は,低忠実度モデルを用いてソリューションデータベースを同化するため,オフライン段階での計算コストを大幅に削減する。
論文 参考訳（メタデータ） (2023-01-23T15:25:58Z) - Time varying regression with hidden linear dynamics [74.9914602730208]
線形力学系に従って未知のパラメータが進化することを前提とした時間変化線形回帰モデルを再検討する。
反対に、基礎となる力学が安定である場合、このモデルのパラメータは2つの通常の最小二乗推定と組み合わせることで、データから推定できることが示される。
論文 参考訳（メタデータ） (2021-12-29T23:37:06Z) - Support estimation in high-dimensional heteroscedastic mean regression [2.28438857884398]
ランダムな設計と、潜在的にヘテロセダスティックで重み付きエラーを伴う線形平均回帰モデルを考える。
我々は,問題のパラメータに依存するチューニングパラメータを備えた,厳密な凸・滑らかなHuber損失関数の変種を用いる。
得られた推定器に対して、$ell_infty$ノルムにおける符号一貫性と最適収束率を示す。
論文 参考訳（メタデータ） (2020-11-03T09:46:31Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳（メタデータ） (2020-07-16T13:27:47Z) - SUMO: Unbiased Estimation of Log Marginal Probability for Latent
Variable Models [80.22609163316459]
無限級数のランダム化トランケーションに基づく潜在変数モデルに対して、ログ境界確率の非バイアス推定器とその勾配を導入する。
推定器を用いてトレーニングしたモデルは、同じ平均計算コストに対して、標準的な重要度サンプリングに基づくアプローチよりも優れたテストセット確率を与えることを示す。
論文 参考訳（メタデータ） (2020-04-01T11:49:30Z) - Orthogonal Statistical Learning [49.55515683387805]
人口リスクが未知のニュアンスパラメータに依存するような環境では,統計学習における非漸近的過剰リスク保証を提供する。
人口リスクがNeymanityと呼ばれる条件を満たす場合,メタアルゴリズムによって達成される過剰リスクに対するニュアンス推定誤差の影響は2次であることを示す。
論文 参考訳（メタデータ） (2019-01-25T02:21:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。