論文の概要: On the Use of Minimum Penalties in Statistical Learning
- arxiv url: http://arxiv.org/abs/2106.05172v1
- Date: Wed, 9 Jun 2021 16:15:46 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-10 19:05:56.097649
- Title: On the Use of Minimum Penalties in Statistical Learning
- Title(参考訳): 統計的学習における最小ペナルティの使用について
- Authors: Ben Sherwood and Bradley S. Price
- Abstract要約: 本稿では,多変量回帰モデルと結果変数の関係を同時に推定する枠組みを提案する。
現状技術手法を一般化する反復アルゴリズムを解法として提案する。
我々は、提案したMinPenフレームワークを他の指数関数的なファミリー損失関数に拡張し、複数の二項応答に特異的に焦点をあてる。
- 参考スコア(独自算出の注目度): 2.1320960069210475
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern multivariate machine learning and statistical methodologies estimate
parameters of interest while leveraging prior knowledge of the association
between outcome variables. The methods that do allow for estimation of
relationships do so typically through an error covariance matrix in
multivariate regression which does not scale to other types of models. In this
article we proposed the MinPEN framework to simultaneously estimate regression
coefficients associated with the multivariate regression model and the
relationships between outcome variables using mild assumptions. The MinPen
framework utilizes a novel penalty based on the minimum function to exploit
detected relationships between responses. An iterative algorithm that
generalizes current state of the art methods is proposed as a solution to the
non-convex optimization that is required to obtain estimates. Theoretical
results such as high dimensional convergence rates, model selection
consistency, and a framework for post selection inference are provided. We
extend the proposed MinPen framework to other exponential family loss
functions, with a specific focus on multiple binomial responses. Tuning
parameter selection is also addressed. Finally, simulations and two data
examples are presented to show the finite sample properties of this framework.
- Abstract(参考訳): 現代の多変量機械学習と統計手法は、結果変数間の関連に関する事前知識を活用しながら、関心のパラメータを推定する。
関係の推定を可能にする方法は、通常、他のタイプのモデルにスケールしない多変量回帰における誤差共分散行列によって行われる。
本稿では,多変量回帰モデルに関連する回帰係数と,軽度仮定を用いた結果変数の関係を同時に推定するMinPENフレームワークを提案する。
minpenフレームワークは、最小機能に基づく新しいペナルティを使用して、応答間の検出された関係を利用する。
推定値を得るのに必要な非凸最適化の解法として, 工法の現状を一般化する反復アルゴリズムを提案する。
高次元収束率、モデル選択整合性、ポスト選択推論のためのフレームワークなどの理論的結果を提供する。
提案するminpenフレームワークを他の指数関数ファミリー損失関数に拡張し,複数の二項応答に着目した。
チューニングパラメータの選択も処理される。
最後に、このフレームワークの有限なサンプル特性を示すために、シミュレーションと2つのデータ例を示す。
関連論文リスト
- Selective Nonparametric Regression via Testing [54.20569354303575]
本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。
既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
論文 参考訳(メタデータ) (2023-09-28T13:04:11Z) - Multi-Response Heteroscedastic Gaussian Process Models and Their
Inference [1.52292571922932]
本稿ではヘテロセダスティック共分散関数のモデリングのための新しいフレームワークを提案する。
後部モデルに近似し, 後部予測モデルを容易にするために, 変分推論を用いる。
提案するフレームワークは,幅広いアプリケーションに対して,堅牢で汎用的なツールを提供する。
論文 参考訳(メタデータ) (2023-08-29T15:06:47Z) - An ADMM approach for multi-response regression with overlapping groups
and interaction effects [0.0]
我々は新しい正規化回帰法であるMADMMplassoを提案する。
パラメータ推定のために,重なり合うグループを簡単な方法で実装できるADMMアルゴリズムを開発した。
薬理ゲノミクス・スクリーン・データセットのシミュレーションと解析の結果,提案手法は相関応答と相互作用効果の処理に有利であることがわかった。
論文 参考訳(メタデータ) (2023-03-20T14:43:22Z) - Multi-Task Learning for Sparsity Pattern Heterogeneity: A Discrete
Optimization Approach [5.757286797214176]
最適サブセット選択を線形マルチタスク学習(MTL)に拡張する
本稿では,タスク間の情報共有を支援するMLLのモデリングフレームワークを提案する。
提案手法は,変数選択および予測精度において,他のスパースMTL法よりも優れている。
論文 参考訳(メタデータ) (2022-12-16T19:52:25Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Adaptive LASSO estimation for functional hidden dynamic geostatistical
model [69.10717733870575]
関数型隠れ統計モデル(f-HD)のためのペナル化極大推定器(PMLE)に基づく新しいモデル選択アルゴリズムを提案する。
このアルゴリズムは反復最適化に基づいており、適応最小限の収縮・セレクタ演算子(GMSOLAS)ペナルティ関数を用いており、これは不給付のf-HD最大線量推定器によって得られる。
論文 参考訳(メタデータ) (2022-08-10T19:17:45Z) - Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。
提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
論文 参考訳(メタデータ) (2021-06-07T17:44:49Z) - MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood
Inference from Sampled Trajectories [61.3299263929289]
シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。
あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。
モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
論文 参考訳(メタデータ) (2021-06-03T12:59:16Z) - Variable selection for Gaussian process regression through a sparse
projection [0.802904964931021]
本稿では,ガウス過程(GP)レグレッションと統合された新しい変数選択手法を提案する。
パラメータの調整と推定の精度を,選択したベンチマーク手法を用いて評価した。
論文 参考訳(メタデータ) (2020-08-25T01:06:10Z) - Instability, Computational Efficiency and Statistical Accuracy [101.32305022521024]
我々は,人口レベルでのアルゴリズムの決定論的収束率と,$n$サンプルに基づく経験的対象に適用した場合の(不安定性)の間の相互作用に基づいて,統計的精度を得るフレームワークを開発する。
本稿では,ガウス混合推定,非線形回帰モデル,情報的非応答モデルなど,いくつかの具体的なモデルに対する一般結果の応用について述べる。
論文 参考訳(メタデータ) (2020-05-22T22:30:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。