論文の概要: On the Use of Minimum Penalties in Statistical Learning
- arxiv url: http://arxiv.org/abs/2106.05172v1
- Date: Wed, 9 Jun 2021 16:15:46 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-10 19:05:56.097649
- Title: On the Use of Minimum Penalties in Statistical Learning
- Title(参考訳): 統計的学習における最小ペナルティの使用について
- Authors: Ben Sherwood and Bradley S. Price
- Abstract要約: 本稿では,多変量回帰モデルと結果変数の関係を同時に推定する枠組みを提案する。
現状技術手法を一般化する反復アルゴリズムを解法として提案する。
我々は、提案したMinPenフレームワークを他の指数関数的なファミリー損失関数に拡張し、複数の二項応答に特異的に焦点をあてる。
- 参考スコア(独自算出の注目度): 2.1320960069210475
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern multivariate machine learning and statistical methodologies estimate
parameters of interest while leveraging prior knowledge of the association
between outcome variables. The methods that do allow for estimation of
relationships do so typically through an error covariance matrix in
multivariate regression which does not scale to other types of models. In this
article we proposed the MinPEN framework to simultaneously estimate regression
coefficients associated with the multivariate regression model and the
relationships between outcome variables using mild assumptions. The MinPen
framework utilizes a novel penalty based on the minimum function to exploit
detected relationships between responses. An iterative algorithm that
generalizes current state of the art methods is proposed as a solution to the
non-convex optimization that is required to obtain estimates. Theoretical
results such as high dimensional convergence rates, model selection
consistency, and a framework for post selection inference are provided. We
extend the proposed MinPen framework to other exponential family loss
functions, with a specific focus on multiple binomial responses. Tuning
parameter selection is also addressed. Finally, simulations and two data
examples are presented to show the finite sample properties of this framework.
- Abstract(参考訳): 現代の多変量機械学習と統計手法は、結果変数間の関連に関する事前知識を活用しながら、関心のパラメータを推定する。
関係の推定を可能にする方法は、通常、他のタイプのモデルにスケールしない多変量回帰における誤差共分散行列によって行われる。
本稿では,多変量回帰モデルに関連する回帰係数と,軽度仮定を用いた結果変数の関係を同時に推定するMinPENフレームワークを提案する。
minpenフレームワークは、最小機能に基づく新しいペナルティを使用して、応答間の検出された関係を利用する。
推定値を得るのに必要な非凸最適化の解法として, 工法の現状を一般化する反復アルゴリズムを提案する。
高次元収束率、モデル選択整合性、ポスト選択推論のためのフレームワークなどの理論的結果を提供する。
提案するminpenフレームワークを他の指数関数ファミリー損失関数に拡張し,複数の二項応答に着目した。
チューニングパラメータの選択も処理される。
最後に、このフレームワークの有限なサンプル特性を示すために、シミュレーションと2つのデータ例を示す。
関連論文リスト
- Semiparametric conformal prediction [79.6147286161434]
リスクに敏感なアプリケーションは、複数の、潜在的に相関したターゲット変数に対して、よく校正された予測セットを必要とする。
スコアをランダムなベクトルとして扱い、それらの連接関係構造を考慮した予測セットを構築することを目的とする。
実世界のレグレッション問題に対して,所望のカバレッジと競争効率について報告する。
論文 参考訳(メタデータ) (2024-11-04T14:29:02Z) - Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳(メタデータ) (2024-07-11T13:28:34Z) - Proximal Interacting Particle Langevin Algorithms [0.0]
本稿では,潜時変動モデルにおける推論と学習のためのPIPLAアルゴリズムを提案する。
非微分不可能な統計モデルにおけるパラメータ推定の問題に合わせた、新しい近位IPLAファミリー内のいくつかの変種を提案する。
我々の理論と実験は、PIPLAファミリーが非微分可能モデルの潜在変数モデルにおけるパラメータ推定問題のデファクト選択であることを示している。
論文 参考訳(メタデータ) (2024-06-20T13:16:41Z) - Statistical Agnostic Regression: a machine learning method to validate regression models [0.0]
本稿では,機械学習に基づく線形回帰モデルの統計的意義を評価するために,統計的回帰(Agnostic Regression, SAR)を導入する。
我々は、説明的(機能)変数と反応(ラベル)変数の間の集団における線形関係の存在を結論付けるために、少なくとも1-eta$の確率で十分な証拠が存在することを保証するしきい値を定義する。
論文 参考訳(メタデータ) (2024-02-23T09:19:26Z) - An ADMM approach for multi-response regression with overlapping groups
and interaction effects [0.0]
我々は新しい正規化回帰法であるMADMMplassoを提案する。
パラメータ推定のために,重なり合うグループを簡単な方法で実装できるADMMアルゴリズムを開発した。
薬理ゲノミクス・スクリーン・データセットのシミュレーションと解析の結果,提案手法は相関応答と相互作用効果の処理に有利であることがわかった。
論文 参考訳(メタデータ) (2023-03-20T14:43:22Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Adaptive LASSO estimation for functional hidden dynamic geostatistical
model [69.10717733870575]
関数型隠れ統計モデル(f-HD)のためのペナル化極大推定器(PMLE)に基づく新しいモデル選択アルゴリズムを提案する。
このアルゴリズムは反復最適化に基づいており、適応最小限の収縮・セレクタ演算子(GMSOLAS)ペナルティ関数を用いており、これは不給付のf-HD最大線量推定器によって得られる。
論文 参考訳(メタデータ) (2022-08-10T19:17:45Z) - MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood
Inference from Sampled Trajectories [61.3299263929289]
シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。
あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。
モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
論文 参考訳(メタデータ) (2021-06-03T12:59:16Z) - Variable selection for Gaussian process regression through a sparse
projection [0.802904964931021]
本稿では,ガウス過程(GP)レグレッションと統合された新しい変数選択手法を提案する。
パラメータの調整と推定の精度を,選択したベンチマーク手法を用いて評価した。
論文 参考訳(メタデータ) (2020-08-25T01:06:10Z) - Instability, Computational Efficiency and Statistical Accuracy [101.32305022521024]
我々は,人口レベルでのアルゴリズムの決定論的収束率と,$n$サンプルに基づく経験的対象に適用した場合の(不安定性)の間の相互作用に基づいて,統計的精度を得るフレームワークを開発する。
本稿では,ガウス混合推定,非線形回帰モデル,情報的非応答モデルなど,いくつかの具体的なモデルに対する一般結果の応用について述べる。
論文 参考訳(メタデータ) (2020-05-22T22:30:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。