論文の概要: Fast marginal likelihood estimation of penalties for group-adaptive
elastic net
- arxiv url: http://arxiv.org/abs/2101.03875v1
- Date: Mon, 11 Jan 2021 13:30:24 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-04 14:33:23.178910
- Title: Fast marginal likelihood estimation of penalties for group-adaptive
elastic net
- Title(参考訳): 群適応弾性ネットに対するペナルティの高速限界度推定
- Authors: Mirrelijn M. van Nee, Tim van de Brug, Mark A. van de Wiel
- Abstract要約: グループ適応弾性ネットペナライゼーションは、予測を改善するためにコデータから学習する。
本論文では,一般化線形モデルに対する群適応弾性ネットペナルティの限界確率推定法を提案する。
この手法をモデルに基づくシミュレーション研究と癌ゲノムへの応用で実証する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Nowadays, clinical research routinely uses omics data, such as gene
expression, for predicting clinical outcomes or selecting markers.
Additionally, so-called co-data are often available, providing complementary
information on the covariates, like p-values from previously published studies
or groups of genes corresponding to pathways. Elastic net penalisation is
widely used for prediction and covariate selection. Group-adaptive elastic net
penalisation learns from co-data to improve the prediction and covariate
selection, by penalising important groups of covariates less than other groups.
Existing methods are, however, computationally expensive. Here we present a
fast method for marginal likelihood estimation of group-adaptive elastic net
penalties for generalised linear models. We first derive a low-dimensional
representation of the Taylor approximation of the marginal likelihood and its
first derivative for group-adaptive ridge penalties, to efficiently estimate
these penalties. Then we show by using asymptotic normality of the linear
predictors that the marginal likelihood for elastic net models may be
approximated well by the marginal likelihood for ridge models. The ridge group
penalties are then transformed to elastic net group penalties by using the
variance function. The method allows for overlapping groups and unpenalised
variables. We demonstrate the method in a model-based simulation study and an
application to cancer genomics. The method substantially decreases computation
time and outperforms or matches other methods by learning from co-data.
- Abstract(参考訳): 今日、臨床研究は、臨床結果の予測やマーカーの選択に、遺伝子発現などのオメックデータを日常的に使用する。
さらに、いわゆるコデータも利用可能であり、以前に発表された研究のp値や経路に対応する遺伝子群などの共変量の補的な情報を提供する。
弾性ネットペナル化は予測と共変量選択に広く用いられている。
群適応弾性ネットペナライゼーションはコデータから学習し、他の群よりも重要な共変量の群を解析することにより予測と共変量の選択を改善する。
しかし、既存の手法は計算コストが高い。
本稿では,一般化線形モデルに対する群適応弾性ネットペナルティの限界推定法を提案する。
まず, 限界確率のテイラー近似の低次元表現と群適応リッジペナルティに対する最初の微分を導出し, それらのペナルティを効率的に推定する。
次に, 線形予測器の漸近正規性を用いて, 弾性ネットモデルの限界確率はリッジモデルの限界確率によく近似できることを示した。
そして、この分散関数を用いて、リッジ群ペナルティを弾性ネット群ペナルティに変換する。
この方法は、重複するグループと不給変数を許容する。
本手法をモデルベースシミュレーション研究で実証し,癌ゲノム学への応用について述べる。
この方法は計算時間を大幅に削減し、コデータから学習することで他の方法に匹敵する。
関連論文リスト
- Nonlinear Permuted Granger Causality [0.6526824510982799]
グランガー因果推論(Granger causal inference)は、経済学から神経科学まで幅広い分野において用いられる、論争的だが広範な手法である。
サンプル外比較を可能にするために、共変集合の置換を用いて関数接続の尺度を明示的に定義する。
変分法の性能を, シミュレーションによる変分選択, ナイーブ置換, 省略技術と比較した。
論文 参考訳(メタデータ) (2023-08-11T16:44:16Z) - Variational Classification [51.2541371924591]
我々は,変分オートエンコーダの訓練に用いるエビデンスローバウンド(ELBO)に類似した,モデルの訓練を目的とした変分目的を導出する。
軟質マックス層への入力を潜伏変数のサンプルとして扱うことで, 抽象化された視点から, 潜在的な矛盾が明らかとなった。
我々は、標準ソフトマックス層に見られる暗黙の仮定の代わりに、選択された潜在分布を誘導する。
論文 参考訳(メタデータ) (2023-05-17T17:47:19Z) - The non-overlapping statistical approximation to overlapping group lasso [4.197110761923662]
重なり合う群ラスソペナルティの近似として分離可能なペナルティを提案する。
この分離性により, ペナルティに基づく正規化の計算は, 重なり合う群ラッソの計算よりもかなり高速である。
提案した分離性ペナルティに基づく推定値は,重なり合うグループラッソペナルティに基づく推定値と統計的に等価であることを示す。
論文 参考訳(メタデータ) (2022-11-16T21:21:41Z) - Modeling High-Dimensional Data with Unknown Cut Points: A Fusion
Penalized Logistic Threshold Regression [2.520538806201793]
従来のロジスティック回帰モデルでは、リンク関数は線形で連続であると見なされることが多い。
我々は、全ての連続した特徴が順序レベルに離散化され、さらにバイナリ応答が決定されるしきい値モデルを考える。
糖尿病のような慢性疾患の早期発見と予知の問題において,ラッソモデルが好適であることが判明した。
論文 参考訳(メタデータ) (2022-02-17T04:16:40Z) - Long Story Short: Omitted Variable Bias in Causal Machine Learning [26.60315380737132]
我々は、幅広い共通因果パラメータに対する省略変数バイアスの理論を開発する。
省略変数の最大説明力に対する簡易な妥当性判定は,バイアスの大きさを限定するのに十分であることを示す。
本研究では,現代の機械学習アルゴリズムを応用して推定を行う,フレキシブルで効率的な統計的推論手法を提案する。
論文 参考訳(メタデータ) (2021-12-26T15:38:23Z) - Selective Regression Under Fairness Criteria [30.672082160544996]
少数派集団のパフォーマンスは、カバー範囲を減らしながら低下する場合もある。
満足度基準を満たす特徴を構築できれば、そのような望ましくない行動は避けられることを示す。
論文 参考訳(メタデータ) (2021-10-28T19:05:12Z) - Near-optimal inference in adaptive linear regression [60.08422051718195]
最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。
我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。
我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
論文 参考訳(メタデータ) (2021-07-05T21:05:11Z) - Scalable Marginal Likelihood Estimation for Model Selection in Deep
Learning [78.83598532168256]
階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。
本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
論文 参考訳(メタデータ) (2021-04-11T09:50:24Z) - Increasing the efficiency of randomized trial estimates via linear
adjustment for a prognostic score [59.75318183140857]
ランダム化実験による因果効果の推定は臨床研究の中心である。
歴史的借用法のほとんどは、厳格なタイプiエラー率制御を犠牲にして分散の削減を達成する。
論文 参考訳(メタデータ) (2020-12-17T21:10:10Z) - Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。
AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。
本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文 参考訳(メタデータ) (2020-10-24T07:01:24Z) - Slice Sampling for General Completely Random Measures [74.24975039689893]
本稿では, 後続推定のためのマルコフ連鎖モンテカルロアルゴリズムについて, 補助スライス変数を用いてトランケーションレベルを適応的に設定する。
提案アルゴリズムの有効性は、いくつかの一般的な非パラメトリックモデルで評価される。
論文 参考訳(メタデータ) (2020-06-24T17:53:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。