論文の概要: Split Modeling for High-Dimensional Logistic Regression
- arxiv url: http://arxiv.org/abs/2102.08591v1
- Date: Wed, 17 Feb 2021 05:57:26 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-18 14:33:14.715827
- Title: Split Modeling for High-Dimensional Logistic Regression
- Title(参考訳): 高次元ロジスティック回帰のための分割モデル
- Authors: Anthony-Alexander Christidis, Stefan Van Aelst, Ruben Zamar
- Abstract要約: 短時間コンパイルしたアンサンブルロジスティック分類モデルに対して,新しい手法を提案する。
本手法は,予測精度に優れたバイアスオフの活用法を学習する。
提案手法を実装したオープンソースソフトウェアライブラリを議論する。
- 参考スコア(独自算出の注目度): 0.2676349883103404
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A novel method is proposed to learn an ensemble of logistic classification
models in the context of high-dimensional binary classification. The models in
the ensemble are built simultaneously by optimizing a multi-convex objective
function. To enforce diversity between the models the objective function
penalizes overlap between the models in the ensemble. We study the bias and
variance of the individual models as well as their correlation and discuss how
our method learns the ensemble by exploiting the accuracy-diversity trade-off
for ensemble models. In contrast to other ensembling approaches, the resulting
ensemble model is fully interpretable as a logistic regression model and at the
same time yields excellent prediction accuracy as demonstrated in an extensive
simulation study and gene expression data applications. An open-source compiled
software library implementing the proposed method is briefly discussed.
- Abstract(参考訳): 高次元二項分類の文脈において,ロジスティック分類モデルのアンサンブルを学習するための新しい手法を提案する。
アンサンブルのモデルは、マルチ凸目的関数を最適化することにより同時に構築される。
モデル間の多様性を強制するために、目的関数はアンサンブル内のモデル間の重複を罰する。
本研究では,個々のモデルのバイアスとばらつきと相関性について検討し,アンサンブルモデルの精度と多様性のトレードオフを利用してアンサンブルを学習する方法について議論する。
他のセンシングアプローチとは対照的に、結果として得られるアンサンブルモデルはロジスティック回帰モデルとして完全に解釈可能であると同時に、広範なシミュレーション研究や遺伝子発現データ応用で示されるような優れた予測精度をもたらす。
提案手法を実装したオープンソースコンパイルソフトウェアライブラリについて概説する。
関連論文リスト
- Dataless Knowledge Fusion by Merging Weights of Language Models [51.8162883997512]
微調整された事前学習言語モデルは、下流のNLPモデルを構築するための主要なパラダイムとなっている。
これは、より優れた単一モデルを生み出すために、個々のモデル間で知識を融合させる障壁を生み出します。
パラメータ空間のモデルをマージするデータレス知識融合法を提案する。
論文 参考訳(メタデータ) (2022-12-19T20:46:43Z) - Learning from aggregated data with a maximum entropy model [73.63512438583375]
我々は,観測されていない特徴分布を最大エントロピー仮説で近似することにより,ロジスティック回帰と類似した新しいモデルが,集約データからのみ学習されることを示す。
我々は、この方法で学習したモデルが、完全な非凝集データでトレーニングされたロジスティックモデルに匹敵するパフォーマンスを達成することができるという、いくつかの公開データセットに関する実証的な証拠を提示する。
論文 参考訳(メタデータ) (2022-10-05T09:17:27Z) - Copulaboost: additive modeling with copula-based model components [0.0]
本稿では,ペアコプラ構造に基づくモデル成分を用いた一般化加法モデルを提案する。
提案手法は,他の手法よりも優れている,あるいは同等の予測性能を有することを示す。
論文 参考訳(メタデータ) (2022-08-09T11:24:57Z) - Distributional Depth-Based Estimation of Object Articulation Models [21.046351215949525]
本研究では,奥行き画像から直接,調音モデルパラメータの分布を効率よく学習する手法を提案する。
私たちのコアコントリビューションには、剛体変換に対する分布の新しい表現が含まれています。
本稿では,カテゴリに依存しない調音モデル推定を行う新しい深層学習手法DUST-netを提案する。
論文 参考訳(メタデータ) (2021-08-12T17:44:51Z) - Model-agnostic multi-objective approach for the evolutionary discovery
of mathematical models [55.41644538483948]
現代のデータ科学では、どの部分がより良い結果を得るために置き換えられるかというモデルの性質を理解することがより興味深い。
合成データ駆動型モデル学習において,多目的進化最適化を用いてアルゴリズムの所望特性を求める。
論文 参考訳(メタデータ) (2021-07-07T11:17:09Z) - Robust Finite Mixture Regression for Heterogeneous Targets [70.19798470463378]
本稿では,サンプルクラスタの探索と,複数の不完全な混合型ターゲットを同時にモデル化するFMRモデルを提案する。
我々は、高次元の学習フレームワークの下で、無症状のオラクルのパフォーマンス境界をモデルに提供します。
その結果,我々のモデルは最先端の性能を達成できることがわかった。
論文 参考訳(メタデータ) (2020-10-12T03:27:07Z) - Model Fusion with Kullback--Leibler Divergence [58.20269014662046]
異種データセットから学習した後続分布を融合する手法を提案する。
我々のアルゴリズムは、融合モデルと個々のデータセット後部の両方に対する平均場仮定に依存している。
論文 参考訳(メタデータ) (2020-07-13T03:27:45Z) - Control as Hybrid Inference [62.997667081978825]
本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。
連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
論文 参考訳(メタデータ) (2020-07-11T19:44:09Z) - Semi-nonparametric Latent Class Choice Model with a Flexible Class
Membership Component: A Mixture Model Approach [6.509758931804479]
提案したモデルは、従来のランダムユーティリティ仕様に代わるアプローチとして混合モデルを用いて潜在クラスを定式化する。
その結果,混合モデルにより潜在クラス選択モデル全体の性能が向上した。
論文 参考訳(メタデータ) (2020-07-06T13:19:26Z) - Amortized Bayesian model comparison with evidential deep learning [0.12314765641075436]
本稿では,専門的なディープラーニングアーキテクチャを用いたベイズモデルの比較手法を提案する。
提案手法は純粋にシミュレーションベースであり,観測された各データセットに対して,すべての代替モデルを明示的に適合させるステップを回避している。
提案手法は,本研究で検討した事例に対して,精度,キャリブレーション,効率の点で優れた結果が得られることを示す。
論文 参考訳(メタデータ) (2020-04-22T15:15:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。